Quốc gia Đông Á hiện đang phải vật lộn với sự gia tăng của tình trạng sử dụng công nghệ trí tuệ nhân tạo để tạo ra các video deepfake khiêu dâm. Nghiên cứu cho thấy đối tượng mà những kẻ thực hiện hành vi phạm tội hướng tới là nữ sinh ở tuổi vị thành niên.
Deepfake là một loại kỹ thuật sử dụng trí tuệ nhân tạo AI để tạo ra hình ảnh, âm thanh và video giả mạo, sai sự thật.
Vào thứ Tư tuần trước (ngày 28/8), một người đàn ông 28 tuổi đã bị kết án 5 năm tù do tạo ra và phát tán video deepfake có nội dung khiêu dâm trên mạng xã hội. Trong đó, hình ảnh những nữ sinh trường đại học Quốc gia Seoul được sử dụng để tạo ra video.
Khi vụ việc được đưa ra ánh sáng vào tháng 5, tổng cộng có bốn người đàn ông bị buộc tội liên quan đến hành vi này. Những kẻ phạm tội đã sử dụng hình ảnh của nhiều nữ sinh đại học để tạo và phát tán ít nhất 400 video trên mạng xã hội. Tòa án cho biết hành động này đã ảnh hưởng tiêu cực đến cuộc sống của các nạn nhân.
Sau vụ việc ở Đại học Quốc gia Seoul, vấn đề này đã trở thành tâm điểm chú ý của dư luận Hàn Quốc, đặc biệt khi nhiều vụ việc khác tương tự được phát hiện. Các video được chế tạo bằng cách sử dụng ảnh công khai từ kỷ yếu hoặc hồ sơ mạng xã hội của nạn nhân và ghép với hình ảnh khiêu dâm thông qua công nghệ AI.
Telegram là mạng xã hội thường xuyên phát tán những hình ảnh deepfake khiêu dâm. Các kênh dành cho mục đích này liên tục phát triển và thường được sắp xếp dựa trên độ tuổi và nghề nghiệp của nạn nhân. Trong đó một kênh được báo cáo là đã thu hút hơn 220.000 lượt đăng ký.
Theo Bae Sang-hoon, Phó Giáo sư khoa quản lý cảnh sát tại Đại học Woosuk, thủ phạm đứng đằng sau những tội ác này thường bị thúc đẩy bởi các cảm giác tự ti, thích thú và đôi khi chỉ muốn quấy rối hoặc trả thù ai đó trực tuyến khi không thể thực hiện hành vi đó trực tiếp.
Tổng thống Yoon Suk Yeol đã lên án các video deepfake trong cuộc họp nội các vào thứ Ba tuần trước (ngày 27/8).
"Một số người có thể coi đó chỉ là trò đùa, nhưng rõ ràng đây là hành vi phạm tội công nghệ cao" – ông Yoon cho biết. Ông lưu ý nhiều nạn nhân và thủ phạm đều đang ở độ tuổi thanh thiếu niên.
Nhà lãnh đạo yêu cầu cảnh sát lập tức trừng phạt nghiêm khắc những hành vi vi phạm này. Cơ quan Cảnh sát Quốc gia tuyên bố sẽ quyết liệt truy quét.
Số lượng tội phạm tình dục liên quan đến deepfake đã tăng lên 297 vụ trong khoảng thời gian từ tháng 1 đến tháng 7 năm 2024 - gần gấp đôi tổng số của cả năm 2021. Các cuộc điều tra cho thấy hơn 70% nghi phạm là thanh thiếu niên.
