Tổng thống Pháp trở thành nạn nhân của deepfake

Vừa qua, một tài khoản Twitter với tên No Context French có đăng tải 3 ảnh trong đó Tổng thống Pháp Emmanuel Macron mắc kẹt trong cuộc đụng độ giữa cảnh sát và người biểu tình ở Paris đã thu hút hàng triệu lượt xem.

Được biết, đây là các bức ảnh deepfake. Tuy nhiên, không ít người tin rằng ảnh về ông Macron là thật. Nhiều người đã chia sẻ những tấm hình tới bạn bè, người thân.

Thời gian qua, vấn nạn chỉnh sửa cắt ghép ảnh, video trên các nền tảng xã hội là không ít, đặc biệt, sự phát triển của các công cụ AI đã biến ảnh deepfake trở thành một vấn đề nhức nhối ở mức độ và quy mô mới.

Những công cụ như Midjourney hay Stable Diffusion có thể cho ra đời những bức ảnh như thật trong vòng 5 phút thay vì 30  phút khi sử dụng phần mềm photoshop. Hơn thế, phiên bản mới nhất của Midjourney có thể tạo ra những bức hình khó có thể phân biệt đâu là thật, đâu là giả.

Được biết, những bức ảnh deepfake về Tổng thống Macron cũng được tạo ra bởi Midjourney.

Trước đó, Eliot Higgins, đồng sáng lập tổ chức điều tra độc lập Bellingcat đã sử dụng Midjourney để tạo ra ảnh deepfake ông Trump bị bắt. Những hình ảnh giả do công nghệ deepfake từ AI cho thấy cảnh ông Trump chống cự lại cảnh sát. Một số ảnh giả khác cho thấy hình ảnh ông Trump chạy khỏi cảnh sát. Mọi chi tiết trong những bức hình đó chân thực đến nỗi, chỉ sau 2 ngày ngắn ngủi, đã có 5 triệu lượt xem, thậm chí nhiều người tin tưởng rằng đây là ảnh thật. Mặc dù, Higgins nói rõ trong bài đăng những bức hình là giả.

Tuy nhiên, những bức ảnh về Tổng thống Pháp lại không được ghi là ảnh giả với lý do bất cứ ai cũng có thể "phóng to ảnh và đọc bình luận để biết đây là những bức ảnh không có thật" (thông tin trên tài khoản No Context French).

"Chúng ta biết những bức ảnh này không phải thật bởi chúng có những khiếm khuyết", chủ tài khoản No Context French nói.

Tuy nhiên, việc tạo ra những bức ảnh giả mà người xem tưởng như thật có thể là tiền đề cho những cách thức lừa đảo sau này, nên người xem cần cẩn thận, cân nhắc, xác minh thông tin đúng tránh bị lợi dụng.