Meta dùng AI để ngăn chặn nạn tống tiền người dùng

Thời gian qua, nhiều nhóm tội phạm đã thực hiện hành vi lừa đảo tổng tiền bằng cách dụ dỗ người dùng trẻ tuổi cung cấp hình ảnh nhạy cảm cá nhân sau đó đe dọa sẽ phát tán công khai trừ khi chúng nhận được một khoản tiền.

Do đó, Meta đã lên kế hoạch và đang thử nghiệm công cụ "bảo vệ ảnh nhạy cảm". Đây là công cụ sử dụng AI, có khả năng tìm kiếm, phân tích và làm mờ những bức ảnh như vậy được gửi tới trẻ vị thành niên trên hệ thống nhắn tin của ứng dụng. Như vậy, người dùng có thể lựa chọn việc không phải xem các hình ảnh không mong muốn.

Meta nhấn mạnh công cụ sẽ giúp giới trẻ được bảo vệ trước nguy cơ tống tiền bằng hình ảnh nhạy cảm, đồng thời đối tượng lừa đảo cũng khó khăn hơn khi tìm kiếm và tiếp cận người dùng.

Bên cạnh đó, Meta cũng dùng công cụ AI để xác định nội dung vi phạm và thiết lập biện pháp ngăn chặn đối tượng có ý đồ xấu không thể tương tác với người dùng trẻ tuổi trên Instagram.

Theo cơ quan chức năng Mỹ trong năm 2022, ghi nhận khoảng 3.000 thanh thiếu niên nước này trở thành nạn nhân của các vụ lừa đảo theo hình thức trên.

Đồng thời, Meta cũng đã bị 40 bang cáo buộc lợi dụng người trẻ tuổi để kiếm lợi nhuận khi tạo ra mô hình kinh doanh khiến giới trẻ vùi đầu vào và gây tổn hại tới sức khỏe tâm thần.

Vào tháng 1/2024, Meta đã đưa thông báo về việc triển khai biện pháp bảo vệ người dùng là trẻ vị thành niên, bao gồm kiểm soát nội dung và tăng cường công cụ giám sát cho phụ huynh.