OpenAI và Microsoft bị cáo buộc liên quan việc kích động người dùng giết người và tự sát

Theo đơn kiện, hệ thống ChatGPT được cho là đã “duy trì tương tác hàng giờ, củng cố và khuếch đại các hoang tưởng” của ông Stein-Erik Soelberg, 56 tuổi, đồng thời “biến những người thân cận nhất, đặc biệt là mẹ ông, thành mối đe dọa”. Đơn kiện cho biết ông Soelberg bị cáo buộc sát hại mẹ mình, bà Suzanne Adams, 83 tuổi, tại bang Connecticut hồi tháng 8.

Gia đình nạn nhân cho biết ông Soelberg thường xuyên xuất hiện dấu hiệu ảo giác và từng đăng lên mạng xã hội một video vào tháng 6 mô tả cuộc trò chuyện trong đó ChatGPT nói ông có “nhận thức của đấng tối cao”. Theo nội dung đơn kiện, chatbot còn so sánh cuộc sống của ông với bộ phim “The Matrix” và củng cố niềm tin rằng có người đang tìm cách giết ông.

Đơn kiện cũng nêu ông Soelberg sử dụng GPT-4o, phiên bản chatbot từng bị chỉ trích vì xu hướng chiều theo cảm xúc người dùng. Trong một cuộc trò chuyện tháng 7, ChatGPT được cho là khẳng định máy in của bà Adams “là thiết bị giám sát ngụy trang”.

Đơn kiện tiếp tục cho rằng chatbot đã “xác nhận” niềm tin của ông Soelberg về việc mẹ và một người bạn tìm cách đầu độc ông qua hệ thống thông gió ô tô trước khi án mạng xảy ra ngày 3/8.

Người phát ngôn OpenAI cho biết: “Đây là tình huống vô cùng đau lòng và chúng tôi sẽ xem xét hồ sơ để hiểu rõ chi tiết”, đồng thời khẳng định công ty đang tiếp tục cải thiện khả năng nhận biết và xử lý các dấu hiệu khủng hoảng tinh thần. Microsoft hiện chưa đưa ra bình luận.

Ông Erik Soelberg, con trai của nghi phạm, nói trong một tuyên bố: “Các công ty này phải trả lời cho những quyết định đã làm thay đổi gia đình tôi mãi mãi”.