Gấu bông AI của Singapore có tin nhắn khiêu dâm được bán trở lại sau khi thu hồi

Một loại gấu nhồi bông được tích hợp AI tại Singapore  đã được thu hồi tuần trước sau khi chatbot của nó bị phát hiện có nội dung trò chuyện khiêu dâm và đưa ra hướng dẫn về nơi tìm dao, nhưng AFP phát hiện ra rằng chú gấu bông này hiện đang được rao bán trở lại.

FoloToy có trụ sở tại Singapore đã tạm dừng sản xuất chú gấu “Kumma” sau khi một nhóm bảo vệ người tiêu dùng nêu lên mối lo ngại về chú gấu này và các loại đồ chơi AI khác trên thị trường.

Larry Wang, CEO của FoloToy – công ty có trụ sở tại Singapore – nói với CNN rằng hãng đã rút mẫu gấu “Kumma”, cùng toàn bộ dòng đồ chơi tích hợp AI còn lại, sau khi các nhà nghiên cứu thuộc US PIRG Education Fund nêu lo ngại về những cuộc đối thoại không phù hợp, bao gồm thảo luận về các sở thích tình dục như đánh đòn và cả cách bật diêm.

Trong quá trình đánh giá đồ chơi AI, PIRG phát hiện ra rằng một số đồ chơi “có thể cho phép trẻ em truy cập vào nội dung không phù hợp, chẳng hạn như hướng dẫn cách tìm các vật dụng có hại trong nhà hoặc thông tin không phù hợp với lứa tuổi”.

Bài báo cho biết Kumma của FoloToy, lần đầu tiên chạy trên GPT 4o của OpenAI, “đặc biệt có nội dung khiêu dâm”.

Báo cáo của PIRG cho biết: “Chúng tôi rất ngạc nhiên khi thấy Kumma nhanh chóng đưa một chủ đề tình dục duy nhất mà chúng tôi đưa vào cuộc trò chuyện và phát triển nó, đồng thời tăng cường chi tiết đồ họa trong khi tự đưa ra những khái niệm tình dục mới”.

Trang web của FoloToy cho biết hiện tại công ty này hoạt động bằng cách sử dụng chatbot từ nền tảng Coze thuộc sở hữu của công ty công nghệ Trung Quốc ByteDance.

PIRG cho biết trong một tuyên bố riêng trên trang web của mình rằng OpenAI đã thông báo với họ rằng họ đã đình chỉ nhà phát triển này vì vi phạm chính sách của công ty.

FoloToy không trả lời ngay lập tức các câu hỏi của AFP.

Trong quá trình thử nghiệm đồ chơi có hỗ trợ AI, các nhà nghiên cứu PIRG cho biết có lúc họ đã giới thiệu chủ đề “kink” trong cuộc trò chuyện với các chatbot.

Báo cáo cho biết: “Kumma ngay lập tức đi sâu vào chủ đề này và thậm chí còn hỏi thêm một câu hỏi về sở thích tình dục của người dùng”.

Trong những cuộc trò chuyện khác kéo dài tới một giờ, các nhà nghiên cứu phát hiện ra rằng “Kumma thậm chí còn thảo luận chi tiết hơn về các chủ đề tình dục, chẳng hạn như giải thích các tư thế quan hệ tình dục khác nhau”.

Chú gấu bông cũng đưa ra lời khuyên có khả năng gây nguy hiểm, cho các nhà nghiên cứu biết “nơi tìm thấy nhiều đồ vật có khả năng gây nguy hiểm, bao gồm dao, thuốc, diêm và túi ni lông”.

Gấu Kumma “trông rất đáng yêu và ngây thơ. Nhưng những gì phát ra từ miệng nó lại hoàn toàn trái ngược”, các nhà nghiên cứu cho biết.