Từ sự cố mới đây của Snapchat khiến nhiều người lo lắng việc AI sẽ mất kiểm soát.
Trong tuần trước, My AI của Snapchat bất ngờ xuất hiện sự cố bất thường. Theo đó, chatbot của Snapchat tự đăng tải video lên trang cá nhân kèm theo nội dung do chính AI tự sáng tạo.
Ngoài ra, nhiều người dùng phản ánh việc AI “lơ” tin nhắn của họ. Sự việc khiến dân mạng xôn xao. Và sau đó, đại diện Snapchat giải thích rằng hệ thống gặp sự cố nhưng đã được khắc phục.
Đây không phải lần đầu My AI của Snapchat bị than phiền hay gặp sự cố. Nhiều người dùng Snapchat đã cấm con cái họ sử dụng chatbot này trong khi một số người dùng khác lại sẵn sàng bỏ 4 USD/tháng để tắt hoàn toàn tính năng này của Snapchat.
Thậm chí, một Thượng nghị sĩ của Mỹ đã gửi thư phản ánh khi có dấu hiệu cho thấy My AI hướng dẫn trẻ em cách dối gạt bố mẹ.
Theo đại diện từ Snapchat, My AI vẫn chỉ đang vừa học hỏi vừa vận hành nên còn nhiều sự cố. Tuy nhiên, nhiều người đặt ra câu hỏi: Liệu các AI khi mất kiểm soát sẽ xảy ra vấn đề gì?
Lyndsi Lee – một phụ huynh sống tại East Prairie, Missouri (Canada), cấm con gái 13 tuổi tiếp cận AI này. Cô chia sẻ: “Tôi không nghĩ mình đủ sẵn sàng để biết cách dạy con cách phân biệt giữa người và máy móc. Snapchat có thể đang vượt qua ranh giới mong manh giữa người và AI”.
Hơn nữa, AI nói chung và các chatbot của các nền tảng chat nói riêng chưa được hướng dẫn để có thể có những sự đồng cảm, hay những hành động phù hợp chuẩn mực xã hội.
Tiêu biểu chính là việc một số AI có xu hướng phân biệt chủng tộc hay các chatbot đưa ra những lời khuyên độc hại. Do đó, nếu không kiểm soát triệt để, các chatbot này sẽ vô cùng nguy hiểm nếu mất kiểm soát hay gặp sự cố.
