Từ sự cố mới đây của Snapchat khiến nhiều người lo lắng việc AI sẽ mất kiểm soát.

Trong tuần trước, My AI của Snapchat bất ngờ xuất hiện sự cố bất thường. Theo đó, chatbot của Snapchat tự đăng tải video lên trang cá nhân kèm theo nội dung do chính AI tự sáng tạo.

Ngoài ra, nhiều người dùng phản ánh việc AI “lơ” tin nhắn của họ. Sự việc khiến dân mạng xôn xao. Và sau đó, đại diện Snapchat giải thích rằng hệ thống gặp sự cố nhưng đã được khắc phục.

Đây không phải lần đầu My AI của Snapchat bị than phiền hay gặp sự cố. Nhiều người dùng Snapchat đã cấm con cái họ sử dụng chatbot này trong khi một số người dùng khác lại sẵn sàng bỏ 4 USD/tháng để tắt hoàn toàn tính năng này của Snapchat.

Thậm chí, một Thượng nghị sĩ của Mỹ đã gửi thư phản ánh khi có dấu hiệu cho thấy My AI hướng dẫn trẻ em cách dối gạt bố mẹ.

Theo đại diện từ Snapchat, My AI vẫn chỉ đang vừa học hỏi vừa vận hành nên còn nhiều sự cố. Tuy nhiên, nhiều người đặt ra câu hỏi: Liệu các AI khi mất kiểm soát sẽ xảy ra vấn đề gì?

Lyndsi Lee – một phụ huynh sống tại East Prairie, Missouri (Canada), cấm con gái 13 tuổi tiếp cận AI này. Cô chia sẻ: “Tôi không nghĩ mình đủ sẵn sàng để biết cách dạy con cách phân biệt giữa người và máy móc. Snapchat có thể đang vượt qua ranh giới mong manh giữa người và AI”.

Hơn nữa, AI nói chung và các chatbot của các nền tảng chat nói riêng chưa được hướng dẫn để có thể có những sự đồng cảm, hay những hành động phù hợp chuẩn mực xã hội.

Tiêu biểu chính là việc một số AI có xu hướng phân biệt chủng tộc hay các chatbot đưa ra những lời khuyên độc hại. Do đó, nếu không kiểm soát triệt để, các chatbot này sẽ vô cùng nguy hiểm nếu mất kiểm soát hay gặp sự cố.

  • Internet
  • August 22, 2023
  • 0 comment
  • 18 views

Recent posts

Người dùng sắp được chuyển ảnh dễ dàng từ Google Photos sang Apple iCloud

Người dùng sắp được chuyển ảnh dễ dàng từ Google Photos sang Apple iCloud

Trong một phần của sáng kiến Chuyển tải Dữ liệu (Data Transfer Initiative – DTI), người dùng sẽ có thể […]

iOS 18 giúp ‘Trung tâm điều khiển’ trên iPhone đổi mới hoàn toàn

iOS 18 giúp ‘Trung tâm điều khiển’ trên iPhone đổi mới hoàn toàn

Apple sẽ thiết kế lại hoàn toàn khu vực Trung tâm điều khiển trên iPhone trong bản cập nhật iOS […]

iPhone 16 Pro sẽ sử dụng màn hình ‘xịn nhất’ của Samsung

iPhone 16 Pro sẽ sử dụng màn hình ‘xịn nhất’ của Samsung

iPhone 16 Pro và 16 Pro Max được dự đoán là những mẫu điện thoại đầu tiên trang bị tấm […]

Cách đọc tin nhắn trên Zalo mà người gửi không biết

Cách đọc tin nhắn trên Zalo mà người gửi không biết

Nếu là người thường xuyên sử dụng Zalo để nhắn tin hay gọi điện, nhưng lại muốn “ẩn danh” và […]

4 điểm mới trong ứng dụng VNeID

4 điểm mới trong ứng dụng VNeID

Bản cập nhật 2.1.7 của ứng dụng Định danh điện tử VNeID đã được bổ sung nhiều điểm mới để […]

© 2021 Tạp Chí CNTT. Mr Hoang