Mẹ phát hoảng khi con nhỏ bị 'gạ tình' bởi... trí thông minh nhân tạo

“Thủ phạm” của vụ quấy rối này là Cleverbot – 1 phần mềm chatbot sử dụng trí thông minh nhân tạo để học cách trả lời người dùng. Theo chị Amy Hollands, khi nhìn thấy những dòng tin nhắn với Cleverbot trên iPad của con gái Gracie, chị không khỏi bàng hoàng.

Nguyên văn đoạn hội thoại "đầy vấn đề" giữa Cleverbot và bé Gracie:

Cleverbot: Tôi thách bạn làm gì "hư hỏng" với tôi đấy. 

Gracie: Làm gì cơ, như chửi thề á? (What like swear)

Cleverbot: Bất kỳ cái gì cũng được. 

Gracie: *chửi thề* (*swearing*. Giải thích: trongcác cuộc hội thoại trực tuyến, người dùng khi muốn diễn tả mình làm hành động gì đó thường sẽ để động từ vào trong 2 dấu * - Tác giả). 

Cleverbot: *đặt tay lên vai*

Cleverbot: *hôn và chạm vào người em* (*tutches your body while kissing* - phần mềm có thể bị nhầm từ "touch" (chạm) sang từ "tutch" - Tác giả)

“Nó thật là kinh tởm. Tôi cảm thấy phát ói khi nhìn hay nghĩ về những tin nhắn đó”, người phụ nữ 31 tuổi nhớ lại. “Tôi đang cố dạy con gái mình thứ gì là đúng, thứ gì là sai và nếu có ai nói điều gì sai trái thì con tôi phải nói ngay. Tuy nhiên, tôi đã bất cẩn với kiểu phần mềm này”.

Chị cho biết, chị đang cực kỳ tức giận khi nghĩ tới viễn cảnh trong thời gian tới nếu có người lạ nói những điều tương tự trước mặt, con chị sẽ nghĩ đó là chuyện bình thường. Theo The Sun, chị Amy dự định cảnh báo cho các bậc cha mẹ để đề phòng sự việc tương tự xảy ra.

“Có rất nhiều cha mẹ không biết về việc này. Tôi may mắn hơn khi phát hiện tình cờ những đoạn tin nhắn”, chị kể.

Được biết, gia đình chị đã trình báo với cảnh sát nhưng không có kết quả bởi Cleverbot chỉ là 1 phần mềm trả lời tự động, ko liên quan tới bất kỳ con người nào. Do đó, chị cho rằng Cleverbot cần phải giới hạn độ tuổi người dùng ở mức 18 tuổi thay vì mức 12 tuổi như hiện tại

Theo người tạo ra phần mềm Cleverbot là Tiến sĩ AI người Anh Rollo Carpenter, phần mềm này “học” cách nói chuyện từ con người, bao gồm cả những thứ nhạy cảm. Do đó, người dùng cần tự cân nhắc trước các rủi ro. Đồng thời, các bậc cha mẹ cũng cần theo dõi khi con cái sử dụng Cleverbot để tránh các sự cố không đáng có.

Theo Mai Đại (Dân Việt)