By Google đã quyết định gỡ bỏ mô hình AI Gemma khỏi nền tảng AI Studio. Động thái này được đưa ra sau khi Thượng nghị sĩ Marsha Blackburn cáo buộc mô hình này đã bịa đặt những thông tin hình sự nghiêm trọng về bà. Trong lá thư gửi CEO Sundar Pichai, bà Blackburn mô tả đây là một hành vi phỉ báng, thay vì chỉ là một ảo giác vô hại.
Cụ thể, bà Blackburn (Đảng Cộng hòa, bang Tennessee) cho biết khi được truy vấn về việc liệu bà có từng bị cáo buộc hiếp dâm không, AI Gemma đã tạo ra một câu chuyện hoàn toàn sai sự thật. Mô hình này tuyên bố rằng trong chiến dịch tranh cử thượng viện bang năm 1987, bà Blackburn bị một cảnh sát bang cáo buộc đã gây áp lực để lấy thuốc theo toa và mối quan hệ này có liên quan đến các hành vi không đồng thuận.
Thượng nghị sĩ này khẳng định không có chi tiết nào trong câu chuyện đó là thật, kể cả năm tranh cử (thực tế là 1998). Bà cho biết các liên kết mà AI cung cấp để hỗ trợ câu chuyện đều dẫn đến trang lỗi hoặc các bài báo không liên quan. Bà viết rằng chưa từng có lời buộc tội, cá nhân hay các bản tin nào như vậy tồn tại.
Trong thư, bà cũng đề cập đến vụ kiện của nhà hoạt động bảo thủ Robby Starbuck, người tuyên bố các mô hình AI của Google đã tạo ra thông tin phỉ báng về ông. Bà Blackburn cho rằng đây là “một mô hình thiên vị nhất quán chống lại các nhân vật bảo thủ” từ hệ thống AI của Google.
Phản hồi về vụ việc, Google cho biết đã ghi nhận “báo cáo về việc những người không phải nhà phát triển cố gắng sử dụng Gemma trong AI Studio và hỏi nó các câu hỏi thực tế”.
Google nhấn mạnh AI Studio là nền tảng dành riêng cho các nhà phát triển. Mô hình Gemma chưa bao giờ được thiết kế để trở thành một công cụ tiêu dùng, hoặc để trả lời các câu hỏi yêu cầu tính chính xác thực tế. Google thông báo trên X rằng để ngăn chặn sự nhầm lẫn này, quyền truy cập vào Gemma trên AI Studio đã bị gỡ bỏ. Công ty cho biết mô hình này vẫn có sẵn cho các nhà phát triển thông qua API.
Vấn đề các mô hình AI tạo ra thông tin sai lệch, hay còn gọi là hiện tượng ảo giác (hallucination), tiếp tục là một thách thức lớn cho ngành công nghiệp. Mặc dù các công ty công nghệ, bao gồm Google, cam kết sẽ liên tục cải thiện tất cả các mô hình, vẫn chưa có giải pháp rõ ràng nào cho vấn đề về độ chính xác.
Về phần mình, Thượng nghị sĩ Blackburn đưa ra yêu cầu dứt khoát, kêu gọi Google tắt mô hình này cho đến khi họ có thể kiểm soát được nó.
Comments