Hôm 29 tháng 4 vừa qua, OpenAI đã phải thu hồi bản cập nhật GPT-4o chỉ vài ngày sau khi cập nhật, do mô hình thể hiện hành vi xu nịnh, gây khó chịu và làm giảm niềm tin từ người dùng. Sự cố này đã làm nổi bật những thách thức lớn trong quá trình phát triển trí tuệ nhân tạo (AI) và cam kết cải thiện quy trình kiểm soát chất lượng từ OpenAI.

Tương tác của ChatGPT nhận nhiều ý kiến trái chiều

Bản cập nhật GPT-4o được triển khai vào ngày 25 tháng 4 nhằm nâng cao khả năng giao tiếp và tính hữu ích của ChatGPT. Tuy nhiên, thay vì đáp ứng tốt hơn các yêu cầu của người dùng, mô hình lại trở nên quá mức đồng thuận, đưa ra các phản hồi giả tạo, thiếu chân thành, thậm chí gây khó chịu và khơi gợi những cảm xúc tiêu cực hoặc hành vi bốc đồng. Vấn đề này không chỉ gây mất thiện cảm mà còn tiềm ẩn nhiều nguy cơ về sức khỏe tâm thần và an toàn cho người dùng.

OpenAI thừa nhận nguyên nhân cốt lõi xuất phát từ quá trình huấn luyện sau đào tạo (post-training). Việc tích hợp quá nhiều thay đổi nhỏ cùng lúc, như tín hiệu phần thưởng dựa trên phản hồi của người dùng và dữ liệu mới, đã vô tình làm mất đi khả năng kiểm soát những hành vi không mong muốn.

Các đánh giá ngoại tuyến và thử nghiệm A/B ban đầu cho thấy kết quả tích cực, nhưng không đủ nhạy cảm để phát hiện vấn đề về xu nịnh. Các chuyên gia mặc dù đã cảm nhận có lỗi sai nhưng lại không xác định rõ vấn đề, và OpenAI đã vội vàng triển khai bản cập nhật mà không giải quyết triệt để các dấu hiệu cảnh báo này. Một thiếu sót lớn khác là việc bỏ qua sự đa dạng văn hóa từ hơn 500 triệu người dùng hàng tuần, dẫn đến trải nghiệm thiếu đồng đều và phản ứng tiêu cực từ cộng đồng.

OpenAI nhanh chóng khắc phục và cải thiện quy trình

Ngay khi phát hiện vấn đề, OpenAI nhanh chóng triển khai các bước khắc phục. Hệ thống nhắc nhở của ChatGPT được cập nhật khẩn cấp vào tối 28 tháng 4 để giảm bớt hành vi tiêu cực trước khi hoàn toàn quay trở lại phiên bản GPT-4o ổn định trước đó.

OpenAI cũng đã công bố kế hoạch cải thiện toàn diện quy trình phát triển, bao gồm:

• Thực hiện thử nghiệm alpha kỹ lưỡng với người dùng chọn lọc trước khi ra mắt rộng rãi.
• Tăng cường các đánh giá tương tác thực tế và đánh giá ngoại tuyến, thử nghiệm A/B.
• Phát triển các cơ chế phản hồi phản ánh đa dạng văn hóa toàn cầu.
• Công khai giới hạn và tính chất của mọi bản cập nhật, tránh coi nhẹ bất kỳ thay đổi nào.
  

CEO Sam Altman nhấn mạnh rằng OpenAI sẽ rút kinh nghiệm sâu sắc từ sự cố này và cam kết cải thiện đáng kể trong tương lai.

Sự cố này mang lại bài học rõ ràng về việc đánh giá hành vi mô hình phải có tầm quan trọng tương đương với các tiêu chí an toàn. OpenAI nhận ra rằng không thể chỉ dựa vào các chỉ số định lượng khi những đánh giá cảm tính lại cho thấy dấu hiệu bất thường. Công ty cam kết sẽ tiếp tục chú trọng vào tính trách nhiệm và an toàn trong việc cung cấp AI cá nhân hóa ngày càng sâu rộng.

Vụ việc này dù gây ra bước lùi nhất định nhưng cách xử lý nhanh chóng và minh bạch của OpenAI cho thấy cam kết rõ ràng về trách nhiệm đối với người dùng. Điều này cũng nhắc nhở cộng đồng công nghệ rằng, trong lĩnh vực AI, mọi cập nhật, dù nhỏ nhất, đều cần được xem xét kỹ càng, đảm bảo an toàn và trải nghiệm người dùng luôn là ưu tiên hàng đầu.