Việc trò chuyện với các chatbot trí tuệ nhân tạo ngày càng trở nên phổ biến và đôi khi người dùng chia sẻ cả những vấn đề cá nhân nhạy cảm. Chính vì vậy, OpenAI vừa triển khai một tính năng mới mang tên Liên hệ tin cậy (Trusted contact) nhằm hỗ trợ người dùng trong những thời điểm gặp khó khăn về tâm lý. Công cụ này hiện đang dần được cập nhật trong phần cài đặt của ChatGPT dành cho đối tượng người dùng trưởng thành.
Cách thức hoạt động của tính năng mới
Việc thiết lập Liên hệ tin cậy là một tùy chọn không bắt buộc. Nếu quyết định sử dụng, người dùng có thể chỉ định một người từ 18 tuổi trở lên để nhận thông báo trong trường hợp ChatGPT phát hiện các dấu hiệu nghiêm trọng liên quan đến ý định tự hại bản thân. Người được chọn sẽ nhận được lời mời giải thích về vai trò của họ và có thời gian một tuần để xác nhận trước khi tính năng chính thức hoạt động. Trong trường hợp người đó từ chối, người dùng có thể lựa chọn một cá nhân khác thay thế.
Hệ thống cảnh báo này không hoạt động hoàn toàn tự động để tránh những nhầm lẫn không đáng có. Khi các thuật toán của ChatGPT nhận diện một cuộc trò chuyện có dấu hiệu đáng lo ngại, chatbot sẽ thông báo cho người dùng rằng Liên hệ tin cậy của họ có thể sẽ được nhận cảnh báo. Đồng thời, hệ thống cũng gợi ý người dùng chủ động kết nối với những người xung quanh bằng các mẫu tin nhắn soạn sẵn.
Sau đó, một đội ngũ chuyên gia đã qua đào tạo sẽ trực tiếp đánh giá tình hình. Chỉ khi họ xác nhận có rủi ro nghiêm trọng thì thông báo mới được gửi đi qua email, tin nhắn văn bản hoặc thông báo trong ứng dụng. Nội dung cảnh báo vô cùng hạn chế để đảm bảo tính riêng tư và không bao gồm nội dung cuộc trò chuyện của người dùng. Đặc biệt, OpenAI đặt mục tiêu hoàn thành quy trình kiểm duyệt thủ công này trong vòng chưa đầy một giờ đồng hồ.
Tầm quan trọng của sự hỗ trợ từ con người
Liên hệ tin cậy là một phần trong hệ thống các tính năng an toàn mở rộng của nền tảng. Trước đây, hãng đã ra mắt các công cụ cho phép phụ huynh nhận cảnh báo khi tài khoản của thanh thiếu niên có dấu hiệu bất ổn. Tính năng mới dành cho người lớn được phát triển dựa trên sự tư vấn của các bác sĩ lâm sàng, nhà nghiên cứu và tổ chức sức khỏe tâm thần uy tín như Hiệp hội Tâm lý Hoa Kỳ.
Mặc dù có vai trò hỗ trợ đắc lực, Liên hệ tin cậy không nhằm mục đích thay thế cho các đường dây nóng hỗ trợ khủng hoảng hay dịch vụ y tế chuyên nghiệp. ChatGPT vẫn sẽ hướng dẫn người dùng tìm đến các nguồn lực y tế khi cần thiết. Người dùng có quyền thay đổi hoặc gỡ bỏ thông tin liên hệ bất cứ lúc nào và người được chỉ định cũng có quyền từ chối tiếp tục tham gia vai trò này.
Việc bổ sung tính năng mới cho thấy nỗ lực của OpenAI trong việc thừa nhận giới hạn của trí tuệ nhân tạo và khẳng định tầm quan trọng của sự kết nối giữa con người với con người trong thực tế. Hy vọng OpenAI sẽ sớm cập nhật và áp dụng rộng rãi tính năng này cho người dùng ChatGPT tại Việt Nam.
Nguồn: Digital Trends
