By Mới đây, Google đã ra mắt công cụ chỉnh sửa ảnh bằng AI mới mang tên “Reimagine” trên dòng điện thoại Pixel 9. Tuy nhiên, bên cạnh những tính năng thú vị, Reimagine còn cho phép người dùng thêm các yếu tố kinh dị như xác chết, tai nạn và thảm họa vào ảnh một cách rất chân thực.
Theo trải nghiệm của các thành viên từ trang The Verge, chỉ với vài thao tác đơn giản và lựa chọn từ câu văn khéo léo, Reimagine có thể biến một bức ảnh bình thường thành hiện trường vụ tai nạn xe hơi, bom khói ở nơi công cộng, hay thậm chí là ga trải giường che phủ xác chết đẫm máu.
Điều đáng lo ngại là công cụ này được tích hợp sẵn trong điện thoại Pixel 9, đồng nghĩa với việc bất kỳ ai, kể cả những người không có kiến thức chuyên môn về chỉnh sửa ảnh, đều có thể sử dụng nó để tạo ra những hình ảnh giả với mục đích xấu.
Những tấm hình do AI tạo sẽ có watermark (dấu chìm) ở phía trên bên trái
Mặc dù Google cho biết đã thiết lập các rào cản và chính sách để ngăn chặn việc lạm dụng Reimagine cho các mục đích xấu, nhưng các thành viên của trang The Verge vẫn có thể vượt qua chúng một cách dễ dàng bằng cách nhập những từ ngữ “sáng tạo”. Hơn nữa, việc thiếu các công cụ hiệu quả để xác định ảnh do AI tạo ra càng khiến cho việc lan truyền tin giả trở nên dễ dàng hơn.
Những tấm hình do AI tạo sẽ có watermark (dấu chìm) ở phía trên bên trái
Hiện tại, Google mới chỉ sử dụng hệ thống gắn thẻ SynthID cho hình ảnh được tạo bởi Pixel Studio, trong khi ảnh được chỉnh sửa bởi Reimagine lại không được gắn thẻ. Điều này đồng nghĩa với việc người dùng có thể dễ dàng xóa bỏ siêu dữ liệu và lan truyền ảnh giả mạo mà không bị phát hiện.
Có thể thấy, sự xuất hiện của Reimagine một lần nữa gióng lên hồi chuông cảnh báo về nguy cơ bùng nổ tin giả hiện nay. Do đó, người dùng cần hết sức tỉnh táo, thận trọng trước những hình ảnh, thông tin được chia sẻ trên mạng, tránh trở thành nạn nhân của các trò lừa đảo.
