Vỏ bọc bình thường, chức năng gây hại
Ứng dụng AI che giấu deepfake là phần mềm quảng bá một công dụng thông thường nhưng có thể âm thầm mở giao diện tạo hình ảnh hoặc video nhạy cảm từ ảnh người dùng tải lên. Đây không phải rủi ro giả định: một cuộc điều tra phát hiện mạng lưới hơn 400 tên miền và ứng dụng có chức năng bí mật tạo nội dung tình dục bằng AI. Một số ứng dụng còn cho phép tạo deepfake bạo lực, có thể bị dùng để làm nhục hoặc đe dọa nạn nhân.
Vỏ bọc được chọn để giảm cảnh giác. Viefur, chẳng hạn, tự giới thiệu là ứng dụng tạo chân dung thú cưng; những dịch vụ khác núp dưới danh nghĩa học ngôn ngữ hoặc huấn luyện thể hình bằng AI. Nhưng trong một số điều kiện, chúng tải giao diện web cho phép tạo hình ảnh và video khiêu dâm, với các mẫu mô tả cưỡng hiếp hoặc đe dọa bằng dao. Đây là kiểu đánh tráo nguy hiểm: vẻ ngoài dễ thương hay hữu ích không chứng minh mục đích bên trong vô hại.
Qua kiểm duyệt không có nghĩa là an toàn
Đáng lo hơn, hàng trăm ứng dụng có chức năng deepfake tình dục và bạo lực đã xuất hiện trên App Store sau khi qua quy trình xét duyệt; các ứng dụng tương tự cũng có trên Google Play. Điều đó bác bỏ suy nghĩ rằng có mặt trong cửa hàng ứng dụng đồng nghĩa đã được kiểm tra kỹ và bảo đảm an toàn ứng dụng. Theo giải thích về cơ chế hoạt động, ứng dụng có thể hiển thị nội dung lành tính khi được xem xét, rồi thay đổi nội dung lấy từ máy chủ sau khi được phê duyệt.
Mạng lưới này được cho là đã hoạt động khoảng một năm, đôi khi phát hành hàng chục ứng dụng mỗi tuần. Sau khi được cung cấp thông tin về các ứng dụng, Apple đã gỡ 19 ứng dụng; công ty cũng cho biết đã tăng cường biện pháp bảo vệ trước kiểu thay đổi nội dung sau xét duyệt. Việc gỡ bỏ là cần thiết, nhưng không xóa được vấn đề cốt lõi: nhà phát triển có thể dùng nhiều ứng dụng và tên miền để tiếp tục né phát hiện.
Quảng cáo và cách kích hoạt có chủ đích
Các ứng dụng không chỉ được phát tán qua cửa hàng. Hàng nghìn quảng cáo video chứa nội dung deepfake nhạy cảm trên Facebook và Instagram đã dẫn người xem đến những dịch vụ này. Phân tích mã cho thấy máy chủ có thể quyết định hiển thị phiên bản lành tính hay giao diện tạo nội dung khiêu dâm dựa trên thông tin như khu vực, ngôn ngữ và mã định danh của người dùng. Một yếu tố kích hoạt được ghi nhận là tải ứng dụng sau khi nhấp vào quảng cáo liên quan.
Đây là cách vận hành có chủ đích, không phải một lỗi hiển thị đơn lẻ. Bên cạnh ảnh tình dục, các mẫu tạo ảnh còn mô phỏng bạo lực và đe dọa. Khi ảnh cá nhân được đưa vào một công cụ thiếu minh bạch, người trong ảnh có thể trở thành mục tiêu của nội dung làm nhục hoặc uy hiếp mà họ chưa từng đồng ý tạo ra. Vì thế, cần nhìn nhận deepfake tình dục và deepfake bạo lực như nguy cơ xâm hại danh dự, chứ không phải trò đùa công nghệ vô hại.
Dấu hiệu cần cảnh giác
Người dùng nên thận trọng với ứng dụng chỉnh sửa ảnh AI đòi tải ảnh chân dung nhưng mô tả mơ hồ về cách xử lý dữ liệu hoặc mục đích sử dụng. Hãy để ý quyền truy cập mà ứng dụng yêu cầu: quyền không liên quan rõ ràng đến chức năng được quảng bá là lý do để dừng lại và xem xét. Nội dung quảng cáo cũng đáng ngờ nếu hứa biến đổi ảnh người khác thành hình ảnh khỏa thân, tình dục hoặc bạo lực, trong khi trang ứng dụng lại tự nhận là công cụ thú cưng, học tập hay thể hình.
Không nên xem sự hiện diện trên App Store hay Google Play là bảo chứng tuyệt đối, bởi các ứng dụng trong mạng lưới đã vượt qua xét duyệt trước khi chức năng bị che giấu được phát hiện. Kết luận cần nhớ rất rõ: một ứng dụng AI có vẻ bình thường vẫn có thể trở thành cánh cửa cho deepfake gây hại. Khi chức năng, quảng cáo và quyền truy cập không ăn khớp, lựa chọn thận trọng nhất là không giao ảnh cá nhân cho ứng dụng đó.
