Ứng dụng vô hại, chức năng gây hại
Ứng dụng deepfake là phần mềm dùng trí tuệ nhân tạo để biến ảnh có thật thành hình ảnh hoặc video giả, có thể mô tả hành vi tình dục hay bạo lực mà người trong ảnh chưa từng thực hiện. Một cuộc điều tra phát hiện hơn 400 ứng dụng và tên miền có chức năng lạm dụng bị giấu kín, nhiều ứng dụng được cho là liên quan đến cùng một tổ chức ở Trung Quốc. Các ứng dụng này đã xuất hiện trên App Store và Google Play, thường núp bóng dịch vụ bình thường như dạy ngoại ngữ, chỉnh ảnh thú cưng hay hướng dẫn tập luyện. Nhưng trong những điều kiện nhất định, chúng mở giao diện web cho phép tải ảnh lên và tạo nội dung khiêu dâm hoặc bạo lực. Đây không phải lỗi nhỏ trong một vài ứng dụng kỳ quặc: quy mô của mạng lưới cho thấy việc ngụy trang đang được dùng như một phương thức có chủ đích để tiếp cận người dùng.
Một số mẫu dựng cảnh cưỡng hiếp trong phòng ngủ hoặc đe dọa bằng dao, biến deepfake tình dục thành công cụ có thể làm nhục, bắt nạt hoặc uy hiếp nạn nhân. Ảnh do người dùng tải lên được ghép vào mẫu có sẵn; sau đó, người dùng có thể mua tín dụng để tạo thêm ảnh và video. Khi hình giả bị phát tán hoặc bị giới thiệu như bằng chứng thật, tổn hại không còn giới hạn trong ứng dụng. Với nạn nhân, việc không đồng ý tạo hay chia sẻ ảnh không ngăn được người khác khai thác khuôn mặt của họ.
Lỗ hổng nằm ở cách ứng dụng bị kiểm tra
Vụ việc phơi bày giới hạn của kiểm duyệt App Store: xét duyệt một phiên bản ứng dụng tại một thời điểm không đủ nếu nội dung phía máy chủ có thể đổi sau khi được chấp thuận. Các nhà phát triển dùng chiêu tráo đổi: lúc kiểm tra, ứng dụng hiển thị chức năng vô hại; sau đó, một bước kiểm tra máy chủ có thể kích hoạt giao diện tạo nội dung lạm dụng. Một số người chỉ thấy chức năng đã quảng cáo, trong khi người truy cập qua quảng cáo khiêu dâm có thể được dẫn vào cổng ẩn. Vì vậy, tên và mô tả ứng dụng không đủ để nhận diện mục đích thật.
Apple cho biết các ứng dụng tuân thủ quy định vào thời điểm được duyệt, rồi nhà phát triển thay đổi trang web cung cấp nội dung sau khi được phê duyệt. Lời giải thích này mô tả đúng thủ đoạn, nhưng không xóa trách nhiệm của nền tảng: nếu một ứng dụng có thể âm thầm đổi chức năng, quy trình xét duyệt cần tính đến hành vi sau phát hành, không chỉ bản dựng ban đầu. Sự phổ biến của công cụ AI viết mã cũng khiến việc tạo ứng dụng trở nên dễ tiếp cận hơn, làm tăng áp lực lên hệ thống phát hiện và rà soát.
Quyền riêng tư và hình ảnh có thể bị tước quyền kiểm soát
Rủi ro lớn nhất với người dùng không chỉ là vô tình cài nhầm ứng dụng, mà là mất quyền kiểm soát ảnh cá nhân. Khi một khuôn mặt được tải lên, người khác có thể biến nó thành hình ảnh khỏa thân hoặc cảnh đe dọa mà không có sự đồng ý. Những nội dung đó có thể trở thành công cụ bắt nạt trên mạng, bôi nhọ danh dự hoặc gây sức ép với nạn nhân. Ngay cả người không trực tiếp dùng tính năng vẫn có thể bị ảnh hưởng nếu ảnh của họ được lấy từ mạng xã hội hay chia sẻ riêng tư.
Quy mô sử dụng trước đây cho thấy cảnh báo không phải giả định xa vời: trong đợt phát hiện đầu năm, 38 ứng dụng tạo ảnh lột đồ đã được tải xuống 483 triệu lần trước khi bị gỡ bỏ. Những con số ấy nhấn mạnh rằng việc xóa ứng dụng sau khi có báo cáo là cần thiết nhưng đến muộn đối với người đã bị nhắm tới. Người dùng nên cân nhắc kỹ trước khi tải ảnh cá nhân lên dịch vụ AI không rõ cách lưu trữ, xử lý và xóa dữ liệu; còn nền tảng cần giúp họ nhận diện rõ ứng dụng có chức năng tạo ảnh nhạy cảm.
Gỡ ứng dụng là bước đầu, không phải lời giải
Sau khi nhận thông tin về phát hiện, Apple đã gỡ 19 ứng dụng. Meta cho biết đã xử lý hơn 10.000 tài khoản quảng cáo liên quan đến các tên miền gắn với mạng lưới này, đồng thời Apple nói đã tăng cường biện pháp bảo vệ trước kiểu tráo đổi chức năng. Đây là những hành động đáng kể, nhưng chúng chủ yếu diễn ra sau khi các ứng dụng đã lọt qua nhiều lớp kiểm soát và được quảng bá. Nếu nhà phát triển có thể thay nội dung từ xa, việc rà soát phải được lặp lại sau phát hành, gắn với cảnh báo khi chức năng đổi khác và phản ứng nhanh trước dấu hiệu lạm dụng.
Kết luận khó tránh là cửa hàng ứng dụng không thể chỉ dựa vào lời khai của nhà phát triển hay một lần kiểm tra trước khi phát hành. Các nền tảng cần giám sát hành vi thực tế, còn mạng quảng cáo phải ngăn nội dung dẫn người dùng tới dịch vụ tạo deepfake tình dục và bạo lực. Người dùng cũng không nên xem nhãn “AI” hay sự hiện diện trong cửa hàng chính thức như bảo chứng tuyệt đối về an toàn. Khi hình ảnh cá nhân có thể bị biến thành công cụ làm nhục chỉ qua vài thao tác, trách nhiệm bảo vệ không thể được đẩy hết sang nạn nhân.
