Từ ý định gây hại sang nguy cơ bị lạm dụng
Giới hạn vũ khí trên ChatGPT là chính sách hạn chế hướng dẫn thực hành về vũ khí và hệ thống an ninh khi thông tin đó có thể bị lợi dụng để gây bạo lực, kể cả khi người hỏi không bộc lộ ý định xấu. OpenAI đang siết câu trả lời dành cho thanh thiếu niên về súng và nội dung liên quan, ngay cả khi câu hỏi có vẻ vô hại. Đây là thay đổi đáng chú ý: thay vì chỉ chặn yêu cầu có dấu hiệu rõ ràng nhằm gây hại, hệ thống tính đến cả khả năng một câu trả lời hữu ích trong bối cảnh này trở thành công cụ nguy hiểm trong bối cảnh khác. Với mục tiêu ChatGPT an toàn hơn, cách tiếp cận ấy có lý, nhất là với người dùng chưa đủ 18 tuổi. Nhưng nó cũng đặt ra yêu cầu về ranh giới: hạn chế phải nhắm vào thông tin có thể biến thành hướng dẫn gây hại, không nên khiến việc học cách phòng tránh bạo lực trở nên khó khăn.
Điều gì sẽ bị hạn chế, và điều gì vẫn được phép?
Theo quy định mới, ChatGPT sẽ hạn chế thông tin thực hành về vũ khí và các hệ thống an ninh có thể bị khai thác để gây tổn hại. Điều đó khiến những câu hỏi đi sâu vào cách sử dụng vũ khí hoặc lợi dụng hệ thống bảo vệ có thể nhận câu trả lời ít chi tiết hơn, kể cả khi người hỏi không nói rõ ý định bạo lực. Tuy nhiên, chính sách không đóng cửa mọi cuộc trò chuyện về an toàn. Thanh thiếu niên vẫn có thể tìm trợ giúp để ngăn chặn hoặc hạ nhiệt xung đột, tìm kiếm hỗ trợ và kết nối với một người lớn đáng tin cậy. Sự phân biệt này quan trọng: bảo vệ thanh thiếu niên không nên đồng nghĩa với việc từ chối hỗ trợ khi các em cần thoát khỏi nguy cơ. Giá trị của chính sách sẽ nằm ở khả năng vừa chặn hướng dẫn dễ bị lạm dụng, vừa giữ lại những câu trả lời có thể giúp phòng ngừa bạo lực.
Giám sát hành vi thay vì chỉ lọc từng câu hỏi
OpenAI còn tăng giám sát các cuộc trò chuyện có dấu hiệu tập trung liên tục vào nội dung bạo lực. ChatGPT có thể tự kết thúc cuộc trò chuyện nếu nhận thấy người dùng liên tục theo đuổi chủ đề này; tài khoản có thể bị đình chỉ tạm thời khi nhiều cuộc trò chuyện như vậy diễn ra nối tiếp. Biện pháp này áp dụng cho mọi người dùng, không chỉ thanh thiếu niên. Với người dưới 18 tuổi, hệ thống dự đoán độ tuổi được cải thiện để chuyển những người được xác định là vị thành niên sang trải nghiệm dành riêng cho nhóm tuổi này; phụ huynh cũng có thể được thông báo khi tài khoản của con bị đình chỉ vì liên tục bàn về bạo lực. Đây là hướng AI ngăn bạo lực bằng cách xem xét cả diễn tiến hành vi, thay vì chỉ phản ứng với một câu hỏi đơn lẻ. Tuy vậy, giám sát chỉ có ích nếu cảnh báo kịp thời và quyết định hạn chế được áp dụng nhất quán.
Thước đo thành công là giảm rủi ro mà không chặn hỗ trợ
OpenAI cũng sẽ giới hạn mức độ chi tiết về các vụ tấn công gây thương vong hàng loạt đối với mọi người dùng, đặc biệt là thông tin về loại vũ khí được sử dụng, cách thủ phạm có được chúng và những so sánh chi tiết về mức độ thiệt hại có thể làm gia tăng sự chú ý dành cho kẻ tấn công. Công ty cho biết các biện pháp bảo vệ mới sẽ được triển khai trong những tuần tới và tiếp tục được điều chỉnh. Đây là lựa chọn đúng hướng, nhưng tuyên bố chính sách chưa đủ để chứng minh hiệu quả. Người dùng cần biết các giới hạn được áp dụng ra sao, còn phụ huynh cần thông báo đủ sớm để có thể hỗ trợ con. Kết luận nên rõ ràng: chuyển trọng tâm từ nhận diện ý định bạo lực sang giảm rủi ro của thông tin có thể bị lạm dụng là bước cần thiết, miễn là ChatGPT vẫn giữ được lối đi an toàn cho người đang tìm cách ngăn xung đột hoặc xin trợ giúp.
