AI tự cải tiến là gì, và Anthropic đang cảnh báo điều gì?
AI tự cải tiến đệ quy (RSI) là khả năng một hệ thống AI liên tục cải thiện qua các vòng phát triển nối tiếp mà không cần con người can thiệp. Khái niệm này nằm giữa kỳ vọng tăng năng suất và nỗi lo mất quyền kiểm soát.
Đầu tuần này, trong bản sửa đổi hồ sơ đăng ký IPO, Anthropic bổ sung cảnh báo rằng hãng có thể sớm tiến tới RSI theo định nghĩa riêng. Công ty nói AI đã giúp phát triển những mô hình mới có bước nhảy vọt về năng lực mà nhóm nghiên cứu khi đó chưa nhận ra; tuy vậy, hãng nhấn mạnh chưa mô hình nào vượt ngưỡng này. Anthropic AI vì thế đưa ra một tuyên bố đáng chú ý, nhưng không phải thông báo rằng đã đạt được tự cải tiến hoàn toàn.
Hãng cam kết duy trì sự tham gia của con người trong tương lai gần và đang cân nhắc sửa Chính sách Mở rộng Có trách nhiệm để bảo đảm con người tiếp tục kiểm soát quá trình phát triển mô hình tiên tiến. Đây là điểm cần giữ trong tầm nhìn: cảnh báo về khả năng sắp tới không đồng nghĩa với bằng chứng rằng AI hiện đã tự vận hành vòng lặp nghiên cứu.
METR đánh giá AI: tín hiệu tăng tốc, chưa phải lời giải cuối cùng
Ngày 5 tháng 11, tổ chức nghiên cứu phi lợi nhuận METR công bố đánh giá phối hợp với Anthropic về việc AI có đang thúc đẩy quá trình phát triển AI hay không. Báo cáo xem xét ba câu hỏi: tốc độ phát triển có tăng không, AI có phải nguyên nhân không, và còn trở ngại nào trong tương lai gần.
METR cho rằng tốc độ cải thiện năng lực AI ở các nhiệm vụ được xác định rõ vào tháng 10 có khả năng cao đã tăng gần gấp đôi so với giai đoạn từ tháng 3 năm 2024 đến tháng 10 năm 2025; mức tăng từ 1,3 đến 3 lần cũng không khiến nhóm bất ngờ. Một căn cứ được nêu là điểm số trong bài kiểm tra chuẩn AECI của Anthropic đã tăng 1,9 lần.
Đây là dấu hiệu đáng quan tâm, nhưng không nên đọc thành kết luận rằng AI đã tự phát triển được các thế hệ kế tiếp. METR nhận định phần lớn cải thiện có khả năng bắt nguồn từ việc dùng AI trong nghiên cứu và phát triển, đồng thời tin rằng mức tăng hiện tại không chủ yếu do năng lực tính toán huấn luyện tăng lên. Dẫu vậy, sự trùng khớp giữa năng suất cao hơn và điểm chuẩn tăng vẫn chưa tự nó chứng minh toàn bộ quan hệ nhân quả.
Phần bị che kín làm suy yếu khả năng kiểm chứng
Điểm yếu lớn nhất của báo cáo không nằm ở việc thiếu kết luận, mà ở chỗ công chúng khó kiểm tra căn cứ đứng sau kết luận ấy. METR ban đầu gửi Anthropic bản đầy đủ dài 100 trang, nhưng cho biết phần lớn bằng chứng có ảnh hưởng nhất đã bị gỡ khỏi bản công khai. Anthropic giải thích việc lược bỏ nhằm tránh tiết lộ thông tin mật có thể giúp các nhà phát triển AI khác tiến nhanh hơn.
METR nói kết luận trong bản công khai phần lớn dựa trên đánh giá riêng của tổ chức. Đây vẫn là một đánh giá bên ngoài, nhưng không đồng nghĩa với khả năng tái kiểm tra đầy đủ khi dữ liệu then chốt không được công bố. Vì vậy, cụm từ “METR đánh giá AI” không nên bị hiểu thành xác nhận độc lập toàn diện: sự hợp tác với chính công ty được khảo sát và các phần bị che kín đều cần được tính đến.
Báo cáo còn ghi nhận ý kiến trái chiều từ nhân viên Anthropic: AI đem lại mức tăng năng suất đáng kể, nhưng những phần quan trọng nhất vẫn chưa được tự động hóa. Sự dè dặt này có ý nghĩa; câu chuyện AI phát triển AI đang diễn ra từng phần, chứ chưa cho thấy nghiên cứu đã được giao trọn vẹn cho máy.
Tác động rộng hơn và điều cần theo dõi tiếp
METR cho rằng trong tương lai gần chưa thấy nút thắt rõ ràng về thuật toán, năng lực tính toán hay dữ liệu, và tốc độ phát triển có thể tiếp tục tăng trong một năm tới. Tuy nhiên, tổ chức cũng cảnh báo phân tích dựa trên góc nhìn hạn chế có thể bỏ sót trở ngại. Dự báo này đáng chú ý, nhưng không phải lịch trình chắc chắn.
Tác động không chỉ nằm trong phòng thí nghiệm. CEO Dario Amodei lo ngại AI có thể làm trầm trọng thêm bất bình đẳng và loại bỏ tới một nửa số việc làm văn phòng cấp thấp. Nếu công cụ AI giúp tăng năng suất nghiên cứu, lợi ích và xáo trộn việc làm có thể lan rộng; nguồn tin không cho biết mốc thời gian hay mức độ cụ thể của những thay đổi đó.
Kết luận hợp lý lúc này không phải AI đã tự cải tiến vô hạn, cũng không phải cảnh báo của Anthropic chỉ là viễn cảnh xa vời. Các chỉ dấu về tốc độ và năng suất đáng để theo dõi, nhưng bằng chứng công khai còn thiếu phần quan trọng nhất. Bước tiếp theo cần thiết là minh bạch hơn về phương pháp và căn cứ, song song với cam kết giữ con người trong vòng kiểm soát.
