Khám phá sở thích, cùng nhau

Deal thật, đánh giá chân thực và câu chuyện mua sắm từ những người cùng sở thích với bạn — mỗi ngày trên Sammfy.

Khám phá sở thích, cùng nhauDeal thật, đánh giá chân thực và câu chuyện mua sắm từ những người cùng sở thích với bạn — mỗi ngày trên Sammfy.

Anthropic cảnh báo AI có thể tự cải thiện nhanh hơn năng lực giám sát

Anthropic cảnh báo AI có thể tự cải thiện nhanh hơn năng lực giám sát
Sở thích|Trợ lý tài liệu AI

RSI là khả năng AI góp phần cải thiện công nghệ tạo ra chính nó

Tự cải thiện đệ quy (RSI) là khả năng một hệ thống AI tham gia thiết kế, huấn luyện hoặc tối ưu những hệ thống AI mạnh hơn, rồi tiếp tục hỗ trợ các thế hệ sau. Đây chưa phải năng lực đã được chứng minh ở các mô hình hiện tại, nhưng là viễn cảnh khiến Anthropic cảnh báo về tốc độ phát triển có thể vượt khả năng giám sát của con người. Cảnh báo xuất hiện trong hồ sơ S-1/A được cập nhật ngày 2/11/2026. Công ty cho biết chưa mô hình nào vượt ngưỡng phát triển tăng tốc nhờ AI theo chính sách an toàn của mình; cũng chưa có bằng chứng Claude tự thiết kế và huấn luyện trọn vẹn thế hệ kế tiếp. Khoảng cách giữa hỗ trợ nghiên cứu và tự cải thiện vì thế vẫn đáng kể. Nhưng khi AI tham gia ngày càng sâu vào quy trình tạo ra AI, việc chưa đạt ngưỡng hôm nay không đủ lý do để xem rủi ro tương lai là xa vời.

Anthropic cảnh báo AI có thể tự cải thiện nhanh hơn năng lực giám sát

Claude viết mã phần lớn hệ thống, nhưng đó chưa phải tự chủ

Con số làm cảnh báo trở nên cụ thể là Claude tạo ra hơn 90% lượng mã đóng góp vào hệ thống phần mềm của Anthropic trong tháng 9/2026. Lượng mã được tạo trung bình mỗi ngày trên mỗi kỹ sư trong quý 3/2026 cũng tăng hơn 45 lần so với năm 2024. Đây là thay đổi lớn trong cách Claude viết mã, nhưng không thể đồng nhất sản lượng mã với năng suất nghiên cứu hay khả năng tự phát triển AI. Anthropic lưu ý số dòng mã tăng không đồng nghĩa hiệu quả kỹ sư tăng tương ứng. Con người vẫn xác định mục tiêu, chọn hướng nghiên cứu và đưa ra quyết định khoa học. Nói cách khác, AI có thể đảm nhận một phần rất lớn công việc kỹ thuật mà vẫn chưa tự quyết định được điều gì cần xây dựng, vì sao nên xây dựng và kết quả nào đủ an toàn để đưa vào vòng phát triển tiếp theo.

Rủi ro nằm ở tốc độ tăng tốc, không chỉ ở năng lực hiện tại

RSI không đòi hỏi AI phải tự vận hành hoàn toàn ngay từ đầu. Chỉ cần hệ thống hỗ trợ nghiên cứu và kỹ thuật đủ hiệu quả để rút ngắn chu kỳ phát triển, các mô hình kế tiếp có thể được tạo ra nhanh hơn; rồi chính chúng lại góp sức đẩy nhanh chu kỳ sau. Đó là lý do Anthropic theo dõi các ngưỡng liên quan đến việc AI có thể thay thế lực lượng nghiên cứu với chi phí cạnh tranh hoặc tăng gấp đôi tốc độ tiến bộ năng lực. Công ty cũng thừa nhận từng không nhận ra một số đợt tăng tốc đáng kể cho đến khi chúng đã xảy ra. Rủi ro AI vì vậy không chỉ là một mô hình hiện tại hành động sai, mà còn là tốc độ thay đổi khiến đánh giá, bảo mật và biện pháp an toàn không kịp theo. Claude đã tiến bộ về lập trình, toán học và an ninh mạng trong năm 2026, khiến câu hỏi về khả năng kiểm soát trở nên cấp thiết hơn.

Giám sát AI vẫn cần giữ vai trò quyết định

Anthropic chưa dự định để Claude tự động phát triển liên tiếp các mô hình tiên tiến mà không có sự giám sát đáng kể của con người. Công ty cho rằng ngay cả khi năng lực ấy khả thi về kỹ thuật, việc sử dụng an toàn vẫn cần con người có hiểu biết thực chất và duy trì quyền kiểm soát. Đây không nên chỉ là thủ tục phê duyệt sau cùng. Con người cần tham gia xác định mục tiêu nghiên cứu, xem xét bằng chứng về năng lực mới và quyết định liệu các biện pháp bảo vệ có theo kịp tốc độ phát triển hay không. Anthropic đang xem xét cập nhật Chính sách mở rộng quy mô có trách nhiệm để duy trì quyền kiểm soát trong quá trình phát triển các mô hình tiên tiến. Bài học từ con số hơn 90% mã là AI đã trở thành cộng sự kỹ thuật quan trọng, chứ không phải nhà nghiên cứu độc lập. Giám sát hiệu quả phải theo kịp vai trò ấy trước khi vòng lặp tự cải thiện tăng tốc.

Sammfy nhận hoa hồng khi bạn mua sắm qua liên kết của chúng tôi, bạn không phải trả thêm chi phí.

You May Also Like

Comments
Viết gì đó...
Chưa có bình luận nào. Hãy là người đầu tiên chia sẻ suy nghĩ!