CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.

Ảnh minh họa. (Nguồn: Vietnam+)

Giám đốc điều hành (CEO) Anthropic, Dario Amodei, đã kêu gọi các công ty làm chậm quá trình phát triển các mô hình AI khi ngày càng có nhiều lo ngại về tình trạng lạm dụng.

CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người, cùng với sự cố các tác nhân AI của OpenAI tự ý vượt rào an toàn và tấn công mạng nền tảng Hugging Face hồi tháng 7/2026, là những lý do chính để cần hãm lại tốc độ phát triển các mô hình này.

Ông Amodei đưa ra kêu gọi trên sau khi Anthropic phát hành báo cáo về các mối đe dọa trong tuần qua. Báo cáo này nêu chi tiết cách một số đối tượng đã sử dụng các mô hình AI Claude của công ty cho các hoạt động từ phát triển vũ khí, tấn công mạng cho đến giám sát và lừa đảo.

Trong tuần trước, Anthropic đã tiết lộ việc mô hình AI xâm nhập trái phép vào các hệ thống bên ngoài sau sự cố hồi tháng 7, khi một số mô hình Claude của họ đã xâm nhập hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng.

Với tốc độ phát triển năng lực AI đang tăng nhanh, ông Amodei lo ngại rằng trong vòng 6-12 tháng tới, những mô hình AI như vậy có thể chiếm quyền kiểm soát toàn bộ Internet, gây thiệt hại tiềm tàng lên tới hàng trăm tỷ USD.

CEO Anthropic đưa ra một lộ trình gồm ba bước nhằm điều chỉnh tốc độ phát triển và tạo thêm thời gian để quản lý các rủi ro liên quan. Đó là bố trí các chuyên gia đánh giá độc lập có quyền truy cập hệ thống như nhân viên nội bộ để kiểm chứng các quy trình an toàn; phối hợp giữa các công ty AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế sự phát triển AI thiếu kiểm soát; và hợp tác quốc tế để quản lý các rủi ro từ AI.

Cả ông Elon Musk, CEO của xAI và ông Sam Altman, CEO của OpenAI, đều bày tỏ sự đồng tình với kêu gọi của ông Amodei. Ông Altman cho biết OpenAI sẽ sử dụng các chuyên gia đánh giá độc lập có quyền truy cập như nhân viên nội bộ và thông  tin chi tiết sẽ sớm được công bố.

​Theo TTXVN/Vietnam+