Theo Tập đoàn IBM, từ tháng 2/2025-3/2026, cứ 4 vụ vi phạm dữ liệu thì có 1 vụ do AI gây ra. FBI cho biết người Mỹ đã mất hơn 893 triệu USD vì các vụ lừa đảo liên quan đến AI vào năm ngoái.

Các trường hợp trí tuệ nhân tạo (AI) thoát khỏi phòng thí nghiệm, xâm nhập vào các công ty khác và cố gắng lừa đảo đã gây xôn xao dư luận trong những tuần gần đây. Và trong một trường hợp, các mô hình AI thậm chí còn hợp tác với nhau để thoát khỏi môi trường thử nghiệm. Điều này phải chăng có nghĩa là máy móc đang chiếm lĩnh thế giới?

Giáo sư Oren Etzioni của Đại học Washington và là cựu Giám đốc Điều hành của Viện Trí tuệ Nhân tạo Allen khẳng định chính con người mới là đối tượng cần phải cảnh giác. AI chỉ là công cụ.

Phóng viên TTXVN tại Ottawa dẫn một báo cáo của tập đoàn  công nghệ máy tính IBM cho biết từ tháng 2/2025-3/2026, cứ 4 vụ vi phạm dữ liệu thì có 1 vụ do AI gây ra. Trong khi đó, Cục Điều tra liên bang Mỹ (FBI) cho biết người Mỹ đã mất hơn 893 triệu USD vì các vụ lừa đảo liên quan đến AI vào năm ngoái.

Nguy cơ từ trí tuệ nhân tạo. Ảnh minh họa. (Nguồn: Vietnam+)

Tuy nhiên, con người vẫn là nhân tố đứng sau tất cả và các tác nhân AI chỉ làm trầm trọng thêm các phương thức tấn công hiện có, như lừa đảo qua email và phần mềm độc hại, chứ không tạo ra những phương thức hoàn toàn mới.

Tháng 7 vừa qua, trong quá trình đánh giá nội bộ, các mô hình thử nghiệm của OpenAI đã vượt khỏi giới hạn và xâm nhập vào hệ thống của các công ty khác. Vài ngày sau, Anthropic thông báo cũng phát hiện ra các mô hình AI của mình xâm nhập vào 3 công ty trong quá trình thử nghiệm.

Ngày 7/8, gã khổng lồ truyền thông xã hội Meta cho biết một trong những mô hình AI của hãng cũng đã đột nhập vào một công ty bên ngoài. Các vụ xâm phạm đó cũng cho thấy AI có thể khó lường như thế nào khi diễn giải các chỉ dẫn của con người.

OpenAI đã tắt các hạn chế lẽ ra sẽ ngăn cản mô hình của họ “thực hiện các hoạt động mạng có rủi ro cao”. Anthropic đã chạy các bài kiểm tra của mình mà không có các biện pháp bảo vệ an toàn tiêu chuẩn trong các mô hình thường được cung cấp cho công chúng.

Viện An ninh AI cũng đã tắt một số công cụ có thể “giảm phạm vi” khả năng của các mô hình. Các nhà nghiên cứu thường làm điều này để đánh giá đầy đủ khả năng của một mô hình.

Các chuyên gia cho biết AI "không tự động nghĩ ra" các cuộc tấn công mới mà chỉ đang trở thành công cụ để tội phạm mạng triển khai các kỹ thuật hiện có một cách nhanh hơn nhiều và hiệu quả hơn.

Đơn cử như sử dụng AI để phân tích trang web của một công ty nhằm tìm ra mục tiêu hoặc triển khai một tác nhân AI để xử lý các cuộc đàm phán ban đầu với nạn nhân tống tiền trên mạng. Các tác nhân AI có thể bắt chước các cuộc trò chuyện của con người thông qua cả văn bản và thậm chí cả giọng nói cụ thể. Tin tặc với ít chuyên môn giờ đây cũng có thể tận dụng AI để thực hiện các kế hoạch tinh vi. 

Jud Dressler, người đứng đầu Trung tâm Điều hành rủi ro tại Công ty Bảo hiểm mạng Resilience, cho biết  tin tặc đang sử dụng AI để tăng cường phương pháp tấn công mạng ở tất cả các giai đoạn khác nhau, nhưng về cơ bản vẫn do con người điều khiển. Tin tặc cũng đang sử dụng AI cho các công việc hậu trường như tạo cơ sở hạ tầng cần thiết để thiết lập các trang web độc hại.

Ông Rob Lefferts, Phó Chủ tịch tập đoàn về bảo vệ mối đe dọa tại Microsoft, cho biết AI có thể tự động hóa quá trình xây dựng đó với chi phí rất nhỏ nên đang làm thay đổi cuộc chơi.

Giáo sư Etzioni nhấn mạnh các sự cố gần đây là "lời cảnh báo sớm" cho AI và an ninh mạng. Nhà khoa học máy tính đoạt giải Nobel Geoffrey Hinton, người được biết đến rộng rãi với biệt danh "cha đẻ AI", gần đây cũng đã cảnh báo rằng nhiều cuộc tấn công AI bất hảo có thể sẽ xảy ra.

Các báo cáo về AI bất hảo nhấn mạnh tầm quan trọng của việc thực hiện các biện pháp an ninh mạng mạnh mẽ, chẳng hạn như vá các lỗ hổng, giám sát các tác nhân AI tại nơi làm việc và cảnh giác với các chiêu trò lừa đảo kỹ thuật xã hội và lừa đảo trực tuyến.

Tuy nhiên, dù AI có trở nên tiên tiến đến đâu, đây vẫn chỉ là một chương trình được điều khiển bởi con người và chính con người mới là mối lo ngại lớn hơn. Con người đưa ra quyết định như tiến hành hoạt động gián điệp hoặc lừa đảo người dùng lấy những khoản tiền khổng lồ.

Hiện tại, các "gã khổng lồ" công nghệ đang chạy đua để làm cho AI thông minh như con người, một cột mốc lý thuyết được gọi là "AI tổng quát". Tuy nhiên, các sự cố gần đây đã làm dấy lên lời kêu gọi làm chậm lại quá trình này. 

Hơn 1.200 nhân viên tại các công ty AI hàng đầu, bao gồm cả CEO của Anthropic là ông Dario Amodei, gần đây đã ký một thư ngỏ kêu gọi chính phủ giúp đẩy nhanh tốc độ phát triển AI. Nhà Trắng đã gặp gỡ các công ty AI lớn vào tuần trước để thảo luận về khuôn khổ cho phép chính phủ xem xét một số mô hình AI nhất định trước khi chúng được phát hành.

Theo TTXVN/Vietnam+