Các tổ chức nghiên cứu ở châu Âu cho biết deepfake đang tạo ra tác động kép đáng lo ngại: vừa làm xói mòn niềm tin của công chúng vào thông tin, vừa mở rộng không gian cho các hành vi xâm hại cá nhân.

Ảnh minh họa. (Nguồn: AFP)

Deepfake - công nghệ tạo hình ảnh, video và âm thanh giả mạo bằng trí tuệ nhân tạo (AI) nhằm mạo danh người thật - đang nổi lên như một mối đe dọa mang tính hệ thống tại châu Âu, gây ra những hệ lụy nghiêm trọng đối với an ninh số, quyền riêng tư và trật tự xã hội.

Phóng viên TTXVN tại Brussels dẫn thông tin từ các cơ quan giám sát và tổ chức nghiên cứu tại châu Âu cho biết deepfake đang tạo ra "tác động kép" đáng lo ngại: vừa làm xói mòn niềm tin của công chúng vào thông tin, vừa mở rộng không gian cho các hành vi xâm hại cá nhân.

Điều khiến công nghệ này đặc biệt nguy hiểm là khả năng đánh trực tiếp vào phản xạ tự nhiên của con người-tin vào những gì mắt thấy tai nghe-khiến ranh giới giữa thật và giả ngày càng trở nên mờ nhạt.

Các dữ liệu giám sát cho thấy mức độ lan rộng đáng lo ngại của hiện tượng này. Trong hơn 2.000 trường hợp kiểm chứng thông tin được ghi nhận tại châu Âu trong năm nay, gần 1/3 có liên quan đến nội dung bị thao túng bởi AI.

Một khảo sát của Tổ chức Hợp tác và Phát triển Kinh tế (OECD) trên 21 quốc gia cũng chỉ ra rằng người dân chỉ nhận diện chính xác thông tin thật trong khoảng 60% trường hợp-một lỗ hổng đáng kể trong khả năng phân biệt thông tin trên môi trường số.

Khác với tin giả thông thường-vốn có thể bị phát hiện thông qua đối chiếu nguồn hoặc bối cảnh-deepfake đánh lừa trực tiếp giác quan con người nhờ mức độ tinh vi ngày càng cao.

Theo Nhóm Nghiên cứu Info-Tech, đây là hình thức tấn công mạng thế hệ mới, có khả năng vượt qua nhiều biện pháp an ninh truyền thống bằng cách "xâm nhập" vào nhận thức con người thay vì hệ thống kỹ thuật. Các chuyên gia cảnh báo nguy cơ mất dữ liệu, lừa đảo tài chính, thao túng chính trị và suy giảm uy tín tổ chức đang gia tăng với tốc độ đáng lo ngại.

Bên cạnh các rủi ro về an ninh thông tin, deepfake đang bị lạm dụng nghiêm trọng trong các hành vi xâm hại tình dục. Báo cáo của Liên hợp quốc cho biết phần lớn nội dung deepfake trên mạng mang tính chất khiêu dâm, với khoảng 98% video deepfake được xác định là nội dung khiêu dâm không có sự đồng thuận - và gần như toàn bộ nhắm vào phụ nữ.

Quỹ Nhi đồng Liên hợp quốc (UNICEF) ghi nhận ít nhất 1,2 triệu thanh thiếu niên đã trở thành nạn nhân của việc bị tạo hình ảnh giả mạo mang tính khiêu dâm trong năm qua.

Tại một số quốc gia châu Âu, nghiên cứu cho thấy gần 1/4 người được khảo sát từng tiếp xúc với "deepnude" - hình ảnh khỏa thân giả mạo lan truyền trên các nền tảng như Instagram, Snapchat hay X.

Đáng lo ngại hơn, hơn 60% người từng biết đến công cụ này thừa nhận đã thử tạo nội dung tương tự, phản ánh xu hướng bình thường hóa hành vi xâm hại trong môi trường số.

Tại Bỉ - quốc gia được đánh giá là phản ánh rõ xu hướng chung của châu Âu-khoảng 13% thanh thiếu niên được khảo sát cho biết từng nhận nội dung "deepnude."

Các nghiên cứu của Đại học Vrije Brussel (VUB) cũng ghi nhận sự lan truyền công khai của deepfake tình dục trên các nhóm mạng xã hội và nền tảng nhắn tin.

Đáng chú ý, một thành viên hoàng gia Bỉ từng bị phát tán hình ảnh giả mạo bằng AI, trong khi tại châu Âu, nhiều nghị sĩ và quan chức cũng lên tiếng về việc bị sử dụng hình ảnh trái phép-cho thấy deepfake không còn giới hạn ở nạn nhân ẩn danh mà đã mở rộng sang các nhân vật có tầm ảnh hưởng.

Trước tình hình trên, nhiều quốc gia châu Âu đã có các phản ứng pháp lý. Ở cấp độ Liên minh châu Âu (EU), Đạo luật AI (AI Act) yêu cầu minh bạch và dán nhãn nội dung do AI tạo ra, đồng thời cấm các hành vi sử dụng AI để tạo nội dung tình dục không đồng thuận hoặc khai thác hình ảnh trẻ em.

Đạo luật Dịch vụ kỹ thuật số (DSA) cũng tăng cường trách nhiệm của các nền tảng, với mức phạt có thể lên tới 6% doanh thu toàn cầu nếu vi phạm.

Tuy nhiên, các chuyên gia nhấn mạnh rằng thách thức lớn nhất nằm ở khoảng cách giữa tốc độ phát triển công nghệ và khả năng điều chỉnh của pháp luật.

Luật pháp vốn mang tính phản ứng, trong khi deepfake có thể lan truyền và gây hậu quả trước khi các biện pháp can thiệp kịp được triển khai.

Trong bối cảnh đó, nhiều chuyên gia kêu gọi châu Âu chuyển từ cách tiếp cận bị động sang chủ động, kết hợp hoàn thiện khung pháp lý, nâng cao trách nhiệm của các nền tảng công nghệ, phát triển công cụ nhận diện nội dung giả và tăng cường giáo dục kỹ năng số cho người dân.

Deepfake, theo các chuyên gia, không chỉ là vấn đề công nghệ mà là thách thức mang tính hệ thống, phản ánh sự đứt gãy trong quản trị không gian số toàn cầu-nơi câu hỏi đặt ra không chỉ là kiểm soát công nghệ như thế nào, mà còn là liệu xã hội có thể duy trì được niềm tin vào thông tin trong kỷ nguyên mà "thấy chưa chắc đã là thật".

Theo TTXVN/Vietnam+