Ngăn AI giả mạo "lộng hành"

Việc đưa hành vi sử dụng AI để giả mạo video, hình ảnh, giọng nói của người khác vào nhóm hành vi bị nghiêm cấm vào luật được xem là bước đi kịp thời, tạo cơ sở pháp lý xử lý vi phạm và bảo vệ người dân trước các chiêu trò lừa đảo ngày càng tinh vi.

Gây hậu quả nghiêm trọng

Quốc hội đã thông qua Luật An ninh mạng (sửa đổi), có hiệu lực từ ngày 1-7-2026. Luật quy định nhiều hành vi bị nghiêm cấm về an ninh mạng, trong đó nhấn mạnh không được sử dụng trí tuệ nhân tạo (AI) hoặc công nghệ mới để giả mạo video, hình ảnh, giọng nói của người khác trái quy định của pháp luật. Quy định này được đánh giá là cần thiết trong bối cảnh lạm dụng AI để lừa đảo gia tăng nhanh, gây hậu quả nghiêm trọng cho cá nhân và xã hội.

Thực tế cho thấy tình trạng giả mạo bằng AI diễn ra tràn lan, đặc biệt nhắm vào những người nổi tiếng nhằm tạo lòng tin với công chúng. Anh Đinh Võ Hoài Phương (chủ kênh Khoai Lang Thang), một YouTuber du lịch nổi tiếng tại Việt Nam, vừa qua đã đăng bài thông báo anh đang bị kẻ xấu sử dụng AI làm các video giả chứa hình ảnh và giọng nói nhằm lừa đảo. Dù đã liên tục báo cáo nhưng các trang giả mạo vẫn xuất hiện.

Đáng lo ngại, những video này còn được chạy quảng cáo ẩn, tiếp cận hàng triệu người xem, khiến việc phát hiện và báo cáo gặp nhiều khó khăn. Hệ quả là đã có hàng chục nạn nhân liên hệ với anh sau khi bị lừa. "Mong mọi người cảnh giác và tuyệt đối không tin, không làm theo lời kêu gọi nạp tiền hay đầu tư tiền bạc từ những video giả mạo này" - anh bày tỏ sự bất lực khi người theo dõi mình bị lừa.

Trước đó, ca sĩ Mỹ Tâm đã có bài đăng, thông báo về tình trạng nhiều video và quảng cáo sử dụng hình ảnh, giọng nói AI giả mạo cô để quảng bá sản phẩm bất hợp pháp. Cô khẳng định không tham gia hoặc đại diện cho bất kỳ nội dung, sản phẩm nào ngoại trừ các thương hiệu, sản phẩm được đăng tải bởi kênh chính thức của công ty. Diễn viên Quốc Trường cũng là nạn nhân, bị nhiều fanpage Facebook sử dụng hình ảnh của anh để quảng bá hoạt động cờ bạc, cho vay tiền làm ăn. Ngay sau đó, Quốc Trường chính thức lên tiếng bác bỏ, khẳng định đây là hành vi giả mạo. Ca sĩ - diễn viên Lý Hải cũng bị cắt ghép hình ảnh, giọng nói để quảng bá cho một trang cờ bạc online.

Ngày 8-1, Phòng An ninh mạng và Phòng chống tội phạm sử dụng công nghệ cao - Công an TP HCM đã mời T.T.H và N.T.M.D (cùng ngụ TP HCM) đến làm việc về hành vi đăng tải, chia sẻ thông tin sai sự thật trên mạng xã hội do AI tạo ra. Clip này được lồng ghép hình ảnh, thông tin giả mạo nhằm gây hiểu nhầm, dẫn dắt dư luận theo hướng tiêu cực. Việc này không chỉ xâm phạm quyền, lợi ích hợp pháp của cá nhân mà còn gây nhiễu loạn thông tin, ảnh hưởng tiêu cực đến môi trường mạng.

Chị Trần Thị Lan (ngụ TP HCM) cho biết từng suýt chuyển tiền sau khi xem một video có hình ảnh, giọng nói giống hệt người nổi tiếng kêu gọi đầu tư. "Video nhìn rất thật, nếu không kiểm tra lại thì rất dễ tin" - chị Lan nói.

Đối tượng xấu đã dùng công nghệ AI giả mạo hình ảnh YouTuber Khoai Lang Thang, khiến nhiều người sập bẫy

Quy định rõ trách nhiệm mạng xã hội

Các chuyên gia cho rằng việc đưa hành vi sử dụng AI để giả mạo vào nhóm hành vi bị nghiêm cấm về an ninh mạng là cần thiết, tạo khung pháp lý rõ ràng, có tính răn đe và giúp cơ quan chức năng kịp thời xử lý vi phạm.

Thực tế, AI đã bị lạm dụng để tạo video người nổi tiếng quảng cáo sản phẩm giả, giả giọng nói nhân viên ngân hàng lừa đảo, deepfake lãnh đạo phát ngôn sai sự thật hoặc tạo hình ảnh nhạy cảm nhằm tống tiền, bôi nhọ, gây tổn hại nghiêm trọng đến quyền nhân thân và trật tự xã hội. Các nội dung deepfake trong lĩnh vực tài chính, tiền tệ hay lãnh đạo có thể gây khủng hoảng lòng tin và thiệt hại lớn nếu không được ngăn chặn kịp thời.

Theo cơ quan chức năng, việc tạo lập và phát tán thông tin giả mạo nêu trên không chỉ xâm phạm nghiêm trọng quyền, lợi ích hợp pháp của cá nhân liên quan, mà còn gây nhiễu loạn thông tin, ảnh hưởng tiêu cực đến môi trường thông tin lành mạnh trên không gian mạng.

Ông Trần Quý, Viện trưởng Viện Kinh tế số Việt Nam, cho biết để quy định cấm sử dụng AI giả mạo thực sự phát huy hiệu quả, cần sớm ban hành các văn bản hướng dẫn chi tiết. Trọng tâm là làm rõ khái niệm và phạm vi của hành vi "giả mạo bằng AI", phân định ranh giới giữa sáng tạo hợp pháp như sản phẩm nghệ thuật, châm biếm, hài kịch với hành vi xâm phạm quyền nhân thân, lừa đảo hoặc bôi nhọ. Ông Quý cũng cho rằng cần quy định rõ trách nhiệm của các nền tảng mạng xã hội và đơn vị cung cấp công cụ AI, bao gồm nghĩa vụ phát hiện, kiểm soát và gỡ bỏ nhanh nội dung giả mạo, đồng thời nghiên cứu áp dụng các biện pháp kỹ thuật như gắn nhãn nội dung do AI tạo ra, xây dựng cơ chế giám định deepfake. Bên cạnh đó, cần có quy định bảo vệ riêng đối với các nhóm dễ bị lợi dụng như người nổi tiếng, trẻ em và cán bộ, công chức, nhằm hạn chế nguy cơ bị xâm hại trên không gian mạng.

Ở góc độ công nghệ, ông Võ Đỗ Thắng, Giám đốc Trung tâm An ninh mạng Athena, cho rằng việc cấm sử dụng AI để giả mạo là phù hợp với xu hướng quốc tế, nhằm ngăn chặn hành vi lợi dụng công nghệ để lừa đảo, bôi nhọ, xâm hại quyền và lợi ích hợp pháp của cá nhân, tổ chức.

Ông Thắng nhấn mạnh trách nhiệm không chỉ thuộc về cơ quan quản lý mà còn đặt lên vai các nền tảng số và người dùng. Các mạng xã hội như Facebook, TikTok phải chủ động phát hiện, ngăn chặn, gỡ bỏ nhanh nội dung AI giả mạo; đồng thời cần có chế tài đối với nền tảng nếu chậm trễ hoặc không xử lý theo yêu cầu của cơ quan chức năng và người dùng. "Người dân cần nâng cao cảnh giác, chủ động kiểm chứng thông tin, không tin tưởng tuyệt đối vào video, hình ảnh, giọng nói trên mạng" - ông Thắng khuyến cáo.