Chào ông, trước khi AI trở nên phổ biến, các hình thức lừa đảo trực tuyến đã tồn tại trong nhiều năm. Theo ông, AI đã làm thay đổi "cuộc chơi" này như thế nào?
Trước khi AI trở nên phổ biến, các hình thức lừa đảo trực tuyến đã tồn tại từ lâu nhưng phần lớn còn khá sơ sài và dễ nhận biết. Nếu nhìn lại khoảng 5 năm trước, chúng ta thường bắt gặp những email hoặc tin nhắn lừa đảo với nhiều lỗi chính tả hoặc nội dung quá lộ liễu.
Ngày nay thì hoàn toàn khác. Thậm chí, bạn có thể nhận được một cuộc gọi video mà người xuất hiện trên màn hình trông giống hệt cha mẹ mình. Công nghệ đã phát triển đến mức đó.
Tôi không cho rằng số lượng kẻ lừa đảo sẽ tăng đột biến, mặc dù AI chắc chắn khiến sức hấp dẫn của loại tội phạm này lớn hơn trước. Điều thực sự thay đổi là AI đã giúp gia tăng năng lực của kẻ tấn công lên một mức hoàn toàn mới. Ngày nay, chỉ một cá nhân cũng có thể thực hiện khối lượng công việc mà trước đây phải cần đến cả một đội ngũ kỹ thuật.
Ông Colin Blackwell, đồng sáng lập công ty công nghệ tài chính Hyperion Fintech của Thụy Sĩ.
Tất nhiên, các bên phòng thủ cũng có thể ứng dụng AI. Tuy nhiên, trong mọi lĩnh vực an ninh mạng, phòng thủ luôn khó hơn tấn công. Ở thời điểm hiện tại, cán cân này vẫn đang nghiêng về phía kẻ tấn công và đáng tiếc là họ đang nắm lợi thế.
Theo ông, đâu là hình thức lừa đảo ứng dụng AI nguy hiểm nhất hiện nay?
Ông Colin Blackwell: Nhiều người sẽ ngay lập tức nghĩ đến deepfake, công nghệ sao chép giọng nói hay những tin nhắn lừa đảo được tạo ra với độ chân thực rất cao. Và đúng là tất cả những hình thức đó đều rất nguy hiểm.
Tuy nhiên, điều khiến tôi lo ngại hơn là những gì có thể xảy ra trong tương lai gần.
Hãy hình dung một hệ thống AI thông minh vượt xa mức trung bình của con người và liên tục tự cải thiện cách thức thiết kế các kịch bản lừa đảo. Thay vì chỉ sao chép những chiêu trò đã tồn tại, AI có thể tự tạo ra những phương thức lừa đảo hoàn toàn mới mà ngay cả một kẻ lừa đảo giàu kinh nghiệm cũng chưa chắc đã nghĩ tới.
Tất nhiên, để lạm dụng AI theo cách đó, kẻ xấu sẽ phải vượt qua rất nhiều cơ chế bảo vệ. Các công ty AI hàng đầu hiện nay cũng đang nỗ lực xây dựng các biện pháp nhằm ngăn chặn điều này.
Tuy nhiên, nếu một tội phạm có thể điều khiển AI chỉ bằng một mục tiêu đơn giản như "tối đa hóa lợi nhuận từ các vụ lừa đảo", thì theo tôi, đó sẽ là một viễn cảnh đáng sợ hơn rất nhiều so với những công nghệ deepfake mà chúng ta đang chứng kiến hiện nay.
AI ĐANG TRỞ THÀNH "CHUYÊN GIA TÂM LÝ' ĐỨNG SAU CÁC CUỘC LỪA ĐẢO
Chỉ với các công cụ AI công khai, miễn phí hoặc có chi phí thấp, hiện nay kẻ gian có thể làm được những gì mà trước đây cần đến cả một đội ngũ kỹ thuật?
Trước hết, AI cho phép kẻ gian có thể trao đổi và lên ý tưởng theo hình thức đối thoại, gần như đang làm việc với một cộng sự.
Phần lớn các hệ thống AI phổ biến hiện nay đều từ chối hỗ trợ những hành vi phạm pháp. Tuy nhiên, nếu ai đó tìm được cách vượt qua các cơ chế bảo vệ này, AI sẽ trở thành một công cụ cực kỳ mạnh trong việc nghiên cứu, phân tích khối lượng lớn thông tin công khai và cá nhân hóa nội dung ở mức rất sâu cho từng mục tiêu cụ thể.
AI có thể giúp tạo ra một tin nhắn mở đầu rất thuyết phục. Tuy nhiên, theo tôi, điều đáng chú ý hơn lại nằm ở những gì diễn ra sau đó.
Khi nạn nhân bắt đầu phản hồi, kẻ lừa đảo có thể liên tục đưa từng câu trả lời đó vào AI và hỏi: "Người này đang nghĩ gì?" hoặc "Lúc này nên trả lời thế nào để đạt hiệu quả cao nhất?".
Khi đó, AI gần như trở thành một chuyên gia tâm lý luôn đồng hành với kẻ lừa đảo, liên tục phân tích diễn biến cuộc trò chuyện và điều chỉnh cách phản hồi nhằm tạo ra tác động tâm lý mạnh nhất đối với nạn nhân.
Thực tế, rất nhiều người đã sử dụng AI theo đúng cách này nhưng với mục đích tích cực. Họ có thể nhờ AI phân tích một cuộc hội thoại để hiểu rõ hơn đồng nghiệp, bạn bè hoặc khách hàng của mình.
Khi được sử dụng đúng mục đích, đây là một công cụ rất hữu ích. Nhưng nếu rơi vào tay tội phạm, chính năng lực đó lại bị khai thác để tối đa hóa khả năng thao túng tâm lý, khiến các kịch bản lừa đảo trở nên tinh vi và thuyết phục hơn rất nhiều.
CHỈ VÀI GIÂY GHI ÂM CŨNG ĐỦ ĐỂ AI SAO CHÉP GIỌNG NÓI
Công nghệ sao chép giọng nói bằng AI hiện nay đã phát triển đến mức nào?
Công nghệ này đã đạt đến một trình độ đáng kinh ngạc. Trong nhiều trường hợp, giọng nói do AI tạo ra gần như không thể phân biệt với giọng thật của một người. Điều này không chỉ đúng với tiếng Anh mà còn áp dụng cho rất nhiều ngôn ngữ khác.
Dù hiện nay vẫn còn một vài điểm chưa hoàn hảo, tôi không nghĩ những hạn chế đó sẽ còn tồn tại trong tương lai gần. Công nghệ này đang phát triển với tốc độ cực kỳ nhanh.
Tôi thậm chí còn khuyến khích mọi người tự trải nghiệm các ứng dụng AI mô phỏng giọng nói đang được cung cấp hợp pháp trên thị trường. Chỉ cần trực tiếp trải nghiệm một lần, bạn sẽ hiểu vì sao công nghệ này không còn là câu chuyện của tương lai mà đã trở thành một thách thức an ninh hiện hữu.
Khi tận mắt chứng kiến và trực tiếp nghe những giọng nói do AI tạo ra, bạn sẽ nhận ra đây không còn là điều chỉ xuất hiện trong các bộ phim khoa học viễn tưởng, mà đã trở thành một rủi ro an ninh có thật trong cuộc sống ngày nay.
Một đoạn ghi âm dài bao nhiêu giây là đủ để sao chép giọng nói của một người?
Câu trả lời cho câu hỏi này liên tục thay đổi bởi công nghệ vẫn đang phát triển với tốc độ rất nhanh.
Nếu như cách đây vài năm cần đến một đoạn ghi âm dài khoảng một phút hoặc hơn, thì ngày nay, trong một số trường hợp, chỉ vài giây ghi âm cũng đã đủ để AI sao chép giọng nói của một người.
Đây cũng là một trong những lý do tôi luôn khuyến khích mọi người cẩn trọng với những nội dung mình chia sẻ công khai. Mỗi đoạn ghi âm, podcast, bài phỏng vấn hay video được đăng tải lên Internet đều có thể trở thành dữ liệu để những kẻ có ý đồ xấu khai thác và huấn luyện các mô hình AI sao chép giọng nói.
Điều đó không có nghĩa chúng ta nên ngừng sáng tạo hay chia sẻ nội dung. Tuy nhiên, mỗi người cần nhận thức rõ hơn rằng dấu vết số (digital footprint) của mình có giá trị. Đáng tiếc là giá trị đó không chỉ hữu ích đối với chính chúng ta, mà còn có thể bị tội phạm mạng lợi dụng cho các mục đích xấu.
Trong các vụ lừa đảo giả mạo người thân gọi điện để vay hoặc yêu cầu chuyển tiền, đâu là những dấu hiệu giúp nhận biết cuộc gọi có thể được tạo bằng AI hoặc sử dụng công nghệ deepfake?
Sự thật không mấy dễ chịu là đôi khi bạn sẽ không thể nhận ra, ngay cả khi đó là một cuộc gọi video.
Thay vì cố gắng xác định xem hình ảnh hay giọng nói có phải là giả hay không, tôi cho rằng chúng ta nên thay đổi cách kiểm chứng. Nếu ai đó bất ngờ yêu cầu chuyển tiền hoặc cố tạo cảm giác cấp bách, thì bản thân điều đó đã là một dấu hiệu cảnh báo.
Hãy đặt một câu hỏi mà câu trả lời không thể tìm thấy trên Internet hoặc từ các nguồn thông tin công khai. Điều này cũng giống như trong các bộ phim, khi một người hỏi: "Chúng ta gặp nhau lần đầu ở đâu?" hoặc nhắc đến một kỷ niệm chỉ những người trong gia đình mới biết. Đó phải là thông tin mà chỉ đúng người thật mới có thể trả lời.
Theo tôi, đây là cách bảo vệ hiệu quả hơn rất nhiều so với việc cố phân biệt xem giọng nói hay hình ảnh trong cuộc gọi có phải là thật hay không.
Nhóm đối tượng nào hiện đang trở thành mục tiêu chính của các vụ lừa đảo sử dụng AI?
Nhiều người vẫn có suy nghĩ rằng nạn nhân của các vụ lừa đảo chủ yếu là người cao tuổi. Tuy nhiên, thực tế không hẳn như vậy.
Dữ liệu hiện nay lại cho thấy một xu hướng khác. Người trẻ, đặc biệt là những người dưới khoảng 25 tuổi, dành phần lớn thời gian trong môi trường trực tuyến. Họ thường xuyên sử dụng mạng xã hội, các nền tảng số và các công cụ giao tiếp trực tuyến, vì vậy cũng có nhiều khả năng trở thành mục tiêu của các chiêu trò lừa đảo hơn.
Điều đó hoàn toàn không có nghĩa người trẻ kém hiểu biết hay kém thông minh hơn. Đơn giản là họ có ít trải nghiệm sống hơn, trong khi lại hiện diện trên môi trường số nhiều hơn các nhóm tuổi khác.
Và cũng như bất kỳ loại tội phạm nào, những kẻ lừa đảo luôn tìm đến nơi có nhiều cơ hội nhất.
Dựa trên những vụ lừa đảo mà ông đã nghiên cứu, những yếu tố tâm lý nào thường bị kẻ gian khai thác hiệu quả nhất?
Tâm lý con người về cơ bản không thay đổi trong suốt hàng nghìn năm qua. Chúng ta đều biết điều gì có thể tác động đến cảm xúc và hành vi của con người.
Nỗi sợ hãi, tình yêu, lòng tham, niềm tự hào, sự tò mò, uy quyền, cảm giác cấp bách và lòng tin từ lâu đã là những yếu tố có sức chi phối rất mạnh đối với các quyết định của con người.
Điều AI làm thay đổi không phải là bản chất của những cảm xúc đó, mà là khả năng cá nhân hóa cách khai thác chúng đối với từng cá nhân.
Điều đáng lo ngại hơn là hiện nay đã xuất hiện những cộng đồng trên Internet chuyên nghiên cứu, phát triển và thậm chí mua bán các kỹ thuật tấn công tâm lý để tích hợp vào hệ thống AI.
Thay vì chỉ yêu cầu AI "thuyết phục một người nào đó", họ xây dựng những phương pháp chuyên biệt dựa trên nỗi sợ hãi, uy quyền, cảm giác tội lỗi, lòng tham hoặc các yếu tố kích thích cảm xúc khác, rồi đóng gói chúng thành những prompt hoặc khung hành vi (behavioural frameworks) có thể tái sử dụng nhiều lần.
Đó là một "góc tối" của Internet mà không nhiều người biết đến, nhưng nó thực sự tồn tại. Đây cũng là một ví dụ cho thấy AI đang khiến các kỹ thuật thao túng tâm lý trở nên tinh vi, bài bản và hiệu quả hơn rất nhiều so với trước đây.
Để tạo ra một kịch bản lừa đảo đủ sức thuyết phục, kẻ gian thường cần những thông tin gì về nạn nhân và họ lấy những thông tin đó từ đâu?
Câu trả lời thực ra rất đơn giản, và có lẽ cũng khiến nhiều người bất ngờ: đó là những thông tin được công khai trên Internet.
Phần lớn chúng ta đều để lại trên môi trường số nhiều thông tin hơn mình tưởng. Chính chúng ta là người tạo ra những dữ liệu đó thông qua mạng xã hội, website doanh nghiệp, hồ sơ LinkedIn, các bài phỏng vấn, hình ảnh, video và vô số dấu vết số (digital footprint) khác.
Có lẽ chỉ những người sống biệt lập trên một đỉnh núi, gần như tách khỏi thế giới hiện đại, mới không để lại bất kỳ dấu vết nào trên Internet. Nhưng có lẽ họ cũng không phải là đối tượng mà những kẻ lừa đảo nhắm tới.
Đối với phần lớn chúng ta, AI giúp việc thu thập những mảnh thông tin rời rạc đó trở nên nhanh chóng và dễ dàng hơn bao giờ hết, đồng thời kết nối chúng lại để xây dựng nên một bức chân dung rất chính xác về từng cá nhân.
Chính điều này giúp kẻ gian tạo ra những tin nhắn hoặc kịch bản lừa đảo mang tính cá nhân hóa cao, khiến nạn nhân cảm thấy quen thuộc, đáng tin và rất khó nghi ngờ.
KẺ LỪA ĐẢO ĐƠN LẺ THÌ NHẮM VÀO CÁC CÁ NHÂN, TỔ CHỨC NHẮM VÀO DOANH NGHIỆP
Nhiều người cho rằng chỉ cá nhân mới trở thành nạn nhân của các vụ lừa đảo. Theo ông, doanh nghiệp có thể bị tấn công bằng AI theo những hình thức nào?
Trên thực tế, doanh nghiệp luôn là mục tiêu hấp dẫn hơn nhiều so với các cá nhân. Một doanh nghiệp sở hữu nhiều tài sản hơn, nhiều tài sản trí tuệ hơn và cũng nắm giữ lượng thông tin có giá trị lớn hơn rất nhiều.
Những kẻ lừa đảo hoạt động đơn lẻ thường nhắm vào từng cá nhân. Trong khi đó, các tổ chức tội phạm có tổ chức lại hướng mục tiêu đến các doanh nghiệp. Khi giá trị thu được lớn hơn, các cuộc tấn công cũng trở nên bài bản, tinh vi và có sự chuẩn bị kỹ lưỡng hơn.
Điều mà tôi thấy khá thú vị là nhiều doanh nghiệp hoạt động hợp pháp vẫn còn khá thận trọng trong việc ứng dụng AI. Điều đó hoàn toàn dễ hiểu, bởi họ phải cân nhắc đến các vấn đề về quản trị, tuân thủ, quản lý rủi ro và bảo vệ dữ liệu.
Trong khi đó, các tổ chức tội phạm lại không hề bị ràng buộc bởi bất kỳ mối bận tâm nào như vậy. Họ đơn giản là sử dụng những công cụ AI mạnh nhất mà họ có thể tiếp cận được.
Theo tôi, đây cũng chính là một trong những lý do thuyết phục nhất để doanh nghiệp chủ động ứng dụng AI. AI giờ đây không còn chỉ là công cụ giúp nâng cao năng lực cạnh tranh với các doanh nghiệp khác, mà còn là một phương tiện quan trọng để tự bảo vệ mình trước những đối tượng đang khai thác AI với toàn bộ khả năng của công nghệ này.
Theo ông, trong cuộc đua giữa AI tạo ra nội dung giả mạo và AI phát hiện nội dung giả mạo, bên nào đang chiếm ưu thế?
Thực tế cho thấy những người có ý đồ xấu thường hành động nhanh hơn những người đang nỗ lực bảo vệ và phòng chống chúng.
Đôi khi tôi nhìn vào mức độ đầu tư của những kẻ lừa đảo, ngay cả từ trước khi AI xuất hiện, và nghĩ rằng nếu họ lựa chọn một con đường khác, có lẽ họ đã trở thành những nhân viên xuất sắc. Họ có đủ động lực, sự sáng tạo và quyết tâm để đạt được mục tiêu của mình.
Và khi trao AI vào tay những con người đó, năng lực của họ được nâng lên một cấp độ hoàn toàn khác. Từ những cá nhân vốn đã rất giỏi, họ gần như sở hữu những khả năng vượt xa giới hạn thông thường của con người.
Các bên phòng thủ cũng đang dần bắt kịp. Hiện nay đã có cả một ngành công nghiệp an ninh mạng phát triển các hệ thống AI để phát hiện và chống lại AI.
Tuy nhiên, lợi thế vẫn thường nghiêng về phía kẻ tấn công, bởi trong hầu hết các trường hợp, chi phí để phát động một cuộc tấn công luôn thấp hơn rất nhiều so với chi phí để xây dựng và duy trì các biện pháp phòng vệ.
Theo ông, những hình thức lừa đảo ứng dụng AI nào sẽ phát triển mạnh nhất trong vòng 3–5 năm tới?
Tôi muốn quay trở lại điểm mà tôi đã đề cập trước đó.
Trong tương lai, vấn đề không chỉ là những chiêu trò lừa đảo hiện nay trở nên tinh vi hơn. Điều đáng lo ngại hơn là AI sẽ có khả năng tự thiết kế những hình thức lừa đảo hoàn toàn mới, với mức độ phức tạp và khả năng tác động đến tâm lý con người vượt xa những gì phần lớn tội phạm có thể tự nghĩ ra.
AI sẽ ngày càng đảm nhiệm vai trò tư duy, phân tích và xây dựng kịch bản, trong khi kẻ lừa đảo chỉ cần đưa ra mục tiêu cuối cùng.
BA LỜI KHUYÊN ĐỂ KHÔNG TRỞ THÀNH NẠN NHÂN AI
Nếu chỉ có thể đưa ra ba lời khuyên để giúp mọi người tự bảo vệ mình trước các hình thức lừa đảo ứng dụng AI, ông sẽ khuyến nghị điều gì?
Thứ nhất, hãy hiểu rõ đối thủ của bạn đã trở nên nguy hiểm đến mức nào. Hãy dành thời gian tìm hiểu các vụ lừa đảo có thật hoặc xem những video phân tích về các hình thức lừa đảo hiện nay. Khi hiểu được AI đã giúp các đối tượng lừa đảo có thể làm được những gì, bạn sẽ giảm đáng kể nguy cơ trở thành nạn nhân.
Thứ hai, nếu ai đó có những biểu hiện bất thường, kể cả là người bạn tin tưởng, hãy xem đó là một dấu hiệu cần được xác minh. Nếu đó thực sự là bạn bè hoặc người thân của bạn, họ sẽ không cảm thấy phiền nếu bạn lịch sự nói: "Cho mình kiểm tra lại một chút để chắc chắn đúng là bạn nhé." Trong bối cảnh hiện nay, việc nâng cao cảnh giác đã trở thành một phần tất yếu của cuộc sống số.
Cuối cùng, đừng xem nhẹ những nguyên tắc bảo mật cơ bản. Hãy bật xác thực hai yếu tố (2FA) cho các tài khoản quan trọng, sử dụng mật khẩu mạnh và khó đoán, đồng thời tuân thủ các nguyên tắc cơ bản về an toàn thông tin.
Những nguyên tắc bảo mật tưởng chừng đơn giản nhưng đã đúng từ 5 năm trước thì đến hôm nay vẫn còn nguyên giá trị, thậm chí còn quan trọng hơn. Công nghệ có thể thay đổi rất nhanh, nhưng những thói quen bảo mật tốt vẫn luôn là một trong những "lá chắn" hiệu quả nhất giúp chúng ta bảo vệ mình trước các hình thức lừa đảo ngày càng tinh vi.
