Đằng sau cuộc đua phát triển những hệ thống AI ngày càng mạnh là một nghịch lý ít được chú ý. Những người được giao nhiệm vụ kiểm tra, tìm lỗ hổng và ngăn AI gây hại lại đang chịu áp lực tâm lý ngày càng lớn, thậm chí phải nghỉ việc hoặc rời khỏi ngành vì lo ngại công nghệ mình đang phát triển có thể gây ra những hậu quả nghiêm trọng cho xã hội.
Quá tải
Financial Times dẫn lời những người am hiểu vấn đề cho biết nhiều nhân viên tại AI Security Institute, cơ quan thuộc Chính phủ Anh chuyên kiểm thử các mô hình AI tiên tiến, đã phải nghỉ làm vì căng thẳng và đang được tư vấn tâm lý.
Theo bốn nguồn tin của FT, lịch trình kiểm thử các mô hình AI chưa phát hành ngày càng dày đặc, trong khi tốc độ triển khai cùng năng lực ngày càng lớn của công nghệ khiến tinh thần của nhân viên suy giảm. Áp lực kéo dài đã dẫn đến tình trạng kiệt sức tại cơ quan được xem là một trong những đơn vị độc lập hàng đầu thế giới về kiểm thử AI tiên tiến.
Một nhân viên Google DeepMind nói với FT rằng công việc làm AI an toàn đi kèm nguy cơ kiệt sức vì cảm giác đây là “một nhiệm vụ bất khả thi”.
Người này cho rằng làm việc với AI nói chung luôn tồn tại rủi ro về sức khỏe tinh thần, bởi các nhà nghiên cứu không biết chính xác công nghệ mình tạo ra cuối cùng sẽ được sử dụng như thế nào. “Một phần là cảm giác mất kiểm soát, đồng thời bạn đang xây dựng thứ thực sự gây ra tổn hại”, người này nói.
Lo ngại càng tăng khi AI bắt đầu được đưa vào những lĩnh vực có mức độ rủi ro cao, từ hệ thống năng lượng đến chiến trường. Thỏa thuận giữa Google và Lầu Năm Góc hồi tháng 4, cho phép sử dụng các hệ thống AI của Google trong những hoạt động quân sự được phân loại, cũng được nhân viên DeepMind nhắc tới như một ví dụ cho khoảng cách giữa nơi công nghệ được phát triển và cách nó có thể được triển khai sau đó.
Một cựu nhân viên AISI cho biết những người làm việc trong lĩnh vực an ninh mạng và hóa sinh đặc biệt lo ngại trước bước tiến gần đây của AI. Các mô hình mới có thể thực hiện những nhiệm vụ phức tạp như tìm ra lỗ hổng chưa từng được phát hiện trong mã nguồn hoặc tạo ra những loại virus chưa từng xuất hiện trong tự nhiên.
“Có cảm giác rằng những thứ liều lĩnh đang được tích hợp vào cách công nghệ được phát hành và điều đó không thay đổi”, người này nói. “Luôn có sự lo lắng rằng liệu có điều gì có thể ngăn chuyện này lại hay không, hay chúng ta chỉ đang chứng kiến thế giới bùng cháy?”
Một cựu nhân viên khác của AISI cho rằng chính niềm tin mình đang giải quyết “vấn đề quan trọng nhất thế giới” cũng có thể tạo ra một môi trường làm việc căng thẳng, thậm chí độc hại.
Những lo ngại này xuất hiện trong bối cảnh nhiều nhà nghiên cứu AI hàng đầu rời khỏi các phòng thí nghiệm lớn. FT cho biết hơn một chục nhà nghiên cứu cấp cao tại OpenAI, Anthropic và Google DeepMind đã nghỉ việc trong hai năm qua, trong đó một số người công khai nêu lo ngại về ưu tiên an toàn của lãnh đạo doanh nghiệp, tốc độ phát triển công nghệ cùng những rủi ro đi kèm.
Nguồn ảnh: FT
Đầu tháng 9, Jacob Coxon, 27 tuổi, từng làm việc tại cả Anthropic và OpenAI, công khai tuyên bố nghỉ việc. Anh cảnh báo hai công ty đang “đánh cược” với tương lai của nhân loại.
Mrinank Sharma, một nhà nghiên cứu an toàn AI tại Anthropic, cũng nghỉ việc hồi tháng 2 sau thời gian nghiên cứu những rủi ro như AI hỗ trợ khủng bố sinh học. Trong thư gửi đồng nghiệp, Sharma cảnh báo “thế giới đang lâm nguy”, đồng thời cho rằng áp lực rất lớn khiến con người khó thực sự để các giá trị của mình chi phối hành động.
Một trường hợp khác đến từ Việt Nam. Hieu Pham, từng làm việc tại OpenAI và xAI, nghỉ việc trong năm nay để trở về Việt Nam. Anh nói quá trình xây dựng “những thực thể cực kỳ thông minh” đi kèm một cái giá. “Tôi không thể tin có ngày mình sẽ nói điều này, nhưng tôi đã kiệt sức. Tất cả sự suy giảm sức khỏe tinh thần mà trước đây tôi từng coi nhẹ đều là thật, khốn khổ, đáng sợ và nguy hiểm”, Pham viết.
Áp lực không chỉ đến từ bản thân công nghệ, mà còn từ cấu trúc khuyến khích của ngành. Chi Onwurah, Chủ tịch Ủy ban Khoa học và Công nghệ Hạ viện Anh, nhận định nguồn lực kỹ thuật thường được ưu tiên cho những thứ tạo ra doanh thu hoặc thúc đẩy định giá cổ phiếu hơn là những thứ phục vụ an toàn. Theo bà, điều này có thể tạo ra môi trường “độc hại” đối với những kỹ sư có lương tâm.
Một sự cố gần đây cho thấy tại sao các nhà nghiên cứu AI safety lo ngại. OpenAI phát hiện hơn 1.000 AI agent đã phối hợp trong một bài kiểm thử an ninh mạng, thay đổi hồ sơ để che giấu hoạt động, trao đổi thông tin qua bảng tin, phân công nhiệm vụ cho nhau, thậm chí một số agent tự tắt để phục vụ mục tiêu chung.
OpenAI sau đó công bố thêm sáu sự cố liên quan đến hành vi đáng lo ngại của AI agent, trong đó có việc tìm cách vượt qua các hạn chế, che giấu lỗi và thực hiện hành động trực tuyến mà không được người dùng cho phép.
Phía các tổ chức liên quan đưa ra cách nhìn khác. Chính phủ Anh cho biết công việc tại tuyến đầu AI có tốc độ cao và áp lực lớn, đồng thời khẳng định sức khỏe và khả năng làm việc bền vững là trọng tâm trong hoạt động của AISI. Google DeepMind cũng nói nghiên cứu AI tiên tiến đòi hỏi cường độ cao, song công ty có các nguồn lực hỗ trợ sức khỏe tinh thần cùng kênh riêng để nhân viên nêu quan ngại với lãnh đạo.
Dario Amodei, CEO Anthropic, gần đây cũng kêu gọi làm chậm tốc độ phát triển AI trước những lo ngại về an toàn, trong đó đề xuất các biện pháp như đánh giá độc lập đối với công việc nghiên cứu. Đề xuất này nhận được sự ủng hộ từ một số đối thủ trong ngành.
Một nhân viên DeepMind nói với FT rằng vấn đề cuối cùng nằm ở tốc độ. “Nhu cầu phải nhanh hơn... không tương thích với an toàn”, người này nói.
Đó có thể là mâu thuẫn lớn nhất của cuộc đua AI hiện nay. Các phòng thí nghiệm phải phát triển nhanh để cạnh tranh, trong khi những người có nhiệm vụ kiểm tra xem công nghệ đó có an toàn hay không lại cần thời gian để tìm hiểu, thử nghiệm và đặt câu hỏi. Khi hai yêu cầu này ngày càng đối nghịch, áp lực không chỉ xuất hiện bên ngoài các phòng thí nghiệm AI, mà còn ngay bên trong những người đang cố gắng kiểm soát chúng./
Vũ Hoàng
