Theo trang tin Wired, một liên minh hiếm thấy gồm các lãnh đạo hàng đầu trong lĩnh vực trí tuệ nhân tạo đang lên tiếng cảnh báo về một trong những rủi ro nghiêm trọng nhất của kỷ nguyên AI.
Đó là khả năng công nghệ này có thể làm suy giảm những rào cản tri thức vốn xuất hiện từ lâu, ngăn cản các tác nhân tiếp cận và phát triển vũ khí sinh học.
Trong một bức thư công khai gửi tới Quốc hội Mỹ, các CEO của những công ty AI hàng đầu đã kêu gọi ban hành các quy định mới nhằm tăng cường giám sát hoạt động mua bán DNA (Axit Deoxyribonucleic) và RNA (Axit Ribonucleic) tổng hợp.
Qua đó giảm thiểu nguy cơ công nghệ sinh học bị lợi dụng cho các mục đích nguy hiểm.
Những người ký tên bao gồm CEO Demis Hassabis của Google DeepMind, CEO Sam Altman của OpenAI, CEO Dario Amodei của Anthropic và CEO Mustafa Suleyman của Microsoft AI.
Bức thư đề xuất các công ty cung cấp DNA và RNA tổng hợp phải thực hiện quy trình sàng lọc khách hàng cũng như đơn đặt hàng nhằm ngăn chặn việc sử dụng vật liệu di truyền vào các hoạt động gây hại.
Động thái này phản ánh mối quan ngại ngày càng gia tăng trong giới công nghệ và an ninh sinh học về tác động ngoài mong muốn của AI khi các mô hình ngày càng mạnh hơn và dễ tiếp cận hơn.
Trong văn bản gửi các nhà lập pháp, các bên ký tên thừa nhận rằng tốc độ phát triển hiện nay của AI có thể dẫn đến một thay đổi mang tính bước ngoặt đối với an ninh sinh học toàn cầu.
Theo nội dung bức thư, “có một khả năng thực sự rằng những rào cản về tri thức vốn tồn tại trước đây ngăn cản các tác nhân xấu tiếp cận vũ khí sinh học sẽ bị suy giảm đáng kể”.
Đây được xem là trọng tâm của toàn bộ cảnh báo. Trong nhiều thập kỷ, việc phát triển các tác nhân sinh học nguy hiểm đòi hỏi kiến thức chuyên sâu, kinh nghiệm phòng thí nghiệm và khả năng tiếp cận các nguồn lực đặc biệt.
Tuy nhiên, sự kết hợp giữa công nghệ tổng hợp gen hiện đại và AI đang làm thay đổi cán cân này.
DNA giờ đây có thể được “in” theo yêu cầu
Khả năng tổng hợp DNA không phải là điều mới mẻ.
Nhà khoa học Arthur Kornberg đã trở thành người đầu tiên tổng hợp thành công DNA vào những năm 1950. Tuy nhiên, điều từng là thành tựu khoa học mang tính đột phá nay đã trở thành một quy trình được tự động hóa ở quy mô thương mại.
Hiện nay, hàng chục công ty trên khắp thế giới vận hành các hệ thống tổng hợp gen thương mại có khả năng “in” các trình tự di truyền theo yêu cầu. Những trình tự này được sử dụng rộng rãi trong nghiên cứu khoa học, phát triển thuốc và các hoạt động chẩn đoán y tế.
Nhiều nhà cung cấp chỉ bán sản phẩm cho các nhà nghiên cứu đủ điều kiện, doanh nghiệp công nghệ sinh học hoặc các cơ sở giáo dục. Tuy nhiên, không phải tất cả đơn vị trên thị trường đều thực hiện đầy đủ việc xác minh khách hàng hoặc kiểm tra các trình tự gen được đặt mua.
Chính khoảng trống này đang trở thành một trong những điểm yếu khiến các chuyên gia lo ngại.
Nỗi lo về việc lạm dụng công nghệ tổng hợp gen không phải mới xuất hiện gần đây.
Năm 2017, các nhà nghiên cứu Canada đã gây chú ý khi sử dụng lượng DNA đặt mua qua đường bưu điện trị giá 100.000 USD để tái tạo thành công virus đậu ngựa (horsepox) đã tuyệt chủng.
Thành tựu này được thực hiện với mục đích nghiên cứu khoa học, nhưng đồng thời cũng làm dấy lên những tranh cãi lớn trong cộng đồng an ninh sinh học.
Các nhà phê bình cho rằng phương pháp tương tự hoàn toàn có thể được sử dụng để tái tạo virus đậu mùa (smallpox), một loại virus có quan hệ gần gũi với horsepox nhưng nguy hiểm hơn rất nhiều.
Đáng chú ý, chi phí tổng hợp gen đã tiếp tục giảm đáng kể kể từ thời điểm đó, khiến việc tiếp cận công nghệ này ngày càng dễ dàng hơn.
Khi AI trở thành chất xúc tác mới
Nếu công nghệ tổng hợp gen là một phần của bài toán, thì AI đang được xem là yếu tố có thể đẩy nhanh đáng kể các rủi ro tiềm ẩn.
Theo các chuyên gia, những tiến bộ trong lĩnh vực mô hình ngôn ngữ lớn (LLM) đã khiến việc thiết kế các độc tố hoặc mầm bệnh mới trở nên khả thi hơn so với trước đây.
Dù việc tạo ra một loại virus hoàn chỉnh từ đầu vẫn đòi hỏi kiến thức sinh học chuyên môn và kinh nghiệm thực hành nhất định, AI có thể hỗ trợ đáng kể trong việc phân tích thông tin, đề xuất phương án và rút ngắn quá trình nghiên cứu.
Đây chính là lý do khiến cộng đồng an ninh sinh học đặc biệt quan tâm.
Các cuộc tấn công khủng bố sinh học vốn tương đối hiếm gặp, nhưng hậu quả của chúng có thể vô cùng nghiêm trọng, từ thương vong quy mô lớn, tâm lý hoảng loạn trong xã hội cho tới những tổn thất kinh tế kéo dài.
Mối lo lớn nhất là khả năng một mầm bệnh được thiết kế với sự hỗ trợ của AI có thể vô tình hoặc cố ý châm ngòi cho một đại dịch toàn cầu mới.
Ông David Relman, nhà vi sinh vật học và chuyên gia an ninh sinh học tại Đại học Stanford, cho rằng AI không nhất thiết phải trực tiếp tạo ra vũ khí sinh học để trở thành một yếu tố rủi ro.
Theo ông, các mô hình AI hiện nay có thể giúp người dùng tìm cách né tránh những lớp kiểm soát đang tồn tại.
Ông Relman nhận định: “Các công cụ AI cho phép người dùng nhanh chóng xác định nơi có thể đặt mua những trình tự không bị kiểm tra sàng lọc”.
Ông tiếp tục cảnh báo: “Nếu được đưa ra lời nhắc phù hợp, chúng cũng có thể chỉ cho bạn cách thay đổi bản chất của đơn đặt hàng, khiến ngay cả những đơn vị có thực hiện sàng lọc cũng khó phát hiện hơn rất nhiều điều mà bạn thực sự đang cố gắng tạo ra”.
Nhận định này cho thấy nguy cơ không chỉ nằm ở khả năng tạo ra kiến thức mới, mà còn ở việc AI có thể hỗ trợ người dùng khai thác những lỗ hổng hiện hữu trong hệ thống quản lý.
Ngoài các lãnh đạo AI, bức thư còn nhận được sự tham gia của nhiều nhà khoa học, chuyên gia an ninh quốc gia cùng lãnh đạo các công ty tổng hợp gen như Twist Bioscience và Ansa Biotechnologies.
Các doanh nghiệp này đều là thành viên của International Gene Synthesis Consortium (IGSC), tổ chức được thành lập từ năm 2009 nhằm thúc đẩy các hoạt động sàng lọc tự nguyện trong ngành.
Hiện nay, nhiều công ty đã triển khai phần mềm chuyên dụng để kiểm tra các đơn đặt hàng và phát hiện những trình tự đáng lo ngại có thể làm tăng độc tính hoặc khả năng gây bệnh của sinh vật.
Ông James Diggans, Phó Chủ tịch phụ trách chính sách và an ninh sinh học tại Twist Bioscience, cho rằng trách nhiệm quản lý phải đi kèm với năng lực công nghệ.
Ông chia sẻ: “Nếu bạn sở hữu công nghệ có khả năng tổng hợp DNA, bạn cần bảo đảm rằng công nghệ đó được sử dụng một cách có trách nhiệm, và một phần của trách nhiệm đó là bảo đảm bạn hiểu chínhxác mình đang tạo ra thứ gì và đang tạo ra nó cho ai”.
Dẫu vậy, các chuyên gia cũng cho rằng việc siết chặt quy định chưa phải là lời giải hoàn chỉnh.
Một trong những thách thức lớn nhất nằm ở chỗ các hệ thống sàng lọc hiện nay vẫn tồn tại những hạn chế đáng kể.
Năm ngoái, các nhà nghiên cứu Microsoft đã công bố một nghiên cứu cho thấy các công cụ AI thiết kế protein có thể tạo ra những trình tự gen tiềm ẩn nguy hiểm nhưng vẫn vượt qua được phần mềm kiểm tra của các công ty tổng hợp gen.
Các mô hình AI đã đề xuất những trình tự protein mới có cấu trúc tương tự các protein vốn được xác định là nguy hiểm, nhưng lại không bị hệ thống cảnh báo phát hiện.
Kết quả này cho thấy cuộc đua giữa công nghệ phòng vệ và công nghệ tấn công đang ngày càng trở nên phức tạp.
Theo Geoff Ralston, cựu Chủ tịch Y Combinator và hiện là đối tác của Safe AI Fund, cho rằng những đơn vị phát triển mô hình sinh học cần chủ động sàng lọc người dùng của chính mình thay vì chỉ dựa vào các biện pháp kiểm soát ở khâu tổng hợp gen.
Ông cho biết: “Việc yêu cầu một mô hình AI hỗ trợ mang tính nguy hiểm cận kề là một việc rất khó khăn, nếu không muốn nói là bất khả thi”.
Và theo ông Relman, trách nhiệm đó sẽ ngày càng đặt nặng lên vai các công ty AI: “Đó là lúc các công ty AI sẽ phải đóng vai trò tích cực hơn.”
* Nguồn: Wired, CNET