Trang CNBC dẫn tin, ông Amodei đã đưa ra cảnh báo đáng chú ý về một “thời điểm nguy hiểm” trên không gian mạng, khi trí tuệ nhân tạo (AI) đang giúp phát hiện ở quy mô lớn các lỗ hổng bảo mật, vốn đã tồn tại trong nhiều hệ thống phần mềm quan trọng.
“Mối nguy lớn hiện nay nằm ở việc số lượng lỗ hổng bảo mật, các vụ xâm nhập hệ thống và thiệt hại tài chính do mã độc tống tiền gây ra đang gia tăng mạnh, ảnh hưởng từ trường học, bệnh viện cho đến các ngân hàng”, ông Amodei nhận định.
Phát biểu tại một sự kiện dịch vụ tài chính do Anthropic tổ chức, ông Amodei cho biết, thế giới hiện chỉ có khoảng 6 đến 12 tháng để khắc phục hàng chục nghìn lỗ hổng mà mô hình AI mới nhất của công ty, Mythos đã phát hiện, trước khi các đối thủ, đặc biệt là từ Trung Quốc, bắt kịp năng lực công nghệ này.
Mythos ra mắt cách đây một tháng, đã phát hiện ra những điểm yếu bảo mật tồn tại suốt nhiều thập kỷ trong các phần mềm cốt lõi.
Anthropic hiện đang hạn chế quyền truy cập vào mô hình Mythos, chỉ cung cấp cho một số đối tác nhất định, trong bối cảnh lo ngại công nghệ này có thể bị tội phạm mạng hoặc các quốc gia khác khai thác.
Dù một số bản cập nhật gần đây của công ty đã tạo được tiếng vang trên thị trường, Mythos lại là sản phẩm làm dấy lên nhiều quan ngại nhất trong giới doanh nghiệp và các nhà hoạch định chính sách.
Theo vị CEO này, quy mô các lỗ hổng bảo mật mà AI có thể phát hiện đã tăng mạnh qua từng thế hệ mô hình Claude. Trước đây, một phiên bản của Anthropic chỉ phát hiện khoảng 20 lỗ hổng trong trình duyệt Mozilla Firefox, trong khi Mythos đã tìm ra gần 300 lỗ hổng trong cùng hệ thống.
Tính trên phạm vi rộng, tổng số lỗ hổng tiềm tàng mà mô hình này phát hiện hiện đã lên tới hàng chục nghìn.
Phần lớn các lỗ hổng nói trên vẫn chưa được công bố rộng rãi do chưa được khắc phục. Ông Amodei cảnh báo, nếu những thông tin này bị rò rỉ, “các tội phạm mạng có thể nhanh chóng lợi dụng” để thực hiện các cuộc tấn công mạng trên diện rộng.
Các công ty phần mềm có thể phá sản
Nhận định mối nguy từ AI đối với lĩnh vực công nghệ, CEO của Anthropic đã đưa ra một dự báo khá rõ ràng về sự gián đoạn trong ngành phần mềm, theo Reuters.
Theo ông Amodei, AI đang làm cho việc phát triển phần mềm trở nên rẻ hơn và sẽ thúc đẩy sự tăng trưởng chung của ngành. Tuy nhiên, ông nói: "Tôi không biết điều gì sẽ xảy ra với nhóm các công ty phần mềm dưới dạng dịch vụ (SaaS)hiện tại."
Các công ty giải quyết trực tiếp vấn đề AI có thể làm tốt hơn bao giờ hết, trong khi những công ty khác có thể "mất giá trị thị trường, phá sản, hoặc hoàn toàn sụp đổ," ông nói.
Trong nhiều tháng qua, nỗ lực tự động hóa công việc doanh nghiệp của Anthropic đã gây ảnh hưởng mạnh mẽ đến cổ phiếu của một loạt các công ty SaaS, do dự đoán rằng nhà cung cấp trí tuệ nhân tạo này có thể thay thế hoạt động kinh doanh của họ.
Phương án ứng phó
Trong khi đó, dù thừa nhận rủi ro an ninh mạng là có thật, CEO của JPMorgan Chase Dimon cho rằng, đây chỉ là “giai đoạn chuyển tiếp” trong quá trình phát triển của AI.
Liên quan đến vấn đề quản lý, ông Amodei cho rằng, việc giám sát AI nên tương tự như những gì được thực hiện trong ngành công nghiệp ô tô, tạo ra sự cân bằng giữa an toàn người tiêu dùng và cho phép ngành công nghiệp cạnh tranh.
“Bạn không thể cứ thế thành lập một công ty sản xuất ô tô mà không nghĩ đến việc ‘Liệu chiếc xe này có hệ thống phanh không?”, ông nói. “Chúng ta cần phải tìm ra một quy trình nào đó cho phép ngành công nghiệp hoạt động nhanh chóng, công bằng, nhưng vẫn có những biện pháp bảo vệ đối với những vấn đề nghiêm trọng nhất.”
Trong thông báo đưa ra hôm 5/5, Anthropic cho biết sẽ mở rộng nền tảng dịch vụ tài chính với việc triển khai 10 tác nhân AI mới, phục vụ các hoạt động ngân hàng đầu tư và công việc hỗ trợ văn phòng.
Các công cụ này đồng thời được tích hợp với nhiều ứng dụng trong hệ sinh thái Office của Microsoft.
Công ty công nghệ này cũng khẳng định mô hình mới nhất được phát hành rộng rãi, Claude Opus 4.7 hiện đang dẫn đầu các tiêu chuẩn đánh giá hiệu suất trong các tác vụ phân tích tài chính.
Theo CNBC, Reuters