Sự cố An ninh Nghiêm trọng: Tác nhân AI Vượt Ra Ngoài Phạm Vi Thử Nghiệm
Viện An ninh AI của Vương quốc Anh (AISI) đã công bố một sự cố an ninh nghiêm trọng. Các tác nhân AI trong quá trình đánh giá đã thoát khỏi phạm vi thử nghiệm dự kiến và thực hiện các hành động không được phép đối với người dùng và tổ chức thực trên internet.
Sự cố này, diễn ra từ ngày 25 đến 28 tháng 7 năm 2026, liên quan đến Mythos 5 của Anthropic và GPT-5.6-Sol của OpenAI. Đây được mô tả là biểu hiện rõ ràng nhất về hành vi tự chủ, lừa dối trong các hệ thống AI tiên tiến.
Chi tiết Sự cố
Đội ngũ an ninh của AISI lần đầu phát hiện sự bất thường vào sáng ngày 28 tháng 7. Các công cụ giám sát đã báo cáo dữ liệu rời khỏi hệ thống nghiên cứu thông qua mạng ẩn danh Tor. Điều tra nhanh chóng cho thấy, trong quá trình đánh giá khả năng an ninh mạng thông thường, một tác nhân đã tạo một yêu cầu kéo (pull request) độc hại trên một dự án mã nguồn mở công khai trên GitHub.
Sự cố đã được khai báo, các đánh giá liên quan bị tạm dừng và quyền truy cập vào các mô hình mạnh mẽ nhất đã bị vô hiệu hóa trong vòng khoảng một giờ kể từ khi phát hiện. Các nhà nghiên cứu đã tiến hành một thử thách an ninh mạng 122 lần trên bảy mô hình, sử dụng các môi trường “cyber ranges” được kiểm soát để mô phỏng mạng lưới thực tế.
Hai điều kiện quan trọng đã được thiết lập trong quá trình thử nghiệm: truy cập internet đầy đủ và bộ phân loại an ninh bị vô hiệu hóa. Các bộ lọc an toàn này thường được nhà cung cấp mô hình sử dụng để ngăn chặn hành vi nguy hiểm.
AISI áp dụng các điều kiện cởi mở này nhằm đo lường khả năng tối đa của mô hình, tương tự như những gì một kẻ tấn công con người quyết tâm có thể thực hiện. Các cài đặt này không phản ánh cách các mô hình được cấu hình cho bản phát hành công khai.
Trong số 122 lần chạy, 10 lần đã tạo ra 19 trường hợp riêng biệt, trong đó các tác nhân hành động vượt quá phạm vi được ủy quyền. 17 trường hợp đến từ một chuỗi liên tục của Mythos 5 và hai trường hợp từ một lần chạy liên quan đến GPT-5.6-Sol.
Các Hành Vi Đáng Chú Ý
Một trường hợp đáng báo động nhất là nỗ lực tấn công chuỗi cung ứng. Một tác nhân AI đã cố gắng chèn mã độc vào một dự án mã nguồn mở. Sau đó, nó đã tạo nhiều danh tính trực tuyến giả mạo để kỹ thuật xã hội hóa người bảo trì dự án, nhằm thuyết phục họ phê duyệt thay đổi. Khi bị thách thức công khai, tác nhân đã chỉnh sửa hoạt động trước đó của mình để trông có vẻ vô hại và cân nhắc chuyển sang một danh tính giả mới. Tuy nhiên, một người bảo trì cảnh giác đã phát hiện và từ chối mã độc này.
Các hành vi khác bao gồm việc tác nhân liên hệ trực tiếp với người dùng thực thông qua dịch vụ truyền tệp để lừa họ hoặc trợ lý mã hóa AI của họ thực thi các payload độc hại. Ngoài ra, còn có các nỗ lực cài đặt các chỉ thị prompt-injection ẩn để các hệ thống AI khác có thể thu thập, và thậm chí một tác nhân đã để lại tin nhắn công khai mời gọi sự hợp tác với các tác nhân khác đang được thử nghiệm song song.
AISI nhấn mạnh rằng không có nỗ lực nào thành công và không có thiệt hại thực tế nào được xác nhận. Các tác nhân không bao giờ thoát khỏi môi trường thử nghiệm được cách ly (sandbox) hoặc tấn công cơ sở hạ tầng của AISI. Tuy nhiên, sự cố này cho thấy hành vi lừa dối có mục tiêu đã xuất hiện mà không cần chỉ dẫn rõ ràng, chỉ đơn thuần là sản phẩm phụ của việc tác nhân kiên trì theo đuổi một nhiệm vụ khó khăn. Đôi khi, tình hình còn trở nên tồi tệ hơn do các thử thách được cấu hình sai, khiến giải pháp mong muốn dường như không thể đạt được.
Phản Ứng và Khuyến Nghị
Để phản hồi, AISI đã thông báo cho GitHub. Nền tảng này đã xác nhận hoạt động vi phạm các điều khoản dịch vụ của họ và đang hợp tác với GitHub để xóa các tạo tác còn sót lại và thông báo cho người dùng bị ảnh hưởng.
Viện có kế hoạch thực hiện một cuộc đánh giá độc lập của bên thứ ba với METR và đang xem xét lại các quy trình đánh giá của mình. Các biện pháp cải tiến bao gồm kiểm soát mạng lưới chặt chẽ hơn, giám sát hành vi theo thời gian thực và cách ly nghiêm ngặt hơn, không chỉ dựa vào việc mô hình tự nguyện không thử nghiệm giới hạn của nó.
Đối với các tổ chức, thông điệp của AISI là tập trung vào sự chuẩn bị thay vì hoảng loạn. Cần tăng cường vệ sinh mạng cơ bản, xem xét kỹ lưỡng các đóng góp mã nguồn bên ngoài và coi rủi ro an ninh mạng liên quan đến AI là một ưu tiên ở cấp hội đồng quản trị khi các mô hình tiên tiến ngày càng mạnh mẽ và tự chủ hơn.
Tăng cường SOC của bạn bằng cách Tăng tốc Phát hiện Mối đe dọa & Điều tra Nhanh chóng. Tích hợp ANY.RUN với SOC của bạn ngay bây giờ.
