Trong sự cố xâm nhập do tác nhân tự động điều khiển đầu tiên được công bố rộng rãi, các nhà phòng thủ đã gặp phải thách thức lớn khi cố gắng thực hiện phân tích pháp y kỹ thuật số bằng AI thương mại và bị từ chối. Kẻ tấn công đã hoạt động mà không chịu bất kỳ chính sách sử dụng nào.
Vào ngày 16 tháng 7 năm 2026, Hugging Face đã công bố báo cáo về một vụ xâm nhập vào một phần cơ sở hạ tầng sản xuất của họ. Vụ tấn công này được điều khiển hoàn toàn bởi một hệ thống tác nhân AI tự chủ. Trong phần phân tích, một chi tiết đáng lo ngại đã được tiết lộ về những gì xảy ra khi nhóm của họ bắt tay vào điều tra.
Thực trạng Tấn công AI và Thách thức Phân tích Pháp y Kỹ thuật số
Vụ xâm nhập Hugging Face do tác nhân AI điều khiển
Hugging Face ban đầu đã tìm đến các mô hình tiên tiến đứng sau các API thương mại để hỗ trợ phân tích pháp y kỹ thuật số bằng AI.
Tuy nhiên, các yêu cầu của họ đã bị chặn. Lý do cho việc này trở nên rõ ràng khi được giải thích cụ thể.
Phân tích pháp y một vụ xâm nhập đòi hỏi việc gửi các lệnh tấn công thực tế, payload khai thác đang hoạt động và các hiện vật từ máy chủ chỉ huy và kiểm soát (C2). Đối với các bộ phân loại an toàn, lưu lượng truy cập này không thể phân biệt được với một kẻ tấn công đang tìm kiếm sự trợ giúp.
Khi các mô hình AI thương mại từ chối hỗ trợ phân tích
Hugging Face sau đó đã phải tiến hành phân tích trên một mô hình mã nguồn mở trên chính cơ sở hạ tầng của mình. Điều này làm nổi bật một vấn đề rủi ro bảo mật nghiêm trọng: trong khi đối thủ hoạt động không bị ràng buộc bởi bất kỳ chính sách sử dụng nào, những người thực hiện công tác khắc phục hậu quả lại bị hạn chế.
Điều quan trọng là phải công bằng: Hugging Face đã tuyên bố rõ ràng rằng trải nghiệm của họ không phải là một lập luận chống lại các biện pháp an toàn trên các mô hình được lưu trữ. Họ đã chia sẻ phản hồi này với các nhà cung cấp có liên quan, đây là một thái độ đúng đắn.
Các bộ phân loại đang thực hiện đúng chức năng của chúng. Không có tín hiệu đáng tin cậy nào trong một lời nhắc có thể phân biệt một người phản ứng dán payload với một kẻ tấn công đang tinh chỉnh nó.
Vấn đề không nằm ở ý đồ xấu hay sự sơ suất của bất kỳ bên nào, mà là sự không phù hợp cấu trúc giữa cách các biện pháp kiểm soát này được thiết kế và một trường hợp sử dụng cụ thể, có mức độ rủi ro cao.
Có hai điều đúng cùng một lúc: các biện pháp kiểm soát an toàn nên tồn tại, nhưng khả năng phản ứng sự cố của tổ chức không nên thầm lặng phụ thuộc vào việc chúng sẽ tự động tạo ra một ngoại lệ cho bạn.
Phân tích Pháp y Kỹ thuật số bằng AI: Một Năng lực Chủ chốt
Tầm quan trọng của năng lực nội bộ
Khả năng phân tích pháp y kỹ thuật số bằng AI đã không còn là điều mới lạ mà đã trở thành một năng lực chịu tải (load-bearing). Mọi năng lực chịu tải trong một kế hoạch ứng phó sự cố đều cần có một kế hoạch dự phòng đã được kiểm thử.
Thực tế là, đối với hầu hết các tổ chức, năng lực này chưa bao giờ được kiểm thử. Điều này tạo ra một lỗ hổng đáng kể trong chiến lược an ninh mạng tổng thể.
Quy mô và Hiệu quả của Phân tích AI
Xem xét quy mô mà Hugging Face đã làm việc: nhóm đã tái tạo lại vụ xâm nhập từ nhật ký hành động của kẻ tấn công với hơn 17.000 sự kiện được ghi lại, được tạo ra bởi một swarm các sandbox ngắn hạn với hệ thống C2 tự di chuyển.
Họ đã sử dụng các tác nhân phân tích dựa trên mô hình trên toàn bộ nhật ký này để xây dựng lại dòng thời gian, trích xuất các chỉ số, ánh xạ các thông tin xác thực nào đã bị chạm tới và phân biệt tác động thực sự với hoạt động đánh lạc hướng.
Tóm tắt của Hugging Face là việc này đã giúp họ hoàn thành công việc chỉ trong vài giờ thay vì vài ngày như thông thường. Bản thân cuộc tấn công cũng được phát hiện ban đầu bởi AI, thông qua phân loại dựa trên mô hình trên dữ liệu đo lường an ninh (security telemetry).
Dữ liệu này đã tương quan các tín hiệu mà một hàng đợi thông thường có thể đã bỏ qua. Đây chính là định nghĩa của một năng lực chịu tải trong quá trình ứng phó sự cố.
Các Rủi ro Bảo mật Phát sinh từ Phụ thuộc AI Bên Ngoài
Rủi ro về Khả dụng trong sự cố
Một trong những rủi ro bảo mật rõ ràng nhất là tính khả dụng. Trong một sự cố đang diễn ra, vào chính thời điểm tốc độ là quan trọng nhất, công cụ phân tích mà nhóm của bạn đã âm thầm tin cậy lại từ chối hoạt động.
Không ai đã lên kế hoạch cho tình huống này, vì vậy không ai có một quy trình (runbook) cho nó. Đồng hồ không ngừng chạy trong khi ai đó phải leo thang vấn đề lên nhà cung cấp.
Rủi ro về Bảo mật và Quyền riêng tư Dữ liệu
Rủi ro mà các nhà lãnh đạo pháp lý và quyền riêng tư sẽ quan tâm hơn là tính bảo mật. Các lời nhắc pháp y không được làm sạch.
Chúng chứa các thông tin xác thực trực tiếp, tên máy chủ nội bộ, mã định danh khách hàng, cấu hình độc quyền và các hiện vật của kẻ tấn công.
Chuyển tất cả những dữ liệu này đến một API của bên thứ ba trong quá trình xảy ra sự cố là một quyết định chuyển giao dữ liệu. Hugging Face đã nhấn mạnh lợi ích của việc này.
Việc phân tích dữ liệu nội bộ có nghĩa là không có dữ liệu của kẻ tấn công, cũng như không có bất kỳ thông tin xác thực nào được đề cập, rời khỏi môi trường của họ. Quyết định này được đưa ra trong khoảnh khắc bởi một nhà phân tích đang chịu áp lực, chứ không phải được xem xét trước bởi người có thẩm quyền.
Hầu hết các tổ chức đều có chính sách quản lý những gì có thể được dán vào một mô hình thương mại. Rất ít tổ chức đã viết ra ngoại lệ hoặc lệnh cấm áp dụng cho các hiện vật của kẻ tấn công trong một cuộc điều tra trực tiếp. Khoảng trống này sẽ được phát hiện vào thời điểm tồi tệ nhất có thể.
Xây dựng Chiến lược An ninh Mạng cho Phân tích Pháp y Kỹ thuật số bằng AI
Cần phải đặt các ràng buộc cạnh nhau. Một đối thủ thực hiện một chiến dịch dựa trên tác nhân hoạt động mà không có chính sách sử dụng, yêu cầu về lưu trú dữ liệu, đánh giá pháp lý hay chu kỳ mua sắm.
Họ sử dụng bất kỳ mô hình nào hiệu quả, dù được lưu trữ hay mã nguồn mở, đã bị jailbreak hay chưa, và họ không phải chịu trách nhiệm với ai về cách họ sử dụng nó.
Ngược lại, một nhà phòng thủ hoạt động dưới tất cả các ràng buộc đó đồng thời. Đây không phải là một lỗi trong cách các doanh nghiệp được vận hành, mà là cái giá của việc trở thành một tổ chức hợp pháp và nó sẽ không biến mất.
Vì vậy, giải pháp không phải là nới lỏng các ràng buộc, mà là xây dựng năng lực bên trong chúng, một cách có chủ đích và từ trước. Thay vì phát hiện ra ranh giới trong quá trình xảy ra sự cố, các tổ chức nên chủ động phát triển chiến lược an ninh mạng để đối phó với những tình huống này.
Mỗi bước sau đây đều có thể đạt được trong quý này và không yêu cầu chi tiêu đáng kể:
Đánh giá phụ thuộc AI hiện tại
Đầu tiên, hãy liệt kê nơi AI đã trở thành năng lực chịu tải trong quy trình phát hiện và phản ứng của bạn. Không phải nơi nó đã được phê duyệt chính thức, mà là nơi các nhà phân tích của bạn thực sự sử dụng nó, bao gồm cả các công cụ chưa được mua sắm chính thức.
Bạn có thể sẽ thấy mức độ phụ thuộc cao hơn so với tài liệu hiện có. Việc hiểu rõ các điểm phụ thuộc này là bước đầu tiên để xây dựng một chiến lược an ninh mạng vững chắc.
Kiểm thử với dữ liệu thực tế
Thứ hai, hãy kiểm thử với tài liệu thực tế. Chạy một buổi mô phỏng (tabletop exercise) trong đó nhóm phải phân tích pháp y kỹ thuật số bằng AI một payload thực tế và các hiện vật C2 thực tế bằng cách sử dụng công cụ tiêu chuẩn của bạn, không phải một mẫu đã được làm sạch.
Nếu công cụ từ chối, bạn đã tìm thấy lỗ hổng trong khi vẫn còn miễn phí để tìm thấy. Điều này giúp phát hiện sớm các rủi ro bảo mật tiềm ẩn.
Triển khai mô hình AI nội bộ
Thứ ba, triển khai một mô hình có khả năng mà bạn có thể chạy trên chính cơ sở hạ tầng của mình. Đánh giá nó trước một sự cố thay vì trong quá trình xảy ra sự cố. Điều này bao gồm các trọng số (weights), phần cứng, kiểm soát truy cập và ít nhất một người đã sử dụng nó dưới áp lực.
Hugging Face đã có lộ trình này, nhưng hầu hết các tổ chức thì không. Việc này là thiết yếu để đảm bảo khả năng phân tích pháp y kỹ thuật số bằng AI liên tục.
Yêu cầu làm rõ từ nhà cung cấp
Thứ tư, nhận được sự rõ ràng từ các nhà cung cấp của bạn. Hãy hỏi liệu một thỏa thuận doanh nghiệp, một cấp độ nhóm bảo mật đã được xác minh, hoặc một lộ trình miễn trừ được tài liệu hóa có tồn tại cho mục đích phòng thủ hay không.
Một số nhà cung cấp đang xây dựng chính xác điều này. Bạn sẽ không biết trừ khi bạn hỏi, và thời điểm mua sắm là lúc thích hợp để hỏi. Đây là một phần quan trọng của việc phát triển một chiến lược an ninh mạng bền vững.
Xây dựng quy tắc xử lý dữ liệu tấn công
Thứ năm, viết quy tắc xử lý dữ liệu tấn công ngay bây giờ. Quyết định trước điều gì có thể rời khỏi môi trường của bạn trong một cuộc điều tra, ai có thể ủy quyền một ngoại lệ và kế hoạch dự phòng là gì.
Quyết định đó thuộc về lãnh đạo, được đưa ra công khai, chứ không phải của một nhà phân tích mệt mỏi vào lúc hai giờ sáng. Điều này giúp giảm thiểu rủi ro bảo mật liên quan đến việc rò rỉ dữ liệu nhạy cảm.
Ngành bảo mật đã dành hai năm để thảo luận về cách kẻ tấn công sẽ sử dụng AI. Cuộc trò chuyện đó hữu ích và chủ yếu đã được giải quyết. Sự cố này chỉ ra điều mà chúng ta đã thảo luận ít hơn nhiều: liệu các nhà phòng thủ có thể sử dụng AI khi cần thiết hay không.
Hugging Face đã có một kết quả tốt. Họ phát hiện vụ xâm nhập, ngăn chặn nó, xây dựng lại những gì đã bị xâm phạm và tái tạo một chiến dịch 17.000 sự kiện một cách nhanh chóng.
Họ cũng phải tìm cách vượt qua lựa chọn công cụ ban đầu của mình để làm điều đó, và họ đã đủ thẳng thắn để kể cho mọi người. Sự thẳng thắn đó là một món quà. Hãy coi đó là thông báo trước.
Hãy tìm hiểu ngay hôm nay xem khả năng phản ứng sự cố của bạn có phụ thuộc vào một chính sách mà bạn không kiểm soát hay không, bởi vì lựa chọn thay thế là phát hiện ra vào ngày tồi tệ nhất trong năm của bạn khi thực hiện phân tích pháp y kỹ thuật số bằng AI.
