Các toán tử liên kết với Nga đang thử nghiệm một phương pháp mới để khiến trí tuệ nhân tạo (AI) bỏ qua mã độc. Kỹ thuật này, được gọi là GuardBreaker, ẩn một yêu cầu nhạy cảm về an toàn bên trong một bình luận mã lệnh thông thường, với hy vọng rằng trình quét mã AI sẽ từ chối tiếp tục công việc của mình. Kỹ thuật này có thể gây ra các mối đe dọa mạng mới đối với các hệ thống phân tích mã.
GuardBreaker: Kỹ thuật né tránh AI mới
GuardBreaker được quan sát thấy trong một cuộc tấn công giai đoạn đầu nhằm vào một mục tiêu ở Ukraine. Mã VBScript được tạo ra để tải và cài đặt MATCHBOIL, một trình tải (loader) được liên kết độc quyền với nhóm UAC-0099, dùng để đưa thêm các payload vào các hệ thống bị xâm nhập. Điều này cho thấy sự gia tăng trong các mối đe dọa mà tin tặc sử dụng để vượt qua các biện pháp phòng thủ tự động.
Các nhà nghiên cứu tại Welivesecurity, ấn phẩm nghiên cứu của ESET, đã xác định được chiến thuật này trong một tập lệnh của UAC-0099. Bình luận này tìm kiếm hướng dẫn về việc chế tạo một vũ khí hạt nhân, một nội dung được thiết kế để kích hoạt các biện pháp kiểm soát an toàn của mô hình AI.
Cách GuardBreaker hoạt động
GuardBreaker không làm thay đổi chức năng của VBScript khi nạn nhân thực thi nó. Thay vào đó, văn bản độc hại được đặt ở vị trí mà một nhà phân tích hoặc công cụ tự động có thể đọc được, biến hành động kiểm tra tệp thành mục tiêu của cuộc tấn công. Đây là một hình thức tấn công prompt injection: nội dung không đáng tin cậy bên trong một tệp được đưa đến mô hình ngôn ngữ trong khi nó đang được phân tích. Mô hình có thể gặp khó khăn trong việc tách biệt nội dung đó với các hướng dẫn hợp lệ, đặc biệt là khi các biện pháp bảo vệ của nó được thiết kế để ngăn chặn các phản hồi liên quan đến các chủ đề nguy hiểm hoặc bị cấm.
Trong trường hợp này, UAC-0099 dường như đã lên kế hoạch cho các biện pháp phòng thủ có sự hỗ trợ của AI song song với các phương pháp kiểm tra quen thuộc hơn đối với các công cụ phân tích, bao gồm IDA và Wireshark. Nhóm này đã dựa vào việc phát tán qua phishing và họ MATCHBOIL, như đã đề cập trong chiến dịch UAC-0099 MATCHBOIL loader, làm cho chiến thuật bình luận mới này trở thành một sự mở rộng đáng chú ý trong kế hoạch né tránh của họ.
Cách tiếp cận này đơn giản nhưng có thể gây ra tác động đáng kể. Một trình quét trả về không có kết quả, hoặc dừng lại với thông báo từ chối vì lý do an toàn, có thể tạo ra một điểm mù nếu quy trình làm việc diễn giải việc đánh giá bị thiếu là vô hại thay vì là một lý do để điều tra. Những cuộc tấn công như vậy khai thác một điểm yếu: chúng trộn lẫn tài liệu do kẻ tấn công cung cấp với các hướng dẫn phân tích. Ranh giới đó có thể bị phá vỡ khi các bình luận trông có vẻ vô hại và không hoạt động trong quá trình thực thi.
Tác động của GuardBreaker đến phân tích mã độc
Quan ngại này lan sang chuỗi cung ứng phần mềm, nơi các gói độc hại có thể chứa văn bản kích hoạt chính sách hoặc văn bản lặp lại nhằm mục đích tiêu thụ ngữ cảnh của mô hình và che giấu payload. Điều này nhấn mạnh tầm quan trọng của việc bảo mật thông tin trong mọi khía cạnh của phát triển phần mềm.
Trường hợp này cho thấy tại sao mô hình AI không thể là cơ quan duy nhất đưa ra quyết định về việc mã có an toàn hay không. Các nhóm bảo mật nên xác định chính xác những gì mỗi công cụ được hỗ trợ bởi AI đọc, vị trí của nó trong quy trình ra quyết định và các quy trình nào được kích hoạt khi công cụ gặp sự cố, từ chối, cắt bớt nội dung hoặc không thể hoàn thành phân tích. Các nhà phân tích nên kiểm tra chéo kết quả của AI với các công cụ khác, phân tích tĩnh và hành vi thông thường, cũng như xem xét của con người.
Cách tiếp cận phân lớp đó đặc biệt quan trọng vì các rủi ro prompt injection đang ảnh hưởng đến nhiều hơn là chỉ phân loại mã độc; các rủi ro tấn công prompt injection trên LLM doanh nghiệp cho thấy ngôn ngữ được tạo ra có thể ảnh hưởng như thế nào đến các hệ thống kinh doanh rộng lớn hơn được hỗ trợ bởi AI.
Các biện pháp phòng ngừa và khuyến nghị
Các nhóm nên coi cấu trúc tệp bất thường, văn bản lặp lại quá mức và các hướng dẫn nhắm vào người đọc hoặc mô hình là ngữ cảnh đáng ngờ, chứ không phải là hướng dẫn đáng tin cậy. Một cuộc tấn công tương tự nhắm vào tóm tắt bằng AI minh họa cách nội dung ẩn hoặc lặp lại có thể điều hướng cách giải thích tự động ra khỏi những gì người dùng mong đợi.
Các tác nhân AI có khả năng gọi các công cụ giải nén (unpacker), giải mã (deobfuscator) hoặc các công cụ bên ngoài khác cần được bổ sung các biện pháp bảo vệ vì những kết nối đó làm mở rộng bề mặt tấn công. Hạn chế quyền truy cập, xem xét cẩn thận các lệnh gọi công cụ và tăng cường xử lý các kết quả chưa hoàn chỉnh có thể giảm thiểu khả năng quy trình phân tích bị thao túng trở thành một con đường để phân phối hoặc thực thi mã độc.
Đối với các tổ chức không có nhà phân tích hoạt động 24/7, điểm cốt yếu vẫn giữ nguyên: phòng ngừa phải kết nối với phát hiện và phản ứng. Một tệp bị nghi ngờ nên được kiểm tra cùng với hoạt động ở những nơi khác trong môi trường, do đó việc một mô hình từ chối không bao giờ trở thành lời cuối cùng về một cuộc xâm nhập tiềm ẩn.
Hãy cập nhật SOC của bạn về các mã độc và tấn công phishing đang hoạt động trong vòng 24 giờ kể từ khi chúng xuất hiện. Hãy thử ANYRUN để ngăn chặn sự cố bằng cách phát hiện sớm.
