Một kỹ thuật tấn công mới được gọi là “BioShocking” đang gây lo ngại trong cộng đồng an ninh mạng. Kỹ thuật này cho phép thao túng các trình duyệt tích hợp trí tuệ nhân tạo (AI) nhằm tiết lộ dữ liệu nhạy cảm và vượt qua các cơ chế bảo vệ tích hợp. Đây là một mối đe dọa mạng mới cần được quan tâm.
Chi tiết về Kỹ thuật Tấn công BioShocking
Các nhà nghiên cứu bảo mật tại LayerX đã tiết lộ cách kẻ tấn công có thể “lừa” các trình duyệt được hỗ trợ bởi AI thực hiện các hành động độc hại bằng cách thay đổi nhận thức về thực tế của chúng.
Nguyên lý hoạt động
Cuộc tấn công khai thác cách các mô hình ngôn ngữ lớn (LLM) dựa vào sự hiểu biết về ngữ cảnh để thực thi các rào cản an toàn. Bằng cách thao túng ngữ cảnh này, các tác nhân đe dọa có thể lừa các tác nhân AI thực hiện các hành động mà thông thường chúng sẽ không làm, chẳng hạn như tiết lộ thông tin xác thực, sao chép mã nhạy cảm hoặc thực thi các lệnh không được ủy quyền.
Kỹ thuật này đã được thử nghiệm thành công trên một số công cụ duyệt web phổ biến có tích hợp AI, bao gồm ChatGPT Atlas, Perplexity Comet, Claude Chrome plugin và các công cụ khác. Tất cả các nhà cung cấp bị ảnh hưởng đều đã được thông báo.
Nguồn cảm hứng và cơ chế tấn công
Khái niệm đằng sau BioShocking lấy cảm hứng từ trò chơi điện tử BioShock, nơi các nhân vật được điều khiển thông qua nhận thức bị thay đổi và các tín hiệu tinh tế. Tương tự, cuộc tấn công này sử dụng kỹ thuật prompt injection và thao túng ngữ cảnh để “thuyết phục” hệ thống AI rằng chúng đang hoạt động trong một môi trường hư cấu hoặc giống trò chơi, nơi các quy tắc thông thường không áp dụng.
Khi AI chấp nhận ngữ cảnh sai lệch này, nó sẽ bắt đầu bỏ qua các giới hạn an toàn của mình. Kết quả là, nó có thể tuân theo các chỉ dẫn độc hại, chẳng hạn như truy xuất thông tin nhạy cảm hoặc tương tác với các hệ thống bảo mật.
Minh họa Kỹ thuật Tấn công BioShocking
Một ví dụ điển hình là kẻ tấn công có thể nhúng một câu đố hoặc trò chơi độc hại vào một trang web. Khi người dùng yêu cầu trình duyệt AI của họ tương tác với môi trường, tác nhân AI sẽ dần dần thích ứng với logic đã thay đổi của môi trường.
Thử nghiệm của LayerX
LayerX đã minh họa cuộc tấn công này bằng một câu đố theo chủ đề BioShock. Tác nhân AI ban đầu được đưa ra một câu hỏi toán học đơn giản. Tuy nhiên, trò chơi đã thưởng cho các câu trả lời không chính xác, ví dụ: “2 + 2 = 5”. Theo thời gian, AI đã thích ứng với “thực tế” mới này, từ bỏ logic tiêu chuẩn.
Ở giai đoạn cuối, tác nhân AI được hướng dẫn điều hướng đến một đường dẫn cụ thể và sao chép dữ liệu. Đối với AI, đường dẫn này đã bị thay đổi và dẫn đến một kho lưu trữ GitHub riêng tư chứa thông tin xác thực nhạy cảm. AI đã tiến hành trích xuất và chia sẻ dữ liệu mà không kích hoạt bất kỳ cảnh báo bảo mật nào.
Trong một kịch bản thực tế, sự chuyển hướng như vậy có thể nhắm mục tiêu vào các tài khoản email, bảng điều khiển nội bộ hoặc trình quản lý mật khẩu có thể truy cập trong phiên của người dùng.
Các Hệ thống Bị Ảnh hưởng
Các nhà nghiên cứu đã xác nhận việc khai thác thành công trên nhiều trình duyệt và plugin agentic, bao gồm:
- ChatGPT Atlas
- Perplexity Comet
- Claude Chrome Plugin
Mức độ ảnh hưởng rộng rãi này nhấn mạnh những điểm yếu mang tính hệ thống trong cách các tác nhân AI diễn giải và thực thi các ranh giới ngữ cảnh. Vấn đề cốt lõi nằm ở sự phụ thuộc của AI vào ngữ cảnh như một sự thật. Nếu kẻ tấn công có thể thao túng ngữ cảnh đó, họ có thể kiểm soát hiệu quả quy trình ra quyết định của AI. Điều này tạo ra một bề mặt tấn công mới, nơi các biện pháp bảo vệ truyền thống có thể thất bại một cách im lặng.
Các Biện pháp Phòng ngừa và Khuyến nghị
Các nhà nghiên cứu đề xuất một số biện pháp phòng ngừa cho các nhà cung cấp:
- Yêu cầu xác nhận rõ ràng từ người dùng trước khi truy cập dữ liệu nhạy cảm.
- Phát hiện và gắn cờ các ngữ cảnh không thực tế hoặc mâu thuẫn.
- Hạn chế khả năng của tác nhân theo mặc định, đặc biệt là trong các phiên được xác thực.
Đối với người dùng, việc hạn chế quyền truy cập của AI vào các môi trường nhạy cảm và đăng xuất khỏi các tài khoản quan trọng trong các phiên duyệt web bằng AI có thể giảm thiểu rủi ro.
Tác động và Xu hướng Tương lai
BioShocking chứng minh một sự thay đổi quan trọng trong các rủi ro bảo mật AI. Thay vì phá vỡ trực tiếp các hệ thống, kẻ tấn công giờ đây có thể định hình lại cách AI nhận thức thực tế, biến các công cụ đáng tin cậy thành các kênh tiềm năng cho việc đánh cắp dữ liệu. Việc hiểu và giảm thiểu các lỗ hổng zero-day tiềm ẩn trong tương tác AI là rất quan trọng để duy trì an ninh mạng trong tương lai.
Để hiểu rõ hơn về cách thức hoạt động của các mối đe dọa và cách phân tích chúng, việc tham khảo các nguồn thông tin đáng tin cậy như National Vulnerability Database (NVD) là rất quan trọng. NVD cung cấp thông tin chi tiết về các lỗ hổng đã biết, bao gồm cả các lỗ hổng liên quan đến AI và các kỹ thuật tấn công mới nổi.
