Trong bối cảnh công nghệ trí tuệ nhân tạo (AI) và các mô hình ngôn ngữ lớn (LLM) đang phát triển nhanh chóng, việc đảm bảo an ninh mạng cho các hệ thống này trở thành ưu tiên hàng đầu. Cộng đồng an ninh mạng đã và đang nỗ lực xây dựng các khuôn khổ và hướng dẫn để đối phó với những thách thức mới. Các tài liệu quan trọng như OWASP GenAI Red Teaming Guide, OWASP AI Exchange, OWASP AI Security and Privacy Guide, và OWASP Top 10 for Large Language Models (LLM) cung cấp những thông tin chuyên sâu về các rủi ro và biện pháp phòng ngừa. Bên cạnh đó, tài liệu NIST AI 100-2e2025 – Adversarial Machine Learning A Taxonomy and Terminology of Attacks and Mitigations đóng vai trò định nghĩa các kỹ thuật tấn công và giảm thiểu rủi ro đối với học máy đối kháng, cung cấp một nền tảng thuật ngữ chuẩn cho các chuyên gia.
Các nền tảng bị khai thác chủ yếu trong lĩnh vực này là các hệ thống trí tuệ nhân tạo nói chung và ứng dụng mô hình ngôn ngữ lớn nói riêng. Những mục tiêu này tiềm ẩn nhiều lỗ hổng do tính chất phức tạp của chúng, từ dữ liệu huấn luyện, kiến trúc mô hình đến cách chúng tương tác với người dùng và các hệ thống khác.
Các Kỹ thuật, Chiến thuật và Thủ tục (TTPs)
Trong môi trường AI và LLM, các TTPs tập trung vào việc khai thác những điểm yếu đặc thù của công nghệ này. Ba lĩnh vực chính đáng chú ý bao gồm các lỗ hổng trong đánh giá mô hình, những cạm bẫy trong tích hợp hệ thống AI, và sự cần thiết của một phương pháp luận dựa trên rủi ro để đánh giá các hệ thống AI.
Lỗ hổng Đánh giá Mô hình (Model Evaluation Vulnerabilities)
Các lỗ hổng trong quá trình đánh giá mô hình AI là một trong những điểm yếu then chốt. Việc đánh giá không đầy đủ hoặc thiếu sót có thể bỏ qua các kịch bản tấn công đối kháng. Kẻ tấn công có thể lợi dụng những lỗ hổng này thông qua các kỹ thuật như Data Poisoning (đầu độc dữ liệu huấn luyện để làm sai lệch hành vi của mô hình), Model Inversion (khôi phục dữ liệu huấn luyện nhạy cảm từ mô hình), Membership Inference (xác định liệu một điểm dữ liệu cụ thể có được sử dụng trong quá trình huấn luyện hay không), hoặc các kỹ thuật Evasion Attacks (tạo ra các đầu vào được thiết kế đặc biệt để đánh lừa mô hình đưa ra dự đoán sai). Mục tiêu của các cuộc tấn công này là làm suy yếu tính toàn vẹn, tính bảo mật hoặc tính sẵn sàng của mô hình, dẫn đến kết quả không mong muốn hoặc bị lạm dụng.
Cạm bẫy Tích hợp Hệ thống AI (System Integration Pitfalls in AI Systems)
Việc tích hợp các thành phần AI vào các hệ thống lớn hơn thường đi kèm với những rủi ro đáng kể. Các cạm bẫy phổ biến bao gồm các lỗ hổng trong giao diện lập trình ứng dụng (API) được sử dụng để tương tác với mô hình, các điểm yếu trong đường ống dữ liệu (data pipelines) nơi dữ liệu được thu thập, xử lý và đưa vào mô hình, và các vấn đề về quản lý phụ thuộc (dependency management) liên quan đến các thư viện và framework của bên thứ ba. Hơn nữa, việc cấu hình sai (misconfigurations) các hệ thống AI khi triển khai có thể mở ra các cổng truy cập trái phép hoặc để lộ thông tin nhạy cảm. Những điểm yếu này có thể bị khai thác để truy cập trái phép vào dữ liệu, thực thi mã độc từ xa hoặc làm gián đoạn dịch vụ.
Phương pháp Luận Dựa trên Rủi ro để Đánh giá Hệ thống AI (Risk-based Methodology for Assessing AI Systems)
Để đối phó với các TTPs nói trên, việc áp dụng một phương pháp luận dựa trên rủi ro là điều cần thiết. Phương pháp này đòi hỏi một cách tiếp cận có hệ thống để xác định, đánh giá và giảm thiểu các rủi ro trong suốt vòng đời của hệ thống AI, từ giai đoạn thiết kế ban đầu, thu thập và xử lý dữ liệu, huấn luyện mô hình, triển khai cho đến giám sát liên tục. Một khuôn khổ đánh giá rủi ro mạnh mẽ giúp các tổ chức ưu tiên các mối đe dọa, phân bổ nguồn lực hiệu quả và triển khai các biện pháp kiểm soát phù hợp để bảo vệ tính bảo mật, riêng tư, công bằng và độ tin cậy của các hệ thống AI.
Ví dụ Thực thi Lệnh
Trong quá trình phát triển và kiểm thử bảo mật các ứng dụng AI/LLM, việc kiểm tra chất lượng đầu ra và an toàn mã là rất quan trọng. Các đoạn mã sau đây minh họa cách thức kiểm tra tính đúng đắn và an toàn của phản hồi từ mô hình hoặc mã được tạo ra bởi AI.
Ví dụ đầu tiên là một hàm kiểm tra xem phản hồi từ mô hình có chứa các thông tin yêu cầu cụ thể hay không. Điều này hữu ích để đảm bảo rằng LLM không bỏ sót các chi tiết quan trọng hoặc để kiểm tra các chính sách nội dung.
def test_response_contains_required_info(prompt, response):
required_points = ["pricing options", "delivery timeframe"]
return all(point in response.lower() for point in required_points)
Hàm thứ hai là một ví dụ về cách tự động kiểm tra mã được tạo ra bởi AI. Trong các ứng dụng nơi LLM tạo ra các đoạn mã, việc kiểm tra tính thực thi và an toàn của mã đó trước khi đưa vào sử dụng là cực kỳ quan trọng để ngăn chặn các lỗ hổng tiềm ẩn hoặc lỗi chức năng.
def test_generated_code(prompt, code_response):
# Write code to temp file
with open('temp_code.py', 'w') as f:
f.write(code_response)
# Execute code with test inputs
result = subprocess.run(['python', 'temp_code.py'], input='test input', capture_output=True)
# Check execution succeeded
return result.returncode == 0
Các ví dụ này cho thấy tầm quan trọng của việc tích hợp các kiểm tra bảo mật tự động vào quy trình phát triển và triển khai AI. Bằng cách xác minh đầu ra của mô hình và mã được tạo ra, các nhà phát triển có thể giảm thiểu rủi ro liên quan đến các phản hồi không mong muốn, thông tin sai lệch hoặc mã độc hại, từ đó nâng cao tính tin cậy và an toàn cho hệ thống AI.
