NIST vừa công bố bản dự thảo "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations", cung cấp khung tham chiếu chuẩn hóa cho lĩnh vực bảo mật AI.
Nội dung chính:
- Hệ thống hóa phân loại: Xây dựng cấu trúc phân cấp về các phương pháp ML, vòng đời tấn công và mục tiêu của kẻ tấn công.
- Định nghĩa thuật ngữ: Chuẩn hóa ngôn ngữ kỹ thuật trong Adversarial ML, giúp các đội ngũ bảo mật và phát triển AI có tiếng nói chung.
- Quản trị rủi ro: Nhận diện các thách thức trong vòng đời hệ thống AI và đề xuất các phương pháp giảm thiểu, quản lý hậu quả từ các cuộc tấn công.
Đây là tài liệu nền tảng quan trọng cho các chuyên gia đang làm việc trong lĩnh vực MLSecOps và đảm bảo an toàn cho các mô hình AI.