Một nghiên cứu học thuật mới từ Beacom College of Computer & Cyber Sciences đã chỉ ra rằng mọi script tự động hóa được tạo ra bởi các mô hình AI hàng đầu như ChatGPT, Microsoft Copilot, và Google Gemini đều chứa các lỗ hổng bảo mật có thể bị khai thác. Phát hiện này đặt ra những rủi ro đáng kể khi các tổ chức ngày càng phụ thuộc vào công cụ AI để tăng tốc quy trình phát triển.
Trong bối cảnh các doanh nghiệp đang tăng cường ứng dụng AI để tối ưu hóa quy trình làm việc, những kết quả này đặc biệt quan trọng. Chúng nhấn mạnh những nguy cơ nghiêm trọng liên quan đến việc triển khai mã do AI tạo ra trực tiếp vào môi trường sản xuất mà chưa qua quy trình kiểm định kỹ lưỡng. Việc kiểm tra và xác thực mã nguồn là bước cần thiết để đảm bảo an toàn thông tin cho hệ thống.
Phương pháp luận nghiên cứu và kiểm định bảo mật
Để đánh giá chất lượng bảo mật của mã nguồn do AI tạo ra một cách khách quan, các nhà nghiên cứu đã sử dụng các câu lệnh (prompts) tiêu chuẩn, giống hệt nhau. Các câu lệnh này được gửi đến ChatGPT, Microsoft Copilot và Google Gemini, loại bỏ mọi yếu tố thiên vị có thể phát sinh từ việc điều chỉnh prompt.
Bộ kiểm thử được thiết kế để tập trung vào ba nhiệm vụ doanh nghiệp phổ biến, đại diện cho các hoạt động cốt lõi thường được tự động hóa. Các nhiệm vụ này bao gồm:
- Thao tác với cơ sở dữ liệu: Các script được yêu cầu thực hiện các hoạt động truy vấn, cập nhật, hoặc quản lý dữ liệu.
- Vận hành hệ thống tệp: Các tác vụ liên quan đến việc đọc, ghi, hoặc quản lý tệp trên hệ thống.
- Gọi API: Các script tương tác với các giao diện lập trình ứng dụng nội bộ hoặc bên ngoài.
Tổng cộng, nghiên cứu đã tạo ra chín script Python, ba script từ mỗi mô hình AI. Các nhà nghiên cứu sau đó đánh giá mã nguồn này bằng cách sử dụng công cụ Anthropic’s Claude Code. Đây là một phương pháp mô phỏng cách một người dùng không chuyên về bảo mật có thể thực tế kiểm tra các script do AI viết.
Phân tích và phân loại các lỗ hổng bảo mật
Quá trình xem xét tự động đã phát hiện tổng cộng 45 phát hiện bảo mật riêng lẻ. Sau khi loại bỏ các trùng lặp, chúng được phân loại thành 17 lớp lỗ hổng khác biệt. Mỗi lỗ hổng được chấm điểm dựa trên khung CVSS 3.1, được ánh xạ tới OWASP Top 10, và đối chiếu với khung MITRE ATT&CK.
Nghiên cứu chứng minh rằng các lỗi bảo mật này mang tính hệ thống, chứ không phải đặc thù riêng cho từng thương hiệu AI. Số lượng lỗ hổng được phát hiện nhất quán đáng kinh ngạc giữa các nền tảng: script của ChatGPT chứa 13 lỗ hổng, của Copilot chứa 14 lỗ hổng, và của Gemini có 12 lỗ hổng, với sự khác biệt thống kê không đáng kể.
Trong số 17 lớp lỗ hổng duy nhất được xác định, 9 lớp xuất hiện trong mã được tạo bởi cả ba mô hình AI, chiếm 53% sự chồng chéo. Ngoài ra, 14 lớp lỗ hổng đã có mặt trong ít nhất hai nền tảng, cho thấy mức độ chồng chéo lên tới 82%. Điều này cho thấy rằng các rủi ro bảo mật vốn gắn liền với bản chất của nhiệm vụ được yêu cầu hơn là sự lựa chọn nhà cung cấp AI.
Các lớp lỗ hổng chính và tác động nghiêm trọng
Nghiên cứu đã lập danh mục 17 lớp lỗ hổng bảo mật khác biệt trên toàn bộ mã nguồn được tạo ra. Phân tích chi tiết CVSS 3.1 minh họa rằng các lỗ hổng nghiêm trọng trải rộng trên các lĩnh vực xử lý mạng, hệ thống tệp và logic phân tích đầu vào.
Một phân tích Pareto đã tiết lộ rằng chỉ 11 trong số 17 lớp lỗ hổng chiếm khoảng 80% tổng rủi ro có trọng số. Các vấn đề nghiêm trọng như SSRF (Server-Side Request Forgery), template injection (tiêm mẫu), email header injection (tiêm tiêu đề email), và path traversal (điều hướng đường dẫn) đứng đầu danh sách. Các mối đe dọa mạng này có khả năng gây ra hậu quả nghiêm trọng cho hệ thống.
Các lỗ hổng được ánh xạ chống lại Lockheed Martin Cyber Kill Chain, cho thấy chúng bao trùm các giai đoạn quan trọng của một cuộc tấn công. Điều này bao gồm khả năng giành quyền truy cập ban đầu, thực thi mã độc, chiếm đoạt thông tin xác thực, và thực hiện di chuyển ngang trong mạng lưới.
Chi tiết về phân tích này và các phát hiện khác được công bố trong bài nghiên cứu chính thức: Published Research Paper.
Rủi ro hệ thống và bối cảnh mối đe dọa mạng rộng hơn
Các script tự động hóa vốn dĩ chạy với quyền hạn của người dùng hoặc môi trường máy chủ thực thi chúng. Một script chưa được kiểm duyệt có thể tương tác với các ổ đĩa dùng chung của công ty, máy chủ SMTP nội bộ, và các mạng con cục bộ mà không cần nâng cấp đặc quyền phụ. Điều này tạo ra một cửa ngõ tiềm năng cho các cuộc tấn công.
Những rủi ro này càng trở nên phức tạp khi kết hợp với các mối đe dọa mạng rộng hơn trong hệ sinh thái AI. Ví dụ, các cuộc tấn công AI prompt injection có thể nhắm mục tiêu vào các công cụ mã tự động để che giấu các lệnh độc hại. Ngoài ra, các lỗ hổng trong quy trình làm việc của AI cũng có thể phơi bày các dịch vụ doanh nghiệp cơ bản cho việc khai thác. Các lỗ hổng bảo mật như vậy đòi hỏi sự cảnh giác cao độ.
Việc này có thể dẫn đến việc kiểm soát hệ thống, đánh cắp dữ liệu nhạy cảm hoặc gây gián đoạn hoạt động kinh doanh. Mức độ nghiêm trọng của các lỗ hổng bảo mật này yêu cầu các tổ chức phải có chiến lược bảo vệ toàn diện.
Khuyến nghị và biện pháp phòng ngừa để đảm bảo an toàn thông tin
Các tổ chức cần thiết lập các quy tắc rõ ràng xung quanh quá trình phát triển phần mềm có sự hỗ trợ của AI để tăng cường an toàn thông tin. Việc này là tối quan trọng để giảm thiểu các rủi ro tiềm tàng từ mã nguồn được tạo tự động:
- Giám sát và kiểm tra mã bắt buộc: Tất cả mã nguồn do AI tạo ra phải trải qua quy trình đánh giá và phê duyệt nghiêm ngặt của con người. Điều này bao gồm kiểm tra bảo mật, kiểm tra chất lượng và thử nghiệm đầy đủ trước khi triển khai vào môi trường sản xuất.
- Kiểm soát quyền truy cập theo nguyên tắc ít đặc quyền nhất: Đảm bảo rằng các script tự động hóa, dù được tạo bởi AI hay không, chỉ có các quyền tối thiểu cần thiết để thực hiện chức năng của chúng. Điều này giới hạn phạm vi tác động nếu script bị khai thác.
- Tích hợp công cụ phân tích bảo mật tự động: Triển khai các giải pháp SAST (Static Application Security Testing) và DAST (Dynamic Application Security Testing) để tự động quét mã nguồn và ứng dụng. Các công cụ này có thể giúp phát hiện sớm các lỗ hổng bảo mật tiềm ẩn.
- Đào tạo và nâng cao nhận thức: Cung cấp đào tạo cho các nhà phát triển và nhân viên về các rủi ro bảo mật liên quan đến việc sử dụng AI trong phát triển phần mềm, bao gồm các hình thức tấn công như prompt injection.
- Cô lập môi trường phát triển: Thực hiện phát triển và thử nghiệm mã nguồn AI trong các môi trường cô lập, tách biệt với mạng sản xuất. Điều này giúp ngăn chặn các lỗi hoặc lỗ hổng tiềm tàng lan rộng.
- Cập nhật và vá lỗi thường xuyên: Đảm bảo các mô hình AI và công cụ phát triển phần mềm luôn được cập nhật các bản vá bảo mật mới nhất để bảo vệ chống lại các lỗ hổng đã biết.
Áp dụng các biện pháp này sẽ giúp giảm thiểu đáng kể các lỗ hổng bảo mật và tăng cường khả năng phục hồi của hệ thống. Nó cũng giúp đảm bảo rằng việc khai thác các công nghệ AI diễn ra một cách an toàn và bền vững, củng cố an toàn thông tin tổng thể cho doanh nghiệp.
