Các đối tượng tấn công đang tích cực lợi dụng tính năng mời tổ chức của OpenAI để thực hiện một hình thức tấn công “poisoned tenant” mới, cho phép chúng thu thập các câu lệnh nhạy cảm, hoạt động API và tiềm ẩn cả dữ liệu doanh nghiệp từ người dùng không nghi ngờ.
Tấn công “Poisoned Tenant” nhắm vào Tổ chức OpenAI
Theo nghiên cứu được công bố, các đối tượng tấn công đã tạo một tổ chức OpenAI giả mạo, sử dụng tên của công ty và gửi lời mời mục tiêu đến nhân viên.
Cơ chế hoạt động của Lời mời Giả mạo
Các email này không phải là giả mạo hoặc độc hại theo nghĩa truyền thống. Chúng xuất phát từ hệ thống thông báo hợp pháp của OpenAI ([email protected]), vượt qua các kiểm tra xác thực và trông giống hệt các lời mời cộng tác chân thực.
Dấu hiệu cảnh báo duy nhất là một thông báo nhỏ cho biết tên miền của người mời không khớp với tên miền doanh nghiệp của người nhận.
Tuy nhiên, chi tiết này có thể dễ dàng bị bỏ qua, đặc biệt khi email trông hoàn toàn hợp pháp và đề cập đến thông tin thực tế của công ty.
Khai thác Lỗ hổng Gia nhập Tổ chức
Khi người nhận nhấp vào liên kết mời, cuộc tấn công trở nên đặc biệt nguy hiểm. Các nhà nghiên cứu phát hiện rằng việc gia nhập tổ chức chỉ yêu cầu một cú nhấp chuột duy nhất, không có thêm bước xác thực hoặc kiểm chứng nào.
Ngay cả từ một phiên trình duyệt mới chưa đăng nhập, tài khoản cũng ngay lập tức được liên kết với tenant do kẻ tấn công kiểm soát.
Các đối tượng tấn công đã làm cho tổ chức giả mạo trông có vẻ hợp pháp bằng cách mạo danh một giám đốc điều hành và cấp cho tất cả người dùng được mời các quyền Sở hữu (Owner privileges) với quyền truy cập quản trị đầy đủ.
Một thẻ tín dụng cũng đã được thêm vào tài khoản, có thể để giảm thiểu ma sát và tránh gây nghi ngờ nếu người dùng cố gắng truy cập các tính năng trả phí.
Mục tiêu Thu thập Dữ liệu Lâu dài
Mục tiêu thực sự của cuộc tấn công không phải là đánh cắp thông tin xác thực ngay lập tức, mà là thu thập dữ liệu lâu dài.
Nếu một nhân viên cho rằng tổ chức là hợp pháp và bắt đầu sử dụng nó cho công việc, bất kỳ câu lệnh nào, dữ liệu được tải lên, hoặc hoạt động API đều có thể bị kẻ tấn công nhìn thấy.
Điều này có thể bao gồm mã nguồn, tài liệu nội bộ, nghiên cứu bảo mật hoặc thông tin khách hàng. Kỹ thuật này xây dựng dựa trên khái niệm “poisoned tenant” lần đầu được mô tả vào năm 2023, nơi kẻ tấn công tạo các môi trường SaaS giả mạo để lừa người dùng tham gia.
Tận dụng vai trò của AI trong Doanh nghiệp
Trong trường hợp này, cuộc tấn công khai thác vai trò ngày càng tăng của các nền tảng AI như trung tâm năng suất doanh nghiệp.
Khi nhân viên ngày càng dựa vào các công cụ như ChatGPT cho quy trình làm việc hàng ngày, giá trị của dữ liệu câu lệnh bị thu thập trở nên cao hơn đáng kể.
Nguy cơ Leo thang và Lạm dụng
Các nhà nghiên cứu cảnh báo rằng kẻ tấn công có thể leo thang quyền truy cập bằng cách chia sẻ các cuộc trò chuyện độc hại, chèn các câu lệnh nguy hiểm hoặc lạm dụng các tích hợp của bên thứ ba.
Điều này tạo cơ hội cho việc trích xuất dữ liệu (data exfiltration), lạm dụng OAuth, hoặc di chuyển ngang (lateral movement) trên các dịch vụ được kết nối như email, lưu trữ đám mây và các công cụ cộng tác.
Xu hướng Tấn công Sử dụng Nền tảng SaaS
Chiến dịch này là một phần của xu hướng rộng lớn hơn, nơi các tác nhân đe dọa vũ khí hóa các nền tảng SaaS đáng tin cậy làm kênh phân phối.
Các báo cáo gần đây nhấn mạnh việc lạm dụng tương tự trên OpenAI, GitHub và Jira, nơi kẻ tấn công nhúng nội dung độc hại vào các thông báo do nền tảng tạo ra.
Thách thức trong Phòng chống
Do các thông báo này đến từ các tên miền hợp pháp, chúng vượt qua nhiều biện pháp kiểm soát bảo mật truyền thống.
Việc phòng chống kỹ thuật này rất khó khăn vì không có các chỉ báo rõ ràng, chẳng hạn như liên kết độc hại hoặc tên miền giả mạo.
Cơ sở hạ tầng được sử dụng hoàn toàn hợp pháp.
Giải pháp và Khuyến nghị Bảo mật
Thay vào đó, các tổ chức phải tập trung vào khả năng hiển thị việc sử dụng SaaS, giám sát xem nhân viên tham gia vào các tenant bên ngoài nào, và giáo dục người dùng rằng ngay cả email nền tảng xác thực cũng có thể mang rủi ro bảo mật.
Sự cố này nêu bật một khoảng trống bảo mật ngày càng tăng trong các doanh nghiệp hiện đại. Khi các nền tảng SaaS và AI tiếp tục mở rộng, các tính năng cộng tác tích hợp của chúng đang trở thành một bề mặt tấn công mạnh mẽ.
Nếu không có các biện pháp kiểm soát mạnh mẽ hơn, chẳng hạn như thực thi xác minh tên miền hoặc hạn chế việc tham gia tổ chức, kẻ tấn công sẽ tiếp tục khai thác các hệ thống đáng tin cậy này để thu thập dữ liệu nhạy cảm một cách âm thầm.
Để tăng cường khả năng phát hiện và phản ứng nhanh chóng với các mối đe dọa, việc tích hợp các giải pháp phân tích mã độc như ANY.RUN có thể mang lại hiệu quả.
Tích hợp ANY.RUN với SOC của bạn ngay hôm nay để tăng tốc độ phát hiện mối đe dọa và điều tra.
