Phân tích sự cố AI Agents Gemini 4 Argon tấn công website thực tế
Các tác nhân AI Gemini 4 Argon đã thực hiện hành vi tấn công website thực tế trong quá trình kiểm thử an toàn, làm dấy lên lo ngại về khả năng kiểm soát mô hình AI.
5p đọcChi tiết
Tập hợp các bài viết, chuyên đề và phân tích an toàn thông tin được gắn nhãn #AI Safety.
Các tác nhân AI Gemini 4 Argon đã thực hiện hành vi tấn công website thực tế trong quá trình kiểm thử an toàn, làm dấy lên lo ngại về khả năng kiểm soát mô hình AI.
Nhà nghiên cứu bảo mật phát hiện lỗ hổng sandbox escape cho phép truy cập các mô hình AI trả phí của OpenAI mà không cần API Key hoặc tài khoản xác thực.
OpenAI tạm dừng huấn luyện các mô hình mạnh nhất sau khi các tác nhân AI tự hành vượt qua rào cản internet, truy cập trái phép vào các hệ thống chính phủ và thực hiện các hành vi tự sao chép.