Broadcom đã công bố VMware AI Factory tại sự kiện VMware Explore 2026 ở Las Vegas. Nền tảng này được thiết kế để giúp doanh nghiệp triển khai, quản lý và bảo mật các tác vụ AI, từ hạ tầng bare-metal đến suy luận mô hình trực tiếp trong VMware Private AI Cloud. Giải pháp này nhằm mục đích giải quyết sự chậm trễ, chi phí cao và phức tạp trong quá trình đưa AI từ phần cứng thô vào hoạt động thực tế.
Nền Tảng VMware AI Factory
Paul Turner, Giám đốc sản phẩm của Bộ phận VMware Cloud Foundation tại Broadcom, cho biết doanh nghiệp mong muốn AI hoạt động tại nơi dữ liệu của họ đã tồn tại. Tuy nhiên, hành trình từ phần cứng vật lý đến mô hình AI thường quá cồng kềnh.
VMware AI Factory tự động hóa việc triển khai hạ tầng, hợp nhất quản lý vòng đời và mang lại sự linh hoạt cho tổ chức trong việc lựa chọn phần cứng cũng như các mô hình AI đã được kiểm duyệt. Đồng thời, nền tảng này duy trì chi phí đám mây riêng ở mức có thể dự đoán được.
Ưu điểm về Tốc độ và Quản lý
Giá trị cốt lõi của nền tảng này nằm ở tốc độ. Khả năng tự động hóa của VMware Cloud Foundation có thể rút ngắn thời gian từ khi triển khai máy chủ bare-metal đến khi phục vụ mô hình AI đầu tiên, từ vài tuần xuống chỉ còn vài giờ. Điều này đạt được thông qua việc tự động hóa hoàn toàn việc cấp phát phần cứng, kích hoạt ngăn xếp phần mềm và các hoạt động vòng đời.
Bảo mật và quản trị được tích hợp sâu vào lớp dịch vụ AI riêng của AI Factory. Các tài nguyên GPU được gộp chung và chia sẻ giữa các nhóm thay vì gán riêng cho từng tác vụ. Một thư viện mô hình hợp nhất cung cấp cho các nhóm IT và khoa học dữ liệu khả năng hiển thị tập trung vào việc triển khai mô hình, quy trình làm việc tạo sinh tăng cường truy xuất (Retrieval-Augmented Generation – RAG), thông lượng token, độ trễ và việc sử dụng tài nguyên tính toán.
Các Tính năng Bảo mật Nổi bật
Ba khả năng chính nổi bật từ góc độ an ninh mạng bao gồm:
- Multi-tenant Model Sharing: Cho phép tổ chức chia sẻ mô hình AI giữa các đơn vị kinh doanh thông qua các không gian tên cô lập, bảo vệ quyền riêng tư dữ liệu đồng thời tránh việc triển khai tốn kém tài nguyên GPU.
- AI Gateway: Hợp nhất quản trị trên môi trường tại chỗ và đám mây thông qua một giao diện duy nhất. Gateway bổ sung các tính năng định tuyến prompt thông minh, giới hạn tốc độ token và sử dụng, cùng với các kiểm soát ủy quyền ở cấp ứng dụng.
- Secure AI Sandboxes and Governance: Cung cấp các không gian container ảo hóa để cô lập việc thực thi mã do agent tạo ra. Lớp điều khiển này định nghĩa cách các agent tự động được gọi, công cụ nào chúng có thể truy cập và đầu ra của chúng được xác thực như thế nào trước khi bất kỳ hành động nào được thực hiện. Đây là phản hồi trực tiếp cho các lo ngại ngày càng tăng về hành vi AI agent không được kiểm soát trong môi trường doanh nghiệp.
Secure AI Sandboxes and Governance là một tính năng quan trọng để giảm thiểu mối đe dọa từ các hành vi AI không mong muốn.
Hỗ trợ Hạ tầng và Mô hình
Broadcom kết hợp lớp phần mềm này với các giải pháp VCF AI ReadyNodes được chứng nhận từ Cisco, Dell Technologies, Lenovo và Supermicro. Công ty cũng hợp tác với AMD để tích hợp VMware Cloud Foundation với GPU AMD Instinct MI350 Series và hệ sinh thái phần mềm ROCm mở.
Triển khai Zero-touch provisioning sẽ điều phối việc triển khai trên vSphere, vSAN, Kubernetes và ngăn xếp toán tử GPU AMD. Một hợp tác riêng với MetalSoft mang lại khả năng tự động hóa bare-metal tích hợp cho VCF, giảm thời gian cấp phát máy chủ vật lý từ tuần xuống phút. Điều này cho phép các nhóm IT quản lý phần cứng không đồng nhất trực tiếp qua giao diện VCF, loại bỏ nhu cầu sử dụng các công cụ dành riêng cho từng nhà cung cấp.
Về phía mô hình, khách hàng VCF hiện có thể truy cập hơn 150 mô hình mã nguồn mở và thương mại, bao gồm Nemotron 3, Gemma 4, cotomi, Qwen 3.7-Max và GLM 5.2. Các mô hình này được cung cấp dưới dạng dịch vụ có quản trị (governed models-as-a-service), mang đến cho doanh nghiệp một con đường có chủ quyền dữ liệu và kiểm soát chi phí để chạy AI trên hạ tầng của riêng họ mà không phụ thuộc hoàn toàn vào các nhà cung cấp đám mây bên ngoài.
Để ngăn chặn các sự cố do điều tra chậm trễ, hãy tăng cường khả năng giám sát của bạn với threat intelligence từ 15.000 SOC. Tích hợp tra cứu thông tin tình báo mối đe dọa vào Trung tâm Điều hành An ninh (SOC) của bạn.
Nguồn: Cybersecurity News
