1. Giới thiệu và Mục đích:
SafetyCore là một framework trên thiết bị được Google giới thiệu vào tháng 10 năm 2024, được thiết kế để phân loại nội dung như spam, lừa đảo, hoặc nội dung khiêu dâm tại chỗ bằng cách sử dụng các mô hình học máy. Nó hoạt động mà không truyền dữ liệu đến các máy chủ của Google, thay vào đó cung cấp công cụ cho các ứng dụng để phân tích nội dung tại chỗ.
2. Lo ngại về Quyền riêng tư:
Thiếu minh bạch của ứng dụng và việc cài đặt âm thầm đã dấy lên những lo ngại nghiêm trọng về quyền riêng tư. Người dùng không biết đến sự hiện diện của nó cho đến khi họ phát hiện ra nó dưới “Ứng dụng hệ thống”. Các nhà phê bình lập luận rằng việc thiếu các mô hình mã nguồn mở hoặc sự tiết lộ upfront đã làm gia tăng sự nghi ngờ về các rủi ro tiềm tàng của hệ thống.
3. Chức năng và Triển khai:
SafetyCore chỉ được kích hoạt khi các ứng dụng yêu cầu phân loại, và người dùng vẫn giữ quyền kiểm soát đối với các tính năng đã được bật. Tuy nhiên, việc triển khai ban đầu mà không có thông báo đến người dùng đã gây ra sự mất lòng tin rộng rãi. Ứng dụng yêu cầu 2GB RAM và hoạt động ngầm, điều này không được tiết lộ cho đến khi người dùng phát hiện ra nó.
4. So sánh với Tìm kiếm Hình ảnh Nâng cao của Apple:
Cuộc tranh cãi này tương tự như sự ồn ào gần đây của Apple về Tìm kiếm Hình ảnh Nâng cao, trong đó các mảnh hình ảnh được tải lên để khớp với các địa danh. Cả hai sự cố đều làm nổi bật tầm quan trọng của tính minh bạch trong các chức năng dựa trên AI.
5. Phản ứng của Người dùng và Giải quyết:
Các người dùng đã được khuyên tắt SafetyCore thông qua Cài đặt > Ứng dụng > Ứng dụng hệ thống > SafetyCore, phản ánh sự thiếu lòng tin rộng rãi và nhu cầu về giao tiếp chủ động về các tính năng dựa trên AI. Các chuyên gia gợi ý rằng việc mở mã nguồn framework của SafetyCore có thể làm yên lòng người dùng chú trọng đến quyền riêng tư và giảm bớt phản ứng dữ dội.
6. Các hệ quả trong tương lai:
Mặc dù Google đã đảm bảo rằng SafetyCore hoạt động một cách độc lập, các chuyên gia cảnh báo rằng các tích hợp trong tương lai với các dịch vụ khác của Google có thể thay đổi hành vi của nó, có khả năng làm lộ dữ liệu người dùng. Sự cố này nhấn mạnh một bài học quan trọng cho các gã khổng lồ công nghệ: tính minh bạch là không thể thương lượng, và người dùng yêu cầu sự rõ ràng về các tính năng dựa trên AI tiếp cận dữ liệu cá nhân của họ.
