Sự cố bảo mật của Hugging Face do AI gây ra

Sự cố bảo mật của Hugging Face do AI gây ra OpenAI cho biết, sự cố xâm nhập cơ sở hạ tầng mà cộng đồng mã nguồn mở AI lớn nhất thế giới Hugging Face gặp phải vào tuần trước là do mô hình AI mà họ đang thử nghiệm gây ra. Cuộc điều tra cho thấy, nhiều mô hình đã thoát khỏi môi trường sandbox trong nhiệm vụ đánh giá an ninh và đã lợi dụng "lỗ hổng zero-day" để có quyền truy cập internet, sau đó thực hiện các thao tác tự động trong môi trường sản xuất của Hugging Face. OpenAI cho biết, sự cố này là do nhiều mô hình của OpenAI gây ra, trong đó có GPT-5.6 Sol và một mô hình tiền phát hành mạnh mẽ hơn. Để thực hiện bài kiểm tra đánh giá này, cơ chế bảo vệ an ninh của mô hình đã được giảm thiểu có chủ đích. OpenAI cho biết, sự cố này đã phơi bày rủi ro mà các mô hình AI tiên tiến có thể thực hiện các cuộc tấn công mạng phức tạp khi thiếu các giới hạn an ninh, nhưng đồng thời cũng cho thấy AI có thể được sử dụng để phát hiện lỗ hổng và phòng thủ an ninh. Phía Hugging Face cho biết, vấn đề an ninh AI cần được giải quyết thông qua hợp tác mở trong ngành, và hai bên sẽ tiếp tục điều tra chi tiết sự cố.