Giám đốc điều hành Anthropic: Chính phủ nên có quyền ngăn chặn việc triển khai mô hình mới

Giám đốc điều hành Anthropic: Chính phủ nên có quyền ngăn chặn việc triển khai mô hình mới Ngày 11 tháng 6, Anthropic CEO Dario Amodei cho biết, nếu các mô hình trí tuệ nhân tạo mới có những rủi ro cụ thể, chính phủ nên có quyền ngăn chặn việc triển khai chúng. Amodei đã công bố một bài viết dài vào thứ Tư, lập luận rằng các mô hình trí tuệ nhân tạo nên trải qua các bài kiểm tra bên thứ ba bắt buộc để đánh giá những rủi ro mà chúng có thể mang lại trong nhiều lĩnh vực. Ông viết rằng, nếu trí tuệ nhân tạo được xác định là "có rủi ro không thể chấp nhận", thì "chính phủ nên có quyền ngăn chặn hoặc kiềm chế việc triển khai nó". Đây là một trong những phát biểu mạnh mẽ nhất của Amodei cho đến nay về việc tăng cường quản lý trí tuệ nhân tạo. Amodei viết: "Tôi nghĩ rằng, ít nhất trong giai đoạn phát triển bùng nổ hiện tại, phép so sánh phù hợp nhất là ô tô, máy bay hoặc thuốc, những công nghệ này rất quan trọng đối với nền kinh tế hiện đại, nhưng nếu thiết kế hoặc sử dụng không đúng cách, cũng có thể dẫn đến cái chết của nhiều người." Trước đó, Anthropic đã cảnh báo rằng mô hình trí tuệ nhân tạo Mythos mà họ phát hành có khả năng phát hiện và khai thác các lỗ hổng phần mềm quan trọng, vì vậy công ty đã quyết định chỉ mở mô hình này cho một số đối tác. Trong tuần này, Anthropic đã phát hành một phiên bản mới xóa bỏ khả năng tấn công mạng liên quan.