Anthropic kêu gọi tạm dừng phát triển AI tiên tiến toàn cầu

Anthropic kêu gọi tạm dừng phát triển AI tiên tiến toàn cầu Ngày 5 tháng 6, Anthropic đã kêu gọi các phòng thí nghiệm trí tuệ nhân tạo hàng đầu xem xét việc làm chậm lại tốc độ phát triển, đồng thời chỉ ra rằng tốc độ tiến hóa của hệ thống AI đang rất nhanh, có thể sớm đạt được khả năng tự cải tiến mà không cần sự can thiệp của con người, và khả năng này có thể gây ra những rủi ro xã hội nghiêm trọng. Vào thứ Năm, Anthropic đã công bố dữ liệu nội bộ trong một bài viết trên blog, ghi lại chi tiết cách mà các mô hình tiên tiến của họ đang đạt được sự cải thiện hiệu suất với tốc độ đáng kinh ngạc. Bài viết chỉ ra rằng sự tiến bộ của các mô hình AI dường như đang tiến tới hướng "tự cải tiến đệ quy", tức là hệ thống AI có thể tự tối ưu hóa mà không cần sự can thiệp của con người. Bài viết cho biết: "Chúng tôi tin rằng nếu thế giới có thể chọn làm chậm lại hoặc tạm dừng phát triển AI tiên tiến, để cấu trúc xã hội và các nghiên cứu liên quan có thể theo kịp sự phát triển của công nghệ, điều này sẽ có lợi cho thế giới." Bài viết đề xuất đạt được một thỏa thuận toàn cầu, xác định cách có thể làm chậm tốc độ phát triển AI và thiết lập một cơ chế để xác minh xem các đối thủ có tuân thủ thỏa thuận này hay không.