Chủ tịch Ngân hàng Nông nghiệp Trung Quốc: Các rủi ro chính của mô hình AI hiện nay

Chủ tịch Ngân hàng Nông nghiệp Trung Quốc, ông Vũ Thụ, cho biết tại diễn đàn Lujiazui 2026 rằng trong quá trình ứng dụng mô hình lớn, các rủi ro chính mà mô hình AI hiện nay đang phải đối mặt bao gồm: 1. Rủi ro từ mô hình "hộp đen". 2. Rủi ro từ ảo giác mô hình. 3. Rủi ro từ việc mô hình tự suy nghĩ và ra quyết định. Theo ông, rủi ro không chắc chắn này có thể được phân loại thành ba loại chính: 1. Khó khăn trong việc giải thích mô hình do số lượng tham số khổng lồ. Hiện nay, quy mô tham số của các mô hình lớn đã lên đến hàng trăm tỷ hoặc thậm chí hàng nghìn tỷ, việc tính toán ma trận với số lượng tham số lớn và sự chồng chất phi tuyến tính dẫn đến cơ chế ra quyết định và kết quả đầu ra của mô hình trở nên không minh bạch và khó giải thích. 2. Thách thức về độ chính xác do việc sinh ra xác suất. Quá trình ra quyết định của mô hình lớn không giống như quá trình ra quyết định của con người với tư duy tuyến tính, mà dựa trên quy luật xác suất của các token từ dữ liệu huấn luyện khổng lồ, về bản chất là thống kê xác suất, không phải suy diễn logic. Khi dữ liệu và bằng chứng thực tế không đủ, dễ dẫn đến ảo giác tự nhất quán. 3. Mô hình hiện nay đã có khả năng tự suy nghĩ và ra quyết định. Với sự tiến hóa của mô hình lớn và ứng dụng sâu của các tác nhân thông minh, nó đã vượt qua mô hình đầu vào và đầu ra tương đối cố định của phần mềm truyền thống, có khả năng tự suy nghĩ, điều này phần nào làm gia tăng rủi ro không thể kiểm soát trong quá trình và không thể biết được kết quả.