Cập nhật mã nguồn mở mới của Tencent Hỗn Nguyên AI Infra: Nâng cấp toàn diện các toán tử lõi HPC-Ops

Cập nhật mã nguồn mở mới của Tencent Hỗn Nguyên AI Infra: Nâng cấp toàn diện các toán tử lõi HPC-Ops Ngày 11 tháng 6, nhằm đáp ứng tốt hơn khả năng thích ứng của hệ thống suy diễn với tải công việc động, và nhu cầu của các mô-đun lõi đối với các toán tử tích hợp độ chính xác phức tạp và hiệu suất cao, HPC-Ops đã phát hành bản nâng cấp mã nguồn mở hoàn toàn mới, bao gồm năm toán tử chính. Bản nâng cấp này đã hiệu quả giảm thiểu các nút thắt trong kỹ thuật thực tế như độ trễ đuôi dài của Attention, chi phí di chuyển bộ nhớ đồ họa, và giao tiếp giữa các thẻ trên các nền tảng suy diễn phổ biến, với nhiều chỉ số hiệu suất vượt trội hơn so với các tiêu chuẩn mã nguồn mở hiện có. (Tencent Hỗn Nguyên)