Sistem Terkini Alibaba Cloud Mengurangkan Penggunaan GPU NVIDIA Sehingga 82%

Alibaba Cloud memperkenalkan sistem sistem Aegaeon yang menurut mereka mengurangkan penggunaan GPU NVIDIA H20 sehingga 82%. Dalam ujian yang dilakukan selama tiga bulan, Aegaeon memerlukan hanya 213 GPU H20 berbanding 1192 GPU sebelum ini. untuk melakukan pemproses model kecerdasan buatan (AI) dengan 72 bilion parameter.

Kecekapan penggunaan GPU ini dilakukan dengan menggabungkan sumber GPU supaya satu GPU boleh menyokong pelbagai model secara serentak. Sebelum ini satu GPU hanya boleh digunakan untuk memproses satu model sahaja. Teknik ini dibangunkan oleh Allibaba dengan kerjasama penyelidik Universiti Peking.

Aegaeon dibangunkan bukan sahaja untuk meningkatkan kecekapan pusat data AI tetapi pada waktu yang sama menyelesaikan isu pembelian GPU NVIDIA yang dikenakan oleh Amerika Syarikat ke atas China. Oleh sebab itu sejak lebih sebulan lalu kerajaan China menyarankan syarikat tempatan untuk tidak membeli cip NVIDIA dan berpindah ke cip AI buatan tempatan seperti yang dikeluarkan oleh Huawei.

[sumber] ACM Public Library [/sumber]