Noi detalii despre sistemul de inteligență artificială chineză DeepSeek ies la suprafață în fiecare zi, după ce serviciul a fost lansat public săptămâna trecută, atât pe web, cât și în format open source. Se pare că, într-adevăr, acest AI a fost antrenat pe cipuri de la NVIDIA, pe care companiile chineze nu le pot cumpăra direct, însă sistemul pe care îl folosesc acum utilizatorii pentru a da comenzi către DeepSeek în versiunile web și app pare că rulează pe procesoare de la Huawei.
DeepSeek a fost antrenat pe cipuri NVIDIA, dar sistemul său rulează pe hardware chinezesc
Conform Alexander Doria, hardware-ul folosit pentru antrenamentul DeepSeek V3, modelul AI lansat săptămâna trecută, este bazat pe GPU-uri H800 de la NVIDIA, unele dintre cele mai performante și mai căutate cipuri de acest gen din lume, lansate în 2023. Totuși, sistemul AI pentru utilizatori nu rulează pe acele cipuri, ci mai degrabă pe servere realizate folosind cipurile Ascend 910C de la Huawei. Acestea sunt alternative la H100 de la NVIDIA, cu performanță mai scăzută.
Acestea sunt realizate special pentru cazuri de utilizare de acest gen, adică pentru a procesa cerințele utilizatorilor pentru sisteme AI, întrucât nu dețin interfețe de interconectivitate între cipuri, ceea ce le face ineficiente pentru „antrenament”. Huawei pare că se concentrează acum pe dezvoltarea următoarei generații de cipuri AI, 920C, care ar trebui să se apropie de performanța cipurilor B200 de la NVIDIA, care sunt considerate acum cele mai performante.
Doria spune pe contul său de X că pentru DeepSeek V4, compania AI chinezească va dori să încerce totuși antrenamentul LLM-ului pe un server cu 32.000 de cipuri 910C de la Huawei. Deși acele cipuri nu au hardware-ul necesar pentru interconectare și Huawei nu pare să aibă capacitatea de a le livra momentan, acest efort va fi realizat drept un gest simbolic pentru a arăta lumii puterea Chinei în domeniul AI, în ciuda sancțiunilor impuse de SUA și aliații săi.
