Kineski proizvođači GPU-a za potrošače sada uvode podršku za pokretanje DeepSeek R1 LLM modela na lokalnim sistemima, uključujući se u globalnu AI trku.
Kina poslednjih godina ostvaruje značajne pomake u AI industriji, ne samo lansiranjem modela sposobnog da konkuriše vodećim rešenjima OpenAI-ja, već i unapređenjem AI hardverskih mogućnosti. Nedavno smo izveštavali o tome kako se Huawei priprema da izazove dominaciju NVIDIA-e svojim Ascend 910C AI čipom, a sada se čini da su kineski proizvođači GPU-a, posebno Moore Threads i Baidu Kunlun, učinili korak napred uvođenjem podrške za DeepSeek R1 model na svojim potrošačkim GPU-ima, dodatno ubrzavajući trku za računarsku moć.
Počevši od kompanije Moore Threads, ona je omogućila podršku za DeepSeek distilacione modele putem servisa za implementaciju, a tvrdi se da su kompatibilni sa potrošačkim GPU-ima MTT S80 i MTT S4000, pri čemu je ovaj drugi dizajniran posebno za radne stanice. Osim toga, kompanija je obezbedila podršku za DeepSeek model na svom KUAE klasteru, za koji se navodi da je interni klaster specijalno dizajniran za AI radna opterećenja i da koristi MTT S4000 GPU-e.
Ovo je svakako izuzetan uspeh za Moore Threads, s obzirom na to da će omogućavanje pokretanja DeepSeek AI modela na lokalnim mašinama podstaći profesionalne korisnike da prihvate proizvode ove kompanije. Takođe, GPU-ovi MTT S80 i MTT S4000 mogu se koristiti za inferencijska opterećenja, što znači da je proizvođač obezbedio široku podršku. Međutim, performanse DeepSeek modela na ovim GPU-ima još uvek nisu poznate, ali sigurno neće dostići nivo koji nude AMD i NVIDIA.
Pored toga, kineska tehnološka kompanija Baidu izgradila je sopstveni AI klaster koji koristi Kunlun Core P800 AI čipove. Prema izveštaju MyDrivers-a, Core P800 pruža 20–50% bolje performanse u poređenju sa sličnim vodećim GPU-ima, podržava 8-bitnu inferenciju i ima značajno niže troškove implementacije i održavanja. Navodi se da ovaj AI čip u potpunosti podržava DeepSeek V3/R1 AI modele i da se inferencijska implementacija može lako postići.
Baidu-ov AI klaster, koji će uskoro biti u funkciji, sastojaće se od 30.000 Core P800 AI GPU-ova. Ova dostignuća kineskih proizvođača GPU-a jasno pokazuju da nisu bili usporeni globalnim uticajem, već su se umesto toga fokusirali na preusmeravanje svog hardverskog arsenala na domaće proizvode, čime osiguravaju dugoročnu održivost.
