AI platforma za programere, Hugging Face, sklopila je partnerstvo sa provajderima oblaka trećih strana, uključujući SambaNova, kako bi pokrenula Inference Providers, funkciju koja je dizajnirana da olakša programerima na Hugging Face platformi pokretanje AI modela koristeći infrastrukturu po njihovom izboru.
Ostali partneri uključeni u ovaj novi poduhvat su Fal, Replicate i Together AI.
Hugging Face navodi da su njegovi partneri sarađivali s njim kako bi omogućili pristup svojim centrima podataka za pokretanje modela na Hugging Face platformi. Sada, programeri na Hugging Face mogu, na primer, pokrenuti DeepSeek model na SambaNova serverima sa Hugging Face stranice projekta u samo nekoliko klikova.
Hugging Face je dugo nudio svoje interno rešenje za pokretanje AI modela, ali je u blog postu od utorka kompanija objasnila da je njen fokus sada na saradnji, skladištenju i mogućnostima distribucije modela.
„Serverless provajderi su napredovali, i trenutak je bio pravi da Hugging Face ponudi jednostavan i ujedinjen pristup serverless inferenciji putem skupa sjajnih provajdera“, napisala je kompanija u postu. „Bilo je prirodno partnerisati se sa sledećom generacijom serverless provajdera za inferenciju fokusiranu na modele.“
Serverless inferencija omogućava programerima da implementiraju i skaliraju AI modele bez potrebe za konfigurisanje ili upravljanje bilo kojim osnovnim hardverom. Provajderi poput SambaNova automatski pokreću neophodne računske resurse i skaliraju ih gore ili dole u zavisnosti od upotrebe.
Hugging Face navodi da programeri koji koriste provajdere trećih strana putem njegove platforme plaćaju standardne provajderske API tarife, bar za sada. (Hugging Face može u budućnosti uspostaviti dogovore o deljenju prihoda sa partnerima provajderima, kako kažu.) Svi korisnici Hugging Face dobijaju mali kvotu kredita za inferenciju, a pretplatnici Hugging Face Pro, Hugging Face-ove premium opcije, dobijaju dodatnih 2 dolara kredita mesečno.
Osnovan 2016. godine kao startup za chatbote, Hugging Face je postao jedna od najvećih platformi za hostovanje i razvoj AI modela na globalnom nivou. Do danas, Hugging Face je prikupio skoro 400 miliona dolara kapitala od investitora, uključujući Salesforce, Google, Amazon i Nvidia. Kompanija tvrdi da je profitabilna.
