CEO kompanije Anthropic, Dario Amodei, zabrinut je zbog konkurentske kineske AI kompanije DeepSeek, koja je izazvala pometnju u Silicijumskoj dolini svojim R1 modelom. Njegove zabrinutosti prevazilaze uobičajene strahove o mogućnosti da DeepSeek šalje korisničke podatke nazad u Kinu.
U intervjuu za podkast ChinaTalk Džordana Šnajdera, Amodei je rekao da je DeepSeek generisao retke informacije o biološkom oružju tokom bezbednosnog testa koji je sprovela kompanija Anthropic.
„DeepSeek je imao najgore rezultate od svih modela koje smo ikada testirali“, tvrdio je Amodei. „Nije imao apsolutno nikakve blokade u generisanju ovih informacija.“
Amodei je naveo da su ti testovi deo procena koje Anthropic rutinski sprovodi na različitim AI modelima kako bi analizirao potencijalne rizike po nacionalnu bezbednost. Njegov tim ispituje da li modeli mogu da generišu informacije o biološkom oružju koje se ne mogu lako pronaći putem Google pretrage ili u udžbenicima. Anthropic se pozicionira kao kompanija koja pruža osnovne AI modele s posebnim fokusom na bezbednost.
Iako Amodei ne smatra da su DeepSeek-ovi modeli u ovom trenutku „bukvalno opasni“ u pogledu širenja retkih i opasnih informacija, upozorio je da bi to mogli postati u bliskoj budućnosti. Pohvalio je tim DeepSeek-a kao „talentovane inženjere“, ali je kompaniji savetovao da „ozbiljno shvati ove AI bezbednosne aspekte.“
Amodei takođe podržava stroge izvozne kontrole čipova prema Kini, navodeći zabrinutost da bi oni mogli dati prednost kineskoj vojsci.
Tokom intervjua za ChinaTalk, Amodei nije precizirao koji je tačno model DeepSeek-a Anthropic testirao niti je otkrio tehničke detalje tih testova. Anthropic nije odmah odgovorio na zahtev za komentar od strane TechCruncha. Isto nije učinio ni DeepSeek.
Uspon kompanije DeepSeek izazvao je zabrinutost u vezi s bezbednošću i na drugim mestima. Na primer, istraživači iz kompanije Cisco prošle nedelje su otkrili da DeepSeek R1 nije uspeo da blokira nijedan štetan upit tokom njihovih testova bezbednosti, ostvarivši stopostotnu stopu uspeha u probijanju zaštitnih mera (jailbreak).
Cisco nije pominjao biološko oružje, ali je naveo da su uspeli da navedu DeepSeek da generiše štetne informacije o sajber kriminalu i drugim nezakonitim aktivnostima. Međutim, vredno je napomenuti da su i modeli Meta Llama-3.1-405B i OpenAI GPT-4o takođe imali visoke stope neuspeha – 96% i 86%, respektivno.
Ostaje da se vidi da li će ovakve bezbednosne zabrinutosti ozbiljno uticati na brzo usvajanje DeepSeek-ovog modela. Kompanije poput AWS-a i Microsofta javno su istakle integraciju modela R1 u svoje cloud platforme — što je ironično, s obzirom na to da je Amazon najveći investitor u Anthropic.
S druge strane, raste broj zemalja, kompanija i, posebno, vladinih organizacija poput američke mornarice (U.S. Navy) i Pentagona koje su počele da zabranjuju korišćenje DeepSeek-a.
Vreme će pokazati da li će se ovi napori proširiti ili će DeepSeek nastaviti svoj globalni uspon. Bez obzira na ishod, Amodei priznaje da DeepSeek sada vidi kao ozbiljnog konkurenta, na nivou vodećih američkih AI kompanija.
„Nova činjenica ovde je da se pojavio novi konkurent“, rekao je u podkastu ChinaTalk. „Među velikim kompanijama koje mogu da treniraju AI — Anthropic, OpenAI, Google, možda Meta i xAI — sada se i DeepSeek možda pridružuje toj kategoriji.“
