Jedan od vodećih pionira u oblasti AI-a upozorava ne samo na potencijalnu štetu koju tehnologija može izazvati svetu, već i na opasnost od ljudi koji je kontrolišu.

U intervjuu za CNBC, stručnjak za računarske nauke Yoshua Bengio rekao je da članovi elitne „margine“ u tehnološkom svetu žele da veštačka inteligencija zameni ljude.

Bengio, direktor Instituta za algoritme učenja Univerziteta u Montrealu, bio je među potpisnicima otvorenog pisma „Pravo na upozorenje“, koje su potpisali vodeći istraživači iz OpenAI koji tvrde da im je uskraćena sloboda da govore o opasnostima ove tehnologije. Uz poznate stručnjake kao što su Yann LeCun i Geoffrey Hinton, Bengio se ponekad naziva „Bogotvorima AI“.

„Inteligencija daje moć. Ko će kontrolisati tu moć?“ rekao je Bengio tokom Samita One Young World u Montrealu.

„Postoje ljudi koji možda žele da zloupotrebe tu moć, i postoje ljudi koji bi bili srećni da vide kako čovečanstvo zamenjuju mašine,“ tvrdi Bengio. „Mislim, to je margina, ali ti ljudi mogu imati veliku moć, i mogu to učiniti ako ne postavimo odgovarajuće zaštitne mere odmah.“

Novac govori

Zbog toga što su AI sistemi veoma skupi za izgradnju, stručnjak za duboko učenje napomenuo je da se aspekt finansijske moći ne može ignorisati.

„Veoma malo organizacija i veoma malo zemalja biće u mogućnosti da to postignu,“ rekao je lider laboratorije za veštačku inteligenciju sa Univerziteta u Montrealu. „To je već slučaj.“

„Doći će do koncentracije moći: ekonomske moći, što može biti loše za tržišta; političke moći, što može biti loše za demokratiju; i vojne moći, što može biti loše za geopolitičku stabilnost našeg planeta,“ nastavio je on.

Trenutno, stručnjaci se ne slažu oko toga da li se može postići veštačka opšta inteligencija, odnosno AI na ljudskom nivou, i kada bi to moglo da se dogodi. Ako se to desi pre nego što globalna politika stigne da reaguje, Bengio sugeriše da ćemo imati problema.

„Ako to bude za pet godina, nismo spremni,“ zaključio je, „jer nemamo metode da osiguramo da ovi sistemi neće naškoditi ljudima ili se okrenuti protiv njih.“

Iako nije prvi AI stručnjak koji upozorava na opasnosti od veštačke inteligencije, Bengio ima neobičnu ozbiljnost; na kraju krajeva, on je pomogao da se ona stvori.