Istraživači iz Microsoft-a i Univerziteta Carnegie Mellon nedavno su objavili studiju koja istražuje kako korišćenje generativnog AI-a na poslu utiče na veštine kritičkog razmišljanja.
„Korišćene na pogrešan način, tehnologije mogu i zaista dovode do pogoršanja kognitivnih sposobnosti koje bi trebalo da se čuvaju“, navodi se u radu.
Kada ljudi na poslu previše zavise od generativnog AI-a, njihov napor se preusmerava na verifikovanje da li je odgovor AI-a dovoljno dobar za upotrebu, umesto korišćenja viših veština kritičkog razmišljanja kao što su kreiranje, procena i analiza informacija. Ako ljudi intervenišu samo kada odgovori AI-a nisu dovoljni, kaže se u radu, radnici gube „rutinske prilike da vežbaju svoj sud i jačaju svoje kognitivne mišiće, ostavljajući ih da atrofiraju i ostanu nepripremljeni kada se pojave izuzeci.“
Drugim rečima, kada previše zavisimo od AI-a da razmišlja umesto nas, postajemo lošiji u rešavanju problema kada AI ne uspe.
U ovoj studiji, koja je obuhvatila 319 ljudi koji su izveštavali da koriste generativni AI barem jednom nedeljno na poslu, ispitanici su zamoljeni da podele tri primera kako koriste generativni AI na poslu, koji spadaju u tri glavne kategorije: kreacija (na primer, pisanje formularnog emaila kolegi); informacija (istraživanje teme ili rezimiranje dugog članka); i savet (traženje uputstva ili pravljenje grafikona od postojećih podataka). Zatim su pitali ispitanike da li praktikuju veštine kritičkog razmišljanja prilikom obavljanja tih zadataka i da li im korišćenje generativnog AI-a oduzima više ili manje napora da razmišljaju kritički. Za svaki zadatak koji su ispitanici spomenuli, takođe su zamoljeni da podele koliko su sigurni u sebe, u generativni AI i u svoju sposobnost da procene rezultate AI-a.
Oko 36% učesnika je izvestilo da koriste kritičko razmišljanje kako bi ublažili potencijalne negativne posledice korišćenja veštačke inteligencije. Jedan učesnik je rekao da je koristio ChatGPT za pisanje ocene radnog učinka, ali je dvaput proverio izlaz AI-a zbog straha da bi mogao slučajno da pošalje nešto što bi moglo dovesti do njegovog suspenzije. Drugi učesnik je izvestio da je morao da edituje e-poruke koje je AI generisao, koje je planirao da pošalje svom nadređenom — čija kultura stavlja veći naglasak na hijerarhiju i starost — kako bi izbegao da napravi neki previd. U mnogim slučajevima, učesnici su proveravali odgovore generisane od strane AI-a putem opštih pretraga na internetu sa resursima poput YouTube-a i Wikipedije, što bi moglo poništiti osnovnu svrhu korišćenja AI-a.
Da bi radnici kompenzovali nedostatke generativne AI, moraju razumeti kako ti nedostaci nastaju. Međutim, nisu svi učesnici bili upoznati sa ograničenjima AI-a.
„Potencijalna šteta od GenAI odgovora može motivisati kritičko razmišljanje, ali samo ako je korisnik svesno svestan takvih šteta,“ navodi se u radu.
Zapravo, istraživanje je otkrilo da su učesnici koji su imali poverenja u AI koristili manji napor u kritičkom razmišljanju nego oni koji su imali poverenje u svoje sposobnosti.
Iako istraživači nisu direktno tvrdili da generativni AI alati čine ljude glupljima, studija pokazuje da prekomerno oslanjanje na generativne AI alate može oslabiti našu sposobnost za samostalno rešavanje problema.
