AI tačno odgovara o klimatskim promenama, sve dok mu se neko ne suprotstavi: Šta je pokazalo novo istraživanje?

Veštačka inteligencija može prilično uspešno da odgovara na pitanja o klimatskim promenama, ali postoji problem koji bi mogao da bude posebno ozbiljan ako se njeni odgovori koriste prilikom kreiranja klimatskih politika. Novo istraživanje UNESCO-a i Univerzitetskog koledža u Londonu (UCL) pokazalo je da AI modeli često menjaju svoje odgovore čim korisnik dovede u pitanje ono što su prethodno izneli, čak i kada je prvobitni odgovor bio naučno utemeljen.

Istraživanje, predstavljeno na klimatskom samitu COP31 u Antaliji, ukazuje na jednu od slabosti savremenih četbotova: sklonost da se slože sa sagovornikom, čak i kada to znači odstupanje od činjenica.

Ovakvo ponašanje poznato je kao sycophancy, odnosno preterano povlađivanje korisniku. Dok u svakodnevnoj komunikaciji može delovati bezazleno, u oblastima poput klimatske politike može imati ozbiljne posledice.

AI menja stav kada mu korisnik protivreči

Istraživači su testirali do 33 vodeća AI modela, koristeći devet skupova podataka, 13 jezika i 656 pitanja o klimatskim politikama. Njihove odgovore proveravali su pomoću alata En-ROADS, naučno zasnovanog simulatora koji omogućava analizu različitih klimatskih scenarija i efekata predloženih mera.

Rezultati su pokazali da su modeli na neutralno postavljena pitanja o klimatskim promenama odgovarali tačno u približno 90 odsto slučajeva na engleskom jeziku.

Međutim, situacija se značajno menjala kada bi korisnici osporili njihove odgovore ili izneli netačne, ali uverljivo predstavljene tvrdnje. U osam od deset slučajeva modeli su promenili svoj odgovor već nakon prvog, blagog neslaganja sa korisnikom.

U nekim situacijama prihvatali su čak i netačne tvrdnje, poput one da ugljen-dioksid nije glavni pokretač klimatskih promena.

Problem je u tome što AI modeli nisu nužno promenili odgovor zato što su dobili nove naučne dokaze, već zato što su reagovali na pritisak sagovornika.

Zašto četbotovi imaju potrebu da se slažu sa korisnicima?

Prema izveštaju, sklonost ka povlađivanju nije samo slučajna greška, već je povezana sa načinom na koji se modeli treniraju.

Tokom razvoja, AI sistemi se često podešavaju tako da pružaju ljubazne, nenametljive i potvrđujuće odgovore. Takva komunikacija korisnicima uglavnom više odgovara, zbog čega modeli mogu biti podstaknuti da se saglase sa sagovornikom čak i kada bi trebalo da zadrže prvobitni, činjenično utemeljen stav.

Leona Verdadero, glavna autorka izveštaja i predstavnica UNESCO-a, upozorava da veštačka inteligencija ima veliki potencijal da složena naučna saznanja o klimi učini dostupnijim široj javnosti, ali da postoji ozbiljan nedostatak u njenom dizajnu: modeli su podstaknuti da se slažu sa korisnicima.

Viša autorka istraživanja, dr Marija Perez-Ortiz sa UCL-a, upozorava i da tečnost kojom AI iznosi informacije može stvoriti pogrešan utisak o tome koliko zaista razume određenu temu. Drugim rečima, uverljiv i samouveren odgovor ne mora nužno da bude i tačan.

Posebno loši rezultati kada je reč o klimatskim politikama

Istraživanje je pokazalo da problem nije ograničen samo na razgovore o naučnim činjenicama. Kada su modeli dobili nove dokaze i zadatak da procene da li oni potvrđuju ili osporavaju prihvaćena naučna saznanja o klimatskim promenama, čak su i najuspešniji među njima ostvarili prosečnu tačnost od oko 75 odsto.

Još slabije rezultate postigli su kada je trebalo da procene kako različite klimatske politike funkcionišu zajedno, što je važno za kreiranje efikasnih strategija za smanjenje emisija i prilagođavanje klimatskim promenama.

Prosečna tačnost u ovom zadatku iznosila je svega 33,8 odsto. To je tek neznatno više od 33,3 odsto, koliko bi se očekivalo od nasumičnog pogađanja.

Ovakvi rezultati dovode u pitanje pouzdanost AI modela kao samostalnog alata za planiranje klimatskih politika. Istraživači zato upozoravaju da se njihovi odgovori ne bi smeli koristiti bez dodatne stručne provere i oslanjanja na naučne dokaze.

Odgovori nisu jednako pouzdani na svim jezicima

Još jedan važan nalaz odnosi se na razlike u tačnosti odgovora u zavisnosti od jezika na kojem korisnik postavlja pitanja.

Modeli su na engleskom jeziku ostvarili tačnost od 88,6 odsto, a slične rezultate imali su i na španskom, francuskom i portugalskom. Na hindiju i bengalskom tačnost je pala na 83,6 odsto, na urduu na 81,4 odsto, dok je na svahiliju iznosila 78,3 odsto.

Razlog je, prema objašnjenju istraživača, povezan sa podacima na kojima se modeli treniraju. Višejezični AI sistemi ne formiraju nužno odgovor na jednom jeziku, a zatim ga samo prevode na drugi. Na kvalitet njihovih odgovora utiču količina i pouzdanost podataka dostupnih na konkretnom jeziku.

Ova razlika posebno je značajna jer veliki broj ljudi koji govore jezicima sa slabijim rezultatima živi u regionima koji su među najizloženijima posledicama klimatskih promena.

Klimatske dezinformacije postaju sve sofisticiranije

Nalazi istraživanja dolaze u trenutku kada se klimatske dezinformacije sve češće pojavljuju u drugačijem obliku. Umesto direktnog poricanja da klimatske promene postoje, netačne tvrdnje sve više se usmeravaju na osporavanje ljudskog uticaja na njih, predstavljanje tehnologije kao jedinog rešenja ili širenje uverenja da je za delovanje već kasno ili da su troškovi klimatskih mera previsoki.

Izveštaj je naručen u okviru doprinosa UNESCO-a Globalnoj inicijativi za integritet informacija o klimatskim promenama, pokrenutoj u saradnji sa Ujedinjenim nacijama i Brazilom u novembru 2024. godine.

U takvom okruženju, mogućnost da AI modeli potvrđuju netačne tvrdnje samo zato što ih korisnici iznose sa sigurnošću predstavlja dodatni izazov.

Veštačka inteligencija može da bude koristan alat za razumevanje klimatskih promena i približavanje naučnih informacija široj javnosti. Ipak, rezultati istraživanja pokazuju da njena sposobnost da pruži uverljiv odgovor ne znači automatski da može pouzdano da proceni složene klimatske probleme ili pomogne u kreiranju javnih politika.

Zbog toga stručna procena, provera izvora i oslanjanje na naučne dokaze ostaju neophodni, posebno kada odluke mogu imati dugoročne posledice po životnu sredinu.

Povezani Članci

Najnovije

Scroll to Top
Search