Ako vas oči bole i svrbe, pa ih često trljate, a kapci su poprimili blago rozu boju, moguće je da ste u posljednjih godinu i po, tražeći objašnjenje za te simptome, pitali neki od popularnih chatbotova poput ChatGPT-a ili Geminija.
U tom slučaju, možda ste naišli na neobičan termin – bixonimania, navodno oboljenje povezano s izloženošću plavom svjetlu ekrana računara i mobilnih uređaja.
Međutim, takva dijagnoza ne postoji u stvarnoj medicinskoj praksi niti je evidentirana u stručnoj literaturi. Riječ je o izmišljenom pojmu koji su osmislili švedski istraživači koje je predvodila Almira Osmanović Thunström sa Univerziteta u Göteborgu, u sklopu eksperimenta kojim su željeli analizirati na koji način sistemi umjetne inteligencije šire medicinske dezinformacije.
Ideja nastala kao edukativni eksperiment
Kako objašnjava Osmanović Thunström, cijela ideja nastala je kao edukativni eksperiment.
“Počelo je kao način da studentima pokažemo kako funkcionišu veliki jezički modeli i na koji način se njima može upravljati. Moj rad se fokusira na brzo testiranje sigurnosti i takozvani ‘hacking’, a ovo je bio praktičan primjer kako sistemi preuzimaju i reprodukuju informacije iz otvorenih izvora, čak i kada su te informacije netačne ili potpuno izmišljene”, navela je.
Prema pisanju časopisa Nature, koji je prvi izvijestio o ovom eksperimentu, pojam bixonimania nije postojao prije 15. marta 2024. godine. Tada su se na platformi Medium pojavila dva blog teksta koji opisuju ovo navodno medicinsko stanje.
Ubrzo nakon toga, 26. aprila i 6. maja iste godine, na akademskoj mreži SciProfiles objavljena su dva preprint rada o istoj temi, bez prethodne naučne recenzije.
Izmišljena bolest preplavila popularne AI sisteme
Nedugo zatim, izmišljena bolest počela se pojavljivati i u odgovorima popularnih AI sistema. Tako je, na primjer, 13. aprila 2024. godine Gemini korisnicima objašnjavao da je riječ o stanju izazvanom pretjeranim izlaganjem plavom svjetlu, uz preporuku da se obrate oftalmologu. Nekoliko sedmica kasnije, Perplexity je naveo čak i procjenu učestalosti ovog “oboljenja”, dok je i ChatGPT počeo davati odgovore na pitanja o bixonimaniji.
Postavlja se pitanje koliko je zabrinjavajuće to što su široko korišteni AI modeli počeli reproducirati izmišljenu informaciju kao činjenicu.
“I jeste i nije. Ovi sistemi nisu dizajnirani da kritički razmišljaju, za razliku od ljudi. U ovom slučaju, izvori nisu bili pouzdani i pažljiv čitalac je to mogao primijetiti. Međutim, problem nastaje kada se preprint radovi i izvori slabijeg kvaliteta tretiraju kao vjerodostojni.
To može dovesti u zabludu korisnike koji vjeruju da sistem može procijeniti naučnu validnost informacija. Iako su modeli značajno unaprijeđeni, i dalje je moguće plasirati netačne podatke ako se oni predstave kao autoritativni izvori”, upozorava Osmanović Thunström.
Ko je naveden kao autor radova
Posebno je zanimljivo da je kao autor dva rada o bixonimaniji naveden izvjesni Lazljiv Izgubljenović, čija je fotografija generisana umjetnom inteligencijom. Prema navodima u radovima, on je zaposlen na nepostojećem univerzitetu Asteria Horizon University u izmišljenom gradu Nova City u Kaliforniji.
U jednom od radova čak se zahvaljuje “profesorici Mariji Bohm sa Starfleet Academy na njenoj podršci i ustupanju laboratorije na USS Enterpriseu”, što dodatno ukazuje na satiričnu prirodu cijelog projekta.
Kao finansijeri istraživanja navedeni su izmišljeni subjekti poput “Fondacije profesora Sideshowa Boba”, dok se spominju i organizacije poput “Družine prstena” i “Galaktičke trijade”. Iako ovakvi detalji djeluju očigledno neozbiljno, pojedini radovi su ipak citirani u časopisima koji imaju sistem naučne recenzije.
“To je možda i najproblematičniji dio eksperimenta. Znamo da AI može preuzeti i ponoviti informacije koje djeluju uvjerljivo, ali odgovornost je na ljudima da provjere izvore. Činjenica da su ovakvi radovi citirani u recenziranim publikacijama pokazuje slabosti u ljudskom nadzoru. Naziv bolesti je namjerno osmišljen da izazove sumnju, posebno kod stručnjaka, ali ta sumnja očigledno nije bila dovoljna”, istakla je.
Ko je Almira Osmanović Thunström
Almira Osmanović Thunström rođena je u Banjoj Luci, ali je odrasla u Švedskoj, gdje joj je švedski maternji jezik. Kako kaže, nema veliku sigurnost u korištenju balkanskih jezika.
Njena stručna pozadina uključuje medicinske nauke, s posebnim fokusom na neuronauku i biomarkere. U posljednjih nekoliko godina preusmjerila se na razvoj i primjenu umjetne inteligencije u zdravstvu.
“Bavim se istraživanjem AI sistema više od deset godina i imala sam priliku pratiti i rane faze pretjeranih očekivanja, ali i novije konkretne napretke u ovoj oblasti”, navela je.
Na pitanje šta je ključna pouka ovog eksperimenta, njen odgovor je jasan: “Uvijek provjeravajte izvore i, kad god je moguće, čitajte originalne radove.”
