Sigurnosni istraživači i stručnjaci upozorili su na novu metodu kojom se generativna umjetna inteligencija (GenAI) može zloupotrijebiti u cyber kriminalu, poznatu kao ‘slopsquatting’ (nemarno korištenje).
Počinje s činjenicom da različiti GenAI alati, poput Chat-GPT-a, Copilota i drugih, “haluciniraju”.
U kontekstu umjetne inteligencije, “halucinacija” je kada umjetna inteligencija jednostavno izmišlja stvari. Može izmisliti citat koji osoba nikada nije rekla, događaj koji se nikada nije dogodio ili – u razvoju softvera – softverski paket otvorenog koda koji nikada nije stvoren, piše Techradar.com.
Sada, kako tvrdi Sarah Gooding iz Socketa, mnogi softverski programeri uveliko se oslanjaju na GenAI prilikom pisanja koda. Alat bi sam mogao pisati retke ili bi mogao programeru predložiti različite pakete za preuzimanje i uključivanje u proizvod.
U izvještaju se dodaje da umjetna inteligencija ne halucinira uvijek drugo ime ili drugi paket, tačnije neke se stvari ponavljaju.
„Prilikom ponovnog pokretanja iste halucinacijske upute deset puta, 43% haluciniranih paketa ponavljalo se svaki put, dok se 39% uopće nije ponovo pojavilo“, navodi se.
„Sveukupno, 58% haluciniranih paketa ponavljalo se više puta tokom deset pokretanja, što ukazuje na to da većina halucinacija nisu samo slučajni šumovi, već ponovljeni artefakti načina na koji modeli reaguju na određene upute.“
Ovo je u ovom trenutku čisto teoretski, ali očito bi kibernetički kriminalci mogli mapirati različite pakete koje umjetna inteligencija halucinira i registrirati ih na platformama otvorenog koda.
