Intimni razgovori koje korisnici vode s vještačkom inteligencijom možda nisu toliko privatni koliko mislite. Prema istrazi portala Business Insider, ugovoreni radnici koje angažuje kompanija Meta redovno imaju pristup stvarnim razgovorima korisnika sa AI chatbotovima, a mnogi od tih razgovora sadrže pune lične podatke, uključujući imena, brojeve telefona, e-mail adrese, pa čak i fotografije.

Četvero ugovorenih radnika, angažovanih preko platformi Outlier (u vlasništvu Scale AI) i Alignerr, ispričali su za Business Insider kako su gotovo svakodnevno nailazili na hiljade poruka koje uključuju lične informacije korisnika iz cijelog svijeta, uključujući SAD i Indiju. Jedan od njih procjenjuje da više od 60% poruka koje je pregledao sadrži identifikacijske podatke.

U dokumentima vezanim za Metine projekte navodi se da su te poruke stvarne i služe za treniranje AI modela, s ciljem poboljšanja tačnosti i personalizacije odgovora. U nekim slučajevima, Meta je čak pored poruka dodavala podatke poput imena korisnika, spola, lokacije i hobija kako bi AI mogao dati “personalizovanije” odgovore.

No, korisnici često dobrovoljno otkrivaju osjetljive informacije – poput radnih pozicija, problema u vezi, zdravlja djece ili ličnih fotografija, što, prema stručnjacima za privatnost, otvara vrata za zloupotrebe, manipulaciju i prevare.

“Ljudi često zaborave da razgovor s chatbotom nije isto što i razgovor sa stvarnim terapeutom”, upozorava Miranda Bogen iz AI Governance Lab. “Mnogi ne shvataju da te poruke ne ostaju privatne i da ih može čitati stvarna osoba”.

Prema tvrdnjama radnika koji su govorili za portal, neki su korisnici čak slali eksplicitne fotografije AI chatbotovima. U jednom slučaju, podaci u razgovoru bili su toliko detaljni da je Business Insider uspio pronaći Facebook profil korisnika za manje od pet minuta.

Iako Meta navodi da ima “stroge politike“ pristupa ličnim podacima, insajderi tvrde da sistemi zaštite nisu dosljedni. Na projektima kao što je Omni, radnicima je bilo zabranjeno odbijati razgovore koji sadrže lične podatke, dok su kod projekta PQPE ti podaci čak bili uključeni kako bi se AI mogao “bolje povezati” s korisnikom.

Uprkos Metinoj tvrdnji da podaci ne napuštaju njihove platforme, rizici su ozbiljni. Aplikacija Meta AI omogućava korisnicima da dijele razgovore javno, što znači da ih čak može indeksirati i Google pretraga. Slično se desilo i s ChatGPT, koji je nedavno ukinuo tu funkcionalnost zbog zabrinutosti korisnika.

Sara Marcucci iz AI + Planetary Justice Alliance ističe da je ovaj slučaj još jedan pokazatelj kako industrija i dalje loše upravlja minimizacijom i zaštitom korisničkih podataka.

“Postoje automatski filteri za uklanjanje ličnih podataka”, kaže Bogen, “ali oni nisu savršeni. Zato postoje ljudski recenzenti. No, to ne znači da greške ne postoje – naprotiv, one su priznate kao sistemski problem”.

U trci za “personalizovanom superinteligencijom”, kako je to nazvao šef kompanije Meta Mark Zuckerberg, korisnička privatnost očigledno postaje kolateralna šteta.

(TIP/Izvor: N1/Foto: Ilustracija/Fena)