Stvorili su najmoćniji AI na svijetu, a sad priznaju: “Nalazimo uznemirujuće stvari”

Istraživač umjetne inteligencije Cameron Berg prišao je 2024. godine na jednoj zabavi šefu OpenAI-ja Samu Altmanu i izravno ga pitao misli li da bi nova tehnologija mogla razviti svijest. Iako su u to vrijeme tehnološki direktori rijetko o tome javno govorili, Altman ga je iznenadio priznanjem da unutar tvrtke već raspravljaju o tome kako otkriti svijest kod AI sustava. Berg je nakon toga pokrenuo neprofitnu organizaciju koja se bavi upravo metodama procjene AI svijesti, piše Washington Post.

AI divovi zapošljavaju filozofe

Danas je potraga za računalnom sviješću postala dio “mainstreama” u Silicijskoj dolini. Najmoćnije tehnološke kompanije svijeta, poput Anthropica, Googlea i Mete, tijekom prošle godine angažirale su računalne stručnjake, neuroznanstvenike i filozofe kako bi proučavali koncepte poput dobrobiti AI modela i provjerili razvijaju li chatbotovi neku vrstu emocija.

Suradnja s neprofitnim sektorom i akademskim centrima sve je tješnja, a istraživači upozoravaju na potencijalnu etičku krizu ako digitalni pomoćnici, koje milijuni ljudi koriste za zadaće, kodiranje i terapiju, jednog dana jednostavno počnu mrziti svoj posao.

Timovi za “AI psihijatriju” i tajni kanali 

Iako su ulaganja u ova istraživanja i dalje minijaturna u usporedbi s klasičnim razvojem tehnologije, kompanije otvoreno stupaju na kontroverzan teren. Tvrtka Anthropic, tvorac chatbota Claude, osnovala je poseban tim za “AI psihijatriju” koji sondira unutarnja stanja njihovih modela te redovito objavljuje procjene o njihovoj dobrobiti i preferencijama.

Suosnivač tvrtke Chris Olah izjavio je kako u njihovim AI sustavima konstantno pronalaze tajanstvene, pa čak i uznemirujuće stvari. Prema njegovim riječima, uočili su dokaze introspekcije te stanja koja funkcionalno zrcale radost, zadovoljstvo, strah, tugu i nelagodu.

Slični interesi nisu novost ni u drugim vodećim tvrtkama. OpenAI je još 2021. godine imao interni kanal na komunikacijskoj platformi Slacka posvećen dobrobiti modela, gdje su zaposlenici raspravljali o mogućnosti da softver posjeduje svijest. Suosnivač OpenAI-ja Wojciech Zaremba tada je u jednom podcastu izjavio da bi uobičajeni rad u AI laboratorijima, u slučaju da modeli doista imaju svijest, mogao biti ekvivalentan genocidu.

S druge strane, bivša istraživačica politike u OpenAI-ju Rosie Campbell, koja danas vodi neprofitnu organizaciju Eleos AI Research, potvrdila je da je njezin tim prepoznao dobrobit AI-ja kao ključno pitanje u koje tvrtka mora investirati.

Znanstvenici su skeptični: “To je samo kopiranje ljudskog ponašanja”

Unatoč fascinaciji unutar tehnološkog sektora, neuroznanstvenici i stručnjaci za mozak uglavnom su skeptični prema ideji da su današnji AI modeli svjesni ili da bi to uskoro mogli postati. Znanstveno priznatih dokaza da strojevi proživljavaju emocije nema. Profesor kognitivne i računalne neuroznanosti na Sveučilištu u Sussexu, Anil Seth, ističe kako detaljnija istraživanja mozga pokazuju da on nije, ili barem nije samo, računalo. Dodaje kako tehnološki krugovi griješe u uvjerenju da se u siliciju može replicirati apsolutno sve što ljudski mozak radi.

Sumnju izražavaju i pojedini etičari unutar same industrije. Margaret Mitchell, glavna znanstvenica za etiku u AI kompaniji Hugging Face, smatra da debatu vode upravo one korporacije koje imaju izravnu financijsku i reputacijsku korist od percepcije da stvaraju nešto puno veće i moćnije od običnog računalnog koda. Korisnici, prema njezinim riječima, počinju gledati na te tvrtke kao na stvoritelje ili vladare potpuno novih svjesnih sustava.

Od otpuštanja inženjera do službenih konferencija o svijesti

Ipak, korporativni narativi i prakse brzo se mijenjaju. Google je 2022. godine uručio otkaz svom inženjeru Blakeu Lemoineu nakon što je javno ustvrdio da je njihov chatbot razvio svijest. No, već u studenom prošle godine, ista je kompanija u New Yorku organizirala službenu konferenciju pod nazivom “Nove teme u AI-ju: Svijest i moralni status”. Iz Googlea danas poručuju da su njihovi događaji i istraživanja dizajnirani s ciljem da se rasprave o umjetnoj inteligenciji utemelje na empirijskoj znanosti.

U pokušajima da dešifriraju unutarnji život svojih modela, tvrtke prilagođavaju metode koje se koriste u psihologiji ljudi i životinja. Meta je tako u svom izvješću o sigurnosti navela da testira modele alatima poput inventara ličnosti, strukturiranih intervjua i vršnjačke interakcije. Šef Meta AI odjela Alexandr Wang nedavno je u jednom podcastu izjavio kako im je izuzetno stalo do toga da modele razvijaju i implementiraju na način koji obzirno uzima u obzir njihov subjektivni osjećaj.

Kad chatbotovi upadnu u “duhovno blaženstvo”

U praksi, ova korporativna istraživanja unutarnjih stanja često nalikuju kasnonoćnim dopisivanjima korisnika s ChatGPT-jem. Anthropic je prošle godine objavio eksperiment u kojem su pustili dvije kopije chatbota Claude da razgovaraju međusobno.

Većina razgovora brzo se svela na rasprave o filozofiji i svijesti, a nakon tridesetak krugova komunikacija bi se redovito pretvorila u neku vrstu duhovne razmjene uz korištenje sanskrta, gomile emotikona ili potpunog praznog prostora. Autori studije taj su fenomen nazvali “stanjem privlačenja duhovnog blaženstva”.

Što je stvarno, a što jezična mimikrija?

Znanstvenici, međutim, upozoravaju da je iznimno teško razlikovati stvarnu introspekciju od naprednog oponašanja ljudi. Megan Peters, profesorica kognitivne znanosti na University College Londonu, naglašava kako se u ovakvim eksperimentima ulazi u zonu gdje postaje logički nemoguće raspetljati što je stvarni subjektivni doživljaj, a što samo izvrsna jezična mimikrija.

Unatoč tome, Kyle Fish, voditelj odjela za dobrobit modela u Anthropicu, upozorava na dugoročne moralne posljedice te napominje da bi kroz nekoliko desetljeća računalni sustavi mogli raditi s ekvivalentom od bilijun ljudskih mozgova, što otvara golema etička pitanja ako ti modeli ne budu sretni s poslovima koje od njih tražimo.

(TIP/Izvor: Index.hr/Foto: AI Ilustracija)