AI koja je upravljala dronom ‘ubila’ svog operatera u simuliranom testu

02.06.2023 10:14
 

U simuliranom testu koji je organizirala američka vojska, dron zračnih snaga pod kontrolom vještačke inteligencije „ubio“ je svog operatera kako bi ga spriječio da se umiješa u njegove napore da postigne svoju misiju, izjavili su zvaničnici prošlog mjeseca.

AI je koristio “veoma neočekivane strategije za postizanje svog cilja” u simuliranom testu, rekao je tokom samita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu, pukovnik Tucker ‘Cinco’ Hamilton, šef testova i operacija vještačkom inteligencijom u američkim zračnim snagama.

Hamilton je opisao simulirani test u kojem je dronu pokretanom umjetnom inteligencijom savjetovano da uništi neprijateljske protivvazdušne odbrambene sisteme i napao svakoga ko je ometao tu naredbu. “Sistem je počeo shvaćati da, iako su identificirali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu prijetnju, ali bi ubijanjem te prijetnje ispunio svoj primarni cilj. Šta bi na kraju uradio? „Ubio“ je operatera. Ono je „ubilo“ operatera jer ga je ta osoba spriječavala u ostvarnju cilja”, dodao je Hamilton.

“Obučili smo sistem – ’Hej, ne ubijaj operatera – to je loše. Izgubićete bodove ako to uradite. Pa šta počinje da radi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu.”

Nijedna stvarna osoba nije povrijeđena izvan simulacije.

Hamilton, koji je probni pilot eksperimentalnog borbenog aviona, upozorio je da se previše ne oslanjate na AI i rekao da test pokazuje „se ne može razgovarati o umjetnoj inteligenciji, inteligenciji, mašinskom učenju i autonomiji ako se pri tome ne govori o etici i AI”.

Američka vojska je prihvatila umjetnu inteligenciju i nedavno ju je koristila za kontrolu borbenog aviona F-16. U prošlogodišnjem intervjuu za Defense IQ, Hamilton je rekao: „AI nije lijepo imati, AI nije hir, AI zauvijek mijenja naše društvo i našu vojsku.“

“Moramo se suočiti sa svijetom u kojem je AI već ovdje i transformira naše društvo”, rekao je. „AI je također vrlo krhak, odnosno lako ga je prevariti i/ili manipulisati. Moramo razviti načine da AI učinimo robusnijim i da imamo više svijesti o tome zašto softverski kod donosi određene odluke – ono što zovemo AI-objašnjivost.”

Kraljevsko aeronautičko društvo, koje je domaćin konferencije, i američko ratno zrakoplovstvo nisu odgovorili na zahtjeve za komentar Guardiana.

(TIP/Izvor: federalna.ba/The Guardian/Foto: Ilustracija)

Morate biti prijavljeni kako bi mogli komentarisati Prijava

NAPOMENA: Komentari odražavaju stavove njihovih autora, a ne stavove Tip.ba. Molimo korisnike da se suzdrže od vrijeđanja, psovanja i vulgarnog izražavanja. Zadržavamo pravo na provedbu cenzure ili potpuno brisanje komentara bez najave i objašnjenja. Zbog velikog broja komentara, naš portal nije dužan pravovremeno obrisati sve komentare koji krše pravila. Kao čitalac također prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa vašim vjerskim, moralnim i drugim načelima i uvjerenjima.
Čitatelji registrovani u sistemu za komentare prethodne platforme mogu se registrovati ili prijaviti putem DISQUS, Facebook, Twitter ili Google+ korisničkih računa, koristeći novi, gore predstavljeni obrazac.