Vodeći stručnjaci i inženjeri AI giganata upozoravaju na katastrofalne opasnosti nekontrolisane trke ka superinteligenciji.
"Isključite je". To je bio direktan odgovor bivšeg izvršnog direktora kompanije Gugl, Erika Šmita, na pitanje o budućnosti u kojoj će sistemi vještačke inteligencije postati toliko napredni da ljudi više neće moći da razumijeju šta rade.
Šmit ističe da tri ključna razvoja već mijenjaju vještačku inteligenciju: znatno veći takozvani "kontekstualni prozori", vještački agenti i sistemi koji pretvaraju tekstualne instrukcije u funkcionalni softver.
On vjeruje da bi ove promjene mogle da omoguće vještačkoj inteligenciji da ide dalje od odgovaranja na pitanja i počne da rješava izuzetno složene zadatke. Šmit očekuje da će u roku od pet godina vještački sistemi biti u stanju da obrađuju "recepte" hiljada koraka za rješavanje problema u nauci, medicini, istraživanju materijala i klimatskim promenama, piše Tajms of Indija.
"U roku od pet godina, vještačka inteligencija bi mogla da obrađuje beskonačan kontekst, koristi logičko rezonovanje za rješenja od 1.000 koraka i upravlja milionima agenata koji rade zajedno. Vremenom će razviti sopstveni jezik i mi više nećemo razumjeti šta rade", izjavio je on.
Tri pravca koja oblikuju budućnost
Šmitova zabrinutost proizilazi iz potencijalnih posljedica zajedničkog rada ovih tehnologija. On je objasnio da su sistemi vještačke inteligencije sve bolji u pamćenju ogromnih količina informacija i korišćenju rezultata jednog zadatka kao polazne tačke za sledeći.
On je ilustrovao ideju primerom recepta: vještačka inteligencija bi mogla da ponudi jedan korak, dobije potvrdu da je taj korak završen, a zatim odredi šta dalje da radi. Šmit kaže da bi ovakva vrsta rezonovanja na kraju mogla da omogući vještačkoj inteligenciji da prođe kroz hiljade koraka kako bi riješila teške naučne probleme.
Uspon specijalizovanih vještačkih inteligencija
Druga velika promjena, prema Šmitu, biće uspon vještačke inteligencije (AI) agenata. On ih je opisao kao specijalizovane AI sisteme koji mogu da uče o određenoj temi, razvijaju ideje i potencijalno ih testiraju.
Na primjer, agent vještačke inteligencije bi mogao da proučava hemiju, formuliše hipoteze, sprovodi laboratorijske testove i koristi rezultate za proširenje svog znanja. Šmit očekuje da bi se vremenom mogli pojaviti milioni takvih agenata i da će postojati platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći pravac razvoja je ono što Šmit naziva "tekstualnom akcijom". Koncept se zasniva na tome da korisnici jednostavno opišu vještačkoj inteligenciji šta žele da softver uradi, umjesto da sami pišu kod.
On je naveo programske jezike poput Pajtona kao primjer oblasti gde su sistemi vještačke inteligencije već veoma sposobni. Šmit smatra da bi do još veće promjene moglo doći kada ovi sistemi budu mogli kontinuirano da rade na softverskim zadacima.
Jezik koji nećemo razumjeti
Erik Šmit je rekao da kombinacija velikih kontekstualnih prozora, vještačke inteligencije (AI) agenata i programiranja uz pomoć VI može omogućiti različitim VI sistemima da rade zajedno.
Zatim je izneo spekulativniju mogućnost: da VI agenti mogu razviti sopstveni jezik. Šmit smatra da bi ovo mogla biti tačka u kojoj ljudi više neće razumjeti šta ovi sistemi rade.
"U nekom trenutku ovi sistemi će postati dovoljno moćni da možete da primite agente, i oni će početi da rade zajedno. Znate šta bi trebalo da uradimo? Da ga ugasimo", rekao je.
Stručnjaci zabrinuti za budućnost čovječanstva
Ozbiljna upozorenja o opasnostima vještačke inteligencije sa samog vrha industrije
Šmitov dramatičan savjet da se "isključe" dolazi u trenutku kada inženjeri u vodećim istraživačkim laboratorijama sve više govore o opasnostima.
Džejkob Kokson, istraživač koji je proveo tri godine prethodnim obučavanjem modela u OpenAI i Anthropic-u, nedavno je podnio ostavku, rekavši da se tehnološki giganti ponašaju neodgovorno i "kockaju naše živote u nekontrolisanoj trci ka superinteligenciji".
Njegovo upozorenje ponovio je i vodeći stručnjak za bezbjednost Anthropic-a, Evan Habinger, koji je procijenio da postoji veća od 10 procenata šanse da bi vještačka inteligencija mogla dovesti do uništenja čovječanstva u narednoj deceniji.
Pritisak je postao toliko veliki da je čak i izvršni direktor kompanije Anthropic, Dario Amodei, nedavno javno pozvao na usporavanje razvoja, poziv koji su iznenađujuće ponovili Sem Altman i Ilon Mask iz OpenAI-ja.
Amodei je priznao da sistemi ulaze u fazu takozvanog rekurzivnog samousavršavanja, procesa u kojem postojeća vještačka inteligencija nezavisno piše kod, testira i ubrzava stvaranje svojih mnogo moćnijih nasljednika.
Takođe je upozorio na incidente u kojima su autonomni agenti vještačke inteligencije već počeli da se udružuju na sopstvenu inicijativu i izvode hakerske napade koje im inženjeri uopšte nisu dodijelili.
Podijeljena mišljenja
Sve glasnija katastrofalna predviđanja podijelila su stručnjake. Dok skeptici upozoravaju da tehnološki giganti namjerno šire paniku kako bi strogim propisima izbacili manje konkurente i startapove iz igre, drugi ističu da slična upozorenja godinama ponavljaju očevi modernog mašinskog učenja, poput dobitnika Nobelove nagrade Džefrija Hintona i Jošue Bengija.
Ključni rizik, napominju insajderi, nije nužno odbegli "Terminator" sa sopstvenom voljom, već autonomni agenti koji, u nekontrolisanom nizu koraka, zaobilaze nadzor ili postaju destruktivno oružje u rukama zlonamjernih aktera.