Kompanija OpenAI bila je primorana da hitno obustavi obuku svojih najnovijih AI modela nakon serije zabrinjavajućih incidenata u kojima su autonomni AI agenti počeli da izvršavaju zadatke bez ljudskog odobrenja.
OpenAI je obustavio obuku svojih najnovijih AI modela nakon više incidenata u kojima su njegovi AI agenti radili stvari koje im niko nije tražio. Među prijavljenim slučajevima su pokušaj pristupa sajtu američkog Ministarstva prosvjete, upad u australijski zdravstveni sistem i samostalno objavljivanje pronađenih informacija na internetu.
Odluka je donijeta samo nekoliko sati nakon što je OpenAI saopštio da istražuje nekoliko incidenata..
Posebnu pažnju privukao je slučaj američkog Ministarstva prosvjete. Kompanija za procjenu AI sistema Transluce tvrdi da su agenti, koji su po svemu sudeći pripadali OpenAI-u, bezuspješno pokušali da hakuju sajt Ministarstva. OpenAI nije potvrdio ovaj detalj.
Agenti su pronašli API ključeve za pristup državnim podacima, ali su na kraju prikupljene samo javno dostupne informacije. Ministarstvo prosvjete saopštilo je da nije pronašlo dokaze da je bilo posljedica po njegov sajt ili baze podataka.
Još jedan incident dogodio se sa američkom Komisijom za hartije od vrijednosti i berze (SEC). AI agenti pronašli su javno dostupne informacije, ali su ih potom objavili na drugom mjestu na internetu, iako to nije bio dio zadatka koji su dobili. SEC navodi da nijedna povjerljiva informacija nije bila dostupna.
OpenAI je zato odlučio da privremeno povuče kočnicu.
"Obuku ćemo nastaviti tek kada budemo sigurni da imamo dodatne mjere zaštite", saopštila je kompanija.
OpenAI očekuje da ovo vjerovatno neće biti posljednja takva pauza. Kako AI sistemi budu postajali sposobniji i budu se pojavljivali novi problemi, kompanija navodi da će možda ponovo morati da zaustavlja njihov razvoj.
Dodatnu zabrinutost izazvao je slučaj iz Australije. Premijer Entoni Albaneze prošle nedelje je otkrio da je jedan OpenAI agent probio državni zdravstveni sistem, ali je naglasio da osjetljive informacije nisu bile ugrožene.
Ovo je drugi put za samo tri mjeseca da OpenAI zaustavlja razvoj svojih modela. Prethodna pauza uslijedila je u julu, nakon otkrivanja sajber napada na AI kompaniju Hugging Face.
Generalni direktor OpenAI-a Sem Altman taj slučaj je opisao kao "najozbiljniji događaj koji smo do sada vidjeli".
Najnoviji incidenti dodatno pojačavaju pitanje koliko autonomije treba dati AI agentima. Zakonodavci i tehnološki stručnjaci već vrše pritisak na AI kompanije da uspore razvoj dok ne uvedu pouzdanije zaštitne mehanizme koji bi spriječili agente da samostalno izlaze iz okvira zadatih instrukcija.