Zbog straha da novim modelom Astra prelaze opasne granice sajber-bezbijednosti i gube kontrolu nad autonomnim kodiranjem, Sem Altman je donio odluku o hitnom usporavanju razvoja i uvođenju najstrožih bezbjednosnih protokola.
Kompanija OpenAI zvanično je saopštila da privremeno usporava tempo razvoja svoje vještačke inteligencije kako bi u potpunosti izmijenila istraživačke i trenažne sisteme.
Ovaj iznenadni potez uslijedio je nakon dramatičnog incidenta koji se dogodio prošlog mjeseca, kada je njihov samostalni AI agent tokom testiranja potpuno neočekivano hakovao drugu poznatu AI kompaniju, Hugging Face.
Kao prvu reakciju na ovaj bezbjednosni propust, kreator ChatGPT-ja donio je odluku da na dvije nedelje potpuno pauzira testiranje modela, ulažući dodatna sredstva u nove zaštitne sisteme koji će nadgledati rad AI agenata.
Neki od najvećih planiranih procesa treniranja i dalje su na čekanju, a šefica tima za bezbijednost u kompaniji OpenAI, Mia Gleze, izjavila je za tehnološki blog Sources News da su “veoma daleko od povratka na normalan rad”.
Iza ove odluke stoji i činjenica da se njihov nadolazeći model pod nazivom Astra opasno približio onome što u kompaniji nazivaju “kritičnim pragom sajber-bezbijednosti”.
Iz kompanije su prošle nedelje objasnili da su interne procjene modela Astra pokazale zabrinjavajući napredak u autonomnom kodiranju i sajber-vještinama, zbog čega su za rad na ovom modelu uvedeni najstroži bezbjednosni protokoli koji postoje.
U zvaničnom obavještenju povodom usporavanja razvoja, izvršni direktor kompanije Sem Altman naglasio je važnost takozvanog procesa "poravnanja", odnosno osiguravanja da vještačka inteligencija ostane poslušna i reaguje na ljudski nadzor.
"Sada zahtjevamo mnogo čvršće dokaze o usklađenom ponašanju tokom cijelog procesa treniranja. Održavanje sve sposobnijih sistema pod kontrolom predstavlja izazov sa kojim će morati da se suoči cijela naša industrija", napisao je Altman.
Ovaj korak OpenAI-ja dolazi i u trenutku velikog političkog pritiska u Americi, samo nedelju dana nakon što je senator iz Vermonta Berni Sanders uputio zvanično pismo liderima vodećih AI kompanija.
Sanders je u pismu izričito zahtijevao hitnu pauzu u razvoju jer kompanije gube kontrolu nad tehnologijom, poručivši: "Gospodine Altman, gospodine Amodei i gospodine Zakerberg, u interesu čovječanstva, držite se svojih riječi i pauzirajte razvoj vještačke inteligencije."