Prvi čovjek kompanije OpenAI priznao je da dosadašnje krpljenje softverskih rupa više ne daje rezultate pred eksplozivnim razvojem naprednih modela.
Čini se da se svakog dana otkrije ili da vještačka inteligencija iskoristi neki novi problem u sajber bezbjednosti koji bi mogao da sruši internet.
Situacija je postala toliko loša da čak i izvršni direktor kompanije OpenAI Sem Altman, jedan od ljudi koji su najodgovorniji za guranje razvoja vještačke inteligencije napred uprkos rizicima, sada veruje da jednostavno ispravljanje problema više nije održiva opcija.
Tokom gostovanja na Visokoj poslovnoj školi Stenford, Altman je rekao grupi postdiplomaca da je kriza u oblasti sajber bezbjednosti gora nego što je iko mogao da zamisli.
"Više ne mislim da ćemo moći samo da ispravimo sve greške", rekao je publici, delom zbog stalnog napretka AI modela, a dijelom zbog toga što su mete sajber napada reagovale presporo da bi ih preduhitrile.
"Ova sajber bezbjednost... ne znam ni koju bih dovoljno dramatičnu riječ upotrebio, ali problem koji nam se približava, po mom mišljenju, još uvijek je nešto što mi, kao lideri organizacija, države ili pojedinci, nismo shvatili ozbiljno", izjavio je on.
Altman je ukazao na paniku koja je nastala kada je Antropik najavio svoj model Klod Mitos sa zloslutnim upozorenjem da ne smije biti pušten u javnost jer je jednostavno previše moćan i mogao bi da dovede do uništenja sajber bezbjednosti kakvu poznajemo.
"Ljudi su definitivno ispravili neke greške, ali to je bio još jedan od onih slučajeva u kojima ljudi nisu zaista instinktivno shvatili eksponencijalni rast", izjavio je Sem Altman.
U osnovi, Altman je sugerisao da su organizacije koje su preduzele akciju samo iskrpile probleme koje su AI modeli uspjeli da pronađu i na tome su se zaustavile, kao da u budućnosti neće biti pronađene nikakve druge greške ili ranjivosti.
"Uglavnom, mislim da je većina lidera organizacija donekle nastavila dalje sa svojim poslom. A modeli su nastavili da napreduju", rekao je on.
Čini se da Altman grdi ove organizacije što situaciju nisu shvatile dovoljno ozbiljno ili što nisu uzele u obzir da bi modeli mogli da evoluiraju i da se poboljšaju, ali izgleda da ga manje zanima da preispita da li je možda umanjivao taj problem dok je gurao razvoj naprijed, jer bi potpuno priznavanje problema moglo da dovede do ozbiljnijeg pritiska da se razvoj uspori ili zaustavi u trenutku dok on pokušava da stigne do inicijalne javne ponude (IPO).
Zanimljivo je da, kada su sopstveni agenti kompanije OpenAI probili izolaciju i hakovali Haging fejs, bilo je jasno da su njene sopstvene procedure i bezbjednosne metode nedovoljne.
Uprkos tome što se zalagao za to da AI industrija usvoji praćenje lanca razmišljanja (chain-of-thought), tehniku za ispitivanje internog logičkog zaključivanja modela, kao standardnu praksu, OpenAI je nije primijenio tokom svojih sopstvenih trening sesija.
Pored toga, prema istrazi koju je sprovela neprofitna organizacija za bezbjednost vještačke inteligencije METR, OpenAI je već bio upozoren da su njegovi agenti pobjegli iz svog izolovanog okruženja (sandbox), pa je bio ispravio propust koji im je to omogućio. Međutim, te mjere nisu uspjele da spreče još jedno bjekstvo koje je dovelo do napada.
Tako da se Altman ovde prilično našao u situaciji nalik onoj kad se rugala šerpa loncu. Ali ne brinite, osnivač kompanije OpenAI ima rješenje za situacije u kojima krpljenje ne usijpeva: još vještačke inteligencije.
"Mislim da ćemo morati u potpunosti da prebacimo model odbrane na korišćenje iste tehnologije za novu vrstu odbrambenog štita", rekao je on.
OpenAI očigledno usvaja model trgovca oružjem koji prodaje opremu obema stranama u sukobu.
A pomislite samo, bili smo tako blizu toga da ne moramo da živimo ovu noćnu moru. Altman je tokom razgovora otkrio da je zamalo ušao u investiciono bankarstvo jer je "to bilo ono što su sva kul djeca željela da rade, pa sam postao žrtva pritiska vršnjaka".
Nije jasno da li je i dalje toliko podložan pritisku vršnjaka kao što je bio kada je bio tinejdžer, ali svi bismo mogli da probamo da ga maltretiramo, samo da vidimo da li to i dalje funkcioniše.
(Gizmodo/Mondo)