Kompanija OpenAI je saopštio da su dva njegova modela veštačke inteligencije "otela kontroli" i uspešno hakovala "Hutting Face", digitalnu biblioteku za veštačku inteligenciju koja je veoma popularna među programerima.
Incident se dogodio prošle nedelje tokom testiranja sajber-bezbednosnih sposobnosti "OpenAI" sistema i pokazao scenario nalik naučnoj fantastici, za koji kompanije veštačke inteligencije već neko vreme upozoravaju da bi uskoro mogao postati stvarnost.
Kompanije koje razvijaju veštačku inteligenciju, poput "OpenAI" i "Antropika", tokom protekle godine predstavile su modele posebno prilagođene otkrivanju sajber-bezbednosnih slabosti, uz upozorenje da bi njihova tehnologija mogla da stvori nove rizike jer može pronalaziti propuste u računarskim mrežama kompanija brže nego što ih stručnjaci mogu otkloniti.
Saopštenje kompanije "OpenAI" ukazuje na to da takvi bezbednosni incidenti počinju da se dešavaju i da čak ni tehnološki najnaprednije kompanije za razvoj veštačke inteligencije možda nisu u potpunosti spremne za njih.
Upad u "Hutting Face" započeo je kada je OpenAI testirao kombinaciju dva svoja modela GPT-5.6 Sol i još moćniji model koji još nije javno predstavljen, a sve kako bi proverio koliko uspešno mogu da povežu više ranjivosti u jedinstven sajber-napad.
Test je bio zamišljen tako da modeli rade u bezbednom okruženju za testiranje, poznatom kao "sendboks". Međutim, modeli su pronašli ranjivost koja im je omogućila da izađu iz tog izolovanog okruženja i povežu se sa internetom. Zatim su kao metu odabrali "Hutting Face", zaključivši da biblioteka, koja sadrži milione modela veštačke ingeligencije, može da pruži informacije koje bi im pomogle da uspešno prođu bezbednosnu proveru.
OpenAI je saopštio da sarađuje sa bibliotekom "Hutting Face" na otklanjanju propusta koji su omogućili napad.
"Smatramo da je ovo sajber-incident bez presedana, koji uključuje najsavremenije sajber-sposobnosti, i reagujemo u skladu s tim. Uvodićemo stroge kontrole u konfiguraciji infrastrukture, čak i po cenu usporavanja istraživanja, dok se ranjivosti ne otklone", navodi OpenAI.
"Hutting Face" je prošle nedelje saopštio da je otkrio upad i da zna da ga je izazvao autonomni sistem, ali tada nije naveo da iza incidenta stoji OpenAI, piše RTS.
Ugrožena bezbednost kompanija
Izvršni direktor biblioteke, Klem Delang, izjavio je da je "zahvalan na saradnji" sa kompanijom OpenAI nakon hakerskog napada.
"Ovaj incident, verovatno prvi takve vrste, potvrđuje ono u šta dugo verujemo: Bezbednost veštačke inteligencije neće rešiti nijedna kompanija koja radi u tajnosti", rekao je Delang.
Modeli veštačke inteligencije pokazali su se izuzetno sposobnim za programiranje, što ih čini korisnim i hakerima i stručnjacima zaduženim za zaštitu računarskih mreža.
U aprilu je "Antropik" predstavio model za sajber-bezbednost pod nazivom "Mitos" (Mythos), koji je učinio dostupnim samo malom broju organizacija kako bi im pomogao u odbrani od sajber-napada.
Nedugo zatim, OpenAI je predstavio sopstveni model za sajber-bezbednost i omogućio ograničenom broju organizacija da ga koriste za jačanje svoje odbrane, pre nego što ga ponudi širem krugu korisnika. U utorak je i Gugl saopštio da je razvio model usmeren na sajber-bezbednost i stavio ga na raspolaganje manjoj grupi partnera radi testiranja.