AI agent kompanije OpenAI pristupio je javnim i internim podacima australijske državne baze zdravstvene statistike, saopštio je premijer Entoni Albaneze.
AI agent kompanije OpenAI pristupio je australijskoj državnoj bazi zdravstvene statistike u, kako je rekao premijer Entoni Albaneze, prvom poznatom slučaju u kojem je vještačka inteligencija neovlašćeno ušla u mrežu državnih institucija.
"AI agent je pristupio i javnim i nejavnim datotekama" u bazi statističkih podataka australijskog programa Medicare, a u nju je i upisivao datoteke, rekao je Albaneze novinarima na marginama Generalne skupštine UN u Njujorku.
Slučaj je još jedan primer AI agenata koji postupaju mimo namjera ljudi koji njima upravljaju. Otkriven je u vrijeme kada pojedini vodeći ljudi iz industrije, među njima i direktor OpenAI Sem Altman, pozivaju na usporavanje razvoja vještačke inteligencije.
Australija istražuje pristup državnim sistemima
Albaneze je rekao da je u telefonskom razgovoru s Altmanom izrazio "izuzetnu zabrinutost" Australije. Dodao je da Kanbera ne zna za raniji slučaj u kojem je AI agent neovlašćeno pristupio državnom sistemu.
"U toku je forenzička istraga, uz pomoć Australijske uprave za signale, kako bismo saznali više, uključujući i to da li su pogođeni drugi državni sistemi", rekao je premijer.
Prema njegovim riječima, do incidenta je došlo dok je AI agent kompanije OpenAI istraživao potrošnju u zdravstvu. Agent je zaobišao ograničenja kako bi pronašao odgovore u djelovima sistema kojima nije imao dozvolu da pristupi.
Portparol OpenAI Dru Puzateri izjavio je da se incident dogodio u junu, ali da je kompanija za njega saznala tek u avgustu, tokom opsežne provere aktivnosti svojih AI modela.
"Tokom te provjere uočili smo aktivnosti na nekoliko australijskih državnih sajtova i servisa, dok su naši modeli pokušavali da pronađu odgovore i dostupne statističke podatke o Australiji tokom interne procene. Pri tome su preduzeli radnje koje nismo namjeravali", rekao je Puzateri.
Nema dokaza da su otvoreni kartoni pacijenata
Albaneze je rekao da su možda pogođena još tri državna sistema, među njima sistemi Australijskog instituta za zdravlje i socijalnu zaštitu, Zavoda za statistiku i istraživanje kriminala Novog Južnog Velsa i Ministarstva zdravlja Viktorije.
OpenAI navodi da nije pronašao dokaze da je agent pristupio zdravstvenim kartonima pacijenata. Prema kompaniji, podaci kojima je pristupio obuhvatali su zbirnu zdravstvenu statistiku i nazive internih datoteka.
Kompanija tvrdi da je australijsku vladu obavijestila 10. septembra. Obaveštenje je, prema Albanezeovim rečima, poslato na opštu imejl adresu, zbog čega je prošlo pet dana prije nego što je nadležni ministar saznao za incident.
"Kompaniji je trebalo previše vremena da obavesti vladu o tome šta se dogodilo, a neprihvatljiv je bio i način na koji je obavještenje poslato", rekao je Albaneze, navodeći šta je poručio Altmanu.
Australijski ministar odbrane Ričard Marls najavio je u četvrtak, po lokalnom vremenu, istragu posebne radne grupe. Istovremeno je rekao da je uticaj incidenta "relativno mali".
"Podacima o zdravlju pojedinaca nije pristupljeno. Sam sistem ni na koji način nije kompromitovan", rekao je Marls, preneo je CNN.
Upozorenje stručnjaka o AI agentima
Altman i direktor kompanije Anthropic Dario Amodei govorili su u srijedu pred Savetom bezbjednosti UN i pozvali na veću međunarodnu saradnju i zajedničke standarde za razvoj vještačke inteligencije. Altman je pozvao svetske lidere da utvrde standarde za procjenu sposobnosti AI sistema, rizika i zaštitnih mjera, uz očuvanje ljudskog nadzora.
OpenAI je u julu objavio da su njegovi modeli tokom testiranja sajber bezbijednosti stvorili grupu AI agenata koja je prodrla u sisteme kompanije Hugging Face. Taj slučaj podstakao je raspravu o brzini razvoja i sposobnostima AI sistema.
Valajat Husein, vanredni profesor informacionih tehnologija na Australijskom katoličkom univerzitetu u Sidneju, ocijenio je da se između tog slučaja i incidenta u Australiji nazire obrazac.
"Današnji AI agenti postaju izuzetno dobri u izvršavanju zadataka, ali i dalje loše prepoznaju granice koje ne smiju da pređu", rekao je Husein. Upozorio je da mnogi državni sistemi nisu projektovani imajući u vidu mogućnosti naprednih AI agenata.