Najviši finansijski regulatori u Sjedinjenim Američkim Država po prvi put upozoravaju da upotreba vještačke inteligencije predstavlja rizik za finansijski sistem.
Savjet za nadzor finansijske stabilnosti (FSOC), tim vodećih regulatora širom američke vlade, formalno je klasifikovao vještačku inteligenciju u četvrtak (15. decembrar) kao "ranjivost u nastajanju".
Sofisticirani modeli vještačke inteligencije su eksplodirali po popularnosti poslednjih godina, iako mnoga istaknuta imena u ovoj oblasti kažu da bi nova tehnologija mogla imati katastrofalne efekte ako izmakne kontroli.
"Vještačka inteligencija ima potencijal da podstakne inovacije i podstakne efikasnost, ali njegova upotreba u finansijskim uslugama zahtijeva promišljenu primjenu i nadzor za upravljanje potencijalnim rizicima", upozorio je FSOC u svom godišnjem izvještaju u četvrtak.
FSOC, osnovan nakon finansijske krize 2008. i na čelu sa ministrom finansija SAD Dženet Jelen, upozorio je da vještačka inteligencija može "uvesti određene rizike", uključujući zabrinutost za sajber bezbjednost, rizike usklađenosti i pitanja privatnosti.
Regulatori su takođe izrazili zabrinutost zbog "komplikovanih faktora" u vezi sa generativnim AI modelima kao što je ChatGPT.
Na primjer, savjet je označio rizike bezbjednosti podataka, zaštite potrošača i privatnosti koje predstavljaju finansijske kompanije koje koriste generativnu vještačku inteligenciju. I označili su da generativni modeli koji koriste vještačku inteligenciju mogu proizvesti pogrešne rezultate poznate kao "halucinacije".
Još jedna briga za regulatore je da neki modeli koji koriste vještačku inteligenciju funkcionišu kao "crne kutije" – što znači da je njihov unutrašnji rad neprobojan za autsajdere.
FSOC je rekao da ovaj "nedostatak ’objašnjivosti’ može otežati procjenu konceptualne ispravnosti sistema, povećavajući neizvjesnost u vezi sa njihovom prikladnošću i pouzdanošću".
Drugim riječima, ako se banke oslanjaju na misteriozne modele bazirane na vještačkoj inteligenciji, to otežava razumijevanje koliko su njihovi osnovni sistemi zaista čvrsti.
S tim u vezi, regulatori su izrazili zabrinutost zbog toga kako bi ovi sistemi vještačke inteligencije mogli "da proizvedu i eventualno prikriju pristrasne ili netačne rezultate". To bi zauzvrat izazvalo zabrinutost oko poštenog kreditiranja i drugih pitanja zaštite potrošača, rekao je FSOC.
Ovaj potez dolazi samo dvije godine nakon što su regulatori prvi put klasifikovali klimatske promjene kao "nastajuću prijetnju finansijskoj stabilnosti SAD".
Investicije i usvajanje vještačke inteligencije su procvali, čak i sada kada neki stručnjaci upozoravaju na ozbiljne opasnosti. Predsjednik Džo Bajden je nedavno potpisao izvršnu naredbu kojom se nalaže saveznim agencijama da preduzmu korake kako bi zaštitili razvoj vještačke inteligencije, koja je u procvatu.
"Greške i pristrasnosti mogu postati još teže za identifikaciju i ispravku kako pristupi vještačke inteligencije postaju sve složeniji, naglašavajući potrebu za oprezom od strane programera tehnologije, firmi u finansijskom sektoru koje je koriste i regulatora koji nadgledaju takve firme", rekao je FSOC.
Popularnost ChatGPT-a i drugih alata vještačke inteligencije, koji koriste velike jezičke modele za identifikaciju obrazaca u podacima i kreiranje teksta i slika, samo je ubrzala interesovanje za vještačku inteligenciju.