Gubitak kontrole nad autonomnim agentima i njihovo samoinicijativno korišćenje prevara i malvera signal su za uzbunu, zbog čega prvi čovjek Guglovog AI tima apeluje na hitnu reakciju država i kompanija.
Vodeća svetska laboratorija za istraživanje vještačke inteligencije Gugl DipMajnd saopštila je danas da bi se u naredne dvije godine mogli dogoditi veći incidenti u vezi sa novim tehnologijama.
Predsjednik te laboratorije Demis Hasabis ocenio je tokom samita u Dablinu da gubitak kontrole nad autonomnim agentima poslednjih mjeseci predstavlja "signal upozorenja" koji treba shvatiti veoma ozbiljno, prenio je "Figaro".
"Agenti vještačke inteligencije mogli bi da izazovu veće incidente u roku od jedne do dvije godine ukoliko kompanije i države ne učine ono što je neophodno", upozorio je Hasabis.
Autonomni agenti su sistemi sa vještačkom inteligencijom koji mogu samostalno da planiraju, donose odluke, koriste spoljne alate i izvršavaju složene zadatke sa minimalnim ljudskim nadzorom.
Britanski Institut za bezbijednost vještačke inteligencije (AISI) objavio je izvještaj o testiranju vodećih modela koji je pokazao da su agenti samoinicijativno koristili lažne identitete, slali lažne mejlove sa malverom i kreirali lažne naloge da bi prevarili softverske programere.
(Tačno/Mondo)