Papa Lav predstavio je prvi veliki dokument svog pontifikata u kojem je upozorio da vještačka inteligencija predstavlja opasnost za čovječanstvo ukoliko ostane bez kontrole, poručivši da AI mora biti „razoružana“ i upozorivši na rizik od „novog digitalnog ropstva“.
Papa Lav predstavio je prvi veliki dokument svog pontifikata, upozorivši da vještačka inteligencija mora biti „razoružana“.
„Znam da je ova riječ snažna, ali je namjerno izabrana jer ovaj trenutak zahtijeva riječi koje mogu da privuku pažnju“, rekao je papa.
Enciklika je tehnički pismo katoličkim biskupima, ali su tokom posljednjih decenija takvi dokumenti postali poruke koje papa upućuje čitavom svijetu.
Iako je dokument uglavnom posvećen vještačkoj inteligenciji, papa Lav je u njemu uputio i jedno od najsnažnijih i najdetaljnijih izvinjenja Vatikana zbog uloge Katoličke crkve u ropstvu.
„Nemoguće je ne osjećati duboku tugu kada se razmišlja o ogromnoj patnji i poniženju koje su mnogi pretrpjeli“, napisao je papa, dodajući da „iskreno traži oproštaj“ u ime Crkve.
Upozorenje na „novo digitalno ropstvo“
Papa je pitanje trgovine robljem povezao sa razvojem vještačke inteligencije, upozorivši da svijet rizikuje da ponovo normalizuje eksploataciju ljudi, kako u razvoju tehnologije, tako i u njenoj primjeni.
Jedne od najsnažnijih poruka u dokumentu odnosile su se upravo na poređenje istorijskog ropstva i onoga što je nazvao „novim digitalnim ropstvom“.
Papa je upozorio da postoji opasnost od prihvatanja novih oblika iskorišćavanja ljudi i da se čovječanstvo nalazi na sličnoj moralnoj prekretnici.
Dokument predstavljen zajedno sa stručnjacima za AI
Neobično je to što je papa Lav lično predstavio encikliku pod nazivom „Magnifica Humanitas“ („Veličanstvena humanost“) u Vatikanu zajedno sa stručnjacima za vještačku inteligenciju, među kojima je bio i Kristofer Ola, suosnivač američke AI kompanije „Anthropic“.
Ola je nakon predstavljanja rekao da svaka kompanija koja razvija vještačku inteligenciju funkcioniše „unutar sistema podsticaja i ograničenja koji ponekad mogu biti u sukobu sa ispravnim postupanjem“.
Dodao je da bi bila greška misliti da pitanja vještačke inteligencije treba da rješavaju samo stručnjaci iz tehnološke industrije.
„Pitanja koja pokreće vještačka inteligencija veća su od same AI zajednice, ne samo zbog posljedica, već i zbog svoje prirode“, rekao je Ola.
Papa osudio upotrebu AI u ratovima
Papa Lav posebno je upozorio na korišćenje vještačke inteligencije u ratovanju, navodeći da smanjivanje ljudske kontrole nad oružjem dodatno otežava da se bilo koji rat smatra pravednim.
Takođe je upozorio na opasnost od pokretanja trke u AI naoružanju.
„Nijedan algoritam ne može rat učiniti moralno prihvatljivim“, napisao je papa.
Prema njegovim riječima, vještačka inteligencija ne uklanja „suštinsku nehumanost rata“, već može da ubrza sukobe i učini ih još bezličnijim, jer se žrtve svode na podatke.
Kritika manipulacije i „digitalnog kolonijalizma“
Papa je kritikovao i način na koji se AI koristi u politici, posebno za manipulaciju fotografijama i video-snimcima, što ljude izlaže pristrasnim i obmanjujućim informacijama.
On je upozorio i na opasnost od „digitalnog kolonijalizma“, povlačeći paralelu između zloupotreba iz kolonijalne ere i savremenih tehnoloških praksi.
U jednom dijelu dokumenta papa se direktno obratio programerima i kompanijama koje razvijaju AI tehnologije.
„Programeri nose posebnu etičku i duhovnu odgovornost, jer svaka dizajnerska odluka odražava viziju čovječanstva“, poručio je papa Lav.
Hoće li upozorenja imati efekta?
Papa Lav formirao je posebnu komisiju koja bi trebalo da nastavi rad na ovoj temi, ali ostaje pitanje koliko će Crkva uspjeti da utiče na razvoj tehnologije koja se mijenja ogromnom brzinom.
BBC podsjeća da je pokojni papa Franja još 2015. godine u enciklici „Laudato Si“ upozoravao na klimatsku krizu, ali je kasnije izrazio razočaranje zbog izostanka konkretnih reakcija svijeta.