Indijsku ženu Sanchi su zloupotrijebili praveći lažni Instagram profil sa njenim licem za erotski AI sadržaj. Njen bivši dečko je uhapšen zbog ove deepfake prevare i zlostavljanja.
Indijska Instagram zvijezda Babydoll Archi za samo nekoliko dana udvostručila je svoj broj pratilaca i dostigla impresivnih 1,4 miliona, zahvaljujući viralnim objavama koje su je lansirale u internet orbitu. Jedan od najpoznatijih trenutaka bio je video u kojem nosi crvenu sari i zavodljivo pleše uz rumunsku pjesmu Dame Un Grr, dok je druga viralna fotografija prikazala njenu pojavu sa američkom pornozvijezdom Kendrom Last.
Ipak, iza blistavog online imidža krila se mračna tajna - žena koja je osvojila srca miliona nije ni postojala u stvarnosti. Instagram nalog bio je lažan, a lice koje je korišćeno bilo je digitalno kreirano, zasnovano na pravoj ženi iz Asama, koju ćemo nazvati Sanchi.
Istraga je krenula nakon što je Sanchin brat podnio policijsku prijavu, otkrivši da je njen identitet zloupotrijebljen. Pratim Bora, njen bivši dečko, uhapšen je zbog sumnje da je upravo on tvorac lažnog profila. Bora, inženjer mašinstva i samouki AI entuzijasta, koristio je privatne fotografije Sanchi da bi napravio digitalnu kopiju njenog lika i na osnovu nje kreirao lažni nalog.
Kako je istragom otkriveno, Bora je želio osvetu zbog sukoba sa Sanchi, a tehnologiju je iskoristio kao oružje za lični obračun. Počeo je sa modifikovanjem njenih stvarnih fotografija, a zatim je kreirao potpuno AI generisane slike i video zapise, praveći sofisticirani deepfake koji je zavarao milione.
Lažni profil je počeo da dobija pažnju prošle godine, ali pravi bum dogodio se tek od aprila ove godine. Babydoll Archi je postala prava internet zvijezda, a njeno ime trending tema na Google-u, izazivajući mnoštvo memova i fan stranica. Sanchi nije ni znala za sve to - ona nema društvene mreže i saznala je za lažni nalog tek kada su je mediji predstavili kao influenserku i spekulisali o njenom navodnom ulasku u američku porno industriju.
Porodica Sanchi reagovala je brzo - podnijeli su policijsku prijavu sa dokazima u vidu fotografija i video snimaka koje je Bora koristio. Ipak, nisu znali ko stoji iza svega dok policija nije otkrila Bora i uhapsila ga.
Policija je zaplijenila njegov laptop, telefone i hard diskove, jer je Bora preko lažnog profila i pretplata zarađivao novac. Procjene su da je zaradio oko milion rupija, uključujući i 300.000 u samo pet dana prije hapšenja. Njegova zarada dolazila je od korisnika koji su plaćali za ekskluzivni sadržaj na platformama kao što je Linktree.
Sanchi i njena porodica trenutno prolaze kroz težak period, ali dobijaju psihološku podršku. Policijska službenica koja vodi istragu kaže da je teško spriječiti ovakve slučajeve, ali da je važno reagovati brzo da se spriječi širenje lažnog sadržaja.
Policija je protiv Bore podnijela prijave za seksualno uznemiravanje, distribuciju nepristojnog materijala, klevetu, falsifikovanje i sajber kriminal, a za ove prestupe zaprećena je kazna i do deset godina zatvora. Slučaj je izazvao burne reakcije na društvenim mrežama, a mnogi pozivaju na strože zakone u borbi protiv ovakvih zloupotreba.
Stručnjaci za vještačku inteligenciju ističu da je, iako je teško potpuno spriječiti ovakve prijetnje, potrebno pažljivo razvijati zakonske okvire. Deepfake tehnologija može biti korisna, ali se lako može zloupotrijebiti - stoga je balans između slobode izražavanja i zaštite žrtava od izuzetne važnosti.