Neke od aplikacija koje su izbačene iz App Store-a su korisnicima nudile AI funkciju "svlačenja", dok su druge "samo" vršile zamjenu lica na fotografijama ženskih osoba
Apple je uklonio tri aplikacije iz svoje App Store prodavnice koje su na Instagramu, ali i na sajtovima za odrasle, reklamirale svoju funkciju koja može "besplatno da skine bilo koju djevojku".
Aplikacije su u App Store-u bile opisane kao "generatori umjetnosti", i pored toga što su ustvari koristile vještačku inteligenciju za kreiranje "slika golotinje bez pristanka" onih koji su na njima fotografisani.
Takve slike, međutim, uopšte ne prikazuju žene koje se na njima nalaza, onako kako one zaista izgledaju bez odjeće, već se oslanjaju na vještačku inteligenciju da kreira ono što izgleda kao nago tijelo ispod odjeće osobe na slici.
Bez obzira na to, ove vještačkom inteligencijom generisane, odnosno izmijenjene, fotografije i svakako mogu da osramote osobu čiji lik je AI iskoristio, da djeluju ponižavajuće za ženu i da budu zloupotrebljene za ucjenjivanje.
Apple je aplikacije uklonio, prethodno istraživši linkove do njih i njihovih oglasa. Međutim, u tom postupku Apple nije mogao da pronađe uvredljive aplikacije, navodi se u izveštaju na koji se poziva PhoneArena.
Dok su neke od tih aplikacija nudile AI funkciju "svlačenja", druge su "samo" vršile zamenu lica na fotografijama odraslih osoba. Neke od tih aplikacija se u App Store-u nalaze još od 2022. godine. Do skoro su djelovale potpuno nevinim i za Apple i za Google, u čijoj su se Play Store prodavnici takođe nalazile.
Pretpostavlja se da su se programeri koji stoje iza ovih aplikacija, a koji su očigledno nepoznati velikim tehnološkim kompanijama, njihove "porno mogućnosti" uglavno reklamirali na sajtovima za odrasle.
Umjesto da ih odmah uklone iz svojih prodavnica, Apple i Google su im dozvolili da tamo ostanu dokle god se ne oglašavaju na porno sajtovima.
Uprkos zahtjevima Apple-a i Google-a, jedna od aplikacija nije prestala sa oglašavanjem na sajtovima za odrasle sve do ove godine, zbog čega je povučena iz Play Store prodavnice.