Iako je otac oslobođen optužbi o posjedovanju materijala seksualnog zlostavljanja djece, Google odbija da mu vrati nalog.
Kada je čovjek po imenu Mark iz San Franciska uslikao intimnu regiju svog sina i te slike poslao doktoru, koji je na osnovu njih dao dijagnozu i prepisao antibiotik, nije ni sumnjao da će mu Google ugasiti nalog, a još manje da će protiv njega biti pokrenuta policijska istraga.
Naime, kada su sporne slike otpremljene u Google Photos, kompanija ih je identifikovao kao CSAM (materijal seksualnog zlostavljanja djece), a dva dana kasnije, Markov Gmail nalog, svi servisi koji pod njega spadaju, kao i Google Fi telefonska usluga su onemogućeni zbog "štetnog sadržaja" za koji Google smatra da je "teško kršenje smjernica kompanije i mogao bi biti protivzakonit".
Google je, zbog ovih fotografija i još jednog spornog videa u Markovoj arhivi, podnio izvještaj Nacionalnom centru za nestalu i eksploatisanu djecu, što je dovelo do policijske istrage.
Iako je Mark oslobođen svih optužbi, Google sada odbija da mu vrati pristup nalogu. "Pratimo američki zakon u definisanju šta čini CSAM i koristimo kombinaciju tehnologije podudaranja hash-ova i vještačke inteligencije da bismo ga identifikovali i uklonili sa naših platformi", kaže Krista Muldon, portparol kompanije. Iako Muldon kaže da su zaposleni, koji se bave ovom vrstom materijala, trenirani od strane medicinskih stručnjaka da prepoznaju osipe i druge probleme na intimnoj regiji, oni nisu doktori, a medicinski eksperti nisu pozvani da procene svaki slučaj.
"Ove kompanije imaju pristup izuzetno invazivnoj količini podataka o životima ljudi, a i dalje nemaju kontekst šta su zapravo životi ljudi", kaže Danijel Kan Gilmor iz Američke unije za građanske slobode. "Ne mislim da ovi sistemi mogu uhvatiti svaki slučaj zlostavljanja djece, ali mislim da mogu imati strašne posledice po ljude u slučaju lažnih pozitivnih rezultata".
Prema federalnom zakonu, Google je dužan da prijavi ovakve slučajeve Nacionalnom centru za nestalu i eksploatisanu djecu. Prošle godine, kompanija je podnijela 621.583 prijava, od kojih je 4.260 proslijeđeno vlastima. Među njima je bio i Markov slučaj.
Podsjetimo, kompanija Apple je prošle godine naišla na žestok otpor nakon što je želela da skenira sve fotografije svojih iPhone korisnika u potrazi za dječijom pornografijom. Protivnici ove ideje su se plašili da bi ova tehnologija vremenom mogla da se koristi u druge svrhe, poput otkrivanja drugih vrsta zabranjenog sadržaja, nepodobnog političkog govora ili jednostavno za špijunažu.
Poslao slike sina doktoru, Google mu ugasio nalog i prijavio ga zbog dječije pornografije
