Zaposleni su upozoravali na rizične prenose uživo, propuste u roditeljskoj kontroli i štetne preporuke algoritma, navodi se u sudskim dokumentima.
Novi sudski dokumenti otkrivaju ozbiljne propuste u zaštiti djece na TikToku. Prema svjedočenjima koja je prenio NPR, više zaposlenih je u više navrata upozoravalo kompaniju na bezbjednosne probleme, uključujući seksualnu eksploataciju. Međutim, reakcije TikToka izazvale su veliko nezadovoljstvo među zaposlenima.
Ovi zapisi potiču iz tekućih tužbi s kojima se kompanija suočava zbog svog postupanja u vezi sa bezbjednošću djece. TikTok je meta stotina takvih tužbi, iako je neke slučajeve riješio poravnanjem, uključujući i one u kojima se tvrdilo da je aplikacija dizajnirana tako da izaziva zavisnost.
Sudeći po izjavama zaposlenih u kompaniji, rukovodioci TikToka bili su obaviješteni da se tinejdžeri redovno pojavljuju u prenosima uživo (live stream) unutar aplikacije, što je izazvalo zabrinutost zbog potencijalnog vrbovanja (grooming) i eksploatacije. Nakon što je Forbes 2022. godine objavio članak o tinejdžerima koji se skidaju u TikTok Live video-snimcima, u kojima su gledaoci mogli da plaćaju poklone unutar aplikacije (in-app gifts), jedan zaposleni u sektoru bezbjednosti rekao je da je kompanija znala za takav sadržaj. Zaposleni su takođe upozoravali da kompanija ostvaruje „značajan prihod“ od video-sadržaja uživo u kojima učestvuju djeca, iako su pravila TikToka zabranjivala maloljetnicima da se u njima pojavljuju.
Drugi zaposleni ukazali su i na nedostatke u opcijama za roditeljsku kontrolu i bezbjednosnim funkcijama za provjeru uzrasta. Na primjer, „rupa u sistemu“ omogućavala je maloljetnicima da zaobiđu TikTokove provjere uzrasta ukoliko bi se registrovali putem naloga na Facebooku, Instagramu ili Googleu. Aplikacija je takođe sadržala „skriveni link“ koji je tinejdžerima omogućavao da se sami uklone iz TikTokove funkcije „Porodično povezivanje“ (Family Pairing).
Kompanija nije dala zvaničnu izjavu za NPR. Iz TikToka su naveli da su advokati „proizvoljno probrali“ incidente opisane u dokumentima.
„Ovi citati i tvrdnje jasno su proizvoljno odabrani po nalogu advokata u postupku i iskorišćeni da bi se netačno prekrojila naša istorija i javnost dovela u zabludu u pogledu naše posvećenosti bezbjednosti mladih i načinu na koji naša platforma funkcioniše“, izjavio je portparol kompanije.
„Uložili smo milijarde dolara u povjerenje i bezbjednost (Trust & Safety) i uveli više od 50 unaprijed podešenih opcija za bezbjednost, privatnost i sigurnost tinejdžera, uključujući Porodično povezivanje, koje pomaže roditeljima i starateljima da prilagode iskustvo za svoje tinejdžere. Ostajemo nepokolebljivi u našoj posvećenosti dobrobiti naše zajednice.“
NPR dalje citira izvještaj koji je napisao Erik Han, bivši šef sektora za bezbjednost u TikToku, o rizicima koje predstavljaju algoritamske „zečije rupe“, u kojima aplikacija učestalo preporučuje štetan sadržaj, poput objava u vezi sa samoubistvom. U tom izvještaju, koji po svemu sudeći datira iz 2020. godine, navodi se da kod takvog sadržaja postoji „pravi efekat zaraze“.
TikTok se nedavno našao pod strogim nadzorom javnosti zbog načina na koji je postupao sa učestalim preporukama problematičnog sadržaja. Kompanija je 2021. godine uvela funkciju koja je trebalo da pomogne korisnicima da izbjegnu „obrasce koji se ponavljaju“ kod određenih vrsta sadržaja. Međutim, kompanija je — u očiglednom testu — tu funkciju uskratila milionima korisnika.
Prema dokumentima koji su postali javni u okviru tužbe koju je podnio državni tužilac Njujorka, tinejdžer koji je bio dio tog eksperimenta izvršio je samoubistvo nakon što mu se u više navrata prikazivao sadržaj o samopovređivanju.
Izvor: B92
NovisudskidokumentiotkrivajuozbiljnepropusteuzaštitidjecenaTikToku.PremasvjedočenjimakojajeprenioNPR,višezaposlenihjeuvišenavrataupozoravalokompanijunabezbjednosneprobleme,uključujućiseksualnueksploataciju.Međutim,reakcijeTikTokaizazvalesuvelikonezadovoljstvomeđuzaposlenima.
Ovizapisipotičuiztekućihtužbiskojimasekompanijasuočavazbogsvogpostupanjauvezisabezbjednošćudjece.TikTokjemetastotinatakvihtužbi,iakojenekeslučajeveriješioporavnanjem,uključujućiioneukojimasetvrdilodajeaplikacijadizajniranatakodaizazivazavisnost.
Sudećipoizjavamazaposlenihukompaniji,rukovodiociTikTokabilisuobaviještenidasetinejdžeriredovnopojavljujuuprenosimauživo(livestream)unutaraplikacije,štojeizazvalozabrinutostzbogpotencijalnogvrbovanja(grooming)ieksploatacije.NakonštojeForbes2022.godineobjaviočlanakotinejdžerimakojiseskidajuuTikTokLivevideo-snimcima,ukojimasugledaocimoglidaplaćajupokloneunutaraplikacije(in-appgifts),jedanzaposleniusektorubezbjednostirekaojedajekompanijaznalazatakavsadržaj.Zaposlenisutakođeupozoravalidakompanijaostvaruje„značajanprihod“odvideo-sadržajauživoukojimaučestvujudjeca,iakosupravilaTikTokazabranjivalamaloljetnicimadaseunjimapojavljuju.
Drugizaposleniukazalisuinanedostatkeuopcijamazaroditeljskukontroluibezbjednosnimfunkcijamazaprovjeruuzrasta.Naprimjer,„rupausistemu“omogućavalajemaloljetnicimadazaobiđuTikTokoveprovjereuzrastaukolikobiseregistrovaliputemnaloganaFacebooku,InstagramuiliGoogleu.Aplikacijajetakođesadržala„skrivenilink“kojijetinejdžerimaomogućavaodasesamiukloneizTikTokovefunkcije„Porodičnopovezivanje“(FamilyPairing).
KompanijanijedalazvaničnuizjavuzaNPR.IzTikTokasunavelidasuadvokati„proizvoljnoprobrali“incidenteopisaneudokumentima.
„Ovicitatiitvrdnjejasnosuproizvoljnoodabraniponaloguadvokataupostupkuiiskorišćenidabisenetačnoprekrojilanašaistorijaijavnostdovelauzabluduupogledunašeposvećenostibezbjednostimladihinačinunakojinašaplatformafunkcioniše“,izjaviojeportparolkompanije.
„Uložilismomilijardedolaraupovjerenjeibezbjednost(Trust&Safety)iuvelivišeod50unaprijedpodešenihopcijazabezbjednost,privatnostisigurnosttinejdžera,uključujućiPorodičnopovezivanje,kojepomažeroditeljimaistarateljimadaprilagodeiskustvozasvojetinejdžere.Ostajemonepokolebljiviunašojposvećenostidobrobitinašezajednice.“
NPRdaljecitiraizvještajkojijenapisaoErikHan,bivšišefsektorazabezbjednostuTikToku,orizicimakojepredstavljajualgoritamske„zečijerupe“,ukojimaaplikacijaučestalopreporučuještetansadržaj,poputobjavauvezisasamoubistvom.Utomizvještaju,kojiposvemusudećidatiraiz2020.godine,navodisedakodtakvogsadržajapostoji„praviefekatzaraze“.
TikToksenedavnonašaopodstrogimnadzoromjavnostizbognačinanakojijepostupaosaučestalimpreporukamaproblematičnogsadržaja.Kompanijaje2021.godineuvelafunkcijukojajetrebalodapomognekorisnicimadaizbjegnu„obrascekojiseponavljaju“kododređenihvrstasadržaja.Međutim,kompanijaje—uočiglednomtestu—tufunkcijuuskratilamilionimakorisnika.
PremadokumentimakojisupostalijavniuokvirutužbekojujepodniodržavnitužilacNjujorka,tinejdžerkojijebiodiotogeksperimentaizvršiojesamoubistvonakonštomuseuvišenavrataprikazivaosadržajosamopovređivanju.