YouTubeov automatski sustav preporuka, koji pokreće većinu od milijardi prikaza na ovoj platformi tako što korisnicima sugerira što da sljedeće pogledaju, počeo je prikazivati videozapis korisnicima koji su gledali druge zapise s pretpubertetskom i djelomice razodjevenom djecom, otkrila je ekipa istraživača, piše Index.hr
“To je zastrašujuće”
YouTube je odabrao videozapise iz svoje arhive, ponekad uzevši inače neškodljive kućne snimke obitelji nesvjesnih što se događa, kažu istraživači. U mnogim slučajevima, njegov algoritam preporučio je korisnicima takve zapise nakon što su gledali snimke sa seksualnim sadržajem. Rezultat je katalog videozapisa za koje stručnjaci kažu da seksualizira djecu.
„Te kanale povezuje YouTubeov algoritam. To je zastrašujuće“, rekao je Jonas Kaiser, jedan od tri istraživača Berkman Klein Centra za internet i društvo pri Harvardu, koji je naišao na te videozapise dok je istraživao učinak YouTubea na Brazil.
Video Christianeine kćeri YouTubeov je sustav promovirao mjesecima nakon što je kompanija upozorena da ima problem s pedofilima. U veljači su Wired i drugi mediji objavili da predatori koriste komentare ispod YouTube videa s djecom kako bi navodili druge pedofile. Tada je YouTube, nazvavši problem „duboko zabrinjavajućim“, onemogućio komentare ispod mnogih videozapisa koji prikazuju djecu.
Snimke djece kao preporuka pedofilima
No sustav preporuka, koji i dalje funkcionira, prikupio je desetke takvih zapisa u novi i lako dostupan repozitorij, te ga pustio svekolikoj publici. YouTube nikad nije namjeravao služiti korisnicima sa seksualnim interesom prema djeci, ali na kraju im je njegov automatski sustav omogućio da gledaju takav sadržaj i to uz preporuku.
Korisnici uopće ne moraju tražiti snimke djece da bi završili gledajući takve zapise. Platforma ih može odvesti do njih kroz razvoj preporuka. Tako se korisnicima koji gledaju erotske videozapise može preporučiti da pogledaju zapise žena koje izgledaju upadljivo mlađe, a potom i žena koja provokativno poziraju u dječjoj odjeći. Na kraju, nekim korisnicima mogu biti ponuđeni zapisi djevojčica od 5 ili 6 godina, odjevenih u kupaće kostime ili koje se odijevaju.
Sam po sebi, svaki video može biti savršeno nevin, kućni video koji je, primjerice, snimilo dijete. Bilo koja otkrivajuća slika brzo prolazi i doima se slučajnom. No kad su grupirani, zajedničke značajke takvih zapisa postaju nepogrešivo bjelodane.
„Zaista se bojim toga. Uplašena sam činjenicom da video poput ovoga može dospjeti u takvu kategoriju“, rekla je Christiane. The New York Times neće otkriti obiteljsko prezime zbog zaštite privatnosti.
YouTube uklonio samo neke snimke
Nakon što je The Times upozorio YouTube da njegov sustav vrti obiteljski video ljudima koji su vjerojatno motivirani seksualnim interesom za djecu, kompanije je uklonila neke zapise, ali ostavila mnoge druge, među ostalima i one koji su učitani s naizgled lažnih računa. Sam sustav preporuka također je odmah promijenjen, tako da više ne grupira neke od otkrivajućih zapisa.
YouTube kaže da je to vjerojatno posljedica rutinskih podešavanja algoritama, a ne namjerne prilagodbe pravila.
Jennifer O’Connor, YouTubeova direktorica za povjerenje i sigurnost, kaže kako je kompanija posvećena iskorjenjivanju eksploatacije djece na svojoj platformi, te da je od veljače neprekidno radila na poboljšanjima. „Zaštita djece naš je prioritet“, kaže O’Connor.
Međutim, YouTube nije proveo onu promjenu za koju istraživači kažu da bi mogla spriječiti ponavljanje takvih slučajeva, isključiti sustav preporuka na videozapise djece, iako platforma može automatski identificirati takve zapise. Kompanija kaže da su preporuke najveći generator prometa, te da bi njihovo uklanjanje pogodilo „kreatore“ koji se oslanjaju na te klikove. YouTube je naglasio kako će ograničiti preporuke na snimke za koje se smatra da bi djecu mogli dovesti u rizik.
“Efekt zečje rupe”
YouTube je svoj sustav preporuka opisao kao umjetnu inteligenciju koja neprestano uči koje će sugestije navesti korisnike da gledaju. Te preporuke, kaže kompanija, zaslužne su za 70 posto pregleda, ali ne otkriva detalje o tome kako sustav donosi odluke.
Neke studije otkrile su ono što znanstvenici nazivaju „efektom zečje rupe“. Platforma, kažu oni, postupno navodi gledatelje do sve ekstremnijih zapisa ili tema, za koje se smatra da će ih privući. Pogledate li, primjerice, nekoliko vida o šminkanju, vjerojatno ćete dobiti preporuku za video o potpunom makeoveru. Gledate li snimke o biciklizmu, YouTube će vam vjerojatno sugerirati šokantne snimke nesreća u biciklističkim utrkama.
Kaiser i njegovi suradnici na istraživanju, Yasodara Cordova i Adrian Rauchfleisch, odlučili su testirati taj efekt u Brazilu. Serve je otvorio videozapise, potom slijedio YouTubeove glavne preporuke na sljedeće snimke. Pokretanje ovog eksperimenta tisuće puta omogućilo im je da pronađu nešto poput karte podzemne željeznice o tome kako platforma usmjerava svoje korisnike.
Također su slijedili i YouTubeove preporuke o kanalima, stranice na kojima se mogu pronaći sva djela nekog autora. Iako YouTube kaže da su tamo klikovi rijetki, ponudili su način kontrole za bilo koji statistički odjek, generiran time kako platforma sugerira snimke. Kad su slijedili preporuke o zapisima seksualne tematike, primijetili su nešto uznemirujuće. U mnogim slučajevima videozapisi postaju bizarni ili ekstremni te stavljaju sve veći naglasak na mlade. Video žena koje govore o seksu, na primjer, ponekad vodi do videa žena u donjem rublju ili žena koje doje, ponekad navodeći svoju dob od 19, 18 ili čak 16 godina.
Neke su žene tražile donacije od svojih „tatica“ ili naslućivale privatne snimke na kojima poziraju gole. Nakon nekoliko klikova, na red su došli videozapisi žena koje glume da su u pretpubertetu ili poziraju u dječjoj odjeći. Nakon toga, YouTube bi odjednom počeo preporučivati zapise male i djelomice odjevene djece, a potom ponudio beskrajan stream takvih snimki ponajprije iz Latinske Amerike i istočne Europe. Cordova, koja je također proučavala i distribuciju online pornografije, kaže da prepoznaje što se događa.
Bilo koji pojedinačni video može biti posve neseksualnog sadržaja, možda su ga učitali roditelji koji su željeli podijeliti kućni video s obitelji. Ali YouTubeov algoritam, djelomice učeći od korisnika koji su tražili otkrivajuće ili sugestivne slike djece, tretirao je videozapise kao destinaciju za ljude s drukčijom vrstom interesa.
“To je nevjerojatno moćno i ljudi se uvuku u to”
A izvanredno veliki broj pregleda, ponekad i više milijuna, ukazuje da je sustav pronašao publiku za videozapise i da drži tu publiku angažiranom. Neki istraživači vjeruju da kod nekih materijala nuđenje nekih interesa može značiti i njihovo ohrabrivanje.
„To je nevjerojatno moćno i ljudi se uvuku u to“, kaže Stephen Blumenthal, londonski psiholog koji se bavi ljudima s devijantnim seksualnim interesima i ponašanjima.
I YouTube, pokazujući videozapise djece zajedno s mainstream seksualnim sadržajem, kao i prikazivanjem velikog broja pregleda pojedinih snimki, riskira narušavanje tabua protiv pedofilije. „Tako se pedofilija normalizira“, kaže Marcus Rogers, psiholog s Purduea koji je proveo istraživanje o dječjoj pornografiji.
YouTube tvrdi da ne postoji nikakav „efekt zečje rupe“.
„Nama nije jasno da naš sustav preporuka nužno vodi u jednom ili drugom smjeru“, rekla je O’Connor, te dodaje: „Kada je riječ o djeci, želimo zauzeti mnogo konzervativniji stav o tome što preporučujemo.“
Linkovi na profile mladih na Facebooku, Instagramu…
Većina ljudi koji gledaju seksualizirani sadržaj ostaje samo na tome, kažu istraživači. No neki videozapisi na YouTubeu sadrže i linkove na profile mladih na društvenim mrežama.
„Mnogi ljudi koji su aktivno uključeni u online razgovor s djecom vrlo su vještini u uvjeravanju djece na objavu seksualiziranih fotografija ili upuštanje u seksualne aktivnosti i njihovo snimanje“, kaže dr. Rogers.
YouTube ne dopušta mlađima od 13 godina da imaju svoje kanale. Kompanija tvrdi da ovu politiku provodi striktno.
Za roditelje nema jednostavnih rješenja, kaže Jenny Coleman, direktorica organizacije Stop it Now, koja se bori protiv seksualnog iskorištavanja djece.
„Čak i najopreznija obitelj može biti uvučena u nešto štetno ili podložno kaznenom progonu“, kaže Coleman.
Radeći na ovom tekstu, kad god je The Times mogao pronaći informacije o roditeljima djece iz videozapisa, kontaktirao je lokalne organizacije koje bi im mogle pomoći. Nakon što je jedna takva organizacija kontaktirala Christiane, majku iz Brazila, ona je bila spremna razgovarati o svom iskustvu.
Bila je bijesna i trudila se apsorbirati ono što se dogodilo. Uzrujala se oko toga što će reći svome suprugu. Bila je zbunjena YouTubeovom praksom. I bila je zabrinuta kako zaštititi svoju kćer, koja je bila izložena milijunskoj publici.
„Jedino što mogu učiniti jer zabraniti joj da bilo što objavljuje na YouTubeu“, rekla je Christiane./HMS/
wpDiscuz