Per tris savaites naujojo vartotojo sklaidos kanalas virto melagienų ir emocijas kurstančių vaizdų pekla. Čia buvo ir atvirų nukirsdinimo nuotraukų, ir suklastotų Indijos oro išpuolių prieš Pakistaną vaizdų, ir šovinistinių smurto scenų. Viena „nuotaiką pataisančių juokų“ grupė paskelbė melagingą naujieną apie 300 teroristų, žuvusių per bombardavimą Pakistane.
„Per pastarąsias tris savaites pamačiau daugiau negyvėlių, nei per visą savo gyvenimą“, – rašė vienas darbuotojas, remiantis 46 puslapių tyrimo ataskaita, atsidūrusia tarp „Facebook“ informatorės Frances Haugen paskelbtų dokumentų.
Testas pasirodė esąs iškalbingas, nes jis buvo sukurtas taip, kad sutelktų dėmesį į „Facebook“ vaidmenį rekomenduojant turinį.
Bandomojoje paskyroje buvo naudojamas 21-erių metų moters, gyvenančios vakarų Indijos Džaipuro mieste ir kilusios iš Haidarabado, profilis.
Vartotoja sekė tik „Facebook“ rekomenduotus puslapius ir grupes, arba turinį, kurį atrado per „Facebook“ rekomendacijas. Tyrimo ataskaitos autorius šią patirtį pavadino „integralumo košmaru“.
Nors F. Haugen atskleista informacija nupiešė smerktiną „Facebook“ vaidmenį skleidžiant žalingą turinį JAV, Indijos eksperimentas liudija, kad kompanijos įtaka pasauliniu mastu gali būti netgi dar blogesnė.
Dauguma pinigų, kuriuos „Facebook“ išleidžia turinio moderavimui, yra skirta anglakalbei žiniasklaidai tokiose šalyse kaip JAV.
Tačiau kompanijos augimą daugiausia skatina tokios šalys kaip Indija, Indonezija ir Brazilija, kur pasirodė nelengva pasamdyti žmonių, turinčių pakankamų kalbinių įgūdžių, kad galėtų atlikti bent minimalią tinklo priežiūrą.
Šis iššūkis ypač aktualus Indijoje – šalyje, kurioje gyvena 1,3 milijardo žmonių, kalbančių 22 oficialiomis kalbomis. „Facebook“ iki šiol buvo linkusi savo platformos turinio priežiūrą perduoti rangovams – pavyzdžiui, bendrovei „Accenture“.
„Mes daug investavome į technologiją, kuri padeda aptikti neapykantą kurstančius teiginius įvairiomis kalbomis, įskaitant hindi ir bengalų, – sakė „Facebook“ atstovė. – Šiais metais mums pavyko perpus sumažinti vartotojų matomų neapykantą kurstančių teiginių kiekį. Šiandien jis yra sumažėjęs iki 0,05 proc. Neapykantos kurstymo prieš marginalizuojamas grupes, įskaitant musulmonus, daugėja visame pasaulyje. Todėl dedame vis daugiau pastangų spręsti šiai problemai ir esame įsipareigoję atnaujinti savo politiką, jei neapykantos kurstymas internete dar labiau išaugtų.“
Remiantis ataskaita, naujoji bandomoji paskyra buvo sukurta 2019 m. vasario 4 d., per tyrėjų grupės kelionę į Indiją. Pasak jų, neturint draugų „Facebook“ yra „ganėtinai tuščia vieta“, o vartotojo dėmesį gaudo tik skirtukai „Watch“ ir „Live“.
„Šio turinio kokybė... nėra ideali“, – pripažįstama ataskaitoje.
Kai vaizdo įrašų paslauga „Watch“ nežino, ko vartotojas nori, „ji, regis, pradeda brukti švelnią pornografiją“ ir prideda susiraukusį jaustuką.
Eksperimentas tamsesnių spalvų įgavo vasario 11 d., kai sukurta vartotoja pradėjo tyrinėti „Facebook“ rekomenduojamą turinį, įskaitant įrašus, kurie buvo populiarūs visame socialiniame tinkle.
Ji pradėjo nuo pakankamai nekaltų svetainių, įskaitant oficialų ministro pirmininko Narendros Modi valdančiosios „Bharatiya Janata“ partijos puslapį ir „BBC News India“.
Vasario 14 d. per teroristinį išpuolį Pulvamoje, politiškai jautrioje Kašmyro valstijoje, žuvo 40 Indijos saugumo darbuotojų ir dar dešimtys buvo sužeista. Indijos vyriausybė išpuolį priskyrė Pakistano teroristinei grupuotei.
Netrukus vartotojos sklaidos kanalas virto neapykantą kurstančios kalbos, nukreiptos prieš Pakistaną, srautu – įskaitant nukirsdinimo vaizdus ir grafiką, rodantį pasirengimą sudeginti grupę pakistaniečių.
Būta ir nacionalistinių žinučių, perdėtų teiginių apie Indijos oro antskrydžius Pakistane, sumontuotų bombų sprogimo vaizdų ir nusklastota nuotrauka, kurioje neva vaizduojamas per išpuolį žuvęs ką tik susituokęs kareivis, kuris ruošėsi sugrįžti pas savo šeimą.
Daugelis neapykantą kurstančių įrašų buvo pateikti hindi – valstybine šalies kalba, šitaip išvengiant reguliarios turinio moderavimo kontrolės.
Indijoje žmonės kalba keliolika regioninių hindi kalbos atmainų. Daugelis jų apskritai kalba anglų ir indų kalbų kratiniu, todėl algoritmui atsijoti kasdienės šnektos praktiškai neįmanoma.
Turinio moderatorius turėtų kalbėti keliomis kalbomis, kad sugebėtų aptikti toksišką turinį.
„Po 12 dienų 12 lėktuvų užpuolė Pakistaną“, – teigė vienas pranešimas. Kitas, vėlgi hindi kalba, kaip „karštą naujieną“ pristatė melagieną, esą Pakistane sprogus bombai žuvo 300 teroristų.
Šia naujiena pasidalinusios grupės pavadinimas buvo „Juokas ir dalykai, kurie priverčia juoktis“. Keliuose įrašuose, skelbiančiuose suklastotas napalmo bombų nuotraukas (neva Indijos oro ataką prieš Pakistaną), buvo džiūgaujama: „Nudvėsė 300 šunsnukių. Tegyvuoja Indija, mirtis Pakistanui.“
Ataskaita – pavadinta „Indijos bandomojo vartotojo panirimas į poliarizuojančių, nacionalistinių pranešimų jūrą“ – aiškiai parodo, kiek mažai kontrolės turi „Facebook“ vienoje iš svarbiausių savo rinkų.
Kalifornijoje įsikūręs technologijų milžinas Indiją paskelbė savo pagrindine augančia rinka ir naudojo ją naujų produktų bandymams.
Praėjusiais metais „Facebook“ išleido beveik 6 milijardus dolerių partnerystei su Mukeshu Ambani, turtingiausiu Azijos žmogumi, kuris vadovauja „Reliance“ konglomeratui.
„Vienos hipotetinės bandomosios paskyros pastangos įkvėpė gilesnę, griežtesnę mūsų rekomendacijų sistemų analizę ir prisidėjo prie produktų patobulinimų, – teigė „Facebook“ atstovė. – Mūsų darbas ribojant neapykantą kurstančią kalbą tęsiasi, mes ir toliau stipriname savo neapykantos klasifikatorius, įtraukdami keturias indų kalbas.“
Tačiau kompanija jau ne kartą yra susikibusi su Indijos vyriausybe dėl savo praktikų šalyje. Nauji reglamentai reikalauja, kad „Facebook“ ir kitos socialinės žiniasklaidos kompanijos identifikuotų asmenis, atsakingus už jų internetinį turinį – jie būtų atskaitingi vyriausybei.
„Facebook“ ir „Twitter Inc.“ su šiomis taisyklėmis kovoja.
„Facebook“ platformoje „WhatsApp“ vienu metu cirkuliavo virusinės melagingos žinutės apie vaikų pagrobėjų gaujas – nuo 2017 m. vasaros jos paskatino dešimtis linčo atvejų visoje šalyje, o tai dar labiau supriešino vartotojus, teismus ir vyriausybę.
„Facebook“ ataskaitą užbaigia pripažinimas, kad dėl jo paties rekomendacijų bandomoji vartotojos paskyra tapo „kupina poliarizuojančio ir smurtinio turinio, neapykantą kurstančių pasisakymų ir dezinformacijos“.
Buvo išsakyta viltis, kad ši patirtis „gali tapti atspirties tašku dialogui apie integralumo žalos suvokimą ir mažinimą“, remiantis rekomendacijomis rinkose už JAV ribų.
„Ar mes, kaip kompanija, neturėtume prisiimti papildomos atsakomybės už tai, kad būtų užkirstas kelias integralumo žalai, kurią atneša rekomenduojamas turinys?“ – klausė tyrėjai.
