Moderování obsahu na sociálních sítích plodí kódovanou řeč "algospeak"

Na rozdíl od jiných velkých sociálních sítí je na tiktoku hlavním médiem pro distribuci obsahu algoritmicky utvářený seznam příspěvků s názvem "pro vás". To, že máte odběratele, ještě neznamená, že se k nim vaše videa dostanou. Důsledkem tohoto nastavení je tendence uživatelů vytvářet příspěvky šité na míru algoritmu, spíše než fanouškům, což znamená držet se na správné straně pravidel znevýhodňujících jistá témata.

Když začala pandemie, lidé na tiktoku i v dalších aplikacích na ni začali odkazovat jako na "návrat Backstreet Boys ke koncertům" nebo vymýšleli jiné zástupné výrazy jako panini nebo (řetězec rychlého občerstvení s čínským jídlem) Panda express. Důvodem bylo omezování obsahu, který se zmiňoval o pandemii, čímž se platformy snažily bojovat proti dezinformacím.

Mladí lidé zase začali mluvit o možnosti "stát se neživým", aby mohli volně diskutovat o sebevraždě, zatímco lidé nabízející sexuální služby, kteří se s automatizovanou cenzurou potýkají dlouhodobě, se na tiktoku označují za "účetní" a používají obrázek kukuřice (anglicky "corn") jako odkaz na pornografii (anglicky "porn"). V poslední době uživatelé přijímají podobné praktiky v debatách o válce na Ukrajině, přičemž je země označována ikonkou slunečnice.

Eufemismy jsou obzvláště běžné v radikalizovaných či jinak nebezpečných komunitách, jako jsou například skupiny podporující poruchy příjmu potravy. Jistý článek výzkumníků z Georgijského technologického institutu dospěl k závěru, že složitost těchto kódů se postupně zvyšovala. Facebookové skupiny odmítačů vakcín se zase loni začaly označovat jako "taneční party" nebo "večírky", zatímco influenceři odrazující od očkování na instagramu se o očkovaných lidech vyjadřovali jako o "plavcích".

Takovéto úhybné manévry jsou starší než jakákoli sociální síť nebo samotný internet. Po vzniku prvních on-line fór se začaly projevovat v podobě slangu leetspeak, který stál na alternativním pravopisu. Na moderním internetu je ovšem algoritmické třídění obsahu všudypřítomné a výsledkem bývá často umlčování důležitých debat a komunit vytlačených na okraj společnosti.

Příkladem jsou konverzace o sexuálních menšinách nebo těhotenství a menstruaci. Kathryn Crossová, která vede organizaci nabízející uskladnění krve z pupeční šňůry, říká, že na tiktoku jsou příspěvky na tato témata běžně znevýhodňované a že slova jako sex, menstruace a vagína používá jen s upraveným hláskováním nebo je nahrazuje jinými. Mnozí uživatelé prý místo anglického slova pro bradavky (nipples) říkají "nip nops".

"Skutečnost je taková, že technologické společnosti používají automatizované nástroje na moderování obsahu už velmi dlouho, a jakkoli je to prezentováno jako sofistikované strojové učení, často je to jen seznam slov považovaných za problematické," míní Ángel Díaz z právnické fakulty Kalifornské univerzity v Los Angeles, který se zabývá technologiemi a rasovou diskriminací.

Podle Evan Greerové, která vede neziskovou organizaci Fight for the Future bojující za práva v digitální sféře, je snaha vymýtit na platformách specifická slova pošetilá. "Zaprvé to ve skutečnosti nefunguje," řekla. "Lidé, kteří se na platformách snaží organizovat skutečně škodlivé činnosti, jsou dost dobří ve vymýšlení způsobů, jak tyto systémy obcházet. Zadruhé to má nevyžádané účinky na vyjadřování," pokračovala. Společnost je podle ní v ošemetné situaci po letech "pomýlených žádostí", aby platformy rychle a ve větší míře odstraňovaly obsah.

Výsledky dokumentuje například web Zuck Got Me For ("Zuck mě dostal za"), kde se lidé mohou podělit o ukázky nesmyslných blokací na instagramu, tedy síti vlastněné společností Meta Marka Zuckerberga. Správkyně stránky známá jako Ana v manifestu o svém projektu mimo jiné radí, jak na internetu uniknout jazykovým filtrům. "Když porušíte uživatelské podmínky, možná už nebudete moci požívat vulgarismy nebo negativní výrazy jako 'nesnáším', 'zabít', 'škaredý', 'blbý' atd," vysvětluje. "Já často místo 'nesnáším to a to' používám 'opak od miluju to a to'," napsala Ana.

Ovšem s tím, jak algospeak nabírá na popularitě a zástupné výrazy se stávají součástí běžné hantýrky, uživatelé zjišťují, že musí jít o krok dál. Platformy si například začnou všímat, že lidé píší "seggs" místo slova sex, a někteří uživatelé začnou hlásit, že ani jejich kódy už neprochází. "Mění se to na hru kočky s myší," popisuje lingvistka Gretchen McCullochová.

Neznamená to, že veškeré snahy o potlačení toxických projevů jsou marné. Podle aktivistky Greerové je ovšem třeba upřednostnit prvotní příčiny. "Agresivní moderování nikdy nebude skutečnou odpovědí na škody, které pozorujeme kvůli podnikatelským praktikám velkých technologických společností," uvedla. Řešení podle ní může přijít jen od politiků a úřadů, byť je přesvědčená, že "nikdy nebudeme schopni vyčistit internet".

Témata:  sociální sítě