Jak Telegram podle úřadu eSafety moderuje nelegální obsah?

Sociální síť Telegram je plná tajemství a je ji kritizována nespolupráce s úřady. Australský regulátor internetové bezpečnosti eSafety zahájil vyšetřování moderátorských praktik sítě v březnu 2024. Díky tomu se objevilo dost zajímavých informací, jak Telegram analyzuje obsah a jak rychle reaguje na nahlášený obsah.

Moderace běžných soukromých chatů

Telegram neprovádí žádnou automatickou kontrolu textu, fotek, videí, jiných souborů nebo hovorů. Služba může spustit kontrolu konverzace jen po nahlášení jednoho z uživatelů.

Úřad eSafety kritizuje způsob nahlašování jednotlivých konverzací. Nahlásit lze pouze konverzace uživatelů, které nemáte uložené ve svých kontaktech. Díky tomu údajně není možné pachatele identifikovat a zabránit mu dalšímu škodlivému jednání. Může se tak dít především po zablokování takového uživatele nebo jeho změně jména za @.

Moderace tajných end-to-end konverzací

Moc uživatelů o tom neví, ale Telegram poskytuje běžné konverzace a manuálně můžete spustit konverzace s koncovým end-to-end šifrováním. Ty nejsou nijak analyzovány a moderovány, a to ani po jakémkoliv nahlášení.

Telegram se odvolává na technickou nemožnost zveřejnění těchto zpráv. Regulátor uvádí, že technické řešení je možné; například aplikace WhatsApp umožňuje uživatelům připojit zprávy z koncově šifrovaných chatů přímo ke zprávě pro moderátory, aniž by se museli uchýlit k prolomení šifrování chatů.

Je Telegram bezpečný? Jak zapnout end-to-end šifrování?

Moderace soukromých skupin

Na Telegramu můžete komunikovat se svými uloženými kontakty ve skupinách. Ty nejsou nijak analyzovány, dokud jeden z účastníků obsah nenahlásí. Pak může Telegram provádět kontroly. Netýká se to však textu, odkazů nebo hovorů. Fotografie nebo videa a jejich popisky údajně analyzovány jsou. Z mé zkušenosti mohu potvrdit, že analýza nejspíš vůbec nefunguje…

Síť ale nabízí ještě „veřejné“ skupiny. Do těch se může připojit kdokoliv s pozvánkou skrze odkaz. V nich funguje funkce nahlašování závadného obsahu. Dokument od eSafety však velmi dobře vysvětluje, co je to vlastně veřejná a neveřejná skupiny.

Pro moderátory je kanál nebo skupina považována za veřejnou, pokud se stane přístupnou široké veřejnosti prostřednictvím odkazu s pozvánkou. Pokud je například odkaz na soukromou skupinu zveřejněn ve veřejně přístupné části Telegramu nebo jiné sociální sítě, pak je taková soukromá komunita pro účely moderování obsahu považována za veřejně přístupnou (protože moderátoři mohou odkaz sledovat a prohlížet si zprávy uvnitř).

Veřejné Telegram kanály např. @infoek mohou být nejen indexovány vyhledávačem sítě, ale i aplikací Husky AI nebo různými internetovými vyhledávači. Všechny kanály však mají daleko tvrdší podmínky a je v nich zakázána propagace násilí a síření nelegálního pornografického obsahu. Platí to sice i pro všechny veřejné skupiny, boty a další části sítě viz smluvní podmínky Telegramu, ale veřejné kanály je možné snadno analyzovat.

Automatická detekce nelegálního obsahu

Telegram automaticky nekontroluje žádnou osobní korespondenci, pokud tedy jeden z účastníku nepodá závažnější nahlášení. 65 % automaticky zjištěného potenciálního extrémistického obsahu je odesláno moderátorům k manuálnímu přezkoumání. V případě zneužívání dětí je údajně materiál automaticky zpracován, nebo odeslán k manuálnímu přezkoumání moderátorem sítě. Nějaké bližší vysvětlení k tomu však není, ale údajně dost záleží na obsahu a kombinaci dalších faktorů.

Telegram je ve vybraných případech údajně schopen automaticky analyzovat text, fotografie a jejich popisky a videa. Využívá k tomu jemně vyladěné transformační vícejazyčné modely, vícejazyčné systémy ASR pro detekci řeči, multi-modální transformační modely, další vícejazyčné modely a vlastní AI algoritmy.

Telegram používá k automatické detekci nelegálního obsahu především vlastní databáze signatur. Databáze se shromažďuje pouze z materiálů, které moderátoři sítě identifikují ručně. Pravidelně také kontroluje databáze Europolu, aby je mohl začlenit do svých systémů.

Společnost eSafety zdůrazňuje, že skutečnost, že Telegram používá pouze své vlastní soubory podpisů, zvyšuje riziko přehlédnutí nezákonného obsahu. V důsledku toho může být takový obsah i nadále šířen, přestože ostatní online služby jej již odhalily a přidaly digitální otisky prstů do rozsáhlých sdílených databází.

Zpracování manuálních uživatelských hlášení

Telegram uvedl, že uživatelská hlášení zpracovávají „nástroje“ Telegramu, moderátoři a v případě potřeby modely umělé inteligence/strojového učení. 75 % uživatelských hlášení o extremistickém obsahu je odesláno k ručnímu přezkoumání moderátory.

V jakých případech je uživatel trvale zablokován?

• Šíření materiálů vyzývajících k násilí ve formě textu, fotek, nahrávek, videí nebo jinak. Telegram upřesnil, že se jedná o materiál „jako jsou konkrétní a specifikované hrozby fyzickou újmou“.
• Šíření hrůzostrašných nebo šokujících materiálů. Telegram uvedl příklady jako „grafické detaily: mučení, fotografie nehod nebo takový materiál, který oslavuje nebo propaguje násilné nebo teroristické ideologie.
• Získávání finančních prostředků pro teroristické organizace nebo účely.
• Vlastnit nebo být správcem skupiny zapojeného do výše uvedených činností.

Pokud správci skupiny sami neporušují pravidla Telegramu (například pokud byla skupina dočasně ovlivněna činností útočníků), mohou ji moderátoři Telegramu podle svého uvážení dočasně uzavřít a dát tak správcům možnost porušení pravidel odstranit. Pokud však komunita slouží k šíření zakázaného obsahu, bez ohledu na to, zda jej šíří správci nebo účastníci, může být taková komunita, její správci a uživatelé, kteří porušili podmínky používání služby Telegram, trvale zakázána.

Telegram uvedl, že i v takových případech lze udělit uživatelům výjimky. Týká se to „novinářů“ nebo „vědců“. Jinak „závadný“ obsah totiž může být šířen za účelem publikování vědeckého výzkumu, materiály informující o historii nebo informují nebo spadají do zpravodajství např. o válce.

Spolupráce s organizacemi

Telegramu je dlouhodobě kritizována údajná nespolupráce s úřady v různých státech. V minulosti však vydal teroristu německým orgánům. V současné době služba uvádí spolupráci s mnoha úřady a vydává různé statistiky, ale dle tvrzení údajných státních  zaměstnanců (často z Británie) se jedná o smyšlené údaje. Úřady každý den údajně posílají nové žádosti Telegramu, ale ten na ně stále nereaguje…

Služba uvedla spolupráci s:

• Ministerstvo vnitra Spojeného království
• Etidal
• EU Internet Forum
• Europol
• Ofcom
• Výkonné ředitelství Protiteroristického výboru Rady bezpečnosti OSN

Telegram rovněž uvedl, že se od října 2024 „připojuje k bezpečnostním programům nadace Internet Watch Foundation, které mimo jiné zahrnují přístup k seznamům URL adres obsahujících odkazy na známé webové stránky CSAM (Child Sexual Abuse Material)“. V různých skupinách to tak bohužel stále nevypadá…

Dále ještě upozorňuje, že osobní údaje uživatelů porušujících zákony sdílí pouze s orgány činnými v trestním řízení.

Doba odezvy po manuálním nahlášení

Zakladatel Telegramu Pavel Durov odletěl z Francie. Je již svobodný?

Zdroj: esafety.gov.au 1/2, tginfo.me