Války v dnešní době jsou úplné jiné, než tomu bylo během Druhé světové války. Nezáleží jen na tom, kam se vojsko pohne za pomocí pušek a tanků, ale extrémně důležité jsou i drony. Stejně jako za každé války jsou důležité informace, a ty se dnes díky internetu šíří daleko rychleji, než tomu bylo dříve. Velmoci je šíří, ale nejde jen o články plné polopravd a lží, ale díky moderním AI modelům přichází obrovské množství lživých fotek, videí nebo audio nahrávek. Bude to stále horší, a to především v dnešní nejisté době, kdy v Evropě bohužel stále probíhá konflikt na Ukrajině. Budeme právě proto potřebovat „tu dobrou AI“ pro odhalování lží?
Vodafone Verify odhaluje nepravdivé propagandistické informace?
Rusové v poslední době zahlcují sociální sítě různými videi, jak údajně testují moderní zbraně, generují videa ukrajinských generálů nebo třeba politiků. Často mění i dabing videí, který byl opět vygenerován pomocí různých modelů. Právě taková videa jsou během válek velmi nebezpečná. Lidé jsou totiž líní a informace si neověřují, nebo si je ověřují mezi svými bublinami na sociálních sítích, kam jim další podobné lži předhazují algoritmy. Právě proto se domnívám, že bude v budoucnu nesmírně důležité mít řešení podobné Vodafone Verify. Odhalování lží bude stále složitější, proto budeme potřebovat „tu dobrou AI“.
Již od začátku velkého napadení Ukrajiny sleduji chování obou stran na internetu. Obě samozřejmě šíří svou propagandu, ale právě Rusko ve velkém měřítku zneužívá moderní modely pro generování tzv. „AI deepfaků“. Jelikož mám možnost dlouhodobě testovat novou aplikaci Vodafone Verify, mám možnost vyzkoušet její spolehlivost v odhalování deepfaků týkajících se aktuálního konfliktu.
Vodafone Verify testuji dlouhodobě, nahrál jsem do něj velký počet obrázků, videí, dokumentů nebo textu. Co se týče odhalování vygenerovaných obrázků a videí ze strany Ruska a Ukrajiny, funguje výborně. Umí dokonce skvěle detekovat, pokud je ve videu jen vygenerováno audio, a upozorní na to. Samozřejmě to není jen o Rusku, ale dokonce i Čína na sociálních sítích předvádí dechberoucí ukázky svých robotů a zbraní budoucnosti, ale drtivá většina takových videí je opět lživá a byla vygenerována. Všiml jsem si však, že obrovské množství lidí takovým videím věří… Vodafone Verify tato videa odhalí spolehlivě a mysím si, že by tato aplikace měla být v budoucnu daleko více propagována.
Výsledky některých mých testů obrázků a videí můžete vidět na mém Telegram kanále @adolfpupikblog.
Co bych si od Vodafone Verify přál?
Musíme si všichni uvědomit, že tu nejde jen o vygenerovaná videa, fotek nebo audio nahrávek, ale propaganda se ve velkém měřítku šíří starým dobrým textem. Já osobně bych si v dalších verzích Vodafone Verify představoval možnost vložení delšího textu nebo přímo odkazu s článkem a jeho následné ověření, jestli se jedná o pravdivé informace či nikoliv.
Mohl by být k dispozici také doplněk do internetových prohlížečů, který by u výsledků v internetových vyhledávačích automaticky upozornil, že se jedná o web obsahující lživé nebo zavádějící informace. Proč by vlastně u obrázků nebo třeba videí kdekoliv na internetu nemohlo být malé tlačítko „Verify“ nebo s logem Vodafonu a po rozkliknutí by došlo k ověření, zda byl vygenerován pomocí AI?
Během testování jsem své poznatky nahlásil společnosti Vodafone. Objevil jsem chybné vyhodnocení a možnost, jak obejít detekci vygenerovaného audia. Oceňuji přístup, že vývojáři taková hlášení berou vážně a řeší je rychle. Problematické soubory si berou k analýze a detekce se bude nadále zlepšovat. Vždy ale musíme brát v potaz, že žádná AI detekce nemusí fungovat na 100 %.
V aplikaci Vodafone Verify vidím velký potenciál a pevně doufám, že se bude neustále zlepšovat.
Čtvrtina Čechů se setkala s AI podvodem. Pomůže Vodafone Verify
