Za koronavirus mohou 5G sítě? Facebook nasadí proti fámám roboty

Data world, 25. 8. 2020

Americká společnost Facebook se rozhodla bojovat proti dezinformacím a falešným zprávám, které se v souvislosti s koronavirem šíří, za pomoci umělé inteligence. Lidé, kteří to doposud měli na starosti, jsou drazí a řadu fake news neodhalí nebo je zaregistrují pozdě.

Po pravdě řečeno, americký film Absurdistán z roku 2006 nepatří mezi kasovní trháky. Přesto si zaslouží drobnou pozornost. Vypráví o mladém muži, který se po dlouhé hibernaci probudí v roce 2505 a zjistí, že populace zcela zdegenerovala. Vrcholem nové zábavy je prdění v televizních pořadech a tamní lidé jsou tak naivní, že „skočí“ na téměř každou dezinformaci.

Zhruba podobně jako hrdina filmu si ale letos musí připadat každý člověk, který zabrousí na sociální sítě. Chrlí se na nás řada fake news, často jedna absurdnější než druhá, nicméně vedou jednoznačně ty o koronaviru. Mezi nejčastější patří tvrzení, že nákazu rozšiřují 5G sítě, zprávy, že covid-19 neexistuje a jedná se o pouhé divadlo k oklamání veřejnosti, či fáma, že se koronavirus dá „zabít“ pomocí alkoholu. Jakkoliv nám poslední tvrzení může přijít zábavné, v Íránu jej vzali vážně a na požití metanolu tam zemřely stovky lidí. Důsledek fake news vyburcoval k činnosti i státní a mezinárodní orgány. Mimo jiné i Evropskou komisi, která začala tlačit na sociální sítě typu Facebook, aby najal lidi, kteří budou informace ověřovat a ty falešné zastavovat. „Následkem dezinformací mohou v době koronavirové pandemie umírat lidé,“ například šéf unijní diplomacie Josep Borrell.

Umělé sítě

Facebook slíbil volání vyhovět. Ale už nějaký čas předtím avizoval, že proti fake news o koronaviru nasadí umělou inteligenci, jež bude například porovnávat grafiky či obrázky s dezinformacemi. „Jakmile nezávislí kontroloři zjistí, že obraz obsahuje zavádějící nebo nepravdivé tvrzení o koronaviru, je SimSearchNet (konvoluční model založený na neuronové síti pro detekci téměř přesných duplikátů) jako součást našeho systému indexování a porovnávání obrazů mezi koncovými body schopen rozpoznat téměř duplicitní shody, takže můžeme použít výstražné štítky,“ uvedla společnost na svém webu ai.facebook.com. Systém SimSearchNet je podle ní schopný zkontrolovat na Facebooku a Instagramu miliardu obrázků denně.

K boji proti dezinformacím použije podle internetového magazínu Verge stejný systém, jaký je určen pro detekování nenávistných příspěvků. „Facebook říká, že jeho nové objevy – zejména neuronová síť, kterou nazývá XLM-R a která byla oznámena loni v listopadu – pomáhají jejím automatizovaným moderovacím systémům lépe porozumět textu ve více jazycích,“ konstatuje Verge.

Boj proti obchodu se zbraněmi

Facebook chce ale jít ještě dál. Podle další zprávy magazínu Verge jeho inženýři vyvinuli novou metodu, která pomůže identifikovat a zabránit škodlivým typům chování, jako jsou šíření spamu, podvody nebo obchod se zbraněmi a drogami. „Mohou simulovat činy nekalých uživatelů pomocí robotů poháněných umělou inteligencí tím, že je uvolní na paralelní verzi Facebooku. Vědci pak mohou studovat chování robotů v simulaci a experimentovat s novými způsoby, jak je zastavit“ uvedl magazín.

Jinými slovy programátoři testují, jak sledovat protispolečenské aktivity v prostředí WES neboli Web-Enabled Simulation. „Jedná se o obří, velmi realistickou, virtuální repliku Facebooku, která využívá metod strojového učení, umělé inteligence, teorie her a takzvaných multiagentních systémů. Počítačoví inženýři, kteří za tímto systémem stojí, doufají, že se jim podaří lépe pochopit, a tím i potlačit explozivní růst všeho negativního, co je s Facebookem spojené – tedy politické dezinformace, šílené konspirační teorie nebo nenávistné vyjadřování,“ popsala to na svém webu i Česká televize.

Umělá inteligence mezi sebou intereaguje, například se žádá o přátelství. Pro modelování tohoto chování vytvořil Facebook skupinu „nevinných“ robotů, kteří se chovají jako cíle, a vyškolil řadu „špatných“ robotů, kteří se pokoušejí s nimi navázat kontakt. Inženýři následně vyzkoušeli různé způsoby, jak zastavit špatné roboty. Zaváděli různá omezení, jako je omezení počtu soukromých zpráv a příspěvků, které mohou roboti každou minutu posílat. Vše proto, aby viděli, jak to ovlivnilo jejich chování.

Můžeme to přirovnat k práci urbanistů, kteří se snaží omezit rychlost na frekventovaných silnicích,kde umisťují různé zpomalovače a semafory. Facebook by v případě úspechu mohl měnit frekvenci přidávání příspěvků či u některých témat automaticky označovat pravdivost jednotlivých postů.

Nezbývá než doufat, že se to Marku Zuckerbergovi a jeho lidem opravdu podaří dovést do úspěšného konce. Informace o tom, že slibují využití umělé inteligence v boji proti fake news, se totiž objevily už před několika roky.

admin

Mohlo by vás také zajímat