AI je už dost pokročilá na to, aby narušila volby

Objednejte si k odběru newslettery Respektu

Jsou slovenské volby prvními, jejichž výsledek byl zásadně ovlivněn tzv. deepfakes? Tak zní titulek článku britského časopisu The Times, který se věnuje tomu, co stále ovládá tamní debatu o férovosti parlamentních voleb, které se konaly před dvěma týdny.

Dva dny před volbami se totiž na sociálních sítích objevilo video, ve kterém se známá novinářka z Denníku N Monika Tódová baví po telefonu s předsedou Progresivního Slovenska Michalem Šimečkou. Na nahrávce se domlouvají na tom, jak dojde k manipulaci hlasů, aby Šimečkova strana blížící se volby vyhrála.

Video však bylo vytvořené umělou inteligencí - takový rozhovor nikdy neproběhl a potvrzují to závěry odborníků na toto téma. Hned poté, co se deepfake video objevilo na internetu, Denník N i Michal Šimečka jeho pravost odmítli, přesto se někteří pozorovatelé domnívají, že ovlivnilo volební výsledek. V ruce nemají zatím žádné důkazy; jde o stejný problém jako u dezinformací. Do hlav voličů nevidíme - a i kdyby zfalšované video zhlédli, nelze stoprocentně říct, že je to důvod, proč Progresivní Slovensko dostalo méně hlasů, než průzkumy odhadovaly.

Přesto je použití deepfake videí ve volbách potřeba brát vážně. Progresívní Slovensko Michala Šimečky totiž skončilo druhé jen o pár procent hlasů. Navíc ke zveřejnění fiktivního rozhovoru došlo v době osmačtyřicetihodinového moratoria, kdy se ve veřejném prostoru (především v médiích) nesmí objevovat žádné výroky týkající se nadcházejících voleb.

Server Wired varuje, že používání deepfake, které mohou zasahovat do volební soutěže, představuje nové ohrožení voleb, zvlášť s pohledem do příštího „supervolebního“ roku. Podle dostupných evropských dat  je terčem dezinformací obzvlášť nedaleké Polsko  - a už tuto neděli možná zjistíme, že v tamních internetových vodách se odehrává podobná snaha ovlivnit výsledek hlasování. A příští rok se pak konají volby ve Spojeném království, Indii, EU a USA.

„Ověřovatelé faktů, kteří se snaží ochránit proti dezinformacím sociální sítě na Slovensku, tvrdí, že podle jejich zkušenosti AI je již dostatečně pokročilá na to, aby narušila volby, zatímco jim chybí nástroje, jak se proti nim bránit,“ píše se v článku s tím, že jde jen těžko prokázat, že zvuk byl zfalšovaný.

Navíc jakékoliv dokazování nepravdivosti ex post je už prakticky jedno. Deepfake video splnilo svůj účel: rozšířilo těsně před volbami lživá podezření, bádání týkající se pravosti videa a jeho autorů přišlo (a vždy přijde) až po volbách. To je nová realita, ve které se politické volby (možná nejen) v Evropě budou bohužel odehrávat. A je potřeba se na to připravit.

Předchozí vydání najdete na webu respekt.cz v rubrice Newsletter