Video, ve kterém Andrej Babiš či Petr Pavel propagují výhodné investice do kryptoměn a akcií. I takto může vypadat deepfake. Umělá inteligence dnes dokáže generovat falešná videa i fotky, která vypadají tak věrohodně, že jim mnozí naletí. Jako ochrana před kyber šikanou má posloužit zavedení nového trestného činu.

Co je to deepfake?

Deepfake je věrohodně vypadající, ale zcela falešné video, fotka či audio nahrávka vytvořená pomocí umělé inteligence a strojového učení. Konkrétní člověk může být nahrazen někým jiným nebo mu mohou být vložena do úst slova, která nikdy neřekl. To pak může napáchat velké škody.

Název deepfake je odvozen od anglických slov deep = hluboký a fake = falešný.

V současné době se jedná o jedno z největších bezpečnostních rizik. Kromě páchání individuální trestné činnosti a jejího usnadnění může sloužit k šíření dezinformací a k manipulaci s veřejným míněním. To může vést v krajních případech například až k ovlivnění volebních výsledků.

Co se změní?

Senát schválil novelu trestního zákoníku, která počítá se zpřísněním postihů za deepfake pornografii a materiály, které mají způsobit vážnou újmu.

Do zvláštní části trestního zákoníku by měly přibýt dvě skutkové podstaty trestných činů. Jedna ve formě zcela nového trestného činu a druhá by měla rozšířit stávající trestný čin o odstavec dva.

§ 191a Zneužití identity ve výrobě pornografie a její šíření

Zcela nový paragraf nese název „Zneužití identity k výrobě pornografie a její šíření“. 

Deepfake pornografie vzniká nejčastěji změnou už existujícího materiálu. Prostřednictvím technologií lze do takového videa či fotky dosadit tvář téměř kohokoliv. Bez detailního zkoumání se dílo jeví jako pravé, což může vést k negativnímu zásahu do rodinného života, postavení v zaměstnání nebo například k újmě na pověsti.

Novela výslovně označuje jako trestnou výrobu, dovoz, vývoz, průvoz, nabídku, činění veřejně přístupným, zprostředkování, uvedení do oběhu, prodej nebo jiné opatření. Týká se veškerých pornografických děl ve fotografické, filmové, počítačové, elektronické či jiné formě, která zobrazují nebo jinak využívají člověka, jenž k tomu nedal souhlas a pachatel to ví.

Pokud takový obsah zveřejní například na sociálních sítích, může mu hrozit trest odnětí svobody od šesti měsíců do tří let.

§ 181, odst. 2 Poškození cizích práv

Soudy budou moci trestat rovněž deepfake materiály vytvářené v úmyslu způsobit druhému člověku vážnou újmu na jeho právech. 

Mohlo by jít například o situaci, kdy pachatel vytvoří deep fake video, na kterém podřízený zaměstnanec pije alkohol na pracovišti a vulgárně se vyjadřuje o svém nadřízeném. Na základě takového záznamu by s ním pak mohl být ukončený pracovní poměr.

Na rozdíl od dosavadní úpravy už nebude nutné dokazovat, zda byl někdo deepfake videem nebo fotografií skutečně uveden v omyl. Podstatné bude, zda materiál využívá něčí podobu nebo projev tak, že působí jako pravé, přestože pravé není – a pachatel o tom ví.

Za tento trestný čin hrozí až pět let trestu odnětí svobody a zákaz činnosti.

Jak deep fake odhalit?

Odhalit deep fake je poměrně těžké, jelikož již existují programy, které umí vytvořit velmi kvalitní dílo.

Důležité je sledovat tyto věci:

• nepřirozené pohyby a výrazy, zejména mimika a pohyb rtů v souladu s vyslovovanými slovy,
• divné mrkání,
• detaily kolem očí a rtů, ty mohou být neostré s nepravidelnými světelnými odlesky,
• nesoulad s osvětlením a stíny,
• synchronizace a zvuk, kdy hlas může znít příliš uměle bez přirozené intonace,
• neobvyklé rozmazání kolem obličeje, zdeformované pozadí.

K odhalení deepfake zároveň již existují online nástroje a aplikace (např. Deepware, Sensity AI, Sentinel AI, HyperVerge), které umí automaticky analyzovat videa a označit podezřelé části.  Dále je důležitá i kontrola zdroje videa a metadat.

Očekávaná účinnost

Novelu trestního zákoníku schválil Senát, předlohu nyní dostane k podpisu prezident. Očekávaná účinnost je stanovena na 1. ledna 2026.

Autor: Petra Andresová
Foto: Canva | Just_Super, Getty Images Signature