Friday Edition: Fake deepfake

Ve své výroční zprávě za loňský rok Bezpečnostní informační služba (BIS) uvedla, že rok 2023 byl rokem přelomovým pro umělou inteligenci:

Technologický pokrok zejména v oblasti generativní umělé inteligence spojený s vyšší uživatelskou přívětivostí umožnil proliferaci syntetických médií (deepfakes) do běžného informačního prostoru.

BIS experimentálně ověřovala možnosti vytváření syntetického obsahu, který by byl přizpůsobený českému prostředí. Zlepšování velkých jazykových modelů potvrdilo, že vzniku syntetického textu v masivním měřítku již nic nebrání. Zároveň je syntetický text téměř nemožné odhalit. Zatímco u vizuálního obsahu je stále možné forenzní analýzou odhalit artefakty automatizované manipulace, text produkovaný velkým jazykovým modelem je zaměnitelný s lidským výstupem. Pro neexistenci vstupních bariér a nízkou detekovatelnost považuje BIS tento typ syntetického média za aktuálně nejrizikovější.

Nicméně, jak BIS dále ve zprávě píše:

Přes veškerou pokročilost a aktuální dostupnost technologií nebylo využití syntetických multimédií ve vlivových kampaních v ČR doposud zaznamenáno. V zahraničí, kde k tomu již došlo, byl nicméně dopad jejich využití velmi malý.

Pro letošní výroční zprávu by se BIS možná měla zaměřit na fake deepfakes. Videa, jako například toto facebookové, se zjevně nesnaží nikoho oklamat svou technickou zdatností, avšak mohou být mnohem „nebezpečnějšími a více manipulativními“ než ta, která se o to snaží.