Jak rozpoznat deep fake AI ve skutečné válce ?

V moderní informační válce, momentálně především v té mezi teroristickou organizací Hamás a Izraelem, Palestinská strana masivně používá umělou inteligenci s pomocí technologie zvané deep fake, tedy fotografie, které nejsou skutečné, ale jsou od skutečných snímků téměř nerozeznatelné. Generativní umělá inteligence však přeci jen není zcela dokonalá a při bližším zkoumání lze i vizuálně rozeznat její chyby při generování podobných obrázků. Jedním ze znaků je, že vypadají až příliš dokonale, ale všechny tyto detaily jsou například deformace prstů na rukou nebo nepřirozený odraz světla v očích domnělých obětí, tedy například zasypaných dětí pod troskami.

Dalším ze znaků bývá fakt, že na těchto fotografiích nejsou zobrazeny texty, jako jsou například firemní štíty nebo poznávací značky aut či psané dopravní značky. Generativní AI pro vytváření obrazů má totiž problémy s matematikou a gramatikou, a tak místo správných textů generuje nečitelné znaky nebo gramatické chyby.

Moderní digitální fotoaparáty také mimo jiné do fotografií zapisují informace o typu fotoaparátu, objektu, nastavení (ISO, závěrka atd.), jak byla fotografie pořízena. Všechny profesionální fotoaparáty do těchto dat také přidávají čas a souřadnice GPS pořízení snímku a copyright autora.
Pokud tedy neexistuje originální fotografie obsahující tyto informace, jde s naprostou jistotou o podvod. Bohužel pro většinu lidí na první pohled těžko rozpoznatelný a tak působí první dojem. Tyto detaily však často nikdo nezkoumá a ani nemá jak tato data ze snímku vyčíst, protože většina prohlížečů fotek je nezobrazuje.