Volá vám dcera, nebo slavná moderátorka radí s investicemi? Nevěřte tomu! Vidět a slyšet už nestačí

Myslíte si, že byste poznali falešné video nebo hlas vytvořený umělou inteligencí? Nejste sami. Podle průzkumu společnosti Ipsos si 56 % lidí v Česku věří, že by odhalilo deepfake video, a 47 % je přesvědčeno, že by poznalo podvrženou fotku. Zároveň už téměř čtvrtina Čechů a Češek zažila osobně nebo ve svém okolí podvod využívající AI a 86 % očekává, že podobných případů bude v příštích letech dál přibývat.

Žena z Mostu narazila na internetové video známé moderátorky Terezy Pergnerové. Ta v něm mluvila o výhodné investici. Vypadala i mluvila stejně jako v televizi a působila věrohodně. Žena proto vyplnila formulář a krátce nato jí volal údajný finanční poradce. Následovaly další hovory, instalace programu pro vzdálený přístup do počítače a převody peněz… Přišla tak o 1,4 milionu korun a navíc jí zůstaly dluhy. Na začátku přitom stálo falešné video vytvořené pomocí AI.

„Generativní AI zásadně změnila ekonomiku podvodů. Útoky, které dříve vyžadovaly odborné znalosti a značné lidské kapacity, jsou dnes levné, snadno škálovatelné a mnohem sofistikovanější,“ uvádí Violeta Luca, generální ředitelka Vodafonu. Ten je zatím prvním operátorem s technologií pro odhalování deepfake obsahu v Česku.

Ať už jde o investici doporučovanou celebritou, zprávu od údajného potomka, nebo telefonát z banky, podobné příběhy mají často jedno společné – tlak a spěch:

Právě v tu chvíli je nejlepší udělat pravý opak.

Zastavte se. Ověřte si informace. A teprve potom jednejte.

Pokud vám volá příbuzný a žádá o peníze, zavolejte mu zpět na číslo, které běžně používáte. Pokud známá osobnost doporučuje investici, ověřte si ji z více zdrojů. A pokud vás někdo tlačí do okamžité platby, berte to jako varovný signál.

Největší zbraní podvodníků totiž není technologie. Je to tlak, který vás přiměje přestat přemýšlet.

>>> Podvodníci využívají stres a přesně vědí, jak zmanipulovat i chytrého člověka. Takhle se ubráníte!

Podle zmíněného průzkumu si třetina lidí myslí, že deepfake pozná podle vizuálních chyb. Každý šestý člověk by se řídil hlasovými a zvukovými odchylkami a 15 % si myslí, že stačí zapojit intuici a zdravý rozum.

Jenže právě vizuální a zvukové nedostatky dokáže moderní AI stále lépe maskovat. Mnohem užitečnější než hledat chyby v obrazu je položit si jednoduchou otázku: Dává to celé smysl?

Ve světě, kde může propagovat finanční investici i sám prezident, se ověřování stává novou formou opatrnosti. Vznikají proto nástroje, které pomáhají rozpoznat obsah vytvořený nebo upravený pomocí AI.

Různé aplikace a webové stránky analyzují fotky, videa, hlasové zprávy nebo dokumenty a upozorňují na možné známky manipulace či podvodu. Stačí nahrát link videa ze sociálních sítí a služba následně vyhodnotí rizikové signály. Nejde o stoprocentní záruku, ale o další vodítko ve chvíli, kdy si nejste jistí.