Vysvětleno: Co jsou Deepfakes?

Co jsou Deepfakes?

Deepfakes jsoufalešnývidea vytvořená pomocí digitálního softwaru, strojového učení a výměny obličejů. Deepfakes jsoupočítačem vytvořená umělá videa, ve kterých jsou obrázky kombinovány do nových záběrů, které zobrazují události, prohlášení nebo akci, které se ve skutečnosti nikdy nestaly.Výsledky mohou být docela přesvědčivé. Hluboké padělky se liší od jiných forem nepravdivých informací tím, že je velmi obtížné identifikovat jako nepravdivé.

tcp vs udp

Jak to funguje?

Základním konceptem technologie je rozpoznávání obličeje, uživatelé Snapchatu budou obeznámeni s funkcemi výměny obličeje nebo filtrů, které aplikují transformace nebo rozšiřují rysy vašeho obličeje. Deep Fakes jsou podobné, ale mnohem realističtější. Falešná videa lze vytvářet pomocí techniky strojového učení zvané generativní adversariální síť nebo GAN. Například GAN se může podívat na tisíce fotografií Beyonce a vytvořit nový obrázek, který se těmto fotografiím přibližuje, aniž by byl přesnou kopií kterékoli z fotografií. GAN lze použít ke generování nového zvuku ze stávajícího zvuku nebo nového textu ze stávajícího textu – jde o víceúčelovou technologii. Technologie použitá k vytvoření Deep Fakes je naprogramována tak, aby mapovala obličeje podle orientačních bodů. Jedná se o rysy, jako jsou koutky vašich očí a úst, vaše nosní dírky a obrys vaší čelisti.

Když vidět přestává věřit

Zatímco technologie používaná k vytváření hlubokých padělků je relativně nová technologie, rychle se vyvíjí a je stále obtížnější zkontrolovat, zda je video skutečné nebo ne. Vývoj těchto druhů technologií má zjevné sociální, morální a politické důsledky. Již nyní existují problémy týkající se zdrojů zpráv a důvěryhodnosti zpráv online, hluboké padělky mají potenciál zhoršit problém nepravdivých informací online nebo narušit a podkopat důvěryhodnost a důvěru ve zprávy a informace obecně.

Skutečné potenciální nebezpečí nepravdivých informací a deepfake technologií vytváří v lidech nedůvěru nebo apatii k tomu, co vidíme nebo slyšíme online. Pokud by všechno mohlo být falešné, znamená to, že už nic není skutečné? Dokud máme fotografie a videozáznamy a audiozáznamy, pomáhaly nám poznávat naši minulost a utvářely to, jak věci vidíme a poznáváme. Někteří lidé již zpochybňují fakta o událostech, které se nepochybně staly, jako je holocaust, přistání na Měsíci a 11. září, a to i přes důkaz na videu. Pokud deepfakes lidi přesvědčí, že nemohou videu věřit, problémy s nepravdivými informacemi a konspiračními teoriemi by se mohly zhoršit.

Analytik sociálních médií Carl Miller a Nina Schick diskutují o vzestupu Deepfakes a to, co věří, je blížící se „infokalypsa“.

Ted Talk falešná videa skutečných lidí a jak je rozpoznat, je také dobrým přehledem technologie deepfake.

Falešné zprávy mohou vést k falešným vzpomínkám

Jednou z nejčastějších obav a potenciálních nebezpečí hlubokých padělků a nepravdivých informací obecně je dopad, který mohou mít na demokratické procesy a volby.

Nedávný průzkum společnosti UCC potvrdil, že lidé si falešné zprávy vybavují více než skutečné zprávy. Výsledky průzkumu ukázaly, že podle nové studie si voliči mohou vytvořit falešné vzpomínky poté, co viděli vymyšlené zprávy, zejména pokud jsou tyto příběhy v souladu s jejich politickým přesvědčením. Výzkumníci naznačují, že zjištění naznačují, jak mohou být voliči ovlivněni v nadcházejících politických soutěžích, jako je prezidentské klání v roce 2020 v USA.

Autor zprávy Dr. Gillian Murphy dodal; To ukazuje, s jakou lehkostí můžeme zasadit tyto zcela smyšlené vzpomínky, navzdory tomuto podezření voličů a dokonce i přes výslovné varování, že mohly být zobrazeny falešné zprávy.

Přečtěte si o tom více zde .

Jak rozpoznat deepfakes

Stejně jako všechny typy informací, se kterými se setkáváme online, nejdůležitější věcí, kterou můžeme udělat, když se rozhodujeme, zda jsou videa nebo obrázky online autentické a skutečné, je použít kritické myšlení.

Musíme použít kritické myšlení a položit si klíčové otázky, jako jsou:

• Kdo a proč někdo sdílí toto video?
• Kdo nebo co je původní zdroj?
• Kdy a kde bylo video pořízeno?
• Říká člověk ve videu něco, co byste od něj nikdy nečekali?
• Prosazuje video agendu někoho jiného? Kdo má z tohoto videa prospěch?

Ověřování informací online

S tak velkým přístupem k informacím, pokrokem v technologii a rychlostí, jakou se zprávy a informace šíří online, je stále obtížnější ověřit informace online. Při ověřování online obsahu jsou nezbytné dovednosti kritického myšlení.

Ať už se díváte na video, foto meme nebo článek, zde je několik užitečných úvah První návrh pro ověření informací online:

js splice

Původ: Díváte se na původní účet, článek nebo obsah?

Zdroj: Kdo vytvořil účet nebo článek nebo zachytil původní obsah?

Datum: Kdy vznikla?

Umístění: Kde byl založen účet, webová stránka nebo zachycena část obsahu?

Motivace: Proč byl založen účet, vytvořena webová stránka nebo část obsahu zachycena?

Užitečné odkazy:

Základní příručka First Draft pro ověřování online informací