Falešná porno videa jsou nyní věcí a Gal Gadot je první obětí
Jako by obvinění ze sexuálního obtěžování ze skutečného života nestačilo, někdo našel způsob, jak také vyrobit falešná.
Poté, co si Gal Gadot vysloužila rozsáhlé hodnocení za ztvárnění filmu „Zázračná žena“, se opět dostala na titulní stránky, ale ze všech špatných důvodů. A vůbec to není její chyba.
Falešné porno video, které zjevně ukazuje, že herečka má sex se svým „nevlastním bratrem“, dělá kola. Ale není to její tělo a sotva její tvář. Je to jen výměna tváří, díky níž to vypadá, že je součástí této pornografie s incestem.
Pokrok v technologii je skvělý a vše, ale všechno má své nevýhody, a to je docela hrozné. Podle Základní deska, toto konkrétní video bylo vytvořeno pomocí algoritmu strojového učení spolu se snadno dostupnými materiály a otevřeným zdrojovým kódem, který mohl sestavit kdokoli s fungující znalostí algoritmů hlubokého učení. Zní to opravdu děsivě, že?
Video údajně vytvořil uživatel s názvem Deepfakes, který zjevně používal nástroje strojového učení s otevřeným zdrojovým kódem, jako je TensorFlow, které jsou zdarma k dispozici na Googlu pro výzkumníky, postgraduální studenty a kohokoli se zájmem o strojové učení. I když to není dokonalé, protože když se podíváte pozorně, můžete vidět, že tvář nesleduje správně, ale na první pohled by to kohokoli oklamalo.
Tento algoritmus může vyměnit zaznamenané video se sledováním tváře v reálném čase a zdá se, že toto video je jen začátkem této noční můry AI. Toto amatérské video má znepokojivé důsledky a brzy budeme žít ve světě, kde je extrémně snadné vytvořit videa lidí, kteří říkají a dělají věci, které nikdy neudělali.
Ve skutečnosti to není jen začátek používání této technologie výměny tváří, uživatel Deepfakes již zveřejnil hardcore porno videa představující tváře Scarlett Johansson, Maisie Williams, Taylor Swift a Aubrey Plaza.
Je pravda, že umělá inteligence (AI) je budoucnost, ale může se pokazit, ach tak špatně, a tato falešná porno videa jsou ukázkovým příkladem.
Výzkumník AI Alex Champandard pro Motherboard řekl: Každý potřebuje vědět, jak snadné je falešné obrázky a videa, až do okamžiku, kdy nebudeme schopni rozlišit padělky za pár měsíců. Samozřejmě to bylo možné po dlouhou dobu, ale trvalo by to hodně zdrojů a odborníků na vizuální efekty, aby to zvládli. Nyní to může udělat jediný programátor s nejnovějším hardwarem počítače.
Dodal: Už to není raketová věda.
Deepfakes je jen programátor se zájmem o strojové učení, a vysvětlil, jak to udělal, jen jsem našel chytrý způsob, jak dělat face-swap. Se stovkami obrazů tváří mohu snadno vygenerovat miliony zkreslených obrazů, abych vycvičil síť. Poté, když nakrmím síť někoho jiného, síť si bude myslet, že je to jen další zkreslený obraz, a pokusí se, aby to vypadalo jako tréninková tvář.
S pornografií není problém, ale tato falešná videa berou z celého konceptu jednu podstatnou věc - souhlas. Vytváření takových videí s kýmkoli - nejen s celebritami - tak snadno odnímá souhlas, zvláště když žijeme v době sociálních médií a každý rád sdílí všechno, a je to, jako by už nikdo nebyl v bezpečí.
Co si o tom myslíš?
Zahajte konverzaci, ne oheň. Příspěvek s laskavostí.
Přidat komentář
