Kulcs elvitelek
- A Deep Nostalgia egy új program, amellyel régi fényképeket animálhatsz.
- A technológia megmutatja, milyen egyszerű videókat készíteni arról, hogy az emberek olyan dolgokat csinálnak, amelyeket a való életben nem tettek meg.
- A mély hamis technológia már annyira kifinomult, hogy nehéz megállapítani, hogy egy videó valódi-e vagy számítógéppel generált - mondja egy szakértő.
Legyen óvatos az új szoftverekkel, amelyek úgynevezett "mély hamisítványokat" hozhatnak létre, amelyekben valós emberekről készült videókat lehet szimulálni, figyelmeztetnek a szakértők.
A MyHeritage cég által kiadott Deep Nostalgia népszerű a közösségi médiában, ahol a felhasználók a híres zeneszerzőktől a halott rokonokig mindenkit újraélesztenek. A szoftver vegyes reakciókat vált ki, egyesek örülnek az alkotásoknak, mások pedig hátborzongatónak találják őket. A technológia megmutatja, milyen egyszerű videókat készíteni olyan emberekről, amelyek olyan dolgokat csinálnak, amelyeket a való életben nem tettek meg.
"A mélyhamisítási technológia egyre kifinomultabb és veszélyesebb" - mondta Aaron Lawson, az SRI International Beszédtechnológiai és Kutatási Laboratóriumának (STAR) igazgatóhelyettese egy e-mailes interjúban. "Ez részben a mesterséges intelligencia természetének köszönhető. Ahol a "hagyományos" technológia emberi időt és energiát igényel a fejlődéshez, az AI tanulhat magától.
„De az AI azon képessége, hogy önmagát fejlessze, kétélű fegyver” – folytatta Lawson. "Ha egy mesterséges intelligencia valami jóindulatú tevékenységre jött létre, az nagyszerű. De ha egy mesterséges intelligencia valami rosszindulatú, például mély hamisítványra lett tervezve, a veszély példátlan."
A szoftver életre kelti a fényképeket
A genealógiai webhely, a MyHeritage a múlt hónapban bemutatta az animációs motort. A Deep Nostalgia néven ismert technológia lehetővé teszi a felhasználók számára, hogy a MyHeritage webhelyen keresztül animáljanak fényképeket. A D-ID nevű cég olyan algoritmusokat tervezett a MyHeritage számára, amelyek digitálisan újrateremtik az emberi arcok mozgását. A MyHeritage webhely szerint a szoftver alkalmazza a mozdulatokat a fényképeken, és módosítja az arckifejezéseket, hogy az emberi arcokhoz hasonlóan mozogjanak.
A mély nosztalgia azt mutatja, hogy a mélyhamisítású technológia egyre hozzáférhetőbbé válik – mondta Lior Shamir, a Kansas State University számítástechnika professzora egy e-mailes interjúban. Gyorsan halad, és még a hamis és valódi videó és hang közötti finom különbségeket is megszünteti.
"A valós idejű mélyhamisítás irányában is jelentős előrelépés történt, ami azt jelenti, hogy meggyőző mély hamis videók jönnek létre a videokommunikáció idején" - mondta Shamir."Például lehet Zoom-találkozót tartani egy bizonyos személlyel, miközben egy teljesen más személy hangját láthatja és hallhatja."
Egyre több a nyelvi alapú mélyhamisítvány is – mondta Jason Corso, a Stevens Institute of Technology Mesterséges Intelligencia Intézetének igazgatója egy e-mailes interjúban. "Mély hamis szöveg egész bekezdésének generálása egy konkrét napirendhez meglehetősen nehéz, de a mély természetes nyelvi feldolgozás modern fejlődése lehetővé teszi" - tette hozzá.
Hogyan lehet felismerni egy mély hamisítványt
Míg a mélyhamisítás-észlelési technológia még csak kialakulóban van, van néhány módja annak, hogy észrevegye azt, mondta Corso, kezdve a szájjal.
"A száj belseje megjelenésének változatossága, amikor valaki beszél, nagyon nagy, ami megnehezíti a meggyőző animációt" - magyarázta Corso. „Meg lehet csinálni, de nehezebb, mint a fej többi része. Figyeld meg, hogy a Deep Nostalgia videók nem mutatják meg, hogy a fénykép képes kimondani: „Szeretlek” vagy más kifejezést a mély hamis alkotás során. Ehhez ki kell nyitni és be kell zárni a szájat, ami nagyon nehéz a mély hamisítás számára."
A Ghosting egy újabb ajándék – tette hozzá Corso. Ha elmosódást lát a fej széle körül, az a "gyors mozgás vagy a forrásképen rendelkezésre álló korlátozott pixelek következménye. Egy fül egy pillanatra részben eltűnhet, vagy a haj elmosódhat ott, ahol nem számítana rá" mondta.
A színeltérésekre is figyelhet, ha mély hamis videót próbál észlelni, például éles vonalat az arcon, sötétebb színekkel az egyik oldalon, míg a másikon világosabbat.
"A számítógépes algoritmusok gyakran képesek észlelni ezeket a torzítási mintákat" - mondta Shamir. "De a mély hamis algoritmusok gyorsan fejlődnek. Elkerülhetetlen, hogy szigorú törvényekre lesz szükség a mély hamisítások és az általuk könnyen okozott károk elleni védelem érdekében."
