A legfontosabb elvitelek
- Az Amazon Alexa hangsegédje akár egy perc hanggal is képes másolni egy hangot.
- Megkérheted Alexát, hogy olvasson fel egy történetet egy halott szülő hangján.
- Ez ugyanaz, mint a mély hamisítványok, csak a jó erejére használják.
Az Amazon Alexa legújabb trükkje, hogy megtanulja leutánozni egy halott szeretett személy hangját, hogy a síron túlról beszélhessenek hozzád.
Alexának mindössze egy percnyi beszédhangra van szüksége, hogy meggyőzően utánozza a hangot. Az Amazon megnyugtató funkciónak tartja, amellyel kapcsolatba léphet szeretteivel, de ez egy nagyon hátborzongató élmény is lehet. És megmutatja, milyen könnyű olyan mély hamis hangot készíteni, amely elég jó ahhoz, hogy megtévesszen minket, még akkor is, ha a hang olyan, amelyet nagyon jól ismerünk.
"Az Amazon határozottan egy meglehetősen egyedi és bizarr területre lépett be azzal a bejelentésével, hogy az Alexa hamarosan megtanulhatja, majd használhatja a halott rokonok hangját" - mondta Bill Mann, a Restore Privacy adatvédelmi szakértője. Lifewire e-mailben. "Néhány ember számára ez egyáltalán nem hátborzongató. Sőt, meglehetősen megható."
Szellem a gépben
Az éves re:MARS konferenciájának részeként az Amazon egy rövid videóban mutatja be a funkciót. Ebben egy gyerek megkérdezi Alexát, hogy a nagymama tovább tudja-e olvasni neki "Az Óz varázslóját", minden gyermek kedvenc vitaindító-barát, nyilvános művet. És ez egy nagyon megható pillanat. Nehéz nem érezni az emberi érzelmeket, amikor a nagyi olvasni kezd.
"Az emberek küzdenek a halandósággal, különösen a nyugati kultúrában. Évszázadokon keresztül próbáltuk megtalálni a módját, hogyan állítsunk emléket a halottaknak, a halotti maszkoktól a hajtincseken át a régi fényképekig, a régi filmek megtekintéséig." Andrew Selepak, a Floridai Egyetem közösségi média professzora e-mailben mondta el a Lifewire-nek. "A Deep hamisítványok a legújabb technológiát használják, hogy új halotti maszkot készítsenek egy elhunyt szeretett személyről. De az ember nézőpontjától függően ez hátborzongató, vagy egy módja annak, hogy megemlékezzenek valakiről, és megtartsák azt, akit szeretsz, miután megh alt?"
De egy memento mori egyszerre lehet megnyugtató és hátborzongató. Egy családtag barátja megh alt, de még mindig hallod a beszédüket. Az sem segít, hogy Alexának furcsa és néha félelmetes viselkedése van. 2018-ban, amikor a NYT véleményrovatírója, Farhad Manjoo ágyba bújt, az Amazon Echója "sírni kezdett, mint egy horrorfilmes álomban sikoltozó gyerek".
Nem sokkal ezután az Amazon elismerte, hogy Alexa néha hangosan nevetett, ami a tinik és a pincék mellett a 101. horrorfilm.
Csak azon lehet tűnődni, hogy mit érezhetnél, ha Alexa ugyanezeket a trükköket a nagymama hangján hajtaná végre.
Deep Fake
Az a látszólagos könnyedség, amellyel Alexa megtanulja utánozni a hangot, a hangklónozás aljasabb felhasználásaihoz vezet: mély hamisítványokhoz.
"A mélyhamisított hang nem új keletű, még akkor sem, ha kevéssé érthető és kevéssé ismert. A technológia évek óta rendelkezésre áll, hogy mesterséges intelligenciával és mély tanulással újrateremtsék az egyén hangját, viszonylag kevés tényleges hanganyag felhasználásával, " mondja Selepak. "Az ilyen technológia veszélyes és pusztító is lehet. A zavart egyén visszaadhatja egy halott volt barátja vagy barátnője hangját, és az új hanganyagot gyűlöletkeltő és bántó dolgok elmondására használhatja."
Ez csak az Alexa kontextusában van így. A mély hamis hangzás messze túlmutat ezen, meggyőzve az embereket arról, hogy a prominens politikusok elhisznek olyan dolgokat is, amelyeket nem. Másrészt, minél jobban hozzászokunk ezekhez a mély hamisítványokhoz – talán ezeknek az Alexa-hangoknak a formájában –, annál inkább szkeptikusak leszünk az aljasabb hamisítványokkal szemben. De tekintettel arra, hogy milyen könnyű hazugságokat terjeszteni a Facebookon, talán nem.
Az Amazon nem közölte, hogy ez a funkció az Alexához érkezik-e, vagy ez csak egy technológiai bemutató. Kicsit remélem, hogy sikerül. A technika akkor a legjobb, ha ilyen humanista módon használják, és bár az egyszerű reakció hátborzongatónak nevezni, ahogy Selepak mondja, valójában nem sokban különbözik a régi videók nézésétől vagy az elmentett hangpostaüzenetek hallgatásától. mint egy szereplő egy lustán írt tévéműsorban.
És ha a mélyhamisítások technológiája könnyen elérhető, miért ne használnánk magunk vigasztalására?
