Kulcs elvitelek
- Új kutatások azt sugallják, hogy lehetséges, hogy nincs mód a szuperintelligens mesterséges intelligencia irányítására.
- Egy folyóirat azt állítja, hogy a mesterséges intelligencia vezérlése sokkal fejlettebb technológiát igényel, mint amilyennel jelenleg rendelkezünk.
- Egyes szakértők szerint az igazán intelligens mesterséges intelligencia hamarabb megérkezhet, mint gondolnánk.
Ha az emberek valaha is kifejlesztenek szuperintelligens mesterséges intelligenciát, előfordulhat, hogy nem lesz mód annak ellenőrzésére, mondják a tudósok.
A A mesterséges intelligenciát régóta vagy az emberiség összes problémájának gyógyírjaként vagy Terminátor-stílusú apokalipszisként hirdetik. Eddig azonban az AI meg sem közelítette az emberi szintű intelligenciát. A Journal of Artificial Intelligence Research folyóiratban nemrég megjelent cikk szerint azonban a fejlett mesterséges intelligencia póráz tartása túl összetett probléma lehet az emberek számára, ha valaha is kifejlesztik.
"Egy szuperintelligens gép, amely irányítja a világot, úgy hangzik, mint a sci-fi" - mondta Manuel Cebrian, a lap egyik társszerzője egy sajtóközleményben.
"De már léteznek olyan gépek, amelyek bizonyos fontos feladatokat önállóan hajtanak végre anélkül, hogy a programozók teljesen megértenék, hogyan tanulták ezt. Felmerül tehát a kérdés, hogy ez egy bizonyos ponton ellenőrizhetetlenné és veszélyessé válhat-e az emberiség számára."
Hamarosan szuperszámítógép a közelben
A folyóirat azzal érvel, hogy a mesterséges intelligencia vezérlése sokkal fejlettebb technológiát igényel, mint amennyivel jelenleg rendelkezünk.
Tanulmányukban a csapat olyan elméleti elszigetelési algoritmust dolgozott ki, amely biztosítja, hogy a szuperintelligens mesterséges intelligencia semmilyen körülmények között ne tudjon ártani az embereknek. Először szimulálja az MI viselkedését, és leállítja, ha károsnak ítéli. De a szerzők úgy találták, hogy egy ilyen algoritmust nem lehet felépíteni.
"Ha lebontja a problémát az elméleti számítástechnika alapvető szabályaira, kiderül, hogy egy algoritmus, amely arra utasítaná az MI-t, hogy ne pusztítsa el a világot, véletlenül leállíthatja saját működését." Iyad Rahwan, a németországi Max Planck Humán Fejlesztési Intézet Emberek és Gépek Központjának igazgatója elmondta a sajtóközleményben.
"Ha ez megtörtént, nem tudná, hogy az elszigetelési algoritmus még mindig elemzi-e a fenyegetést, vagy leállt-e a káros mesterséges intelligencia tárolására. Valójában ez használhatatlanná teszi az elszigetelési algoritmust."
Az igazán intelligens mesterséges intelligencia hamarabb megérkezhet, mint gondolnánk – érvel Michalis Vazirgiannis, a francia École Polytechnique számítástechnikai professzora. "A mesterséges intelligencia emberi műalkotás, de gyorsan önálló entitássá válik" - mondta a Lifewire-nek küldött e-mailben.
"A kritikus pont az lesz, ha/amikor szingularitás lép fel (azaz amikor az AI-ügynökök tudata mint entitás lesz), és ezért igényt tartanak a függetlenségre, az önuralomra és a végső dominanciára."
Jön a szingularitás
Vazirgiannis nem egyedül jósolja meg a szuper mesterséges intelligencia közelgő érkezését. A mesterséges intelligencia veszélyének igaz hívei szeretnek a „szingularitásról” beszélni, amely Vazirgiannis magyarázata szerint az a lényeg, hogy a mesterséges intelligencia felülírja az emberi intelligenciát, és „hogy az AI-algoritmusok potenciálisan felismerik létezésüket, és önzően és együttműködően kezdenek el viselkedni”.
Ray Kurzweil, a Google mérnöki igazgatója szerint a szingularitás a 21. század közepe előtt megérkezik. "2029 az általam előre jelzett következetes dátum, amikor egy mesterséges intelligencia átmegy egy érvényes Turing-teszten, és ezáltal eléri az emberi intelligencia szintjét" - mondta Kurzweil a futurizmusnak.
Ha nem tudjuk kitakarítani a saját házunkat, milyen kód követésére kell kérnünk az AI-t?
"A 'Szingularitás' dátumát 2045-re tűztem ki, amikor is az általunk létrehozott intelligenciával egyesülve milliárdszorosára fogjuk megsokszorozni hatékony intelligenciánkat."
De nem minden AI-szakértő gondolja úgy, hogy az intelligens gépek veszélyt jelentenek. A fejlesztés alatt álló mesterséges intelligencia valószínűleg hasznos lesz a gyógyszerfejlesztésben, és nem mutat valódi intelligenciát - mondta Emmanuel Maggiori AI-tanácsadó egy e-mail-interjúban. "Nagy hírverés van az AI körül, ami miatt úgy hangzik, mintha valóban forradalmi lenne" - tette hozzá. "A jelenlegi AI-rendszerek nem olyan pontosak, mint a nyilvánosság előtt, és olyan hibákat követnek el, amelyeket ember soha nem követne el."
Vedd át a mesterséges intelligencia irányítását, most
Nehéz lehet az AI szabályozása, hogy ne kerülje el az irányításunkat, mondja Vazirgiannis. A kormányok helyett a vállalatok irányítják az AI-t működtető erőforrásokat. "Még maguk az algoritmusok is általában ezeknek a nagy és nagy teljesítményű, általában multinacionális szervezeteknek a kutatólaboratóriumaiban készülnek és kerülnek alkalmazásra" - mondta.
"Ezért nyilvánvaló, hogy az államok kormányainak egyre kevésbé van ellenőrzése a mesterséges intelligencia irányításához szükséges erőforrások felett."
Egyes szakértők szerint a szuperintelligens mesterséges intelligencia irányításához az embereknek számítási erőforrásokat és elektromos energiát kell kezelniük. "Az olyan sci-fi filmek, mint a Mátrix, jóslatokat fogalmaznak meg egy disztópikus jövőről, ahol az MI az embereket használja bioenergia-forrásként" - mondta Vazirgiannis.
"A távoli lehetetlenségek ellenére az emberiségnek meg kell győződnie arról, hogy a számítási erőforrások (pl. számítógép-klaszterek, GPU-k, szuperszámítógépek, hálózatok/kommunikáció) és természetesen az elektromosságot biztosító erőművek felett kellőképpen ellenőrizni kell káros az MI működésére."
A mesterséges intelligencia vezérlésével az a probléma, hogy a kutatók nem mindig értik, hogyan hozzák meg döntéseiket az ilyen rendszerek – mondta Michael Berthold, a KNIME adattudományi szoftvercég társalapítója és vezérigazgatója egy e-mailes interjúban. "Ha ezt nem tesszük meg, hogyan tudjuk irányítani?"
Hozzátette: "Nem értjük, ha egy teljesen más döntést hoznak a számunkra irreleváns bemenetek alapján."
A mesterséges intelligencia használatának kockázatát csak úgy lehet ellenőrizni, ha azt csak akkor használják, ha a kockázat kezelhető – mondta Berthold. "Másképpen fogalmazva, két szélsőséges példa: Ne bízzon mesterséges intelligenciát az atomerőműben, ahol egy kis hiba katasztrofális mellékhatásokkal járhat" - tette hozzá.
"Másrészt a mesterséges intelligencia azt jósolja, hogy ha a szobahőmérsékletet egy kicsit felfelé vagy lefelé kell módosítani, az megéri az apró kockázatot az életkényelem érdekében."
Ha nem tudjuk irányítani a mesterséges intelligenciát, jobb, ha megtanítjuk a modorra – mondta Peter Scott, a NASA korábbi számítógépes mérnöke egy e-mailes interjúban. "Végső soron nem tudjuk jobban biztosítani az MI irányíthatóságát, mint a gyermekeinkét" - mondta.
"Jól neveljük őket, és a legjobbat reméljük; eddig nem tették tönkre a világot. Ahhoz, hogy jól neveljük őket, jobban meg kell értenünk az etikát; ha nem tudjuk kitakarítani a saját házunkat, mi kódot kell kérnünk az AI követésére?"
Az emberi faj számára azonban nincs veszve minden remény – mondja Yonatan Wexler, az AI-kutató, az OrCam kutatás-fejlesztési részlegének ügyvezető alelnöke. "Bár az előrelépés valóban lenyűgöző, személyes meggyőződésem az, hogy az emberi intelligenciát nem szabad alábecsülni" - mondta egy e-mailes interjúban. "Mi fajként egészen elképesztő dolgokat alkottunk, beleértve magát a mesterséges intelligenciát is."
Folytatódik az egyre okosabb mesterséges intelligencia keresése. De lehet, hogy jobb lenne átgondolni, hogyan irányítjuk alkotásainkat, mielőtt túl késő lenne.
