Kulcs elvitelek
- A mesterséges intelligencia és a gépi tanulási algoritmusok figyelik az emberi viselkedést, és képesek megtanulni manipulálni azt, mondják a szakértők.
- A kutatók a közelmúltban kidolgoztak egy módot a sebezhetőségek felkutatására és kihasználására az emberek mesterséges intelligencia használatával kapcsolatos döntései során.
- A legkifinomultabb közösségimédia-algoritmus jelenleg a TikTok, mondja egy megfigyelő.
A mesterséges intelligencia (AI) és a gépi tanulási algoritmusok egyre inkább megtanulják, hogyan befolyásolják a felhasználók viselkedését, mondják a szakértők.
Az ausztrál nemzeti tudományos ügynökség kutatói a közelmúltban kidolgoztak egy módot, amellyel megtalálhatják és kihasználhatják a mesterséges intelligencia használatával kapcsolatos sérülékenységeket. A legújabb kutatások csak egyike azoknak a mesterséges intelligencia által vezérelt rendszereknek, amelyek célja az emberi döntéshozatal manipulálása.
"Nincs vége annak a sokféle módnak, amellyel a mesterséges intelligencia már most is befolyásolja a viselkedést." Kentaro Toyama, a Michigan Egyetem Információs Iskola professzora és a Geek Heresy: Rescuing Social Change from the Cult of Technology című könyv szerzője, mondta egy e-mailes interjúban.
"Valójában, ha valaha is végzett keresést a Google-on, és követett egy linket, akkor egy mesterséges intelligencia-rendszer hatással volt rád, amely kitalálta érdeklődését, és olyan eredményeket adott vissza, amelyek szerinte a leginkább relevánsak az Ön számára."
AI vs. Emberek
Egy közelmúltban megjelent ausztrál kutatásban humán résztvevők különböző kísérletekben számítógép ellen játszottak. Az első kísérlet során a résztvevők a piros vagy kék színű dobozokra kattintottak, hogy pénzt nyerjenek.
A mesterséges intelligencia az esetek 70%-ában sikeres volt, megtanulta a résztvevő választási mintáit, és egy adott választás felé terelte őket.
Egy másik kísérletben a résztvevők egy képernyőt néztek, és megnyomtak egy gombot, amikor egy adott szimbólumot mutattak meg nekik, vagy nem nyomták meg, amikor felajánlottak egy másikat. Az AI megtanulta átrendezni a szimbólumokat, így a résztvevők több hibát követtek el.
A kísérletek eredménye a kutatók szerint az volt, hogy a mesterséges intelligencia tanult a résztvevők válaszaiból. A gép ezután azonosította és megcélozta az emberek döntéshozatalának sebezhetőségeit. Valójában a mesterséges intelligencia manipulálhatja a résztvevőket bizonyos műveletek elvégzésére.
Az a tény, hogy a mesterséges intelligencia vagy a gépi tanulás képes manipulálni az embereket, nem meglepő, mondják a megfigyelők.
"A mesterséges intelligencia minden nap befolyásolja viselkedésünket" - mondta Tamara Schwartz, a York College of Pennsylvania kiberbiztonsági és üzleti adminisztrációs adjunktusa egy e-mailes interjúban.
"Folyamatosan hallunk a közösségi média alkalmazások, például a Facebook vagy a Twitter algoritmusairól. Ezek az algoritmusok a kapcsolódó tartalmakra irányítják figyelmünket, és létrehozzák a „visszhangkamra” hatást, ami viszont befolyásolja viselkedésünket."
TikTok nézi
A legkifinomultabb közösségimédia-algoritmus jelenleg a TikTok, mondta Schwartz. Az alkalmazás elemzi, hogy mi érdekli Önt, mennyi ideig néz valamit, és milyen gyorsan hagy ki valamit, majd finomítja a kínálatát, hogy továbbra is nézze.
"A TikTok sokkal függőséget okoz, mint a többi platform ennek az AI-algoritmusnak köszönhetően, amely megérti, hogy mit szeretsz, hogyan tanulsz, és hogyan választod ki az információkat" - tette hozzá. "Ezt azért tudjuk, mert a felhasználók átlagosan 52 percet töltenek a TikTokon."
Az emberi viselkedés mesterséges intelligencia általi manipulációjának pozitív haszna lehet – érvelt Chris Nicholson, a Pathmind mesterséges intelligencia vállalat vezérigazgatója egy e-mailes interjúban. A közegészségügyi ügynökségek például használhatják az AI-t, hogy jobb döntésekre ösztönözzék az embereket.
"A közösségi média, a videojáték-gyártók, a hirdetők és a tekintélyelvű rezsimek azonban olyan módszereket keresnek, amelyekkel arra ösztönözhetik az embereket, hogy olyan döntéseket hozzanak, amelyek nem az ő érdekükben állnak, és ez új eszközöket ad nekik ehhez." tette hozzá.
A mesterséges intelligencia viselkedésének befolyásolásával kapcsolatos etikai kérdések gyakran csak bizonyos fokig terjednek, mondta Toyama. A mesterséges intelligencia lehetővé teszi a célzott reklámozást, amelyben az egyéni preferenciák és gyengeségek kihasználhatók.
"Lehetséges például, hogy egy mesterséges intelligencia rendszer azonosítsa azokat az embereket, akik megpróbálnak leszokni a dohányzásról, és csábító cigarettareklámokkal borítsák fel őket" - tette hozzá.
Nem mindenki ért egyet azzal, hogy az emberi viselkedés mesterséges intelligencia manipulálása problematikus. A klasszikus pszichológia és a mesterséges intelligencia egyaránt megfigyel adatokat – mutatott rá Jason J. Corso, a Stevens Institute for Artificial Intelligence igazgatója egy e-mailes interjúban.
"Az emberi tudósok valószínűleg jobban tudják általánosítani a megfigyeléseket és az emberi viselkedésre vonatkozó elméleteket, amelyek szélesebb körben is alkalmazhatók lehetnek, míg az AI-modellek alkalmasabbak lennének a probléma-specifikus árnyalatok azonosítására" - mondta Corso.
"Etikai szempontból nem látok különbséget ezek között."
