Kulcs elvitelek
- Úgy tűnik, hogy a DALL-E2 nevű mesterséges intelligencia rendszer létrehozta saját írásos kommunikációs rendszerét.
- Egyes szakértők szerint a látszólagos nyelvezet csak halandzsa lehet.
- Ez egy példa arra, hogy milyen nehéz értelmezni a fejlett AI-rendszerek eredményeit.
Úgy tűnik, hogy a mesterséges intelligencia (AI) kifejlesztette saját nyelvét, de néhány szakértő szkeptikus az állítást illetően.
Az OpenAI DALL-E2 nevű szöveg-kép AI rendszere úgy tűnik, hogy létrehozta saját írásos kommunikációs rendszerét. Ez egy példa arra, hogy milyen nehéz értelmezni a fejlett AI-rendszerek eredményeit.
"A nagy modellek mérete és mélysége miatt nagyon nehéz megmagyarázni a modellek viselkedését" - mondta Teresa O'Neill, az iMerit természetes nyelvértési megoldások architektúrájáért felelős igazgatója a Lifewire-nek adott e-mailes interjújában. "Ez az egyik alapvető kihívás, és bizonyos esetekben etikai problémák is egyre erősebb modellekkel. Ha nem tudjuk megmagyarázni, miért viselkednek úgy, ahogyan, megjósolhatjuk-e viselkedésüket, vagy összhangban tarthatjuk-e normáinkkal és elvárásainkkal?"
AI Chats
Giannis Daras számítástechnikai hallgató nemrég megjegyezte, hogy a szövegbevitel alapján képeket létrehozó DALLE-2 rendszer bizonyos körülmények között értelmetlen szavakat ad vissza szövegként.
"A DALLE-2 ismert korlátja, hogy küzd a szöveggel" - írta az Arxiv preprint szerveren megjelent cikkében. "Például az olyan szöveges felszólítások, mint például: "A repülőgép szó képe", gyakran generált képekhez vezetnek, amelyek hamis szöveget ábrázolnak."
De – írta Daras – a látszólagos halandzsa mögött lehet egy módszer. "Felfedeztük, hogy ez a szöveg nem véletlenszerű, hanem egy rejtett szókincsről árulkodik, amelyet úgy tűnik, hogy a modell belsőleg fejlesztett ki" - folytatta. "Például, ha ezzel a halandzsa szöveggel táplálják, a modell gyakran gyárt repülőgépeket."
Tweetében Daras rámutatott, hogy amikor a DALLE-2-t felkérték, hogy írjon feliratot egy két gazdálkodó közötti beszélgetésre, az azt mutatta, hogy beszélnek, de a szövegbuborékok tele voltak értelmetlen szavakkal. Daras azonban rájött, hogy a szavaknak saját jelentésük van a mesterséges intelligencia számára: a gazdák zöldségekről és madarakról beszéltek.
Nicola Davolio, az MI-vel dolgozó Hupry technológiai vállalat vezérigazgatója egy e-mailes interjúban elmagyarázta a Lifewire-nek, hogy a nyelv olyan szimbólumokon alapul, amelyeket a DALL-E2 rendszer megtanult társítani bizonyos fogalmakkal. Például a „kutya” szimbóluma egy kutya képéhez, míg a „macska” szimbóluma egy macska képéhez kapcsolódhat. A DALL-E2 azért hozta létre a nyelvét, mert lehetővé teszi, hogy hatékonyabban kommunikáljon más AI-rendszerekkel.
Az olyan rejtvények, mint a DALL-E2 látszólag rejtett szókincse, szórakoztató birkózás, de rávilágítanak a nehezebb kérdésekre is…
"A nyelv olyan szimbólumokból áll, amelyek úgy néznek ki, mint egyiptomi hieroglifák, és úgy tűnik, hogy nincs konkrét jelentése" - tette hozzá. "A szimbólumok valószínűleg értelmetlenek az emberek számára, de tökéletesen értelmezhetőek az AI-rendszer számára, mivel több millió képre oktatták."
A kutatók úgy vélik, hogy a mesterséges intelligencia-rendszer azért hozta létre a nyelvet, hogy segítsen jobban megérteni a képek és szavak közötti kapcsolatokat, mondta Davolio.
"Nem tudják, miért az AI rendszer fejlesztette ki a nyelvét, de azt gyanítják, hogy valami köze lehet ahhoz, hogyan tanult meg képeket készíteni" - tette hozzá Davolio. „Lehetséges, hogy az AI-rendszer úgy fejlesztette ki a nyelvét, hogy hatékonyabbá tegye a kommunikációt a különböző hálózati részek között."
AI rejtélyek
A DALL-E2 nem az egyetlen mesterséges intelligencia rendszer, amely kifejlesztette belső nyelvét, mutatott rá Davolio. 2017-ben a Google AutoML rendszere létrehozta a neurális architektúra egy új formáját, az úgynevezett „gyermekhálózatot”, miután meg kellett határoznia, hogyan lehet egy adott feladatot a legjobban elvégezni. Ezt a gyermekhálózatot emberi alkotói nem tudták értelmezni.
"Ez a példa csak néhány olyan eset, amikor az AI-rendszerek olyan dolgokat fejlesztettek ki, amelyeket nem tudunk megmagyarázni" - mondta Davolio. "Ez egy feltörekvő jelenség, amely egyszerre lenyűgöző és riasztó. Ahogy az AI-rendszerek egyre összetettebbé és autonómabbá válnak, egyre inkább abba a helyzetbe kerülhetünk, hogy nem értjük működésüket."
O'Neill azt mondta, hogy nem hiszi, hogy a DALL-E2 saját nyelvet hoz létre. Ehelyett azt mondta, hogy a látszólagos nyelvi lelemény oka valószínűleg valamivel prózaibb.
"Az egyik elfogadható magyarázat egy véletlenszerű véletlen – egy ekkora modellben egy kicsit a Murphy-törvény is érvényesülhet: ha furcsa dolog történhet, valószínűleg meg fog történni" - tette hozzá O'Neill. Egy másik lehetőség, amelyet Benjamin Hilton kutatóelemző a Daras megállapításait tárgyaló Twitter-szálban javasolt, az, hogy az "apoploe vesrreaitais" kifejezés formája egy állat latin nevének formáját utánozza. A rendszer tehát új Aves-rendet szült – tette hozzá O'Neill.
"Az olyan rejtvényekkel, mint a DALL-E2 látszólag rejtett szókincse, szórakoztató birkózni, de rávilágítanak a komolyabb kérdésekre is a nagy modellek gyakran kifürkészhetetlen viselkedésében rejlő kockázat, elfogultság és etika körül" - mondta O'Neill..
