A legfontosabb elvitelek
- A jelentések szerint egy szoftvercég közösségi média információkat gyűjt, hogy olyan profilokat hozzon létre, amelyek segítségével azonosítani lehet azokat, akik biztonsági kockázatot jelentenek.
- A Voyager Labs jelentős üzletet kötött egy japán kormányhivatallal.
- A szakértők azonban arra figyelmeztetnek, hogy a mesterséges intelligencia előrejelző szoftvere becsapható.
Online információi felhasználhatók annak előrejelzésére, hogy elkövethet-e bűncselekményt.
A Voyager Labs állítólag közösségi média információkat gyűjt, hogy profilokat hozzon létre, amelyek segítségével azonosíthatók a biztonsági kockázatot jelentő személyek. Ez része annak az egyre növekvő erőfeszítésnek, hogy a mesterséges intelligenciát (AI) használják a potenciális bűnözők felderítésére. Egyes szakértők azonban azt mondják, hogy a mozgalom tele van potenciális problémákkal.
"Nagyon nehéz megjósolni az emberi viselkedést" - mondta Matthew Carr, az Atumcell Group biztonsági kutatója a Lifewire-nek egy e-mailes interjúban. "Még a saját viselkedésünket sem tudjuk megjósolni, nemhogy valaki másét. Elképzelhetőnek tartom, hogy a mesterséges intelligencia a jövőben felhasználható lesz erre a célra, de egyelőre nagyon messze vagyunk attól, hogy ezt megtehessük."
Profilok létrehozása
Amint arról a The Guardian nemrég beszámolt, a Los Angeles-i rendőrség megvizsgálta a Voyager Lab bűnügyi előrejelző szoftverének használatát. A cég azt is bejelentette, hogy jelentős üzletet kötött egy japán kormányhivatallal.
A japán megállapodás egy mesterséges intelligencia-alapú vizsgálati platformot biztosít a kormányhivatal számára, amely bármilyen forrásból származó hatalmas mennyiségű információt elemzi, beleértve a nyílt és mély adatokat is.
"Örülök, hogy együttműködünk a terror és a bűnözés elleni küzdelemben" - mondta Divya Khangarot, a Voyager Labs APAC ügyvezető igazgatója a sajtóközleményben. "A Voyager Lab legkorszerűbb intelligencia-megoldásai segítségével ügyfeleink egyedülálló képességekre tesznek szert a potenciális fenyegetések proaktív azonosítására és megzavarására. Az AI, a Machine Learning és az OSINT kombinációjával további mélyreható nyomozási betekintéseket biztosítunk, hogy felfedjük a rejtett nyomokat, a jogsértett információkat, és rossz színészek."
Nem olyan okos?
De egy e-mailes interjúban Matt Heisie, a Ferret.ai társalapítója, amely szintén mesterséges intelligenciát használ az elkövetők előrejelzésére, megkérdőjelezte a Voyager Labs egyes állításait.
"Olyan egyértelmű kapcsolat van mondjuk egy letartóztatási jegyzőkönyv és a jövőbeni bűnözői magatartás között, mint a fekete folt a teszten és a daganat kialakulása között?" ő mondta. „Gondoljon bele az összes lehetséges zűrzavarba, amely a letartóztatásba került – hogy az illető milyen környéken élt, milyen mennyiségben és minőségben dolgozik, sőt, milyen elfogultságokkal rendelkezik az adott területen. A személy életkora, neme, fizikai megjelenése, ezek mind egymást keresztező hatással bírnak annak valószínűségére, hogy az illető személyt letartóztatják, teljesen elkülönülve attól, hogy ténylegesen hajlandó lenne elkövetni az általunk megjósolni kívánt bűncselekményt."
A jobb ügyvédekkel rendelkező vádlottak nagyobb valószínűséggel tudják megakadályozni, hogy az iratok nyilvánosan elérhetővé váljanak, mondta Heisie. Egyes joghatóságok korlátozzák a lövések vagy a letartóztatási jegyzőkönyvek kiadását a vádlottak védelme érdekében.
"A számítógép az Ön által megadott adatok alapján tanul, és beépíti az adatgyűjtésbe bevitt összes torzítást…"
"Mindez további torzítást ad az algoritmusoknak" - tette hozzá. "A számítógép az Ön által megadott adatok alapján tanul, és az adatgyűjtés során előforduló összes torzítást beépíti a tanulásba és az értelmezésbe."
Többször is próbálkoztak mesterséges intelligencia előrejelző bűnözéssel, és gyakran botrányos eredménnyel, mondta Heisie.
A COMPAS, a bûnüldözés egy algoritmusa, amelyet a bûnismétlések elõrejelzésére használ, gyakran használják a büntetés és az óvadék meghatározásakor. A faji elfogultság miatt 2016-ig botrányokkal szembesült, és azt jósolták, hogy a fekete vádlottak nagyobb kockázatot jelentenek a bűnismétlésre, mint valójában, a fehér vádlottak esetében pedig fordítva.
Több mint 1000 technológus és tudós, köztük akadémikusok és mesterséges intelligencia-szakértők a Harvardról, az MIT-ről, a Google-ról és a Microsoftról, 2020-ban felszól alt egy újság ellen, amely azt állítja, hogy a kutatók olyan algoritmust fejlesztettek ki, amely pusztán a bűnözés előrejelzésére szolgál. egy személy arcát, mondván, hogy az ilyen tanulmányok közzététele megerősíti a már meglévő faji elfogultságot a büntető igazságszolgáltatásban – jegyezte meg Heisie.
Kína a legnagyobb és leggyorsabban növekvő piac az ilyen típusú technológiának, elsősorban a magánadatokhoz való széles körű hozzáférésnek köszönhetően, több mint 200 millió térfigyelő kamerával és fejlett mesterségesintelligencia-kutatással, amely évek óta foglalkozik ezzel a kérdéssel, mondta Heisie.. Az olyan rendszereket, mint a CloudWalk Police Cloud, már használják a bűnözők előrejelzésére és nyomon követésére, valamint a bűnüldözés pontos meghatározására.
"Azonban ott is jelentős torzításokról számoltak be" - mondta Heisie.
Heisie hozzátette, hogy cége gondosan összegyűjti a beérkező adatokat, és nem használ felvételeket vagy letartóztatási jegyzőkönyveket, "ehelyett objektívebb kritériumokra összpontosít."
"A mi mesterséges intelligencia tanult a gyűjtött adatokból, de ami még fontosabb, az emberektől is tanul, akik maguk is elemzik, gondozzák és értékelik a rekordokat, és mesélnek másokkal való interakcióikról" - tette hozzá. "Fenntartjuk továbbá a teljes átláthatóságot, valamint az alkalmazásunkhoz való ingyenes és nyilvános hozzáférést (amilyen gyorsan csak béta verzióba tudjuk bocsátani), és örömmel vesszük, ha betekintést nyerünk folyamatainkba és eljárásainkba."
