Kulcs elvitelek
- A ToxMod, a bostoni székhelyű Modulate cég, azt állítja, hogy automatikusan, valós időben észleli a zavaró beszédet, és fellép ellene.
- Ahelyett, hogy az egyszerű nyelvezet korlátozná, a ToxMod gépi tanulást használ az olyan megfoghatatlan dolgok kiderítésére, mint az érzelmek, a hangerő és a ritmus.
- A ToxMod-ot jelenleg játékon belüli csevegőszobákhoz tervezték, de nincs semmi ok, amiért ne érkezhetne a Twitch-csatornádra.
Egy bostoni székhelyű vállalat a gépi tanulás segítségével létrehozza a világ első hangalapú moderációs szolgáltatását, amely különbséget tud tenni a mondanivaló és a jelentése között.
A ToxMod egy kísérlet arra, hogy feloldja azt a paradoxont, hogy bármely nyílt területet moderáljon az interneten; nincs elég ember ahhoz, hogy lépést tudjon tartani az igényekkel, de az algoritmusok, a szűrők és a jelentésrendszer nem értik az árnyalatokat.
A ToxMod adatbázisával nyomon tudja követni a játékosok beszédének olyan tényezőit, mint az érzelmek és a hangerő, ami segít megkülönböztetni a pillanatnyi kihagyást a viselkedési mintától. Nemrég jelentették be a Gridiron 7v7 amerikaifutball-játék kiegészítéseként, amely jelenleg a Steam Early Access szolgáltatásban található.
"Mindenki tudja, hogy a zaklatás, a gyűlöletbeszéd és a mérgezés a hangos csevegésben és a játékokban óriási probléma. Ez közérthető" - mondta Carter Huffman, a Modulate technológiai igazgatója és társalapítója a Google Meetingen. Lifewire. „A különféle gépi tanulási rendszereken keresztül kinyert funkciókat átvehetnénk egy olyan rendszerbe, amely figyelembe vette mindazt a szakértői tudást, amelyet a közösségtől tanultunk."
Üdvözöljük új robotmoderátorainkat
A Modulate tavaly ősz óta dolgozik a ToxModon, és beépítette a vállalat három alapszolgáltatása közé. Ezenkívül kínálja a VoiceWear-t, a gépi tanulással hajtott hangelfedőt, valamint a VoiceVibe-t, egy aggregátor-szolgáltatást, amely lehetővé teszi a felhasználók számára, hogy megtudják, miről beszélgetnek a közösségeikben élők.
Amikor a ToxMod csevegés közben fut, a Modulate adminisztrációs paneljén keresztül beprogramozható, hogy számos automatikus műveletet hajtson végre, például figyelmeztetést adjon ki, némítsa el a lejátszókat, vagy egyénileg állítsa be a hangerőt.
Egy osztályozási rendszert használ, ahol a helyi példány elsőként intézkedik, mielőtt megerősítést kérne a Modulate szerverétől. Aztán végül odáig fajul, hogy emberi beavatkozást igényelhet. Azzal, hogy sorra futja végig az egyes ellenőrzéseket, amelyeket a Modulate "triage gates"-nek nevez, az az elképzelés, hogy a ToxMod egy kis moderátorcsapatnak ad eszközöket, amelyekkel hatékonyan moderálhat egy sokkal nagyobb közösséget.
"A szomorú igazság az, hogy mindenkinek volt már ilyen tapasztalata, amikor megpróbálta használni a hangos csevegést bármilyen platformon, és rájött, hogy ez rossz ötlet volt" - mondta Mike Pappas, a modul vezérigazgatója. videohívás a Lifewire-rel. "Bemenni és azt mondani: "Ez nem a vadnyugat. Vannak szabályok." Szerintem ez nagyon fontos."
A rendszer feltörése
Természetesen a második vagy harmadik kérdés, amit fel kell tenni a ToxModdal kapcsolatban, az, hogyan lehet megtörni.
Számos automatikus moderációs rendszerrel, például a Twittert irányító algoritmusokkal, könnyű megjátszani azokat olyan emberek ellen, akiket nem kedvelsz. Csak tömegesen jelentse be célpontját néhány zoknibábos fiókkal, és megbízhatóan megeszik a kitiltást.
"Alapszinten a ToxModnak nem kell a további játékosjelentésekre hagyatkoznia" - mondta Pappas. "Még mindig képes megbízható becsléseket készíteni arról, hogy milyen bűncselekményekre kell [figyelnünk]. Nem kell aggódnia amiatt, hogy a játékosok megpróbálják megjátszani a rendszert, mivel nincs igazán mit játszani.
Mindenki tudja, hogy a zaklatás, a gyűlöletbeszéd és a mérgezés az audiocsevegésben és a játékokban óriási probléma.
"Játékosként csak a saját audiója van." - folytatta Pappas. "A legrosszabb, amit tehetsz, hogy kevésbé rosszalkodsz az emberrel szemben, hogy ne jelöljük meg rossz színésznek, ami azt mondanám, hogy valami közel áll a küldetés sikeréhez."
Általában tehát a ToxMod mögötti ötlet egy aktív visszaállítási kísérlet. Ezen a ponton sok játékos tapaszt alt valamilyen zaklatást véletlenszerű idegenektől nyílt hangcsatornákon, a véletlenszerű sértésektől az aktív fenyegetésekig. Ennek eredményeként a játékosok általában visszariadnak az audiocsevegéstől, és inkább lemondanak annak kényelméről, cserébe saját nyugalmukért.
„Azt várjuk, hogy [a rossz színészek sokkal kevesebb időt töltenek az audiocsevegésben], mielőtt megtalálnák és eltávolítanák őket” – mondta Pappas."Ennek több, mint lineáris hatása van. Amikor mindenki biztonságosabb helynek tekinti a hangos csevegést, több jó színész hajlandó visszatérni a hangos csevegésre, és kipróbálni. Szerintem minden pozitív irányba fordulhat."
