Hogyan tervezi a ToxMod a mérgező játékcsevegés javítását

Tartalomjegyzék:

Hogyan tervezi a ToxMod a mérgező játékcsevegés javítását
Hogyan tervezi a ToxMod a mérgező játékcsevegés javítását
Anonim

Kulcs elvitelek

  • A ToxMod, a bostoni székhelyű Modulate cég, azt állítja, hogy automatikusan, valós időben észleli a zavaró beszédet, és fellép ellene.
  • Ahelyett, hogy az egyszerű nyelvezet korlátozná, a ToxMod gépi tanulást használ az olyan megfoghatatlan dolgok kiderítésére, mint az érzelmek, a hangerő és a ritmus.
  • A ToxMod-ot jelenleg játékon belüli csevegőszobákhoz tervezték, de nincs semmi ok, amiért ne érkezhetne a Twitch-csatornádra.
Image
Image

Egy bostoni székhelyű vállalat a gépi tanulás segítségével létrehozza a világ első hangalapú moderációs szolgáltatását, amely különbséget tud tenni a mondanivaló és a jelentése között.

A ToxMod egy kísérlet arra, hogy feloldja azt a paradoxont, hogy bármely nyílt területet moderáljon az interneten; nincs elég ember ahhoz, hogy lépést tudjon tartani az igényekkel, de az algoritmusok, a szűrők és a jelentésrendszer nem értik az árnyalatokat.

A ToxMod adatbázisával nyomon tudja követni a játékosok beszédének olyan tényezőit, mint az érzelmek és a hangerő, ami segít megkülönböztetni a pillanatnyi kihagyást a viselkedési mintától. Nemrég jelentették be a Gridiron 7v7 amerikaifutball-játék kiegészítéseként, amely jelenleg a Steam Early Access szolgáltatásban található.

"Mindenki tudja, hogy a zaklatás, a gyűlöletbeszéd és a mérgezés a hangos csevegésben és a játékokban óriási probléma. Ez közérthető" - mondta Carter Huffman, a Modulate technológiai igazgatója és társalapítója a Google Meetingen. Lifewire. „A különféle gépi tanulási rendszereken keresztül kinyert funkciókat átvehetnénk egy olyan rendszerbe, amely figyelembe vette mindazt a szakértői tudást, amelyet a közösségtől tanultunk."

Üdvözöljük új robotmoderátorainkat

A Modulate tavaly ősz óta dolgozik a ToxModon, és beépítette a vállalat három alapszolgáltatása közé. Ezenkívül kínálja a VoiceWear-t, a gépi tanulással hajtott hangelfedőt, valamint a VoiceVibe-t, egy aggregátor-szolgáltatást, amely lehetővé teszi a felhasználók számára, hogy megtudják, miről beszélgetnek a közösségeikben élők.

Amikor a ToxMod csevegés közben fut, a Modulate adminisztrációs paneljén keresztül beprogramozható, hogy számos automatikus műveletet hajtson végre, például figyelmeztetést adjon ki, némítsa el a lejátszókat, vagy egyénileg állítsa be a hangerőt.

Egy osztályozási rendszert használ, ahol a helyi példány elsőként intézkedik, mielőtt megerősítést kérne a Modulate szerverétől. Aztán végül odáig fajul, hogy emberi beavatkozást igényelhet. Azzal, hogy sorra futja végig az egyes ellenőrzéseket, amelyeket a Modulate "triage gates"-nek nevez, az az elképzelés, hogy a ToxMod egy kis moderátorcsapatnak ad eszközöket, amelyekkel hatékonyan moderálhat egy sokkal nagyobb közösséget.

"A szomorú igazság az, hogy mindenkinek volt már ilyen tapasztalata, amikor megpróbálta használni a hangos csevegést bármilyen platformon, és rájött, hogy ez rossz ötlet volt" - mondta Mike Pappas, a modul vezérigazgatója. videohívás a Lifewire-rel. "Bemenni és azt mondani: "Ez nem a vadnyugat. Vannak szabályok." Szerintem ez nagyon fontos."

A rendszer feltörése

Természetesen a második vagy harmadik kérdés, amit fel kell tenni a ToxModdal kapcsolatban, az, hogyan lehet megtörni.

Számos automatikus moderációs rendszerrel, például a Twittert irányító algoritmusokkal, könnyű megjátszani azokat olyan emberek ellen, akiket nem kedvelsz. Csak tömegesen jelentse be célpontját néhány zoknibábos fiókkal, és megbízhatóan megeszik a kitiltást.

"Alapszinten a ToxModnak nem kell a további játékosjelentésekre hagyatkoznia" - mondta Pappas. "Még mindig képes megbízható becsléseket készíteni arról, hogy milyen bűncselekményekre kell [figyelnünk]. Nem kell aggódnia amiatt, hogy a játékosok megpróbálják megjátszani a rendszert, mivel nincs igazán mit játszani.

Mindenki tudja, hogy a zaklatás, a gyűlöletbeszéd és a mérgezés az audiocsevegésben és a játékokban óriási probléma.

"Játékosként csak a saját audiója van." - folytatta Pappas. "A legrosszabb, amit tehetsz, hogy kevésbé rosszalkodsz az emberrel szemben, hogy ne jelöljük meg rossz színésznek, ami azt mondanám, hogy valami közel áll a küldetés sikeréhez."

Általában tehát a ToxMod mögötti ötlet egy aktív visszaállítási kísérlet. Ezen a ponton sok játékos tapaszt alt valamilyen zaklatást véletlenszerű idegenektől nyílt hangcsatornákon, a véletlenszerű sértésektől az aktív fenyegetésekig. Ennek eredményeként a játékosok általában visszariadnak az audiocsevegéstől, és inkább lemondanak annak kényelméről, cserébe saját nyugalmukért.

„Azt várjuk, hogy [a rossz színészek sokkal kevesebb időt töltenek az audiocsevegésben], mielőtt megtalálnák és eltávolítanák őket” – mondta Pappas."Ennek több, mint lineáris hatása van. Amikor mindenki biztonságosabb helynek tekinti a hangos csevegést, több jó színész hajlandó visszatérni a hangos csevegésre, és kipróbálni. Szerintem minden pozitív irányba fordulhat."

Ajánlott: