Kulcs elvitelek
- A YouTube automatikus korhatáros szoftvere aggodalomra ad okot az LMBTQ+ tartalmak miatt a platformon.
- A céget az LMBTQ+ tartalomkészítőkkel kapcsolatos viták zavarják, amelyek megerősítik a kételyeket.
- A gépi tanulás torzításai hitelt adnak annak az elképzelésnek, hogy a szűrők tökéletlen megvalósítása valószínűleg igazságtalanul korlátozza a hozzáférést.
Mivel a moderálási folyamat során tisztességtelenül célozta meg az LMBTQ+ tartalomkészítőket, a YouTube új mesterségesintelligencia-alapú technológiája a technológiai óriás számára aggasztó következő lépésnek tekinthető.
A hivatalos YouTube blogon a múlt héten a videómegosztó platform bemutatta egy új automatikus szoftver kiadását, amely "következetesebben alkalmazza a korhatárokat" a fiatalabb nézők számára nem megfelelő videókra.
Az alkalmazást használó gyerekekkel kapcsolatos közelmúltbeli aggodalmak miatt az új rendszer gépi tanulási mesterséges intelligencia szoftverre épül, amely képes lemondani az emberi moderátorokról egy automatikusabb folyamat érdekében. A kérdés? A YouTube automatizált rendszereit azzal vádolták, hogy az LMBTQ+ tartalmakat és alkotókat egyszerűen a meglévők miatt választják ki.
Még ha nem is rosszindulatú, ami szerintem nem az, a különböző hangok hiánya – vagy legalábbis a tisztelet hiánya.
"A gépi tanulást az emberek informálják és létrehozzák, és lehetséges, hogy ezek az elfogultságok benne rejlenek, vagy maga a gép tanulja meg" - mondta Rowan Ellis YouTuber a Lifewire-nek adott telefonos interjújában. "Az [LMBTQ+] tartalommal kapcsolatos elfogultsága nyilvánvaló volt az [LMBTQ+] YouTube-felhasználók korábbi tapasztalataiban, és nem láttam bizonyítékot arra, hogy bármit is tettek volna ennek megakadályozására."
Bébi, most rossz vért kaptunk
Ellis egy YouTuber, aki feminista és furcsa beállítottságú oktatási tartalmakat hoz létre, és 2017-ben közzétett egy videót a vállalat korlátozott üzemmódjáról. Az automatikus tartalommoderálás első lépéseként ez a mód lehetővé tette a felhasználók számára, hogy opcionálisan előre szűrjék a „potenciálisan felnőtteknek szóló tartalmat” a keresési javaslatokból és ajánlásokból.
Több mint 100 000 megtekintést gyűjtött, és úgy véli, hogy tudatos erőfeszítések történtek annak érdekében, hogy kizárják csatornáját a korlátozás alól, mivel hangosan ellenzi a YouTube moderálás felé tett új lépésének túlkapásait. A platform többi felhasználója nem volt ilyen szerencsés, és tudatták a YouTube-bal.
2019 augusztusában csoportos keresetet indított a YouTube ellen egy nyolc LMBTQ+ alkotóból álló csoport, akik azzal vádolták a Szilícium-völgyi vállalatot, hogy korlátozza a queer és transz videókészítőket és -tartalmakat. A kereset azt állítja, hogy az oldal „jogellenes tartalomszabályozást, terjesztést és bevételszerzési gyakorlatot alkalmaz, amely megbélyegzi, korlátozza, blokkolja, demonetizálja és anyagilag károsítja az LMBT-felpereseket és a nagyobb LMBT közösséget. Még mindig a kaliforniai bíróságokon halad át.
A gépi tanulást az emberek informálják és az emberek hozták létre, és lehetséges, hogy ezek a torzítások benne rejlenek, vagy maga a gép tanulja meg.
Ugyanannak az évnek a júniusában a platform a média özönét kapta, miután nem volt hajlandó gyorsan megdorgálni a népszerű konzervatív kommentátort, Steven Crowdert a Vox újságírója és műsorvezetője, Carlos Maza elleni hónapokig tartó, homofób zaklatási kampány miatt. Ez megerősítette az Ellis által elmondottakat, hogy az online platform figyelmen kívül hagyja azokat az egyedi kihívásokat, amelyekkel a furcsa alkotók szembesülnek. Az LMBTQ+ alkotói nem hisznek abban, hogy a YouTube képes megjelenni előttük.
„Nem hiszem, hogy megértették volna, hogy szükség van az átláthatóságra a szociális kérdések és az egyenlőség biztosítása terén” – mondta. "Még mindig vannak gyerekek szerte a világon, akik abban a gondolatban nőttek fel, hogy melegnek lenni helytelen, és amikor elkezdik megkérdőjelezni ezt a hiedelmet, de biztonságos keresés vagy korlátozás miatt leállítják, ez megerősíti ezt az elképzelést, hogy helytelen, nem megfelelő, felnőtt, perverz és piszkos."
Az automatikus tanulás sikertelensége
A platformján az LMBTQ+ tartalomkészítőkkel kapcsolatos borzalmas múltja miatt továbbra is felmerül az aggodalom a gépi tanulási szoftver azon képessége miatt, hogy felismerje a nagyobb normákat. Don Heider, a Markkula Alkalmazott Etikai Központ ügyvezető igazgatója azt sugallja, hogy az ostobaság lehetősége túl nagy kockázatot jelent a szerencsejátékhoz.
„Nehéz elhinni, hogy a mesterséges intelligencia hatékonyan képes szabályozni a különböző kulturális normákkal és szabványokkal rendelkező országok tartalmait” – írta egy e-mailes interjújában. "A mesterséges intelligencia túl gyakran tekintik összetett kérdésekre adott válasznak. Ezen a ponton az AI és a létrehozásának módja még az egyszerű feladatokkal is nehezen tud megbirkózni, nem is beszélve a tartalom bármilyen bonyolultságú moderálásáról."
A YouTube a blogja szerint a mesterséges intelligencia technológia használata mellett döntött, mivel az emberi moderátorok nem követték el a következetes moderálást. A számítógépes szűrők használatának növelése az alkalmatlannak ítélt videók eltávolítására általánossá vált, és logikus következő lépésnek tekinthető, hogy a korhatáros politikához ugyanezeket az eljárásokat alkalmazza.
A gyermekfogyasztókhoz való viszonyával kapcsolatos régóta tartó bírálatok után a folyamatok fokozatos javítására törekvő vállalatként ez a döntés nem meglepő.
Nem hiszem, hogy megértették az átláthatóság szükségességét a szociális kérdések és az egyenlőség biztosítása terén.
A gyerekek a videómegosztó webhely kulcsfontosságú demográfiai csoportjává váltak. Augusztusban a Tubular digitális videóelemző cég megállapította, hogy a zenei videókon kívül a gyermekeknek szóló tartalom áll a legnézettebb videók hónap végi listájának élén a YouTube-on.
A vállalat érdeke, hogy megvédje ezt a jövedelmező, feltörekvő erőművet a platformon, logikus. Az e védelem érvényesítésére használt eszközök azonban továbbra is kellemetlenek azok számára, akik már a vállalat moderálási eljárásai után találták magukat.
"Aggódom, hogy sok kárt okoz, és nem védi meg azokat az [LMBTQ+] fiatalokat, akiknek informatív, őszinte és őszinte tartalomra van szükségük, amelyet sok [LMBTQ+] YouTube-felhasználó nyújthat, de megjelölik a rendszerében mint helytelen – mondta Ellis."Még ha nem is rosszindulatú, ami szerintem nem az, ez a különböző hangok hozzájárulásának hiánya – vagy legalábbis a tisztelet hiánya.
"Mindig ezt látjuk a technikában. Amikor az arcfelismerést nézi, amely nem képes megkülönböztetni a különböző fekete arcokat, vagy amikor az orvostudományt nézzük, és azt látjuk, hogy a gyógyszeres kezelést csak egy bizonyos nemen tesztelték. nagyobb beszélgetések, és a YouTube nem mentes ez alól."