Kako ToxMod planira popraviti toksični chat za igranje

Tvrtka sa sjedištem u Bostonu koristi strojno učenje kako bi stvorila ono što naplaćuje kao prvo u svijetu usluga glasovne moderacije koja može razlikovati ono što se govori i ono što je rečeno sredstva.

ToxMod je pokušaj rješavanja paradoksa moderiranja bilo kojeg otvorenog prostora na internetu; nema dovoljno ljudi koji bi mogli pratiti potražnju, ali algoritmi, filtri i sustav izvješća ne razumiju nijanse.

S ToxMod-ovom bazom podataka može pratiti čimbenike u govoru igrača kao što su emocije i glasnoća, što mu pomaže da razlikuje trenutni propust i obrazac ponašanja. Nedavno je najavljen kao dodatak igri američkog nogometa 7v7

Roštilj, trenutno u Steam Early Accessu.

„Svi znaju da su uznemiravanje, govor mržnje i toksičnost u glasovnom razgovoru i igranju golem problem. To se obično razumije", rekao je Carter Huffman, glavni tehnološki direktor i suosnivač Modulirati, na Google sastanku s Lifewireom. „Mogli bismo uzeti značajke koje smo izdvajali kroz ovu raznolikost sustava za strojno učenje i spojiti to u sustav koji je uzeo u obzir svo ovo stručno znanje koje smo učili od zajednica."

Svaka čast našim novim robotskim moderatorima

Modulate radi na ToxModu od prošle jeseni i uključio ga je kao jednu od tri osnovne usluge tvrtke. Također nudi VoiceWear, prerušavač glasa koji pokreće strojno učenje, i VoiceVibe, uslugu agregatora koja korisnicima omogućuje da saznaju o čemu raspravljaju ljudi u njihovim zajednicama.

Kada ToxMod radi u chatu, može se programirati putem administrativne ploče Modulate za poduzimanje raznih automatskih radnji, kao što je izdavanje upozorenja, isključivanje zvuka igrača ili individualno podešavanje glasnoće.

Koristi sustav trijaže gdje je njegova lokalna instanca prva koja poduzima akciju, prije nego što provjeri s poslužiteljima Modulate za potvrdu. Tada konačno eskalira do točke u kojoj bi moglo zahtijevati ljudsku intervenciju. Prolazeći redom kroz svaku provjeru, koju Modulate naziva "trijažnim vratima", ideja je da ToxMod daje malom timu moderatora alate pomoću kojih može učinkovito moderirati mnogo veći zajednica.

“Tužna istina je da su svi imali to iskustvo, pokušavajući koristiti glasovni chat na bilo kojoj platformi bili uključeni i otkrio da je to, dečko, bila loša ideja", rekao je izvršni direktor Modulate Mike Pappas u videopozivu s Lifewire. “Mogući ući i reći: ‘Ovo nije Divlji zapad. Postoje pravila.’ Mislim da je to jako važno."

Razbijanje sustava

Naravno, drugo ili treće pitanje o ToxModu je kako ga razbiti.

Uz mnoge automatske sustave moderiranja, kao što su algoritmi koji upravljaju Twitterom, lako ih je igrati protiv ljudi koji vam se ne sviđaju. Samo masovno prijavite svoju metu s nekoliko čarapa-lutaka i oni će pouzdano pojesti zabranu.

"Na osnovnoj razini, ToxMod se ne mora oslanjati na ta dodatna izvješća igrača", rekao je Pappas. „Još uvijek može proizvesti čvrste procjene na koje prekršaje moramo [obratiti] pozornost. Ne morate brinuti o igračima koji pokušavaju igrati sustav, jer zapravo nema ništa za igru.

"Sve nad čim imate kontrolu kao igrač je vaš vlastiti zvuk", nastavio je Pappas. "Najgora stvar koju možete učiniti je da budete manje loši od osobe kako vas ne bismo označili kao lošeg glumca, što je, rekao bih, nešto blizu uspjeha misije."

Općenito, dakle, ideja iza ToxModa je pokušaj aktivnog povrata. Mnogi su igrači u ovom trenutku doživjeli neki oblik uznemiravanja od strane nasumičnih stranaca u otvorenim glasovnim kanalima, u rasponu od nasumičnih uvreda do aktivnih prijetnji. Kao rezultat toga, igrači obično izbjegavaju glasovni chat općenito, radije se odričući njegove pogodnosti u zamjenu za vlastiti mir.

"Ono što očekujemo vidjeti [jesu loši glumci koji provode] puno manje vremena u glasovnom razgovoru prije nego što budu pronađeni i uklonjeni", rekao je Pappas. "To ima više od samo linearnog utjecaja. Kada svi vide glasovni chat kao sigurnije mjesto, više dobrih glumaca je spremno vratiti se glasovnom chatu i pokušati ga. Mislim da sve može krenuti u pozitivnom smjeru."