Видео игрите имаат моќ да ги поврзат луѓето ширум светот во уживање и тимска работа, но тие исто така можат да создадат простор за токсичен говор и омраза. Компанијата Activision сака да ги сведе негативните работи на минимум и најави соработка со компанијата Modulate.
Компанијата Modulate користи технологија која го идентификува токсичниот и говорот на омраза, а Activision ќе ја користи за директно модерирање на гласовниот разговор во игрицата „Call of Duty: Modern Warfare III“.
Системот за вештачка интелигенција (ВИ) на Modulate, наречен ToxMod, ги идентификува заканите како говор на омраза, радикализација и самоповредување во реално време и работи во три чекори: тријажа, анализа и ескалација. ToxMod ги „слуша“ сите гласовни разговори и ги наоѓа оние што бараат детален преглед. Сите означени податоци се зачувуваат на серверите на Modulate, додека сите други податоци се обработуваат директно. После тоа, компанијата анализира сè, од тонот до емоцијата, односно не само она што е кажано, туку и начинот на кој е кажано и како другите играчи реагирале на тоа. На крајот, ги информира модераторите за најтоксичните инциденти и им остава на нив да преземат акција. Компанијата тврди дека тоа е „единственото решение за ублажување на гласовниот разговор“ кој моментално е достапен и дека има заштитено „десетици милиони играчи“.
Интеграцијата на ToxMod може да помогне целосно да се спречат токсичните одговори преку работа со постоечките системи фокусирани на текст и известување.
„Борбата со токсичниот гласовен разговор долго време е голем предизвик во светот на игриците. Во оваа соработка, ја донесуваме врвната технологија за машинско учење на Modulate што може да се примени на глобално ниво во реално време. Тоа е клучен чекор во создавањето и одржувањето на забавата, фер и пријатно искуство за сите гејмери“, изјави извршниот директор на Activision, Мајкл Венс.
ToxMod сега е достапен во англиска бета верзија во Северна Америка за „Call of Duty: Modern Warfare II“ и „Call of Duty: Warzone“, додека ќе биде достапен на глобално ниво, со исклучок на Азија, кога игрицата „Call of Duty: Modern Warfare III“ ќе пристигне на пазарот на 10 ноември.
