Activision ha implementado un novedoso sistema de moderación en tiempo real para el chat de voz de sus juegos de Call of Duty. Este sistema examina los audios para detectar comentarios ofensivos, abusivos, de acoso e intimidación, entre otros comportamientos que van contra el código de conducta. El propósito es proteger a los jugadores mediante la identificación proactiva de conductas tóxicas, permitiéndoles disfrutar del juego sin preocupaciones.
El sistema conocido como ToxMod emplea un avanzado algoritmo de inteligencia artificial (IA) para monitorear las conversaciones en los chats de voz durante las partidas multijugador. A través de la tecnología de reconocimiento de voz, ToxMod detecta palabras clave comúnmente asociadas con interacciones inapropiadas en este contexto.
El sistema procede primero a aislar la sección señalada y luego realiza un análisis completo de la grabación para determinar el comportamiento del usuario. El desarrollador puede aplicar sanciones en función de la gravedad, una clasificación aún en desarrollo, para aquellos que empleen lo que la compañía considera lenguaje tóxico.
El sistema de moderación utilizará IA para monitorear los chats de voz.
La adopción de ToxMod implica que las conversaciones online quedan registradas, al menos para el propósito de la herramienta. Según Activision, no es posible desactivar esta función a menos que se deshabilite por completo el chat de voz.
El estudio subraya que aún se permite el humor y las bromas amigables, siempre y cuando no violen las normativas vigentes. Activision informa que la moderación en tiempo real del chat de voz está en fase beta en los juegos Call of Duty: Modern Warfare II y Call of Duty: Warzone.
La herramienta estará totalmente operativa a partir de noviembre, coincidiendo con el lanzamiento de Call of Duty: Modern Warfare III. Inicialmente, se analizará únicamente el inglés, y no se han proporcionado detalles sobre la incorporación de otros idiomas en un futuro cercano. Call of Duty: Modern Warfare III estará disponible a partir del 10 de noviembre de 2023 para PlayStation 4, PlayStation 5, Xbox One, Xbox Series X|S y PC.
Fuente: Activision
