Rob Lesi Ai A auditoria de voz é eficaz, mas a auditoria humana ainda é melhor
A plataforma de criação de jogos em larga escala "Robu Lesi" usou a tecnologia de IA de aprendizado de máquina para realizar o trabalho de revisão de bate-papo por voz por um ano. Dado que a plataforma possui um grande grupo de usuários infantis, a empresa sempre considera o trabalho de auditoria como uma das principais prioridades. Na Conferência de Desenvolvedores de Jogo GDC 2024, realizada recentemente, Kiran Bhat, diretor técnico sênior da Rob Less e Hannes Heikinheimo, chefe de segurança de voz, revelou que, apesar dos resultados significativos de auditorias de IA, as auditorias manuais ainda têm vantagens insubstituíveis em alguns casos.
Bhat apontou em seu discurso: "O monitoramento em tempo real da voz não é fácil, porque não apenas exige identificar o conteúdo da voz, mas também capturar o tom e a intensidade do falante, de modo a determinar com precisão se uma passagem é maliciosa". Ele explicou ainda: "As informações de contexto também são um fator -chave para julgar se um discurso é ofensivo, o que torna o problema mais complicado".
Para enfrentar esses desafios, a Companhia adotou uma estratégia de dividir o conteúdo ilegal em quatro categorias principais e descobriu que 85% do conteúdo ilegal pertence a essas categorias, e a "maioria esmagadora" pode ser capturada através de 50 palavras -chave. Bhat disse: "Se as 50 principais palavras -chave nessas categorias puderem ser abordadas, o trabalho de revisão será bastante em vigor".
Heikinheimo, o chefe de segurança de voz, enfatizou as notáveis conquistas feitas pela supervisão da IA: após um ano de operação, o sistema cobriu 31 países e regiões e o número de violações relatadas em cada período de "tempo de bate -papo ativo" foi reduzido pela metade. Ele mencionou que uma das vantagens notáveis da IA é que ela é emocionalmente prejudicial e não esgota, portanto, as máquinas são mais eficientes e estáveis que os seres humanos ao lidar com "violações muito óbvias". No entanto, ele também admite que "os humanos ainda são mais fortes que as máquinas" na compreensão das intenções e nos julgamentos.
Heikinheimo explicou: "Ao lidar com situações que podem estar próximas à beira do julgamento, ou em casos raros em que os dados são escassos e os sistemas de aprendizado de máquina são difíceis de treinar completamente, o desempenho dos auditores humanos ainda é melhor".
