Голосовой аудит Роб Леси Ай эффективен, но человеческий аудит все еще лучше
Крупномасштабная платформа для создания игр "Robu Lesi" использовала технологию AI Machine Learning для выполнения обзора голосового чата в течение года. Учитывая, что на платформе есть большая группа детских пользователей, компания всегда рассматривает аудиторскую работу в качестве главного приоритета. На конференции GDC 2024 Developer, состоявшейся недавно, Киран Бхат, старший технический директор Rob Less и Hannes Heikinheimo, руководитель голосовой безопасности, показал, что, несмотря на значительные результаты аудитов AI, в некоторых случаях в некоторых случаях все по -прежнему обладают незаменимыми преимуществами.
Бхат указал в своей речи: «Мониторинг голоса в реальном времени нелегко, потому что он не только требует определения голосового содержания, но и захвата тона и интенсивности динамика, чтобы точно определить, является ли отрывок злым». Далее он объяснил: «Контекстная информация также является ключевым фактором в оценке того, является ли дискурс оскорбительным, что усложняет проблему».
Чтобы решить эти проблемы, компания приняла стратегию деления незаконного контента на четыре основные категории и обнаружила, что 85% незаконного содержания принадлежит к этим категориям, и «подавляющее большинство» может быть получено через 50 ключевых слов. Бхат сказал: «Если 50 лучших ключевых слов в этих категориях могут быть рассмотрены, обзорная работа будет довольно на месте».
Гейкинхеймо, глава голосовой безопасности, подчеркнул замечательные достижения, достигнутые надзором искусственного интеллекта: после года работы система охватила 31 страну и регионы, а количество нарушений, зарегистрированных в каждом периоде «активного времени чата», было уменьшено вдвое. Он упомянул, что одним из заметных преимуществ ИИ является то, что он эмоционально нездоровый и не исчерпывает, поэтому машины более эффективны и стабильны, чем люди, когда они справляются с «очень очевидными нарушениями». Тем не менее, он также признает, что «люди все еще сильнее, чем машины» в понимании намерений и вынесения суждений.
Гейкинхеймо объяснил: «В решении ситуаций, которые могут быть близки к краю суждения, или в редких случаях, когда данные ограничены, а системы машинного обучения трудно полностью тренироваться, производительность человеческих аудиторов все еще лучше».
