Rob Lesi AI語音審核是有效的，但是人類審核仍然更好

2025年3月21日

　　大型遊戲創建平台“ Robu Lesi”使用機器學習AI技術來進行語音聊天評論工作一年。鑑於該平台擁有大量兒童用戶，因此該公司始終將審計工作視為重中之重。在最近舉行的GDC 2024遊戲開發人員會議上，語音安全負責人Rob Lese和Hannes Heikinheimo的高級技術總監Kiran Bhat透露，儘管AI審核取得了重大結果，但在某些情況下，手動審核仍然具有不可替代的優勢。

　　Bhat在演講中指出：“對語音的實時監控並不容易，因為它不僅需要識別語音內容，而且還需要捕獲說話者的語氣和強度，以便準確地確定段落是否是惡意的。”他進一步解釋說：“上下文信息也是判斷話語是否令人反感的關鍵因素，這使問題更加複雜。”

　　為了應對這些挑戰，該公司採用了將非法內容分為四個主要類別的策略，發現85％的非法內容屬於這些類別，並且可以通過50個關鍵字來捕獲“絕大多數”。 Bhat說：“如果可以涵蓋這些類別中的前50個關鍵字，那麼審核工作將實現。”

語音安全負責人Heikinheimo強調了AI監督的顯著成就：經過一年的運營，該系統覆蓋了31個國家和地區，並且在每個“主動聊天時間”期間報告的違法行為數量減少了一半。他提到，AI的顯著優勢之一是它在情感上是不健康的並且不會耗盡的，因此在處理“非常明顯的違規行為”時，機器比人類更有效和穩定。但是，他還承認，在理解意圖和做出判斷時，“人類仍然比機器更強大”。