Rob Lesi AI Voice Auditing ist effektiv, aber das menschliche Audit ist immer noch besser
Die groß angelegte Plattform für die Erstellung von Spielen "Robu Lesi" hat die KI-Technologie für maschinelles Lernen eingesetzt, um ein Jahr lang Sprach-Chat-Bewertungen durchzuführen. Angesichts der Tatsache, dass die Plattform über eine große Gruppe von Kindern von Kindern verfügt, betrachtet das Unternehmen die Prüfungsarbeit immer als oberste Priorität. Auf der kürzlich abgehaltenen GDC 2024 Game Developer Conference hat Kiran Bhat, Senior Technical Director von Rob Less und Hannes Heikinheimo, Leiter der Sprachsicherheit, enthüllt, dass die manuellen Audits trotz der wesentlichen Ergebnisse von AI -Audits immer noch unersetzliche Vorteile in einigen Fällen haben.
Bhat wies in seiner Rede darauf hin: "Die Echtzeitüberwachung der Stimme ist nicht einfach, da nicht nur der Sprachinhalt identifiziert werden muss, sondern auch den Ton und die Intensität des Lautsprechers erfasst, um genau zu bestimmen, ob eine Passage böswillig ist." Er erklärte weiter: "Kontextinformationen sind auch ein Schlüsselfaktor für die Beurteilung, ob ein Diskurs beleidigend ist, was das Problem komplizierter macht."
Um diese Herausforderungen zu bewältigen, verfolgte das Unternehmen eine Strategie, illegale Inhalte in vier Hauptkategorien aufzuteilen, und stellte fest, dass 85% der illegalen Inhalte zu diesen Kategorien gehören und die "überwältigende Mehrheit" über 50 Schlüsselwörter erfasst werden kann. Bhat sagte: "Wenn die 50 Top -Schlüsselwörter in diesen Kategorien behandelt werden können, wird die Überprüfungsarbeiten recht vorhanden sein."
Heikinheimo, der Chef der Sprachsicherheit, betonte die bemerkenswerten Erfolge, die durch KI -Aufsicht erzielt wurden: Nach einem Jahr des Betriebs hat das System 31 Länder und Regionen und die Anzahl der in jeder "aktiven Chat -Zeit" gemeldeten Verstößen um die Hälfte reduziert. Er erwähnte, dass einer der bemerkenswerten Vorteile von KI darin besteht, dass es emotional ungesund ist und nicht erschöpft, sodass Maschinen effizienter und stabiler sind als Menschen, wenn sie mit "sehr offensichtlichen Verstößen" zu tun haben. Er gibt jedoch auch zu, dass „Menschen immer noch stärker sind als Maschinen“, um Absichten zu verstehen und Urteile zu fällen.
Heikinheimo erklärte: "Im Umgang mit Situationen, die möglicherweise nahe am Rande des Urteils liegen, oder in seltenen Fällen, in denen Daten knapp sind und maschinelle Lernsysteme schwierig zu trainieren sind, ist die Leistung menschlicher Prüfer immer noch besser."
