在儿童友好型的大型游戏创作平台《罗布乐思》中，确保安全健康的社交环境至关重要。据悉，该平台已运用先进的机器学习AI技术，对语音聊天进行审核长达一年，以保护广大儿童用户。公司始终将严格的审核工作视为守护孩子成长的防线，确保每位玩家都能在纯净的游戏氛围中享受乐趣。
Bhat在演讲中指出：“实时监控语音并非易事，因为这不仅需要识别语音内容，还需捕捉说话者的语气和强度，从而准确判断某段话是否带有恶意。”他进一步解释道，“上下文信息同样是判断话语是否冒犯的关键因素，这使得问题变得更为复杂。”
为应对这些挑战，公司采用了将违规内容划分为4个主要类别的策略，并发现85%的违规内容均属于这些类别，且“绝大多数”可通过50个关键词进行捕捉。Bhat表示：“若能涵盖这些类别的前50个关键词，审核工作便已相当到位。”
语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果：经过一年的运行，该系统已覆盖31个国家和地区，且每段“活跃聊天时间”的违规举报数量减少了一半。他提到，AI的一个显著优势在于其无情感且不会疲惫，因此在处理“非常明显的违规情况”时，机器比人类更为高效和稳定。然而，他也承认，在理解意图和进行判断方面，“人类仍强于机器”。
Heikinheimo解释道：“在处理那些可能接近判定边缘的情况，或在数据稀缺、机器学习系统难以充分训练的罕见情况下，人类审核员的表现仍更为出色。”
