游戏AI“鉴劣师”智能内容审核方案

c0d3n4m

当今社会除了广泛应用于自动驾驶、智能对话、智能金融等领域外，人工智能技术在游戏和社交平台的内容审计领域也发挥着巨大的价值。游戏和社交网络平台的信息传播具有快速分散的特点，因此网络上的一些低俗内容更容易获得流量。但这一现象也在逐步地污染平台内容环境，因此是一个网络大环境问题。

近年来，随着游戏、直播和短视频的爆发，网络不良内容泛滥，国家对内容审计的要求越来越严格，监管政策不断收紧，要求主流的网络平台和游戏运营不断提高信息内容的识别和过滤能力。

面对网络数据的爆发，依靠人力完成审计无疑是一个疯狂的想法。通过对人工智能技术的研究，谛听安全实现了互联网内容审计领域的人工智能，为游戏、电子商务、直播、社区、新闻等第三方平台提供帮助。

1. 图像审核：

基于深度学习技术，准确过滤违规内容。

可用于社交应用图像审核，实时聊天敏感图像可高效过滤审核。

2. 视频和语音审核：

对视频文件或直播视频流进行图像和音频审核，可应用于视频直播。它将实时自动审核视频和直播的截帧图像，检测出社区用户的违规内容。

3. 文本审核：

基于自然语言理解、深度学习等技术，在游戏社交平台中检测弹幕、社区论坛信息等，一旦发现用户提交非法内容，将自动审核并实时拒绝通过。适用于不同分类的内容制作和分发平台，能准确识别文本内容并进行筛选，避免用户将违规内容上传至公开的聊天渠道与社交平台。

人工智能技术主要包括深度学习目标检测、图像分类、特征检索、语音识别、语言识别、OCR技术、NLP技术等，捕捉不同类型的违禁内容并处理。

举例地说，要确定图片是否违规，需要通过深度学习和大量数据库训练审核模型。该模型通过分析数据的特征来分类，最终给出数据结果。其中，要做好、做精内容审核，有以下两个难点。

难点一：审核的标准

判断标准是人为定义的，违规内容也分为多种，比如游戏拉人、暴力、粗俗等信息分类。根据不同的场景，不同的规定与舆论，审计标准可能发生变化，因此平台需要根据实际情况明确和细分。目前，对于绝大多数具有审核需求的企业来说，应该首先使用人工智能技术识别大多数非法内容，再加以人工审查和干预对剩余的少量（边缘球和模糊内容）进行判断，以实现双重保险。

难点二：大量的数据积累以及模型优化

由于人工智能的训练数据质量对算法调试的影响非常重要，需要高质量的数据支持高质量的算法模型。在确定违禁数据的定义后，需要收集大量样本数据进行样本模型调整和数据集再培训，使计算机具有更高的智慧，以此了解人类的情感、价值观、潜意识和联想能力，向减轻审计师的压力方向不断进化。

不难看出，这一过程将花费大量的时间和算力成本，并且需要一直进行。因此，人工智能审核的优化过程永远不会结束，只要市场上仍然有灰黑产领域的人试图以各种方式突破和对抗安全厂商的策略，AI的识别进化脚步就不会停止。

在企业进行抉择时，一个重要的标准将从上述两点得出：培训数据集积累和技术实现层级尤为重要。谛听安全依托自建数据库和丰富的数据采集和数据标注经验，对标记类型进行不同领域的精准定位，举例而言，游戏过滤词的屏蔽精准度可以达到98%，而自训练模型的召回率可到达96%以上的水准。

经过多年的沉淀，谛听安全涵盖了绝大多数主流标记工具，支持内容审核中的语义分割、拉框标记、关键点标记、NLP、文本分类、OCR转写等功能，以及舆情防控中的情感判断、词频归类和内容预警功能；提供定制性质的帮助。

除了人工智能内容审计领域外，谛听安全还在人工智能数据服务轨道上提供云通信等。未来也将继续在游戏的赛道上为人工智能的实施提供更高质量、场景化的数据支持。