淘丁内容审核｜敏感词“一刀切”太武断，网文平台审核之痛何解

关键词审核误判造成的文章莫名其妙被屏蔽被锁，不仅影响读者的阅读体验，也让很多作者感到无所适从，严重影响他们的创作热情，这并不利于网文行业的健康长远发展。

而对于一些真正违规的内容来说，这些敏感词可以用同音字代替，标点符号隔开，特殊符号、表情替换，违规字体拆开等方式出现，成为漏网之鱼，审核也就失去了原本应有的作用。

网文平台不得不面对一个事实，那就是，即使是在初级的“涉黄”内容审核上，关键词审核在很大程度上都已经失效，无法真正达到理想的效果，更不用说及时跟上审查步伐，满足更加复杂的内容安全审核要求了，而后者，恰恰才是最让网文平台头疼的审核难题。

02

网文监管日趋严格，亟需多维度精准审核

随着中国网文市场的飞速发展，大批网络文学网站也如雨后春笋般涌现，越来越多的人进入网文创作队伍，虽然呈现百花齐放的新局面，但同时也出现了良莠不齐的现象。为了刻意博眼球、赚流量，有些网文不断突破下限，除了内容低俗、传播淫秽色情信息外，甚至出现导向偏差，比如存在违背伦理道德、崇尚恐怖暴力、宣传封建迷信等问题，甚至还出现国家观、历史观、民族观、边疆观、文化观、史学观等错误。这些内容势必误导和侵蚀青少年三观，也损害中国的国际形象。

因此，对网络文学市场的监管势在必行。近年来，国家接连出台多项监管法规，对网络文学市场进行纠偏，进一步明确网文平台的审核责任，引导网络文学向现实题材、向主旋律、向正能量、向“以人民为中心”创作转向。

例如，2014年12月，广电总局出台《关于推动网络文学健康发展的指导意见》，要求“网络文学践行社会主义核心价值观，弘扬真善美，传播正能量”。

2017年6月，广电总局出台《网络文学出版服务单位社会效益评估试行办法》,规定涉黄、扭曲历史、涉政、涉黑和调侃佛教人物的政治错误的网文将被完全禁止。此外，网络文学出版服务单位发表作品出现严重政治差错、社会影响恶劣，在平台首页或重点栏目推介导向有严重问题的作品，违反政治纪律和政治规矩等重大问题，社会效益评估实行“一票否决”，评估结果为不合格。

2020年6月，国家新闻出版署印发《关于进一步加强网络文学出版管理的通知》，要求网络文学出版单位要严格落实平台主体责任，建立健全网络文学内容审核机制，强化内容把关职责，确保内容导向正确、格调健康向上。

当前，网文审核需要解决的早已不仅仅是内容色情、低俗、暴力等问题，还有价值导向等问题，这是功能单一的关键词审核机制所无法应对的。国家每次发布新的监管政策，对网文平台的存量管理和增量审核工作都是极大的挑战，网文行业亟需审核新机制，实现多维度精准审核。

03

淘丁集团人工审核+AI审核为内容风控提供保障

淘丁内容安全业务自2018年4月开始，服务于互联网平台线上产品安全审核工作，对各类违法、色情、涉政等不良违禁信息实行7*24小时即时审核，对有害信息进行人工甄别，确保产品绝对安全。

淘丁数据标注团队现有人员规模近500人，业务分部在西安、宝鸡、渭南、临汾、太原等地。淘丁与国内大型企业深入合作，日常处理项目量级均为百万级以上，部分数据量级超过千万，拥有稳定充足的业务来源。各类标注项目经验丰富，可为人员提供标准化、体系化的培训。

淘丁集团专注于互联网内容安全和数据标注业务领域，拥有千人专业团队，经验丰富，准确率高，服务类别多，团队体系成熟，能快速响应大量业务需求。返回搜狐，查看更多