网易精品产品背后的故事：内容运营的三层级(2)

易信晒一晒主题活动，如果有些主题用户刚发出来就把它删除掉，那么之后用户就很难再发这种类型的主题。所以我们需要有这样的部落、这样的情怀。如果说帖子和主题不符合，那么也会相应的做一些处理，同时也会有一些准则告诉用户，哪些信息受欢的，哪些是不受欢迎的。

黑：如何通过人工智能过滤有害信息?

黑是违反国家法律法规的信息，为什么要细分这些内容?当要对用户数据进行处理的时候，怎样处理和用户之间的关系，这个是运营要思考的问题。

上图为 2016 年网易清理的 300 多亿的垃圾信息，这么庞大的数字对运营来说应该如何处理?

网易在做这个事的时候，从宪法到司法解释，参考了很多的法律法规，对这样一个体量的信息做了梳理，不然用户会带着不好情绪问凭什么删我的东西?所以网易对于每一个垃圾分类都是有法可依。

有害信息分类的体系是什么样的?

三个层面，国家安全、社会安全、民生安全。

国家安全是高压线，每一个专项都有专人跟进，因为不同逻辑信息的表现是不一样的。

社会安全需要重点说一下。网易的产品还有电商比如考拉海购等，不同的产品的做法是不一样的，比如像色情中小说类的展现和社交类的，然而社交类做直播的又不一样。违禁是根据国家的法律法规区分一些禁止销售的产品。网易会对这些有害的信息进行一个梳理，针对不同的模块对症下药。

有害信息的七十二变

为了保证用户第一时间看到的不是有害信息，我们会对这些信息做一个辨令，比如说QQ群的近音字“QQ勤”。我们会去做一些辨别，对这些内容做一个梳理。有人说这种情况做一个关键词就好了，关键词的问题在于简单粗暴，会存在正常语境的情况，比如 “口交” →“ 24 口交换机”?所以这时候如果用很直接的方式的话，用户的体验是非常糟糕的。所以我们会把中国的汉字进行深入研究，包括中文语法的研究、汉字的研究，目的就是为了抗干扰。

但最终整套安全是要走向体系化和智能化(注册保护、登录保护、活动反作弊、反垃圾等)。很多运营刚开始的时候会提倡注册量，之后看到很多疑似垃圾注册的数据，具体表现为随机产生的无意义字符串，但是当这些账号没有产生交互行为，处理时的依据在哪里?处理后面对用户来申诉你的理由是什么?因此我们需要借助成熟的人机识别技术进行甄别，从科学的角度识别机器人与自然人。此外，在法律依据上，这是一种属于破坏计算机系统的行为(具体参阅中华人民共和国刑法 286 条)。有了科学依据、法律依据后，我们便有依可据了了。同样，我们还有登陆保护，一环扣一环。注册保护、登录保护、反作弊都是基于人机识别，而反垃圾就是从内容的维度进行保护。试想，黑灰产想要低成本提高利润只能借助非法工具，其最终的目的是商业利益(内容上表现为恶意推广)，因此多一重保护，就是增加黑灰产的成本。

同样，在各个业务场景里面都会遇到这些有害信息。我们最害怕的是如果突然失控之后，原来所设想的情怀也好，温暖人心的东西也好，都将不复存在。当用户看到满是垃圾的产品，还怎么再跟他说情怀?所以我们要吧一些有害的信息过滤掉，让用户看到一些优质的、真实的内容。

网易内容运营涉及到的核心技术

很多人说IP可以换，帐号也可以换，但是最重要的设备呢?做到唯一性很难，但是网易做到了，只有在设备唯一性的前提下，所有的策略才能保障准确性。与此同时，借助人工智能，大数据分析的一些技术手段，我们能智能防御多种安全风险。举个例子：图像鉴黄，面临的挑战是快与准。即整个检测过程在百毫秒内完成，不影响线上的用户体验，同时是准备识别，极大的降低了有害信息的曝光率。能做到并不容易，但是在内容运营中优质内容第一，用户体验第一，我们必须要做到。

垃圾特征库，哪些信息是需要运营去做的，哪些信息要快速的过滤掉，如果对人工智能算法了解的话，就会知道深入学习需要一个周期，如果有特征的话，就可以时时做处理，甚至添加一条策略规则就可以时时上线，缓解线上的一些问题。最理想的情况是在用户发表的毫秒级别内，机器自动识别。假设出现了一个不好的信息，你有没有应急的处理能力，你的运营是否可以快速定位找到这个信息，然后把这个信息给扼杀掉。对于网易来说，已经有成熟的技术团队和安全的经验的积累，我们为什么我们愿意把这个评论规则公开，就是因为我们有这样的技术实力和经验的积累。

让优质内容自涌现，让劣质内容纳入规则，借助人工智能过滤有害信息。用心做产品，用心做运营，用户会感受得到。

以上内容来源网易鲁珈璐的分享内容。

本文由 @运营直升机 整理发布于人人都是产品经理。未经许可，禁止转载。

（编辑：ASP站长网）