网易精品产品背后的故事：内容运营的三层级

让优质内容自涌现，让劣质内容纳入规则，借助人工智能过滤有害信息。 这个是一张来自于杭州一号线地铁的一张场景图。坐地铁是一个很漫长的过程，有时候会让人习惯性的脑袋放空。但是3月20号，当大家走进地铁的时候，很多人都会停下脚步认真的看地铁上的每一条内容。瞬间掀起了一阵“网易红”。  

  网易云音乐选择了一些网友评论，把它们展示在杭州的地铁上，这件事引起了朋友圈的转发，也许很多人会觉得这是一个营销策划活动，但其实是网易云音乐的内容运营多年的积累和沉淀。在这个列车上真正感动到大家的是那些温暖的文字，并且引起了共同情感，这才是内容运营的核心所在。   产品运营和内容运营有一个很强的关系，我们都渴望用户产生一些优质的内容，但是当用户产生优质的内容的时候，首先是要能够真正打动用户内心的情感，若用户愿意跟你互动，那产生的内容就能够让产品另外一端每位用户的心和情感紧紧的联系在一起。   所以，很多人会觉得网易的产品做的很好，为什么？就是因为把用户的心紧紧的联系到了一起。因为往往越真诚越打动人心的东西，才能让更多人有共鸣。   内容运营到底要做什么？应该怎样去做？网易把内容进行了层级划分，分为白、灰、黑三层。   白：如何让优质内容自涌现？   优质内容是什么？怎样挖掘？   最真诚，最真情流露的东西往往最能打动别人。   过节的时候父母给你发了一条短信：“天冷了，添衣，别感冒了，注意身体。最近工作很忙，要记得休息。”   就是这样一些纯朴的内容会出打动我们的内心，优质的内容是健康的、真诚的、理性的、友善的。这里要强调一下理性，大家会发现网易云音乐的评论中可能有一些内容明明是在表达一个对的歌手的想法，但是一些粉丝会觉得你不能说我偶像不好，然后就产生了一些开撕的内容，如果这样的话，其他用户点进去还会有温暖的感觉产生吗？所以并不是说产生热点的东西就一定是好的，产生热点的东西必须要有理性存在，必须非常健康、真诚、理性、友善。  

  网易跟贴起源于2003年，这个产品的时间已经非常久了。   网易跟贴非常重视生态建设，会把一些信息做筛选和过滤，在这个过程中用户会有很多的职称：跟贴局长、跟贴副局长、临时工等等。用户非常想显示自己的官位，这就是用户对优质资源的肯定，同时也会有一个很强的参与感，并且是被认可的。当然内容输出也是生态建设的一部分。   其实有很多的新鲜热词是来自于网易的，比如说蓝翔等等。用户觉得好玩，运营就会加入一些玩法，比如说用户的成长体系、诗词接龙等等来丰富。这样很多用户打开网易跟贴的时候，会觉得很有意思，比如说二楼定律，这样的文化养成了之后，用户自然而然会觉得好玩并且会看跟贴，甚至有一种理念出来：跟贴永远比新闻更有代表性，更有真相。所以用户慢慢觉得跟贴评论是必看的点，比看新闻滞留的时间还要长。  

  网易云音乐真正温暖的是那些文字。对于用户来说，是什么样的一种魔力让他们愿意输入那些文字，把自己的情感放在网易云音乐上？从运营的角度来说，大家都知道网易云音乐有歌单、动态、专栏等等，用户会觉得网易云音乐的推荐做的非常好，如果用户听的歌都是自己喜欢的，慢慢的就会愿意做一些互动。因为很多人听歌的时候会看歌词，甚至会把一些触动人心的歌词发到朋友圈，这样的感触下便已经产生共鸣，会受别人的情绪影响产生出自己的情感，慢慢的就会有自己的互动，而自己的情感同样也会影响别人，而别人的故事又会成为另外一段传说。   另外网易音乐云还做了优质内容的整合和转化，把每周热门优质的评论做一个合集推送给用户，让用户不断的在网易云音乐里面获得温暖。大家听音乐的起因不同，有的是心情不太好，或者是下班的时候，或者是运动的时候，所以云音乐要做的就是给大家非常好的场所，你留过的评论定将会给另外一些用户带来温暖。   灰：如何让劣质内容纳入规则？   当产品做到一定体量的时候，会吸引很多劣质的内容，包括在评论中互撕的情况，它会充斥着整个产品。很多产品在板块设置的时候都有“热门”和“最新”两部分，如何保证用户在打开产品的时候，看到的内容不能说多优质，但至少不能是劣质的？   对于运营来说，要保证用户打开产品的时候，所看到的内容是能够带来温暖、有力量的、直击内心的。所以运营要做的就是要让优质的内容涌现出来，剔出劣质的内容。   有的用户可能不是故意里捣乱的，但他发的内容，对于整个产品的氛围来说，并不能引起用户的共鸣。对于这样的内容就要做引导、筛选，告诉用户什么样的内容是我们喜欢，什么样的内容是我们不喜欢的，要让用户跟我们一起把这个产品做好。  

  网易云音乐有个评论区规则，在手机上搜索“云村派出所”，在办事大厅里会明确的告诉大家，哪些评论是网易云音乐喜欢的，哪些是不允许的，这么做就是要让用户知道云音乐需要什么样的评论，希望用户理性的抒发情感。   同时还要对内容进行定义，哪些是劣质的，哪些是优质的，否则用户会拿捏不准这个平台的基调是什么，标准是什么。所以运营需要对自己的产品基调非常的清楚。  

  上图中，是摘取了“云村派出所”的几个规则。   对于一个热门评论会进行优化，即使上了热门，但如果非优质内容的话，虽然不删除掉，但还是会做定期筛选。   对于重复评论和灌水，网易云音乐会进行清理，就是细化到这么一个程度。   谁都害怕垃圾虫随时轰占你的产品。所以你一定要保护自己的用户，不能说垃圾虫就不去管，易信晒一晒主题活动，如果有些主题用户刚发出来就把它删除掉，那么之后用户就很难再发这种类型的主题。所以我们需要有这样的部落、这样的情怀。如果说帖子和主题不符合，那么也会相应的做一些处理，同时也会有一些准则告诉用户，哪些信息受欢的，哪些是不受欢迎的。 黑：如何通过人工智能过滤有害信息？   黑是违反国家法律法规的信息，为什么要细分这些内容？当要对用户数据进行处理的时候，怎样处理和用户之间的关系，这个是运营要思考的问题。  

  上图为2016年网易清理的300多亿的垃圾信息，这么庞大的数字对运营来说应该如何处理？   网易在做这个事的时候，从宪法到司法解释，参考了很多的法律法规，对这样一个体量的信息做了梳理，不然用户会带着不好情绪问凭什么删我的东西？所以网易对于每一个垃圾分类都是有法可依。   有害信息分类的体系是什么样的?  

  三个层面，国家安全、社会安全、民生安全。   国家安全是高压线，每一个专项都有专人跟进，因为不同逻辑信息的表现是不一样的。   社会安全需要重点说一下。网易的产品还有电商比如考拉海购等，不同的产品的做法是不一样的，比如像色情中小说类的展现和社交类的，然而社交类做直播的又不一样。违禁是根据国家的法律法规区分一些禁止销售的产品。网易会对这些有害的信息进行一个梳理，针对不同的模块对症下药。   有害信息的七十二变  

  为了保证用户第一时间看到的不是有害信息，我们会对这些信息做一个辨令，比如说QQ群的近音字“QQ勤”。我们会去做一些辨别，对这些内容做一个梳理。有人说这种情况做一个关键词就好了，关键词的问题在于简单粗暴，会存在正常语境的情况，比如 “***” →“24***换机”？所以这时候如果用很直接的方式的话，用户的体验是非常糟糕的。所以我们会把中国的汉字进行深入研究，包括中文语法的研究、汉字的研究，目的就是为了抗干扰。  

  但最终整套安全是要走向体系化和智能化（注册保护、登录保护、活动反作弊、反垃圾等）。很多运营刚开始的时候会提倡注册量，之后看到很多疑似垃圾注册的数据，具体表现为随机产生的无意义字符串，但是当这些账号没有产生交互行为，处理时的依据在哪里？处理后面对用户来申诉你的理由是什么？因此我们需要借助成熟的人机识别技术进行甄别，从科学的角度识别机器人与自然人。此外，在法律依据上，这是一种属于破坏计算机系统的行为（具体参阅中华人民共和国刑法286条）。有了科学依据、法律依据后，我们便有依可据了了。同样，我们还有登陆保护，一环扣一环。注册保护、登录保护、反作弊都是基于人机识别，而反垃圾就是从内容的维度进行保护。试想，黑灰产想要低成本提高利润只能借助非法工具，其最终的目的是商业利益（内容上表现为恶意推广），因此多一重保护，就是增加黑灰产的成本。   同样，在各个业务场景里面都会遇到这些有害信息。我们最害怕的是如果突然失控之后，原来所设想的情怀也好，温暖人心的东西也好，都将不复存在。当用户看到满是垃圾的产品，还怎么再跟他说情怀？所以我们要吧一些有害的信息过滤掉，让用户看到一些优质的、真实的内容。   网易内容运营涉及到的核心技术  

  很多人说IP可以换，帐号也可以换，但是最重要的设备呢？做到唯一性很难，但是网易做到了，只有在设备唯一性的前提下，所有的策略才能保障准确性。与此同时，借助人工智能，大数据分析的一些技术手段，我们能智能防御多种安全风险。举个例子：图像鉴黄，面临的挑战是快与准。即整个检测过程在百毫秒内完成，不影响线上的用户体验，同时是准备识别，极大的降低了有害信息的曝光率。能做到并不容易，但是在内容运营中优质内容第一，用户体验第一，我们必须要做到。   垃圾特征库，哪些信息是需要运营去做的，哪些信息要快速的过滤掉，如果对人工智能算法了解的话，就会知道深入学习需要一个周期，如果有特征的话，就可以时时做处理，甚至添加一条策略规则就可以时时上线，缓解线上的一些问题。最理想的情况是在用户发表的毫秒级别内，机器自动识别。假设出现了一个不好的信息，你有没有应急的处理能力，你的运营是否可以快速定位找到这个信息，然后把这个信息给扼杀掉。对于网易来说，已经有成熟的技术团队和安全的经验的积累，我们为什么我们愿意把这个评论规则公开，就是因为我们有这样的技术实力和经验的积累。   让优质内容自涌现，让劣质内容纳入规则，借助人工智能过滤有害信息。用心做产品，用心做运营，用户会感受得到。 作者：鲁珈璐 来源：运营直升机（ID：yunyingzhishengji）