/01/

滚雪球一般的舆论暴力，无形而致命

1月24日00点02分，刘学州在微博发文：“生来即轻，还时亦净”，随后其家人称其在三亚海边轻生，虽被好心人发现并送至医院抢救，但最终还是离开了人世。严格来说，导致这一事件发生的原因除了现实生活中的种种悲惨遭遇之外，很大一部分还来自洪水猛兽一般的网络暴力，而这并不是第一例因网络暴力导致的轻生事件。

在电影《搜索》里，高圆圆饰演的角色叶蓝秋得知自己罹患癌症，沉浸在惊慌与恐惧中的她，因为没有给车上的老大爷让座，而被新闻媒体恶意放大，从而引发了一场针对叶蓝秋的网络大搜索，口诛笔伐她的“道德沦丧”，最终她也在公众谴责和病痛折磨的夹击中走上轻生的道路。这部电影在10年前上映时便引发了热议，也充分证明舆论暴力自古有之，而互联网的作用就是则将其聚焦化。

而在现实生活中，每个人应该都会结识那么一两个“喷子”，不过大多都能做到和谐相处、求同存异，为什么一旦归于网络世界就变得戾气十足呢？因为，“在互联网上，没人知道你是一条狗”。正因为你不认识我，我却知道你，这种信息不对称就会导致更易冲动，进而产生恶意骚扰、人身攻击、侮辱谩骂甚至诽谤造谣等行为，以较低的发布成本、较高的传播效率给受害者带来了较为负向的反馈体验。

目前，网络暴力传播的途径一般是评论与私信，以抖音为例，平台每天会产生8亿条评论，其中，被投诉、举报并最终处理的评论中，“谩骂，人身攻击”占比32.79%。所以，如果想要遏制这一现象，第一步就是要社交媒体平台主动站出来，加强管控措施。

/02/

让网暴“输在起跑线上”

抖音推出多项管控新功能

抖音其实在2017年就开启了私信管控功能，允许用户设置私信对象类型，比如只有互相关注的好友才能发送私信，很大程度上抑制了私信层面的网暴渠道，但也需要全面升级，不能头痛治头、脚痛治脚，需要有全局性的视野，从人到文、从前到后、从主动推送到被动关闭，方方面面的每一个角落，不给网络暴力以存在的空间，因为评论也同样是网络暴力的渠道之一。

所以在今年1月，抖音率先推出国内首个为用户提供各个场景预防网暴功能的服务，共有8大功能，从信息发布的多个角度来切入，首先管人，从平台根据系统模型主动管理发送者，到接收者自我管理。其次管文，从前期的评论发送警示，到中期的私信分层管理，再到后期平台小助手提供“心情关怀”，打通了预防网暴前中后的整个流程。

当然，说总比做简单，抖音的这些预防网暴新功能到底好不好用呢？咱们选取了其中几个功能来进行测试，本次测试的抖音app版本号为19.4.2。

第一，私信对象授权：不是谁都可以跟我聊

这就是抖音于2017年底开放的第一个防网暴功能，根据我们的测试来看，用户可以在“我的->设置->隐私设置->谁可以私信我”里找到，可设置所有人/互关朋友/关闭，这个设置基本上可以杜绝网暴信息的直接触达，是最基本的功能。如果你担心被陌生人私信滋扰，这个选项就应该至少保持在“互关朋友”上，这时候我用2个互相没有关注的账号发私信，都无法接收到对方的信息，起到了很好的保护作用。

第二，私信风险提醒：每天提示25万次

如果你没有设置第一项功能，而收到了陌生人或单方面关注你的账号发来的私信，而私信内容被系统模型认定为风险信息，抖音会通过弹出浮窗提醒你是否认识该账户，如果选择“不认识”，就会指引你拉黑，举报或移除粉丝。根据抖音官方数据，这项今年1月才上线还未满月的功能，已经可以每天对约25万次对话发出风险提示，引导用户自主管理社交对象，通过拉黑举报等手段保障自己的社交安全。

实际使用下来，这项功能很人性化，通过主动提示的方式，让普通用户在风险即将发生的时候收到警示，能够非常简单直接地进行处理。

第三，私信负向内容过滤：每天拦截9万条

事实上，抖音针对文本内容的系统模型已经很成熟，所以它可以主动地判断文本是否匹配谩骂或骚扰，一旦认定就会直接将私信拉到垃圾信息中。我们用2个相互为陌生人的个人账号进行了测试，文字中带有明显辱骂的内容就会被自动屏蔽。官方数据表明，这项同样今年1月份才上线的功能，会每天将超过9万条私信列入垃圾信息，让7万多用户避免与恶意信息直接接触，这个设计非常的不错。

第四，评论发文风险警示：每天减少3万条

相对于私信，评论的“威力”会更大一些，毕竟评论是完全公开的，大家都能看到，而且恶意评论更容易起到煽风点火的效果，所以针对评论发文也必须要有相应的管控措施。抖音的第一步操作是针对发文者，如果判断到发文内容存在风险，就会主动弹窗提示“确定要发送这条评论吗？”告知用户可能违反社区公约，建议重新编辑。

虽然发文者也可以无视提醒继续发送，但根据我们的测试来看，虽然在发文者客户端上可以看到评论正常出现，其他人并不能看见被密封在“真空”里的这条评论。而且每次填写恶意信息都会弹窗，写多少条就弹多少次，每次我们都选择“仍要发送”，而每次的最终结果都是无法被外部看见，这样的表现确实相当不错。

第五，评论权限设置：我的主场我说了算

不过，并不是所有的评论都属于直接谩骂，很多杀人诛心的话从文字角度来说也并不犀利，比如刘学州事件里就有人评论“穿着名牌鞋在三亚玩，却哭诉自己没地方住，很心机”。针对这种相对隐蔽的网络暴力，系统模型显然无法完全屏蔽，因此抖音也新增了评论权限设置功能，可以在“权限设置-高级设置-谁可以评论”中，设置具体某一条视频的评论权限，有“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项。

事实上转发和合拍也有权限设置，可选择“所有人”、“仅互关朋友”和“仅自己”，一定程度上遏制了针对本人账号的直接网暴行为。

第六，关怀助手“心情暖宝宝”:抒发压抑情绪的好去处

前面我们提到的几项技术都是从内容端来尝试掐断网络暴力的苗头，但对于那些已经受到伤害的用户来说，依然需要平台提供一个可疏导情绪的窗口，因此，抖音特意推出了“心情暖宝宝”小助手，目前会以三种形式触发对话，第一是抖音基于系统模型，比如根据你发布的内容、评论和私信命中你可能会遭遇情绪问题，这时候“心情暖宝宝”就会主动发起对话，第二是用户主动私信“心情暖宝宝”账号来发起对话，第三则是通过“我-我的客服-自助服务-情绪关怀助手”进入会话。

根据我们的测试结果来看，它的确可以减少推荐可能会让人产生负面情绪的内容，实用性还挺不错。

/03/

能力越大责任越大，惩治网暴仍有漫漫长路将行

作为网络暴力不时出现的互联平台，如何预防和惩治这种恶意行为，是包括抖音在内的社交媒体们不可推卸的义务。在国内首次系统性的推出预防网暴的8大功能，显示了抖音的全局观、价值观和科技力。从方式方法来看，有平台根据系统模型主动识别，进行警示或者关怀，也有用户根据自身需要，对与其交流的“人”与“文”进行自主管理，体现了平台的支持，又给予了用户自主权与自主能力。

作为一个线上平台，抖音在预防网络暴力这方面可以说是既展现了科技实力，又充满了责任心，在相信在未来还会投入更大的力度。

当然，网络暴力绝不会因此而绝迹，因为抖音这8大功能大多是针对用户与用户之间的交流来进行干预，施暴者依然可以不直接评论或私信，而是通过发布内容，结合话题炒作的方式来引发群体效应，同样可以对作为第三方的受害人造成伤害，这就需要平台升级更多的能力覆盖更多的场景去及时处理。

每年都有很多网络暴力引发的悲剧，从公众人物到平民百姓，每个人都可能成为网络暴力的靶子。贾静雯主演的国产热播剧《我们与恶的距离》就毫不留情地呈现了网络暴力的残忍，剧中男大学生李晓明在戏院持械行凶被逮捕后，媒体揪着话题不放，把犯罪和教育问题联系聚焦到了他的父母身上。李晓明的母亲含着泪水跪下喊道：“没有一个爸爸妈妈，要花二十年去养一个杀人犯呀！”为了避免网络暴力和舆论，他们卖掉房子，关掉手机，衣衫褴褛，在街头巷尾上过着乞丐般的生活，这已经超出了两个老人应该承受的压力。

大多数时候，网络暴力的一方不曾想到会舆论失控会导致严重后果，另一方则因为对“网络审判”束手无策直至绝望，双方都缺乏法律意识，不懂得用法律武器保护自身权益，所以普法对于网络暴力事件来说是最好的“治本”方案。社交平台的努力方向则主要是从源头上遏制网络暴力的发生。所以，当我们看到抖音做出多项调整时，心里还是倍感欣慰的，愿网络的阴暗角落也有阳光普照吧。