出品｜达摩财经

钟睒睒这次亮相的地点是在江西赣州信丰，这是赣南脐橙的核心产区，也是著名的“老苏区”。早在20年前，钟睒睒就带领农夫山泉进入当地种脐橙、设工厂，中间走过弯路但始终没有放弃，不考虑成本的投入对帮助当地农民共同富裕起到了重要作用。

截至2023年末，农夫山泉已经与信丰当地合作果园超20万亩，与约4000个果园建立了合作，改善约4万名农民家庭的收入，上下游惠及约10万人口。钟睒睒表示：“农夫山泉不是一家卖水的企业，而是一家农业企业”、“我这样的企业家就应该解决产业问题”。扶持产业，与农民同频共振，同时帮助提升国家的竞争力，这是农夫山泉对“共同富裕”的理解和实践。

但就是这位充满社会责任感的知名企业家，今年初意外遭受了一场铺天盖地的网暴。

在被传播了无数遍的图文信息和短视频里，有人说农夫山泉产品包装上的山麓图片是富士山，有人说它红色的瓶盖是日本国旗，甚至有人把钟睒睒的照片PS上小胡子说是日本人。尽管这些网络言论一眼看上去就立不住脚，但丝毫没有阻碍它们在虚拟空间汇聚成汹涌恶意，吞噬掉了所有理性和真相。

一轮又一轮的口诛笔伐里，农夫山泉的包装饮用水在半年内营收大挫18%，公司市值在持续被网暴近半年后蒸发了2100亿港元，钟睒睒95岁的母亲在网络恶意最浓的时候愤懑离世，直到现在，在网络平台上搜索“钟睒睒+日本”，排名靠前的搜索结果里依然有“钟睒睒不像中国人”、“钟睒睒日本人还是中国人”这样的信息。

11月20日，钟睒睒在赣州信丰农夫山泉脐橙工厂发表演讲，被问到离世的母亲时潸然泪下。他对网络谣言和网暴进行了深度思考后得出结论，那些“有组织地引流、限流，没有原则、随心所欲地删稿，对流量及其谣言以金钱奖励与激励，把网络变成技术、算法，变成了玩弄民众智商的游戏”的网络平台， 才是最大的责任者。

“天天骂我的普通人也是受害者，真正制造恶意的是那些掌握技术和资源的人。”钟睒睒将矛头直指平台，正是网络平台的算法在鼓励情绪对立，从中源源不断获得流量和商业利益。

网络平台究竟应不应该对网络暴力承担责任？过去，科技巨头往往用“避风港原则”来规避自己的责任，将责任推脱给具体的“博主”、“主播”、“自媒体”，认为他们是各个平台上一切仇恨与谎言的源头。

但赫拉利恰恰对此做了深度研究，认为这都是科技巨头的谎言。他在新书里指出，科技巨头的算法发现，只要激起人们的怒火就能提升参与度。通过推荐惊骇的阴谋论，同时无视理性的内容，美国的“脸书”、“油管”等网络平台吸引了越来越多的流量。那些想博人眼球的主播发现，发布满是谎言、让人愤慨的视频就会受到算法青睐，视频就会被推荐给观众、自己就会人气飙升获得收益，网络喷子就这样被算法“训练”出来。

值得注意的是，传统的信息传播渠道中，还会有专门的工种去验证、审核信息的真实程度，以及价值导向是否正确，但当算法成了信息的最终把关人和分发者后，真实、导向和责任感似乎成了最不重要的衡量指标。“社交媒体算法只把人看成矿井，想要开采更多的注意力。人类有丰富的情感，如爱、恨、愤慨、喜悦、困惑，但算法把一切简化成一件事——参与度。”赫拉利发现。

这一切都是为了商业利益。“脸书”在2019年的内部文件中就承认“仇恨言论以及分裂性言论与错误信息，正在影响世界各地的社会……我们的核心产品机制，如病毒式传播、推荐与提升用户黏性，正是此类言论在脸书平台盛行的重要原因。”、“这种事之所以发生，是因为我们出于商业目的而刻意推动的。”、“以参与度为标准对有较高风险的话题进行排序，会导致不正当激励与诚信问题。”

现实世界中，算法制造出来的“恶意”频结“恶果”。2023年5月，武汉一名小学生在被老师的车撞伤后不幸离世，他的母亲赶到学校，仅仅是因为化了淡妆，没有大哭大闹，就被人网暴成“过于淡定”“想当网红”。最终这位本就经历了丧子之痛的年轻母亲，在被算法“推荐”出来的巨大恶意里，选择了在儿子离世的10天后从24层高的地方坠楼身亡。

科技巨头曾经承诺技术提供提高生产力、给人类社会带来美好的未来，但显然，如果人工智能驱动的算法强大而不受控制，技术的钟摆被狠狠甩了出去后，当钟摆再度弹回来时，总会有什么东西被砸得稀碎。

尽管科技巨头总是强调算法没有价值观，但当网络平台以经济利益至上、经济利益又是从流量中来，算法显然不能没有价值观。科技巨头必须投资推动鼓励说真话的“善意”机制。

在钟睒睒的逻辑里，谣言的传播者和制造者是同罪的。他认为农夫山泉这样制造型企业，如果生产了不合格产品，就需要承担法律责任，互联网企业如果为了博取流量而放纵虚假信息传播，从而从中盈利，那它也是在放纵不合格产品的流通，需要承担法律的责任和人类文明的责任。

这也成了钟睒睒呼吁约束平台的原因。他说：“任何文明都是有度的，当某一种文明的力量过度的时候，那一定是对其他弱势群体的伤害。但强者和弱者永远是存在的，互联网的强者在约束他人的过程当中，也同时必须约束自己。”

科技巨头的算法权力越来越大。算法究竟是根据什么原则来屏蔽哪些声音、放大哪些声音，不能是一个黑箱，需要公开透明，这越来越成为社会的共识。赫拉利也指出：“要是企业用愤怒来吸引我们的注意力，就得清楚坦陈自己的商业模式。如果算法会系统性地屏蔽与该企业立场不同的视频，用户也该有权得知。”

11月24日，中央网信办等四部门联合发文开展“清朗·网络平台算法典型问题治理”专项行动，对一些需要持续加强治理的算法平台典型问题重拳出击，其中也点出了算法要公开透明。“优化检索、排序、推送等规则的透明度和可解释性，预防和减少争议纠纷。以适当方式公示算法推荐服务的基本原理、目的意图、主要运行机制等，确保简单、清晰、可理解。”

监管部门对算法加强持续治理，这是一场“及时雨”。

出品｜达摩财经

钟睒睒这次亮相的地点是在江西赣州信丰，这是赣南脐橙的核心产区，也是著名的“老苏区”。早在20年前，钟睒睒就带领农夫山泉进入当地种脐橙、设工厂，中间走过弯路但始终没有放弃，不考虑成本的投入对帮助当地农民共同富裕起到了重要作用。

截至2023年末，农夫山泉已经与信丰当地合作果园超20万亩，与约4000个果园建立了合作，改善约4万名农民家庭的收入，上下游惠及约10万人口。钟睒睒表示：“农夫山泉不是一家卖水的企业，而是一家农业企业”、“我这样的企业家就应该解决产业问题”。扶持产业，与农民同频共振，同时帮助提升国家的竞争力，这是农夫山泉对“共同富裕”的理解和实践。

但就是这位充满社会责任感的知名企业家，今年初意外遭受了一场铺天盖地的网暴。

在被传播了无数遍的图文信息和短视频里，有人说农夫山泉产品包装上的山麓图片是富士山，有人说它红色的瓶盖是日本国旗，甚至有人把钟睒睒的照片PS上小胡子说是日本人。尽管这些网络言论一眼看上去就立不住脚，但丝毫没有阻碍它们在虚拟空间汇聚成汹涌恶意，吞噬掉了所有理性和真相。

一轮又一轮的口诛笔伐里，农夫山泉的包装饮用水在半年内营收大挫18%，公司市值在持续被网暴近半年后蒸发了2100亿港元，钟睒睒95岁的母亲在网络恶意最浓的时候愤懑离世，直到现在，在网络平台上搜索“钟睒睒+日本”，排名靠前的搜索结果里依然有“钟睒睒不像中国人”、“钟睒睒日本人还是中国人”这样的信息。

11月20日，钟睒睒在赣州信丰农夫山泉脐橙工厂发表演讲，被问到离世的母亲时潸然泪下。他对网络谣言和网暴进行了深度思考后得出结论，那些“有组织地引流、限流，没有原则、随心所欲地删稿，对流量及其谣言以金钱奖励与激励，把网络变成技术、算法，变成了玩弄民众智商的游戏”的网络平台， 才是最大的责任者。

“天天骂我的普通人也是受害者，真正制造恶意的是那些掌握技术和资源的人。”钟睒睒将矛头直指平台，正是网络平台的算法在鼓励情绪对立，从中源源不断获得流量和商业利益。

网络平台究竟应不应该对网络暴力承担责任？过去，科技巨头往往用“避风港原则”来规避自己的责任，将责任推脱给具体的“博主”、“主播”、“自媒体”，认为他们是各个平台上一切仇恨与谎言的源头。

但赫拉利恰恰对此做了深度研究，认为这都是科技巨头的谎言。他在新书里指出，科技巨头的算法发现，只要激起人们的怒火就能提升参与度。通过推荐惊骇的阴谋论，同时无视理性的内容，美国的“脸书”、“油管”等网络平台吸引了越来越多的流量。那些想博人眼球的主播发现，发布满是谎言、让人愤慨的视频就会受到算法青睐，视频就会被推荐给观众、自己就会人气飙升获得收益，网络喷子就这样被算法“训练”出来。

值得注意的是，传统的信息传播渠道中，还会有专门的工种去验证、审核信息的真实程度，以及价值导向是否正确，但当算法成了信息的最终把关人和分发者后，真实、导向和责任感似乎成了最不重要的衡量指标。“社交媒体算法只把人看成矿井，想要开采更多的注意力。人类有丰富的情感，如爱、恨、愤慨、喜悦、困惑，但算法把一切简化成一件事——参与度。”赫拉利发现。

这一切都是为了商业利益。“脸书”在2019年的内部文件中就承认“仇恨言论以及分裂性言论与错误信息，正在影响世界各地的社会……我们的核心产品机制，如病毒式传播、推荐与提升用户黏性，正是此类言论在脸书平台盛行的重要原因。”、“这种事之所以发生，是因为我们出于商业目的而刻意推动的。”、“以参与度为标准对有较高风险的话题进行排序，会导致不正当激励与诚信问题。”

现实世界中，算法制造出来的“恶意”频结“恶果”。2023年5月，武汉一名小学生在被老师的车撞伤后不幸离世，他的母亲赶到学校，仅仅是因为化了淡妆，没有大哭大闹，就被人网暴成“过于淡定”“想当网红”。最终这位本就经历了丧子之痛的年轻母亲，在被算法“推荐”出来的巨大恶意里，选择了在儿子离世的10天后从24层高的地方坠楼身亡。

科技巨头曾经承诺技术提供提高生产力、给人类社会带来美好的未来，但显然，如果人工智能驱动的算法强大而不受控制，技术的钟摆被狠狠甩了出去后，当钟摆再度弹回来时，总会有什么东西被砸得稀碎。

尽管科技巨头总是强调算法没有价值观，但当网络平台以经济利益至上、经济利益又是从流量中来，算法显然不能没有价值观。科技巨头必须投资推动鼓励说真话的“善意”机制。

在钟睒睒的逻辑里，谣言的传播者和制造者是同罪的。他认为农夫山泉这样制造型企业，如果生产了不合格产品，就需要承担法律责任，互联网企业如果为了博取流量而放纵虚假信息传播，从而从中盈利，那它也是在放纵不合格产品的流通，需要承担法律的责任和人类文明的责任。

这也成了钟睒睒呼吁约束平台的原因。他说：“任何文明都是有度的，当某一种文明的力量过度的时候，那一定是对其他弱势群体的伤害。但强者和弱者永远是存在的，互联网的强者在约束他人的过程当中，也同时必须约束自己。”

科技巨头的算法权力越来越大。算法究竟是根据什么原则来屏蔽哪些声音、放大哪些声音，不能是一个黑箱，需要公开透明，这越来越成为社会的共识。赫拉利也指出：“要是企业用愤怒来吸引我们的注意力，就得清楚坦陈自己的商业模式。如果算法会系统性地屏蔽与该企业立场不同的视频，用户也该有权得知。”

11月24日，中央网信办等四部门联合发文开展“清朗·网络平台算法典型问题治理”专项行动，对一些需要持续加强治理的算法平台典型问题重拳出击，其中也点出了算法要公开透明。“优化检索、排序、推送等规则的透明度和可解释性，预防和减少争议纠纷。以适当方式公示算法推荐服务的基本原理、目的意图、主要运行机制等，确保简单、清晰、可理解。”

监管部门对算法加强持续治理，这是一场“及时雨”。