Facebook曾试图让平台更健康，但结果是更愤怒
「内部备忘录显示，2018年的一项重大算法调整是如何激励了平台上愤怒内容的传播，而公司CEO抵制了员工提出的修正措施。」
华尔街日报记者 Keach Hagey / Jeff Horwitz
本文原刊于《华尔街日报》，端传媒获授权转载。目前，《华尔街日报》中文版全部内容仅向付费会员开放，我们强烈推荐您购买/升级成为“端传媒尊享会员”，以低于原价 70% 的价格，畅读端传媒和《华尔街日报》全部内容。
2018年秋天，在线出版商BuzzFeed的首席执行官乔纳·佩雷蒂（Jonah Peretti）给Facebook公司的一位高管发了封电邮。他说，出版商生产的那些最具争议的内容在Facebook上病毒式传播，这刺激了更多这类内容被生产出来。
他提到，BuzzFeed上一篇题为《几乎所有白人说了即罪过的21件事》（21 Things That Almost All White People Are Guilty Of Saying）的文章大获成功，该文章在Facebook上获得了1.3万次分享和1.6万条评论，其中许多在批评BuzzFeed写出这样的文章，那些用户还就种族问题相互争论。他说，该公司制作的其他内容，无论是新闻影片，养生文章还是关于动物的帖子，都难以获得突破。
根据《华尔街日报》看到的引用了上述邮件的Facebook内部文件，佩雷蒂指责Facebook在当年早些时候对其动态消息（News Feed）的算法进行了重大改革。这项改革旨在促进朋友和家人间“有意义的社交互动”（meaningful social interactions，简称MSI）。
BuzzFeed的业务建立在制作适于社交媒体的内容，这些内容最好能在Facebook和其他社交平台上病毒式蔓延。因此任何危及其内容传播的算法变化都会影响BuzzFedd的既得利益。不过，佩雷蒂的邮件还是触动了人们的神经。
Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）说，改变算法的目的是为了加强用户之间的连接，并提升他们的幸福感。Facebook将鼓励人们与朋友和家人进行更多互动，减少被动消费专业人士制作的内容，研究表明在后者上花太多时间对人们的心理健康有害。
文件显示，在公司内部，员工们警告说，这种变化产生了相反的效果。它正在使Facebook平台成为一个更加愤怒的空间。
公司研究人员发现，出版商和政党正在将他们的帖子朝著更愤怒和煽情的方向调整。这种策略带来了更高水平的评论量和互动量，在Facebook平台上这被解读为成功。
“对于重要的公共内容，如政治和新闻，我们的做法产生了不健康的副作用。”在《华尔街日报》见到的一份备忘录中，一个数据科学家团队这样写道。他们在该备忘录中提示了来自佩雷蒂的抱怨。其中一名数据科学家在后来的备忘录中写道，“这一个责任越来越沉重。”
他们得出的结论是，新算法在动态消息中给予转发量的高权重使愤怒的声音更加响亮。研究人员在内部备忘录中指出，“错误信息、有毒和暴力的内容在大量转发的帖子中极为普遍。”
文件显示，欧洲的一些政党告诉Facebook，新算法使他们改变了政策立场，以便在该平台上更能产生共鸣。
“许多政党，包括那些已经转向负面内容的政党，其实担心这对民主的长期影响，”Facebook的一份内部报告写道，但该报告没有指明具体是哪个政党。
Facebook的员工还讨论了公司做出这一改变的另一个原因——一个不太公开的动机：文件显示，用户已经开始减少与平台的互动，这是一个令人担忧的趋势。
这些电子邮件和备忘录是《华尔街日报》看到的大量公司内部通信的一部分。它们提供了一个无与伦比的视角，让人们得以看到Facebook公司其实对自己平台的缺陷有多么了解，而公司又如何常常缺乏意愿或能力来解决这些问题。这是基于这些信息写成的系列文章中的第三篇。
在接受采访时，Facebook工程部副总裁拉斯·巴克斯特伦（Lars Backstrom）说，任何算法都有潜在风险，都可能推广一些对某些用户来说令人反感或有害的内容。
“跟任何其他优化方式一样，总会存在一些被利用或被钻空子的方式，”他说。“这就是为什么我们有一个廉正团队，试图跟踪这些问题，并找出尽可能有效缓解它们办法。”
廉正团队的数据科学家们——他们的工作是提高平台上内容的质量和可信度——下功夫琢磨了一些可能的改变，希望以此遏制大修后的算法激励愤怒和谎言的倾向。文件显示，扎克伯格抵制了一些员工提出的修正措施，因为他担心这些措施可能损害公司的其他目标——提高用户在Facebook平台上的参与度。
据安娜·斯捷潘诺夫（Anna Stepanov）在2020年4月撰写的一份关于一次简报会的内部备忘录，她带领一个团队处理这些问题，向扎克伯格提出了几项修改建议，它们都旨在解决平台上虚假和分裂内容泛滥的问题。其中一项改变是取消算法对最有可能被长链用户转发的内容的加强展示。
她在会后写给同事的信中说，“马克认为我们不可能广泛地采取这种改变。”她说，扎克伯格说，他对测试这种办法持开放态度，但“如果对MSI的影响有实质性的抵消，我们就不会上线。”
上个月，在斯捷潘诺夫称扎克伯格否决了广泛采纳类似修正方法近一年半后，Facebook宣布它正在“逐步扩大一些测试，以减少给某些信号的权重，比如某人评论或分享政治内容的可能性大小。”此举是在用户调查的刺激下，更广泛地推动减少Facebook上的政治内容的举措的一部分。此前，有大选抗议者利用该平台质疑选举结果并组织抗议活动，后来导致了1月6日发生在华盛顿国会大厦的骚乱，该公司因此受到批评。
负责动态消息内容排名的巴克斯特伦说，Facebook最近做出的改变是基于公司认为，若在政治等敏感内容上依赖基于参与度的指标排序是弊大于利的。
2018年的算法改变影响了Facebook的动态消息这一核心功能，这是一个不断更新的、个性化的内容流，随著用户滚轮萤幕穿插显示其朋友的家庭照片和新闻文章。Facebook的30亿用户在该平台花费的大部分时间都是在浏览动态消息。而该公司将用户的注意力卖给广告商，无论是在Facebook还是其姐妹平台Instagram都是如此。公司去年860亿美元的收入几乎全部由此获得。
一个专有的算法控制著每个用户的动态消息栏中出现的内容。它考虑的因素包括：用户与谁是好友，他们加入了什么样的群组，他们喜欢什么样的网页，哪些广告商已经为触达该用户群体付费，以及什么类型的文章是当下流行的或能推动对话的。
算法的重大变化会对公司、广告商和出版商产生很大影响。多年来，Facebook进行了很多次算法调整。强调MSI的转变是其中最大的一次。
“排名的变化是世人分歧的根源吗？不是的，”Facebook发言人安迪·斯通（Andy Stone）在一份书面声明中说。“研究表明，某些党派分歧在我们的社会中几十年来都在增长，这甚至早于像Facebook这样的平台存在的时间。”
《华尔街日报》的所有者新闻集团与Facebook签有一项通过该平台提供新闻内容的商业协议。
英文原文：Facebook Tried to Make Its Platform a Healthier Place. It Got Angrier Instead.
我们推出端 Plus 会员计划，邀请你们成为独立新闻的守护者，帮助我们守护端，也帮助我们继续守护各地独立记者，支持他们产出更多优质的华文调查报导。
本刊载内容版权为端传媒或相关单位所有，未经端传媒编辑部授权，请勿转载或复制，否则即为侵权。