算法助推有害信息的扩散。

《时代周刊》最新一期封面，背景为马克·扎克伯格，前方的弹窗正确认用户“是否要卸载脸书”。图/《时代周刊》
本刊记者/龚怡洁
扎克伯格又陷入了大麻烦。
今年5月，脸书前公民诚信（civic integrity）组产品经理弗朗西斯·豪根向美国国会、美国证券交易委员会和媒体递交了一份内部资料文件，涉及对脸书的至少八项指控，包括脸书“刻意散播仇恨、暴力内容与误导信息，并且在知情的情况下，试图阻止相关证据外泄”。这是脸书历史上遭遇的最严重的、由内部“泄密”引发的指控。
9月开始，《华尔街日报》等媒体陆续披露了豪根文件的内容；10月，“吹哨人”豪根公开身份，并于5日出席美国国会参议院听证会做陈述。在接受电视台采访时，豪根称，“在用户利益和公司的利益，尤其是经济利益之间，脸书总是会选择后者。这是我还在那里工作的时候，经历过无数次的事。”
豪根是在2019年6月加入脸书的。据《时代周刊》报道，公民诚信团队成员都签署了一份非正式的“公民誓言”：为人民的利益服务，而非公司的利益。具体来说，这个小组需要去妥善“驾驭”脸书的巨大影响力，采取措施保护用户的信息安全、减少平台暴力与极端内容。但在2020年底，这个小组却被解散了。分管业务的脸书副总裁盖伊·罗森向《时代周刊》表示，公司只是把这个组“整合到了一个更大的团队中”；CEO马克·扎克伯格也回应称，公司的算法并未放大有害内容，相关报道存在误解与断章取义。但随着事件的发酵，脸书已经很难从信任危机中全身而退。
2021年10月5日，弗朗西斯·豪根 (Frances Haugen) 出席参议院听证会作证。图/纽约时报
具体涉及哪些指控？
豪根针对脸书的指控中，比较关键的内容有以下三点：
1. 脸书上的仇恨暴力信息和误导性内容越来越多，但公司因为这类信息能带来流量、吸引用户眼球，反而不愿意加以监管。
豪根在10月5日的听证会上透露，脸书在审查帖子时，会根据帖子的热度（点赞、评论、转发数据）来决定推荐优先级——而很多时候，煽动性的、含有极端内容的帖子就会因数据不错而被算法推荐。举个有点荒唐的例子：尽管扎克伯格本人和脸书公司都大力支持推广新冠疫苗，但因为算法的青睐，脸书上现在充斥着大量反疫苗的内容。“即使是CEO设好了目标，他也很难按照自己的意愿掌控平台内容，”《华尔街日报》评论道。
“算法会助推极端信息的扩散”，这种质疑对脸书来说已经不是第一次了。2020年美国大选前夕，不同于推特、谷歌对政治内容的限制，脸书采取了更为宽松的政策。最开始，它仍然允许用户无限制地发布政治广告，只是会给未经事实核查的信息降权，降低它在信息流中出现的可能。这样的做法当时就遭到了很多质疑。
电影《社交网络》（The Social Network）中的一幕。这部电影根据本·麦兹里奇的小说改编，讲述了扎克伯格创立脸书的故事。

同年8月，脸书请来审计平台政策的第三方机构发布了89页的审计报告。报告中反复提及的一个问题，就是脸书总是会把“言论自由”置于内容管制之上。CEO扎克伯格就曾公开表示，自己的公司并非“事实仲裁方”，也不会去审查政治言论“正确与否”。也是基于这种自由主义理念，脸书有时候并不会采纳审计公司的建议，删除一些含有“仇恨、暴力或伤害选民言论”的帖子。但审计方认为，这种政策最终会导致仇恨或误导性信息泛滥，进而对大选产生负面影响。
报告还提到，如果脸书等社交平台不对极端主义、民族主义言论进行更明确的审查管制，那么将很可能加深国内的分裂与极化趋势。希拉里·克林顿也在接受媒体采访时表示，脸书一直拿“言论自由”来作借口，实际上是因为宽松的审查制度能给公司带来更大的经济利益。
豪根就职过的公民诚信小组曾在几年前的一次研究中发现，脸书新开发群组功能后，不少用户被算法推荐加入了政治群组或团体，同质化声音的集中使得这些小圈子更加极化，用户也更加激进。当时小组建议关闭这个功能，但被公司拒绝了。然而在大选投票开始的几周前，脸书的高管改变主意，同意关闭政治团体的推荐。“公司在选举前临时改变平台的安全设置，是因为他们知道这个功能很危险。”豪根在听证会上表示，“但公司并未长期实施这一限制措施，因为他们希望在选举后恢复平台上各项数据的增长。”
脸书方面对此回应称，任何平台的算法都是可能向用户推荐负面信息的，公司也正尽力减少这一问题带来的影响。扎克伯格则在最近一次员工会上表示，“公司非常关心用户安全、心理健康等问题，看到媒体曲解公司的动机，非常难过。”他声称，脸书在安全保障方面的投资远超过谷歌、苹果与微软等公司。
脸书正遭遇史上最严重的信任危机。图/Thought Catalog
2. 脸书旗下的照片分享平台Instagram设置成易上瘾机制，且持续给儿童和青少年提供有害内容。
豪根提供的内部资料显示，多年来，Instagram的相关研究人一直在研究平台内容对于青少年的影响，并且他们早已发现，平台会对多数用户产生负面影响，尤其是十几岁的女生群体——10至20岁年龄段的女生中，32%受平台影响产生了身材焦虑。脸书也发现，不少青少年已经开始自发地指责Instagram，认为它传播的焦虑和抑郁向内容越来越多。
豪根在听证会上指出，脸书一直刻意淡化甚至隐瞒已知的问题，也没有把研究报告提供给相关的学者、审计机构或者立法机关。
脸书方面的说法是，做这些内部研究的目的是“让Instagram”变得更好，而且他们也一直在采取措施净化环境，比如账户屏蔽和关键词屏蔽等。公司还启动了儿童版Instagram（Instagram Kids）的开发，称想要为10-12岁的儿童提供一个包括健全的家长监督机制、去广告、内容更健康的平台。
不过，反对的声浪一直很大。批评者认为，这款应用根本不会保护到儿童，反而会让儿童更早地暴露在有害的信息流之下。今年5月，美国44个州的司法部长联名签署了一封致脸书CEO扎克伯格的信，要求他终止儿童版的开发计划。一些非政府组织人员还呼吁，美国立法机关应该出台更严格的法律，限制儿童新媒体平台的设计与运营。
9月底，豪根事件发酵后，脸书宣布将暂停儿童版Instagram的开发计划。不过主理人亚当·莫塞里在声明中仍然表示，“我们始终认为，开发这个程序是正确的选择。利用这段暂停期，我们会和家长、专家和政策制定方做更深入的交流。”
脸书内部文件被披露后，算法监管改革问题成为了焦点。图/Walkator

3. 脸书号称的用户平等政策实际上向政客、名人等倾斜。
扎克伯格曾表示，脸书给普通用户提供与精英、名人平等对话的空间，平台的规则政策也对所有人适用。但豪根提供的文件显示，脸书内部存在一个“XCheck”系统，相当于给VIP用户开了一条绿色通道，允许他们不受一些审查规则的限制。《华尔街日报》指出，很多VIP借特殊待遇发布带有骚扰或者煽动性质的内容，但未受任何管制或惩罚。
2019年，脸书的公民诚信小组曾经向公司提议，取消对新一批政治账户的内容审查豁免权。因为他们的研究结果显示，用户更容易轻信由政客分享的误导性信息和虚假信息。然而，提议被公司拒绝了——高管们认为，如果加强内容审查，那么不同的政治团体所受的影响可能会有很大出入。既然这碗水很难“端平”，索性就保持审查豁免。
审计方与媒体批评称，类似“XCheck”的豁免系统，是“对脸书几十亿用户的欺骗”。脸书方面则回应表示，这一系统的设置初衷是向好的，公司已经接受外界的批评与意见，将考虑对平等政策进行优化。 如何监管？
尽管人们期望“科技向善”，但算法与人的博弈一直没有停止。
算法本身潜在的危险，在于它能够高效地塑造个性化环境，从而无限接近“让用户只看自己喜欢的内容”的目标。这会引向两个问题：一方面是“回音壁”效应，即观点相同的人互相印证、抱团取暖，社群内部形成极强的身份认同感，同时不同群体之间越发割裂和难以理解，甚至导向极化。另一方面，则是算法为讲求效率，会放大内容的标签性质，这种简化处理可能会加深刻板与偏见化的内容传播。正如脸书的声明所讲，“任何平台的算法都可能向用户推荐负面信息”。算法作为工具程式，本身不具有价值观的倾向性，但平台很有可能出于商业利益或自身价值取向，通过算法为人们推荐更能够盈利、能吸睛的内容，或者在设计时嵌入更容易上瘾的机制。
2020年7月29日，美国众议院司法委员会曾对四大科技巨头（亚马逊、苹果、Facebook和谷歌）CEO举行听证会，旨在审查这四家公司是否涉嫌违法行为。

正因如此，监管变得非常关键。2021年，脸书的营收接近86亿美元，月活用户达到29亿人次。作为世界上最大的社交平台之一，脸书对信息的呈现方式会产生巨大的影响。在10月5日的听证会上，豪根表示，她披露的文件可能只是脸书内部资料和研究的冰山一角。她也呼吁立法机关，希望他们能够要求脸书提供更多的内部研究成果，只有要求资料透明公开，国会才能更好地规范对社交媒体的监管。
对于脸书来说，第一种可能的监管来自公司的独立监督委员会（Facebook Oversight Board）。2018年11月，扎克伯格与哈佛法学院教授诺亚·费尔德曼会面，后者提议脸书可以设立一个司法组织来监管内容审核策略。基于这一想法，独立监督委员会在2020年正式成立，它的功能类似于“最高法院”，拥有推翻公司高层决策的权力。到目前为止，委员会已经驳回或推翻了一些争议性提案，包括特朗普脸书账号关停两年的决定，最终也是由他们做出的。
目前，豪根已经接受委员会的会面邀请。预计这次会面会将讨论到她披露的文件细节，修复脸书的诚信机制，以及未来如何监督相关安全机制等问题。不过，外界对委员会的看法比较摇摆。媒体指出，委员会没有一套正式的“法律”作为裁决依据，其权威性并不稳固。相比裁决与规定，委员会的意义更多在于开展沟通，展示脸书提高透明度的意愿。
豪根提到，脸书已经做了相当多的安全策略研究，但并未选择把相关资料公开。图/Glen Carrie
第二种可能则是国家立法。但目前有两个问题：一是美国宪法第一修正案规定，公民的言论自由受法律保护，这也包括仇恨言论；二是美国《通信规范法》第230条赋予了社交媒体企业豁免权，规定不会因出现在其平台上的任何内容、或删除部分内容的行为遭到起诉。两个法条一同赋予了互联网内容审查非常高的自由度，后者也被视作是“保障互联网企业蓬勃发展的关键”。
如果想要通过立法方式来解决围绕脸书的安全争议，就必定要修改第230条。据《时代周刊》报道，目前拜登希望国会加强反垄断法以保护用户隐私，同时改写第230条，促使科技公司对平台上的违法行为承担更多责任。共和党方面也对230条不甚满意：他们认为科技公司在保护伞下，对保守派的观点进行了过于严格的审查。
但如果修改第230条，就可能会与第一修正案产生矛盾，这也是为什么美国法律对互联网企业的监管一直比较暧昧的原因。媒体报道称，立法机构有意向专门设立一个监管机构，负责处理科技公司与算法监管的相关争议。范德堡大学法学院第一修正案与技术政策研究专家高特姆·汉斯表示，鉴于近年来美国最高法院一直以压倒性多数支持第一修正案的情况，法律上的监管改革还将“面临一场艰苦的战斗”。
目前，脸书对外正一再强调自己的“科技向善”姿态，试图把丑闻的影响降到最低。据媒体报道，脸书内部已经开始对既有的算法与审核政策进行调整，并重新审查公司的新产品，评估它对公司形象和大众感知可能会造成的影响。
10月6日，扎克伯格也在自己的脸书账号公开了他写给员工的信，其中就提到互联网内容监管应当由立法机关来做主，尤其是“与选举、有害内容、隐私等有关的内容”。但这一轮危机的多米诺骨牌效应很难消弭。据媒体报道，部分脸书员工对公司的安全政策颇有微词。在过去的一个月里，脸书的股价下跌了12个点。10月4日，因脸书旗下应用发生大规模宕机，公司单日股价下跌5%，创下全年单日最大跌幅。
图片编辑：张旭值班编辑：邱宇