告密者：Facebook在反对仇恨言论、暴力、错误信息方面误导了公众

Facebook对60分钟报告“Facebook告密者”的回应

Facebook告密者表示，公司鼓励“愤怒、两极分化、分裂的内容”。

观看现场：Facebook告密者弗朗西斯·豪根在参议院委员会作证

弗朗西斯·豪根：我在Facebook上一遍又一遍地看到，在对公众有益的东西和对Facebook有益的东西之间存在着利益冲突。而Facebook一次又一次地选择为自己的利益而优化，比如赚更多的钱。

弗朗西丝·豪根37岁，来自爱荷华州，拥有计算机工程学位和哈佛商学院硕士学位。15年来，她一直在谷歌(Google)和Pinterest等公司工作。

弗朗西丝·豪根：我见过很多社交网络，在Facebook上，这比我以前见过的任何网站都要糟糕得多。

斯科特·佩利：你知道，其他人可能就辞职了，继续前进。我不知道你为什么要这么做。

弗朗西丝·豪根：想象一下，你知道Facebook里面发生了什么，你知道外面没有人知道。我知道如果我继续呆在Facebook里，我的未来会是什么样子。Facebook是一个接一个的人，一个接一个地在Facebook里解决这个问题，然后把自己压在地上。

斯科特·佩利：你是什么时候、怎么想到把所有这些文件都从公司拿走的？

弗朗西丝·豪根：2021年的某个时候，我意识到，“好吧，我必须系统性地做这件事，而且我必须要有足够的时间，没有人会怀疑这是真的。”

facebookvideo.jpg

弗朗西丝·豪根

她秘密复制了数以万计的Facebook内部研究报告。她说，有证据表明，该公司在反对仇恨、暴力和错误信息方面取得了重大进展，这是在向公众撒谎。她在今年的一项研究中发现，“我们估计，尽管我们是世界上最好的，但在Facebook上，我们的仇恨可能只有3-5%，而暴力和煽动行为仅占1%的六分之一。”

斯科特·佩利(ScottPelley)：引用你带来的另一份文件，“我们有各种来源的证据表明，仇恨言论、分裂的政治言论、Facebook上的错误信息以及应用程序家庭正在影响世界各地的社会。”

弗朗西斯·豪根：当我们生活在一个充满愤怒、仇恨和两极分化内容的信息环境中，它侵蚀了我们的公民信任，侵蚀了我们对彼此的信心，侵蚀了我们相互关心的能力。今天存在的Facebook版本正在使我们的社会四分五裂，并在世界各地引发种族暴力。

“种族暴力”，包括2018年缅甸军方利用Facebook发动种族灭绝。

弗朗西丝·豪根告诉我们，她是在2019年被Facebook招聘的。她说，她同意接受这份工作，但前提是她必须克服错误的信息，因为她失去了一位被网络阴谋论所欺骗的朋友。

弗朗西丝·豪根：我从来不想让任何人感受到我所感受到的痛苦。在确保Facebook上有高质量的信息方面，我看到了风险有多大。

在总部，她被分配到公民廉正处，负责处理选举的风险，包括错误的信息。但在上一次选举之后，出现了一个转折点。

弗朗西斯·豪根：他们告诉我们，“我们正在瓦解公民的诚信。”比如，他们基本上说，“哦，很好，我们通过了选举。没有暴动。我们现在可以摆脱公民廉正。”快进几个月，我们就有叛乱了。当他们摆脱公民诚信的时候，我说：“我不相信他们真的愿意投资那些需要投资的东西，以防止Facebook变得危险。”

Facebook表示，公民诚信的工作已分发给其他部门。豪根告诉我们，Facebook问题的根源在于它在2018年对其算法所做的改变--决定你在Facebook新闻提要上看到什么的编程。

弗朗西丝·豪根：那么，你知道，你有你的手机。如果你坐下来滚动5分钟，你可能只会看到100条内容。但Facebook有成千上万的选项可以展示给你。

算法根据您过去参与最多的内容类型从这些选项中选择。

弗朗西斯·豪根：Facebook今天如何挑选内容的后果之一是--优化内容，以获得参与或反应。但它自己的研究表明，那些可恨的、分裂的、两极分化的内容比其他情绪更容易激起人们的愤怒。

斯科特·佩利：错误的信息，愤怒的内容--吸引着人们并保持--

弗朗西斯·豪根：非常诱人。

斯科特·佩利：--把它们放在站台上。

弗朗西丝·豪根：是的。Facebook已经意识到，如果他们改变算法，以更安全，人们将花费更少的时间在网站上，他们会点击更少的广告，他们会赚更少的钱。

豪根说，Facebook明白2020年选举面临的危险。因此，它打开了安全系统，以减少错误信息--但她说，其中许多变化都是暂时性的。

弗朗西丝·豪根：选举一结束，他们就把他们关掉，或者他们把设置改回到原来的位置，把增长放在安全之上。

对我来说，这真的是对民主的背叛。

Facebook表示，一些安全系统仍然存在。但是，选举后，Facebook被一些人用来组织1月6日的起义。检察官引用Facebook的帖子作为证据--武装游击队的照片和文字，包括：“以子弹或选票恢复共和国即将到来！”极端分子使用了许多平台，但Facebook是一个反复出现的主题。

袭击发生后，Facebook员工在Haugen复制的内部留言板上怒不可遏。“…，我们还没有足够的时间想出如何在不使用暴力的情况下管理话语吗？”我们寻找积极的评论，并发现，“我不认为我们的领导团队忽视数据，忽视异议，忽视真相…”但这得到了这样的回答：“欢迎来到facebook！我看到你刚刚在2020年11月加入…我们 一直在看…多年来公司领导层的一厢情愿的行为。“…。同事…不能为一家没有为减轻其平台的负面影响做更多工作的公司工作。“

斯科特·佩利(ScottPelley)：Facebook本质上放大了人性最糟糕的一面。

弗朗西丝·豪根：这是这些不幸的后果之一，对吗？Facebook上没有人是恶意的，但动机是不一致的，对吗？比如，当你消费更多的内容时，Facebook会赚更多的钱。人们喜欢参与引起情绪反应的事情。他们接触到的愤怒越多，他们互动的越多，消费的也就越多。

这种动态导致了欧洲各大政党对Facebook的投诉。豪根获得的这份2019年内部报告称，“…强烈认为，算法的改变迫使他们在facebook…上的通信中歪曲负面，导致他们陷入更极端的政策立场。”

斯科特·佩利(ScottPelley)：欧洲政党基本上是在对Facebook说，你写算法的方式正在改变我们领导国家的方式。

弗朗西丝·豪根：是的。你强迫我们采取我们不喜欢的立场，我们知道这对社会是有害的。我们知道，如果我们不采取这些立场，我们就不会在社交媒体市场上获胜。

她说，伤害的证据延伸到Facebook的Instagram应用程序。

斯科特·佩利(ScottPelley)：你发现的Facebook内部研究之一是关于Instagram如何伤害十几岁女孩的。一项研究显示，13.5%的少女说Instagram会让自杀的想法更糟糕；17%的少女说Instagram会使饮食失调更严重。

弗朗西丝·豪根：最可悲的是Facebook自己的研究表明，当这些年轻女性开始消费这个--这种饮食紊乱的内容--她们变得越来越沮丧。这实际上让他们更多地使用这个应用程序。因此，他们最终进入了反馈周期，他们越来越讨厌自己的身体。Facebook自己的研究表明，不只是Instagram对青少年是危险的，它还伤害了青少年，而且它明显比其他形式的社交媒体更糟糕。

Facebook表示，就在上周，它将推迟为年幼儿童创建Instagram的计划。

上个月，豪根的律师向美国证券交易委员会(SEC)提交了至少8份申诉，该委员会在金融市场上实施了这项法律。这些抱怨将公司内部的研究与公司的公众形象(通常是首席执行官马克·扎克伯格的脸)进行了比较。扎克伯格去年3月向国会远程作证。

马克·扎克伯格3月25日作证：

我们已经删除了可能导致即将到来的现实世界伤害的内容。我们建立了一个前所未有的第三方事实核查计划。系统并不完美。但这是我们找到的符合我国价值观的处理错误信息的最佳办法。

弗朗西斯·豪根的律师之一是约翰·泰。他是华盛顿一个名为“举报人援助”的法律组织的创始人。

斯科特·佩利：去美国证交会的法律理论是什么？你声称哪些法律被违反了？

约翰·泰伊：作为一家上市公司，facebook必须不对投资者撒谎，甚至不得隐瞒实质性信息。因此，美国证交会定期提起执法行动，指控Facebook等公司做出了重大错报和遗漏，对投资者产生了不利影响。

斯科特·佩利(ScottPelley)：Facebook可能宣称的一件事是，她窃取了公司文件。

约翰·泰：十多年前通过的“多德-弗兰克法案”在证交会内部设立了一个告密者办公室。该法律的一条规定规定，任何公司都不得禁止员工与SEC沟通，不得与SEC共享公司内部文件。

弗朗西斯·豪根：我对马克有很多同理心。马克从来没有做过一个可恨的平台。但他已经允许做出选择，在这些选择的副作用是，可恶的，两极分化的内容得到更多的分发和更多的影响。

Facebook拒绝接受采访。但在一份长达60分钟的书面声明中，声明说：“我们的团队每天都必须在保护数十亿人公开表达自己的权利与让我们的平台成为一个安全和积极的地方的需要之间取得平衡。我们继续做出重大改进，以解决错误信息和有害内容的传播问题。建议我们鼓励不良内容，不做任何事情，这是不正确的。”

“如果任何研究都能找到这些复杂挑战的确切解决方案，那么科技行业、政府和社会早就该解决这些问题了。”

Facebook是一家价值1万亿美元的公司。它只有17岁，拥有28亿用户，占地球上所有互联网用户的60%。弗朗西斯·豪根计划本周在国会作证。她认为联邦政府应该实施监管。

弗朗西斯·豪根：Facebook已经证明他们不能独立行事，Facebook一次又一次地表明它选择利润而不是安全。它是在补贴，它是用我们的安全来支付利润的。我希望这会对世界产生足够大的影响，让他们有足够的毅力和动力去实施这些规则。那是我的希望。

由Maria Gavrilovic和Alex Ortiz制作。广播助理米歇尔·卡里姆。作者声明：Michael Monulla；