Facebook吹哨者现身:获利丰厚的演算法才是问题根源

Frances Haugen在Facebook工作的最后一天,她在公司内联网里留了一则留言:“我爱Facebook,我想要拯救它。”

Haugen向《华尔街日报》(The Wall Street Journal)披露她两年多在Facebook工作时的所见所闻,以及她从公司内部获得的机密文件资料,并直指Facebook的演算法“以利益先于遏止仇恨言论及假资讯”。这位吹哨人的出现,让Facebook再度陷入千夫所指的企业道德漩涡之中。

Facebook吹哨者现身:获利丰厚的演算法才是问题根源

今年9月中,《华尔街日报》“Facebook档案”(The Facebook Files)系列披露多份Facebook公司内部文件材料,包括研究报告、员工讨论、高级管理层报告内容等,展示Facebook对其平台缺憾的了解程度,其中包括了Facebook有关其Instagram平台对少女产生负面影响的内部研究、公司高层处理不实帖文的态度等。该报道促使参议院商务委员会随即举行网上听证会,调查Facebook对其平台的监管力度和其产品对年轻人心理健康的影响。

而这些报告内容的揭露者,正是在Facebook工作了两年的Haugen。在过去的周末,她到了哥伦比亚广播公司(CBS)老牌节目《六十分钟时事杂志》(60 Minutes)披露了自己的身份。

“Facebook档案”的主要指控内容:

・ Facebook存在部分不受社群守则规管的“秘密精英用户”(secret elite)

・ Facebook内部调查报告清楚了解Instagram对青少年用户,尤其未成年少女的有害影响,惟不作任何改善措施

・ Facebook容许极端内容及不实内容,以及反疫苗资讯在平台肆意传播

・ Facebook对删除与贩毒集团、人口贩子有关系的帐户反应缓慢

奇妙的演算法

Haugen受聘于Facebook任职产品经理,负责帮助保护Facebook在选举期间免受不正当干预的技术工作。在此之前,Haugen曾于Google、Pinterest等社交网络平台公司工作过,专长是设计针对用户的内容演算法。

2018年底,Facebook一名招聘人员主动接触Haugen,邀请她加入Facebook。Haugen最终加入了为数约200人的“公民诚信团队”(Civic Integrity Team),负责世界各地有关选举的内容议题。这个团队也是有关选举内容的“看门者”,调查及防止Facebook沦为传播政治谎言、煽动暴力和被专制政府滥用的社交平台。

Haugen最初的职责便是运用过往在其他科网公司时学到的技能,负责设计一项专门侦测恶意信息的演算网络工具。不过,在设计及研发过程中,她就遇上了一大问题:高层的冷待。

如果新的内容侦测工具会令Facebook更难去吸引用户,他们(高层)似乎会不愿意接纳这些措施。

Frances Haugen

Haugen指出,公司高层对于改善平台帖文内容的无动于衷,令她和同事们十分沮丧。而且,部门人手稀少,亦令到她和组员的工作显得十分艰巨。

Facebook吹哨者现身:获利丰厚的演算法才是问题根源

Facebook的内容演算法工具素来为人诟病。(Getty Images)

《华尔街日报》揭露的一份Facebook内部文件指出,一个专责监管平台内容的小组在一份报告中指出:“我们做了些什么?我们创建了一个巨大机器,可以优化群众的平台参与度──无论它里面内容是否真实。”

Haugen曾将她在工作上的焦虑告诉给母亲。作为牧师的母亲告诉Haugen:“如果你有些人的生命正危在旦夕,你应该做一些事了。”

Haugen把这句话放在心头,惟始终想不到:她有什么事情是可以做的?

Facebook吹哨者现身:获利丰厚的演算法才是问题根源

Facebook创办人扎克伯格(Mark Zuckerberg)。(Getty Images)

2020年12月,“公民诚信团队”首长Samidh Chakrabarti告诉成员们说,Facebook将会解散这团队,团队成员将会分派到公司其他部门工作。Chakrabarti敦促成员们继续“坚持下去”,甚至告诉他们:如果见到Facebook面临短期利益置于公众长期福祉之上的风险,要“有建设性地和尊重地”(constructively and respectfully)表达出来。

然而,Chakrabarti最终还是在今年8月份向Facebook请辞。惟此次Facebook泄密风波发生后,Chakrabarti拒绝接受任何媒体访问。

后来1月6日发生美国国会大厦遭冲击事件,Haugen对Facebook公开淡化其平台与暴力行动的联系感到十分沮丧。她指出,公司内部已有不少人对Facebook容忍危险社会运动行为的做法有诸多不满。

疫情期间,Haugen离开加州居家工作。在家工作期间,她意外获得Facebook内部系统某些机密文件的内部权限,包括调查报告和内部通讯文件,不少前员工曾痛斥公司拒绝为其所带来的伤害承担责任,这些员工都是失望地离开;要建立安全的演算法几乎是不可能的任务,令她深感同情:

想象一下,如果你发现你的产品正在伤害人们——这会让你无法看到和纠正错误。

Frances Haugen

到了这时候,Haugen或许想到自己有什么事情可以做了。

最终的揭密

今年5月,已居家工作好一段日子的Haugen没有回到矽谷。她选择辞职,并在工作的最后几天继续收集Facebook内部系统的文件。然后,她向华府一间非牟利权利组织Whistleblower Aid寻求协助,冀指控Facebook所进行的不当行为,最终来到9月份,由《华尔街日报》揭露一系列的“Facebook档案”。差不多同一时间,Haugen向美国证券交易委员会提交至少8项投诉。

有议员提议要求Facebook分拆WhatsApp及Instagram业务,以解决垄断问题。但Haugen不认为将Facebook分拆,或解除它的内容免责权,有助解决“Facebook档案”中所披露的诟病,包括公司内部对平台内容的审查准则及公司高层漠视企业社会责任的问题。她认为,Facebook将不会改变让它获利丰厚的内容推荐及排列演算法,因此容许外部独立监察团队介入公司的内部研究和应对行动,是急切必要。否则的话,这将会持续散播一些不利于建立理性公民社会的极端内容。

只要它(演算法)的目标是创造更多参与度,不顾一切吸引用户赞好、转发和评论,那么它就会继续优先处理一些极端化和充满仇恨的内容。

Frances Haugen

对此,Facebook反驳Haugen的指控,称许多说法“具有误导性”。它指出平台每一天都在持续作出重大改进,以堵塞错误讯息和有害内容的传播。

“有关我们鼓励不良内容,且不作任何应对的指控,都是不正确的。”Facebook回应道。

Facebook吹哨者现身:获利丰厚的演算法才是问题根源

Facebook反驳Haugen的指控,指出平台每一天都在持续作出重大改进,以堵塞错误讯息和有害内容的传播。(Reuters)

社交网络给予全世界人类相互沟通的最便捷工具。在这行业打滚多年的Haugen,曾经相信过社交网络的强大,相信它能带给人类社会进步的福祉。直言“爱Facebook,想拯救它”的Haugen,是否能拯救到这家已成巨兽的互联网企业?

10月5日,她将出席参议院的听证会,就此事继续作供。

Facebook高层早前在听证会上已向参议院承诺,不会对泄露公司内部机密文件的爆料者作出任何追究。Haugen目前亦已向当局的联邦举报人保护计划(federal whistleblower protection)寻求法律援助。

发布者:afndaily,转载请注明出处:www.afndaily.com

(0)
afndaily的头像afndaily
上一篇 2021年10月10日 上午10:42
下一篇 2021年10月10日 上午10:48

相关推荐

发表回复

登录后才能评论
澳洲财经新闻 | 澳洲财经见闻 - 用资讯创造财富