Facebook吹哨人Frances Haugen在美国参议院作证

2021年10月06日 08:22 次阅读 稿源:cnBeta.COM 条评论

据外媒TechCrunch报道,在周日晚上透露了自己的身份后,向《华尔街日报》泄露有争议的Facebook文件的检举者Frances Haugen于当地时间周二在美国参议院商业、科学和运输委员会作证。

访问:

微软Surface Pro 8/Go 3国行版开启预售 最低2988即可入手

Haugen的证词是在上周的听证会之后作出的,当时Facebook全球安全主管Antigone Davis被问及该公司对儿童和青少年的不利影响。Davis的证词让参议员们感到沮丧,因为她没有直接回答问题。但曾在Facebook担任公民错误信息项目经理的Haugen更愿意提供信息。

Haugen是一位算法专家,曾在Google、Pinterest和Yelp等公司担任项目经理。当她在Facebook时,她处理与民主、错误信息和反间谍有关的问题。

“在四个不同类型的社交网络工作过后,我明白这些问题是多么复杂和细微,”Haugen在她的开场白中说。“然而,在Facebook内部做出的选择是灾难性的--对我们的孩子、对我们的公共安全、对我们的隐私和对我们的民主,这就是我们必须要求Facebook做出改变的原因。”

算法

在整个听证会上,Haugen明确表示,她认为Facebook目前的算法是危险的,该算法奖励那些产生有意义的社会互动(MSI)的帖子。这种新闻源算法于2018年推出,优先考虑来自Facebook认为你最亲近的人的互动(如评论和点赞),如朋友和家人。

但正如Haugen泄露的文件所显示的,数据科学家提出了担忧,认为这一系统产生了“对重要的公共内容片断的不健康的副作用,如政治和新闻”。

Facebook还使用了基于参与度的排名,其中人工智能显示它认为对个人用户最感兴趣的内容。这意味着引起用户强烈反应的内容将被优先考虑,促进错误信息和暴力内容。Haugen表示,她认为按时间顺序排列将有助于减轻这些负面影响。

“我职业生涯的大部分时间都在研究基于参与的排名等系统。当我来到你们面前说这些话时,我基本上是在破坏我自己10年的工作,”Haugen在听证会上说。

正如Haugen周日晚上在《60分钟》节目中所说的那样,她曾是Facebook在2020年选举后解散的公民诚信委员会的成员。Facebook在2020年美国总统选举前实施了保障措施,以减少错误信息。选举后,它关闭了这些保障措施。但在1月6日美国国会大厦遇袭后,Facebook又将其重新打开。

"Facebook在选举前改变了这些安全默认值,因为他们知道它们很危险。因为他们希望在大选后恢复这种增长,所以他们又恢复了原来的默认值,"Haugen说。"我认为这是有很大问题的。"

Haugen表示,Facebook正在强调一个错误的选择--他们可以使用他们不稳定的算法,继续他们的快速增长,或者他们可以优先考虑用户的安全和下降。但她认为,采取更多的安全措施,比如来自学术界、研究人员和政府机构的监督,实际上可以帮助Facebook的底线。

"我所要求的是(摆脱)短期主义,这就是今天Facebook的运行状况。它是由指标而不是人领导的,"Haugen说。"有了适当的监督和一些限制,Facebook有可能在5年或10年后成为一家盈利能力更强的公司,因为它没有那么大的毒性,也没有那么多人退出。"

建立政府监督

当被问及作为一个"思想实验",如果她是首席执行官马克-扎克伯格,她会做什么时,Haugen说,她会制定关于与包括国会在内的监督机构共享信息的政策;她会与学术界合作,确保他们有必要的信息来进行关于平台的研究;她会立即实施已确定的"软干预措施",以保护2020年选举的完整性。她建议要求用户在分享链接之前点击链接,因为其他公司如Twitter已经发现这些干预措施可以减少错误信息。

Haugen还补充说,她认为Facebook目前的结构无法防止疫苗错误信息的传播,因为该公司过度依赖人工智能系统,而Facebook表示,这些系统可能永远无法捕捉到超过10%到20%的内容。

后来,Haugen告诉委员会,她"强烈鼓励"改革第230条,这是美国《通信规范法》的一部分,它免除了社交媒体平台对其用户发布内容的责任。Haugen认为,第230条应豁免有关算法的决定,使公司有可能在其算法被发现造成伤害时面临法律后果。

"用户生成的内容是公司不太能控制的东西。但他们对自己的算法有100%的控制,"Haugen说。"Facebook不应该在它做出的优先考虑增长、病毒性和反应性而不是公共安全的选择上获得自由通行证。"

参议员John Hickenlooper问,如果算法促进安全,Facebook的底线会受到什么影响。Haugen回答说,这将产生影响,因为当用户看到更多有吸引力的内容时(即使它更令人愤怒而不是有吸引力),他们在平台上花费更多时间,为Facebook带来更多广告费。但她认为,如果该平台遵循她所概述的改善用户安全的步骤,仍然会有收益。

国际安全

正如《华尔街日报》报道的那样,根据Haugen泄露的文件,Facebook的员工标记了该平台被用于海外暴力犯罪的情况,但该公司的应对措施并不充分。

例如,员工们对埃塞俄比亚的武装团体利用该平台协调针对少数民族的暴力袭击表示关切。由于Facebook的审核做法非常依赖人工智能,这意味着其人工智能需要能够在其29亿月度活跃用户所说的每一种语言和方言中发挥作用。据《华尔街日报》报道,Facebook的人工智能系统并没有涵盖网站上的大多数语言。Haugen说,虽然只有9%的Facebook用户讲英语,但该平台87%的错误信息支出都是针对讲英语的人。

"看来,Facebook对那些赚钱最多的用户投资更多,尽管危险可能不是根据盈利能力平均分配的,"Haugen说。她还说,她认为Facebook的反间谍、信息运营和反恐团队的人员配置始终不足,是一种国家安全威胁,她正在与国会其他部门沟通这一问题。

Facebook的未来

参议院委员会的成员表示,他们有动力对Facebook采取行动,而Facebook也正处于反垄断诉讼中。

"我实际上是反对拆分Facebook的,"Haugen说。"如果你把Facebook和Instagram拆开,很可能大部分广告费都会流向Instagram,而Facebook将继续成为这个危及世界各地生命的'科学怪人',只是现在没有钱来资助它。"

但批评者认为,此前Facebook六个小时的宕机--与周二的听证会无关--显示了一家公司拥有如此多控制权的弊端,尤其是当WhatsApp这样的平台对海外通信来说是如此不可或缺。

与此同时,立法者们正在起草立法,以促进未成年人在社交媒体平台上的安全。上周,参议员Ed Markey(D-MA)宣布,他将与参议员Richard Blumenthal(D-CT)重新提出名为KIDS(儿童互联网设计与安全)法案的立法,该法案旨在为16岁以下的在线用户建立新的保护措施。周二,参议员John Thune提出了他与其他三名委员会成员在2019年提出的一项两党法案,名为《过滤泡沫透明度法案》。这项立法将提高透明度,让用户可以选择查看不是由秘密算法策划的内容。

参议员Blumenthal 甚至建议Haugen再来参加听证会,讨论她对Facebook威胁国家安全的担忧。尽管Facebook高层在听证会上对Haugen发表了反对意见,但政策制定者似乎被她的证词所感动。

对文章打分

Facebook吹哨人Frances Haugen在美国参议院作证

1 (25%)
已有 条意见

    最新资讯

    加载中...

    今日最热

    加载中...

    热门评论

      Top 10

      招聘


      Advertisment ad adsense googles cpro.baidu.com
      created by ceallan