联合国呼吁在建立保障措施之前禁掉某些人工智能技术

2021年09月16日 09:40 次阅读 稿源:cnBeta.COM 条评论

据外媒报道,当地时间周三,联合国人权事务高级专员呼吁暂停出售和使用构成人权风险的人工智能技术--包括国家使用面部识别软件--直到适当的保障措施到位。尽管从隐私到种族偏见等诸多担忧困扰着这一新兴技术,但这一请求发出之际正值人工智能快速发展期间。

访问:

2021年天猫双11红包领取页

京东2021双十一"头号京贴"领取入口

1024px-Portrait_Michelle_Bachelet.jpg

“人工智能可以是一股有益的力量,帮助社会克服我们这个时代的一些重大挑战。但如果不充分考虑人工智能技术对人权的影响就会产生负面甚至灾难性的影响,”联合国人权高级专员Michelle Bachelet于周三在一份声明中说道。

在Bachelet发出警告的同时,联合国人权办公室还发布了一份报告。该报告分析了人工智能系统如何影响人们的隐私权以及健康、教育、行动自由等权利。

Bachelet补充道:“人工智能现在已经渗透到我们身体、精神生活甚至情感状态的几乎每个角落。人工智能系统被用来决定谁能得到公共服务,决定谁有机会被录用,当然,它们影响人们看到什么信息,可以在网上分享什么信息。”

该报告警告了在没有尽职调查的情况下实施这项技术的危险,另外还列举了一些案例如人们因为有缺陷的面部识别技术而被错误逮捕或因为这些工具的错误而被拒绝享受社会保险福利。

尽管该报告没有提到具体的软件,但它呼吁各国禁止任何不能按照国际人权法操作的人工智能应用。更具体地说,该报告呼吁暂停在公共场所使用远程生物识别技术--至少在当局能够证明符合隐私和数据保护标准、没有歧视性或准确性问题之前。

该报告还抨击了许多人工智能系统的实施缺乏透明度以及它们对大数据集的依赖可能导致人们的数据以不透明的方式被收集和分析并导致错误或歧视性的决定。报告称,数据的长期存储及未来如何使用也不得而知,这同样也是一个令人担忧的原因。

Bachelet说道:“鉴于人工智能的快速和持续增长,填补数据收集、存储、共享和使用方面的巨大问责缺口是我们面临的最紧迫的人权问题之一......我们不能在人工智能方面继续追赶--允许其在有限或没有边界或监督的情况下使用,并在事后处理几乎不可避免的人权后果。”另外他还呼吁立即采取行动,“为人工智能的使用设置人权护栏”。

数字权利倡导组织欢迎该国际机构的建议,尤其是在许多国家在执行有关人工智能的联邦法律方面滞后的情况下。

非营利倡导组织Fight for the Future的负责人Evan Greer告诉ABC News,该报告进一步证明了这种新兴技术构成的生存威胁。

Greer在接受ABC News采访时表示:“这份报告反映了世界各地的技术和人权专家日益增长的共识:像面部识别这样的人工智能监控系统对人类自由的未来构成了生存威胁。像核武器或生物武器一样,这类技术具有巨大的潜在危害,无法得到有效监管,必须予以禁止。”

Greer还补充称:“无论是政府还是企业等私人实体,面部识别和人工智能的其他歧视性用途都可能造成巨大伤害。我们同意联合国报告的结论:应该立即在全球范围内暂停销售面部识别监控技术和其他有害的人工智能系统。”

多项研究表明,由人工智能驱动的面部识别技术可能存在种族偏见和假阴性。就在去年夏天,密歇根州的一名黑人男子被错误地逮捕和拘留,就因为面部识别技术错误地将他识别为入店行窃嫌疑人。

美国商务部国家标准与技术研究所于2019年的一项全面研究发现,市场上大多数面部识别软件对亚裔和黑人面孔的假阳性匹配率高于白人面孔。英国2019年的另一项研究发现,被伦敦警察厅使用的面部识别技术标记的嫌疑人中,81%是无辜的。

对文章打分

联合国呼吁在建立保障措施之前禁掉某些人工智能技术

3 (30%)
已有 条意见

    最新资讯

    加载中...

    今日最热

    加载中...

    热门评论

      Top 10

      招聘


      Advertisment ad adsense googles cpro.baidu.com
      created by ceallan