被谷歌解雇的AI伦理专家宣布成立AI研究所 防止AI伤害

2021年12月03日 01:52 次阅读 稿源:新浪科技 条评论

据报道,在被谷歌解雇整整一年后,知名的人工智能伦理专家蒂姆尼特·格布鲁(Timnit Gebru)今日宣布,将成立一个新的人工智能(AI)研究所,致力于成为一家提供不同观点、并防止伤害的独立机构。

访问:

微软Surface精选机型特惠6.3折起 翻新机满100减100

xenonstack-distributed-artificial-intelligence-trends.webp

该AI研究所被称为“Distributed AI Research”(分布式人工智能研究,简称DAIR),已经获得了福特汽车、MacArthur、Kapor Center、洛克菲勒(Rockefeller)和“开放社会”(Open Society)基金会的资助。

未来一年,该AI研究所计划聘请5名研究人员。格布鲁在采访中称,该研究所的首位研究员雷塞特·塞法拉(Resetje Sefala)在南非工作,研究如何使用计算机视觉算法和卫星图像来追踪“空间种族隔离”(某些地区的少数群体隔离)相关问题。

格布鲁表示,投资人工智能研究的两个主要动机是,“如何让一家大公司尽可能多地赚钱,以及“如何更有效地杀死更多的人”。她说:“这就是我们当前筹集资金进行人工智能研究的两个基本目标。那么,是否还有其他选择呢?这就是我想要验证的。”

而格布鲁试图在企业或军事影响力之外,打造一个研究小组,通过关注全球视角和“代表性不足的群体”,来防止人工智能系统的伤害。随着人工智能系统的蓬勃发展,该领域已被大型公司所主导,这些公司可以访问用于构建算法的海量数据和计算能力。

格布鲁和其他研究人员,以及一些活动人士认为,这一趋势正使该领域变得更难进入,尤其是对于那些面临人工智能伤害风险的群体。而这些公司往往忽视与偏见和负面结果相关的问题,或者让那些直言不讳的人保持沉默。

格布鲁的人工智能研究所在一份声明中称:“人工智能不是不可避免的,它的危害是可以预防的。当它的研究和部署涵盖不同的视角和深思熟虑的程序时,它可能就是有益的。”格布鲁将担任该研究所的执行董事。

去年,格布鲁被谷歌解雇。她自己称,是因为一篇未发表的文章而被谷歌解雇。据悉,格布鲁的一篇批评大型人工智能模型(包括谷歌开发的模型)的论文引发了争议。此外,格布鲁还公开指责谷歌对待女性和黑人员工的方式。

两个月后,谷歌又解雇了格布鲁的同事玛格丽特·米切尔(Margaret Mitchell)。这引发了人们对研究人员是否可以自由开展独立工作的质疑。

格布鲁还希望她的团队成为一种资源,为其他组织提供人工智能项目方面的建议。此外,她还计划为受人工智能影响的人群设立一个奖学金。

对文章打分

被谷歌解雇的AI伦理专家宣布成立AI研究所 防止AI伤害

8 (80%)
已有 条意见

    最新资讯

    加载中...

    今日最热

    加载中...

    热门评论

      Top 10

      招聘


      Advertisment ad adsense googles cpro.baidu.com
      created by ceallan