深肤色识别率低下:ExamSoft监考软件被指存在面容歧视问题

2021年01月06日 15:42 次阅读 稿源:cnBeta.COM 条评论

萨福克大学法学院教授 Gabe Teninbaum 近日呼吁,ExamSoft 必须修复这款监考软件的一个严重 bug —— 无法在光线良好的情况下正确识别人脸!从 Twitter 上分享的截图、以及 Teninbaum 发布的报告可知,由于 ExamID 功能的缺陷,ExamSoft 存在对深肤色考生的严重“歧视”。

访问:

京东PLUS会员元旦大促:视频双会员148元 送30元无门槛红包

阿里云“爆款特惠”主题活动- 云服务器低至0.55折 96元/年

(图自 @futureesq1990)

在首次登录考试门户网站的时候,考生们将被要求提交一张基准比较用的认证照片。开始之前,考生们又会被提示自拍一张用于比对的现场照片。

尴尬的是,ExamSoft 监考软件的深肤色面容识别算法,较浅色面容的识别错误要多得多,而且这种情况可以追溯到去年 9 月。

当时多位非白人考生向《纽约时报》抱怨称,即使环境光照已经相当良好,ExamSoft 还是经常提示“光线不足,请开灯”。

受 COVID-19 大流行的影响,许多学校都改成了线上远程授课。但 ExamSoft 监考软件存在的这个问题,导致本就紧张的考试安排经受不必要的压力。

初秋的时候,Teninbaum 开始寻找不带肤色歧视的其它解决方案,但问题显然不仅仅存在于 ExamSoft 这一款软件的身上。

在 Teninbaum 的报告中,还对未来的人工智能和机器人等领域表达了类似的担忧。

报告截图(来自:PDF

作为临时的应对措施,Teninbaum 呼吁学校先为每个学生分配同样的基准图像,然后要求延后 ExamSoft 的认证过程,以便考生顺利完成考试。

遗憾的是,截止发稿时,ExamSoft 开发商都没有回应外媒的置评请求。

对文章打分

深肤色识别率低下:ExamSoft监考软件被指存在面容歧视问题

1 (50%)
已有 条意见

    最新资讯

    加载中...

    今日最热

    加载中...

    热门评论

      阿里云免费试用频道

      Top 10

      招聘


      Advertisment ad adsense googles cpro.baidu.com
      created by ceallan