静冈大学的大木哲史副教授与学生佐藤佑哉等人组成的研究团队发现,面朝摄像头进行面部识别时,在黑暗条件下黑人的认证精度往往比白人更低。白人与黑人的认证精度差异在黑暗条件下最高可达2.1倍。面部识别系统被指存在容易认错白人以外的人种偏见问题。这项成果将有助于开发公平且精度更高的认证系统。
2018年发现美国企业的面部识别系统对黑人的识别精度比白人低。原因包括人工智能(AI)学习的面部识别数据中非白人数据比较少等。还有报告显示,如果AI学习的不同人种的面部图像数量相同,认证精度的差异就会缩小。
然而,即使学习的不同人种的数据数量相同,精度也不会相同。研究团队为调查外部环境对精度的影响,改变了用于面部识别的图像的亮度、色彩饱和度、对比度和分辨率,比较了黑人和白人的认证精度。利用面向研究用途公开的面部识别系统以及各200名白人和黑人的共5000张图像进行了验证。
使用未经处理的正常图像时,黑人的认证精度为80.4%,比白人低7.6个百分点。将图像的亮度调暗后,则降到了66.4%。与白人的差异最大扩大至16.3个百分点。
大木副教授指出:“随着亮度发生变化,黑人会丢失轮廓和肌肤凹凸等信息”。警方在调查中利用面部识别时往往是在较暗的场所,这可能会成为黑人容易发生误识别的原因。
亮度稍微调高后,黑人的识别精度为80.3%,与处理前基本没有变化。与白人的差异扩大至8.1个百分点。而亮度大幅提高后,黑人的识别精度降至71.1%。白人则大幅降至59.0%。白人被认为容易过度曝光。
改变色彩饱和度时也是白人的精度更容易降低。对比度和分辨率方面人种的影响形成的差异比较小。
面部识别用于在机场办理登机手续时,可以调整成最适合拍摄面部的条件。但智能手机的解锁等需要在周围亮度大幅变化的情况下利用面部识别。
大木副教授指出:“面部识别广泛应用于很多场所。光收集理想环境下的数据还不够。”他表示:“需要收集包含各种环境因素的数据,创建高度可靠的面部识别系统。”
日文:大越优树、《日经产业新闻》,2022/03/09
中文:JST客观日本编辑部