客观日本

【先驱科研人】希望消除“认知的偏差”,通过机器学习做出公平评价

2022年06月17日 科学家访谈
title

马场 雪乃
筑波大学 系统信息系 副教授
出生于东京都。2012年从东京大学研究生院信息理工学系研究科创造信息学专业获得博士学位(信息理工学)。历任国立信息学研究所特任助教和京都大学研究生院信息学研究科助教等,2018年起担任现职。2016~2019年当选为ACT-I研究人员,2019年当选为先驱科研人。

Q1:您对什么感兴趣?
A1:从小学开始就对编程感兴趣,中学时沉迷于“2channel”。

父亲是一名工程师,因此我从小就在有电脑的家庭环境中长大。我从小学开始就对编程感兴趣,常常一边在图书馆里查阅资料,一边自己制作游戏玩。上中学后互联网开始普及,我越来越沉迷于电脑,尤其沉迷于可以匿名与陌生人轻松交流的“2channel”(日本曾经风靡一时的匿名聊天工具)。

在现实世界中,人们很容易受有社会地位的人的评论影响,从而产生认知偏差,但在匿名环境中,这种影响容易被抹消。但在互联网上,人们又常常会被多数派意见所左右。这种现象让我开始对认知偏差产生兴趣,并将其作为研究对象。我认为,如果在人们做决定的时候能够积极运用机器学习,应该能实现没有偏差的真实判断,我目前正从多个角度进行探索。

title

正在开发如何利用机器学习来教人类公平地做出评价的工具

Q2:如何纠正认知上的偏差?
A2:对他人发挥想象力,不要当即判断。

认知偏差是一种会发生在每个人身上的现象。需要拥有不受思维定势束缚的多样化思维,同时承认自己的价值观并非全对,并对他人发挥想象力。不要当即下结论,这对做出没有偏差的判断至关重要。

例如,“人事评价”是高度因人而异且容易产生偏差的事情之一。对种族和性别的无意识偏见很容易导致不公平的判断。如果能利用机器学习来弥补评价者的偏差,或许可以发现被埋没的人才,实现适材适所的人员配置。我相信,通过与认知科学领域的专家合作,可以将这种研究变成更具体的成果。

另外,今后我还想致力于创建一种能通过机器学习来支持改变行为的机制。人类是一种即使心里明白但仍然无法停止冲动行为的生物。减肥时即使知道“不能吃甜食”,但还是会忍不住吃。我想在抑制冲动行为的机制中有效地引入机器学习。

Q3:您对今后想做研究的人有什么建议?
A3:伸展所有触角,打磨自己独特的感受力。

拥有“这种技术很酷”、“这种想法很有趣”等独特感受力的人作为研究人员很有魅力,可以到达别人无法到达的风景。我认为趁着年轻还可以培养感受力的时候,要对各种事物都感兴趣,伸展出自己所有的触角,增加知识储备,这一点非常重要。

在新冠疫情这场史无前例的经历中,新的技术和思维方式也应运而生。我们应该积极吸收认为好的东西,我也在打磨自己的感受力,积极挑战那些引领时代潮流的研究。

title

做研究需要身心都健康,因此会定期锻炼身体。

日语原文

TEXT:JST公关课 小仓一惠
原文:JSTnews 6月号
翻译编辑:JST客观日本编辑部