上接：【AI法上篇】如何对“将人生交给AI”保持危机感——中央大学平野晋教授专访
AI（人工智能）在为我们的生活带来便利的同时，也潜藏着被其操控的风险。在哪些场景下应该使用AI，哪些场景下最好避免使用？就此，我们采访了AI与法律领域的专家，同时持有美国纽约州律师资格的中央大学国际信息学部的平野晋教授。
开设以电影为素材的课程，收获学生们的新颖观点
——您现在开设了以“电影与法律”为主题的课程吧。
我很喜欢电影（笑）。课堂上会讲解《银翼杀手》、《机械战警》、《2001太空漫游》等科幻作品。我会问学生：如何理解人造人所说的台词“为大义而死，才是我们所能做的最人性化的事”（《银翼杀手》）；对于影片表达的机器人士兵相较人类士兵，在城市作战中能精准区分平民更具人道主义有何看法（《机械战警》）；名为哈尔（HAL）9000的AI，为何要除掉一众宇航员（《2001太空漫游》）等。很多学生没看过这些电影，开展讨论时，常常能听到令人耳目一新的意见。
平野晋教授的著作《机器人法：迈向AI与人类的共生》。书中收录了诸多以电影为素材的案例。本书为方便理工科读者阅读，做了特别设计，比如将法律书籍里常用于指代当事人、企业的“甲方、乙方”改用“德尔塔（⊿）、派（π）”等来表示（供图：弘文堂）
——AI的缺点是什么？
首先，AI最严重的缺点是有可能做出违背开发者、提供者或使用者的设想或意图的判断和行动，也即“不可控性”。早在半个多世纪前的1968年上映的《2001太空漫游》中，HAL9000正是这一问题的典型代表。
不透明性、“说明责任缺失”、商业秘密……
除此之外，AI还潜藏着诸多缺点。例如被称为“opacity”的“不透明性”——通常也被称作“黑箱”问题。由于运行机制过于复杂，或是训练所用数据不明，导致人们无法知晓AI做出某个预测、建议或判断（输出）的机制与缘由，此类问题即为不透明性。HAL9000正是这一缺点的典型代表。
与不透明性相近的另一问题，“说明责任缺失”也被列为AI的缺点。即AI无法履行对自身输出的结果作出说明的责任。其中一个原因还是因为不透明性——如果输出的机制和理由不透明，自然也就无法说明。
此外，导致“说明责任缺失”的另一个原因是保护“商业秘密”的法律制度。例如，当因AI而受害的原告追究AI提供者的损害赔偿责任时，若要查清AI可能存在的错误，可能需要对方公开源代码等。然而，如果AI提供者以保护商业秘密等法律为盾牌予以拒绝，正义就无法实现，即无法履行说明责任——这一问题在美国已经被指出。
是人类驾驭AI，还是人类成为AI的仆从？在AI开始普及的当下，正是人类必须思考的课题。
人生重大事项上不应轻率使用
——您刚才说到涉及商业秘密……
关于商业秘密的问题，在美国休斯敦市发生的一起案件中，法院曾作出过禁止使用算法的判决。在该案中，这座城市的独立学区采用供应商提供的算法，对被评为最低等级的教师不再续聘，但学区无法向这些教师说明其评级为最低的理由与算法机制。
独立学区无法解释最低评价生成机制的原因在于，供应商以商业秘密为由，甚至对该学区都拒绝公开源代码等信息。遭到解聘的教师与工会，以校方违反宪法中保障说明义务的人权条款（正当程序保障）为由提起诉讼，要求永久禁止使用该算法。法院随后判决，认为对于无法履行说明责任的系统，除了禁止其使用之外别无选择。如该案件所示，在将AI用于涉及人生重大事项或可能侵害权利的用途时，有必要考虑无法履行说明责任这一缺点可能存在违宪的风险。
此外，AI的不可控性加上不透明性，也是人们对使用AI机器人武器持谨慎态度的原因之一。一种无法控制、行为无从预判的事物，真的能用作武器吗？它可能会攻击平民，也可能会攻击友军。即便想要优化改良，受限于不透明性，其做出该类行为的底层逻辑都无从知晓，甚至无法进一步改进……国际红十字委员会指出，这类存在缺陷的系统，根本无法用于事关人命的任务。
我认为，在关乎人生重大事项、涉及权益的场景中，不应轻率使用AI。而对于类似筛选黄瓜形状、判断网球或棒球是否出界等“机械性判断”任务，可以使用AI，因为它比人类速度更快、精度更高，还能不间断作业。但对于像上篇中提及的招聘活动那样的“价值判断”，我认为应当审慎使用AI。
平野晋教授讲述AI应用具有左右人生、且个人无法反驳的风险（2026年4月，东京都新宿区）
大谷选手的价值仅凭数据无法概括
——能否请您再详细说明一下关于“在左右人生、涉及个人权益的事情上不能轻易使用AI”的观点？
例如，在晋升等人事评价中，作为判断要素，还必须考虑“无法用数据量化的要素”——我认为这类任务很难交给AI。
如今盛行数据棒球，即便美国职业棒球大联盟赛事的数据量化与数据分析技术已高度成熟，但像大谷翔平选手的言行举止带给队友、乃至整个球队的无形领导力这类价值，很难数值化。任何人都能看出他是“了不起的选手”，单看数据也足以证明他实力出众，但他的价值远不止于此。
同样，日美两国研究学者批评指出，企业在招聘环节借助AI预判求职者日后能否为公司创造价值、获得晋升，其准确性根本无法得到保障。企业并没有落选求职者三十年后事业成败的相关数据，因此招聘阶段做出的这类预测根本无法验证对错，甚至可以说与“算命”无异。
也有观点指出，即便有主张或宣传宣称那是正确的，甚至以“高效、省去麻烦”为诱饵，并煞有介事地宣扬“因为使用了数字和统计，所以准确”，连购买该服务的企业也都受骗，这是一个严重的问题。
将“以人为本”作为社会的原则
此外，对于初创企业，有时会看到“不应要求它们提供高水平服务”的主张。但不能因为是初创企业，就容许其提供劣质服务，在招聘这类关乎人生走向的关键事务中不当地左右他人命运、轻易造成他人权益受损。
在这类领域中，无论企业规模大小，若无法提供同等高品质服务，理应受到监管约束。不能因为对方是初创企业，求职者即便沦为其不准确、不公正判定下的受害者，也只能忍气吞声——这种观点我完全无法认同。
产品责任法相关判例中体现出一项准则：不论经营者规模大小，均负有同等保障安全的义务。法院判决明确，即便是个体经营的小型餐饮店，一旦引发食物中毒，也和大型食品企业一样无法免除损害赔偿责任。站在受害者的角度来看，这是理所应当的判定。
内阁府出台的AI指南定名为“以人为本的AI社会原则”，由日本主导推动、最终形成理事会建议的“OECD AI原则”，目标也是打造“值得信赖的AI”。此外，去年颁布并实施的“AI法”也明确规定，要“制定契合国际规范宗旨的相关指引，并落实其他必要配套举措”。由此可见，绝不能出现因运用AI反而制约人的发展、或是投入使用缺乏可信度的AI这类情况。
平野晋
原文：泷山展代、摄影·后藤芽吹 / JST Science Portal 编辑部
中文：JST客观日本编辑部
