政策 - 科学家团体推进讨论AI应用，政治家与科学家开始对话与共创政策

自美国人工智能研究公司“OpenAI”发布“ChatGPT”以来，在不到半年的时间里，围绕生成式AI的动向令人目不暇接。5月在广岛召开的七国集团首脑会议（G7峰会）上，生成式AI也成为了主要议题之一。在生成式AI的开发和应用方面被认为较为落后的日本，政府的应对和专家的发言也终于变得引人瞩目。那么，科学家和技术人员汇集的学术界又是怎样一番景象呢？日本工程院从一年前就开始推进讨论包括生成式AI在内的AI应用扩大工作，并于6月6日在日本众议院第二议员会馆召开的“政治家与科学家对话会”上做了详细汇报。

“政治家与科学家对话会”（6月6日，众议院第二议员会馆）

“政治家与科学家对话会”旨在让立法机构与学术界合作，以便以科学根据为基础地制定政策。在主要国家中，学术界（科学家团体）在政策制定中的作用非常小，特别是立法机构和学术界长期缺乏合作，该会议由对现状抱有危机意识的日本工程院呼吁发起，并得到了对科学技术关注较高的自民党和公明党的国会议员的响应。自2020年12月第一次会议召开以来，此次为第7次，会议主题为“面向以生成式AI为代表的AI的社会实际应用及使用的共创”。

包括中途退席或中途参加者，共有7名自民、公明两党的国会议员参加了此次对话会。并且参加此次会议的议员在成为议员之前，在企业、大学或两者都具有研究开发经验，或在中央政府机构从事科学技术和财务政策相关工作经验的政治家，大部分议员大学毕业于工学部或理工学部。会议首先由参与日本工程院去年5月启动的“5G/6G时代的AI应用战略”政策建言项目的研究者们报告了迄今为止的探讨结果，并与国会议员、日本工程院的会员们进行了讨论。

推出聪明安全的生成式AI

“5G/6G时代的AI应用战略项目”提出以高速大容量信息网络时代AI社会实际应用的形式，及必要的应对技术开发课题的措施等为目的，并于去年5月设立了研究团队。由名古屋大学研究生院信息研究科教授森健策担任团队领导，负责管辖项目的日本工程院政策建言委员会委员长中岛义和（东京医科齿科大学教授生体材料工学研究所教授）担任事务局。

在预测了AI将在汽车自动驾驶和医疗领域的高级诊断辅助等领域快速发展的基础上，森教授强调了高速大容量网络通信和AI数据库的重要性。此外，他还列举了“AI的决策过程清晰易懂”、“判断的理由和过程可以说明”、“可以正确保护个人数据，防止AI本身的篡改”等“可信赖的AI”应具备的条件和对策。

名古屋大学研究生院信息研究科森健策教授说明“5G/6G时代的AI应用战略项目”的研究进展

与森教授同样，中岛教授在承认AI的巨大可能性的基础上，强调了通过道德伦理和法律妥善管理超越人类能力和力量的技术的必要性。中岛教授表示，从核能发电、人工化学品到基因组编辑到人造器官，至今为止的很多科技成果根据其使用方法既有可能对人类有益，也有可能对人类有害，由此提醒注意在AI等信息领域，强大的数据集成和分析算法也具有相似的两面性。还在此基础上，指出超越人类能力和力量的技术需要通过道德伦理和法律来管理，得到适当的管理和制约。提出“会熟练使用AI的人是即使没有AI也能处理事情的人”的观点，并主张“不使用AI也能工作的教育”及“熟练使用AI的教育”的两种教育都很重要，该观点引起了与会者的关注。

东京工业大学信息理工学院的冈崎直观教授和森教授、中岛教授同样，也强调了快速发展的生成式AI的惊人性能。去年11月30日“ChatGPT”发布仅5天后，用户就达到了100万人。另外，今年3月发布的“GPT-4”在很多专业测试中已被确认其性能已提升至能够取得与人类相匹敌的成绩的程度。在介绍了上述现状，指出社会实际应用在各个领域取得进展的可能性的同时，还指出了谣传和恶评等错误信息和欺诈邮件的生成等不良影响。在此基础上强调了“智能安全的生成式AI构建高质量的数据并将其教授给AI将不可或缺。”

G7国家的政策手段存在差异

5月11日，在G7广岛峰会前夕召开的政府第一次“AI战略会议”中，除了有必要立足于日本AI的开发、利用均滞后这一现实进行应对外，还列举了需要应对的各种风险和担忧。例如“用于侵犯个人隐私、犯罪等威胁人权和安全的行为”、“机密信息泄露、复杂的网络攻击等安全风险”、“错误信息、虚假信息、歧视信息等蔓延的问题”等。在此次会议上，岸田文雄首相表示：“AI在促进经济和社会发展方面潜力与风险并存，重要的是对两者进行适当的应对。这是超越国界的全球性课题，作为G7议长国，我们必须在促进共识和制定规则方面发挥领导作用。”

值得注意的是，在之后5月19日～21日召开的G7广岛峰会的首脑宣言中，AI相关的记述占据了相当大的篇幅。作为未来的具体举措，其中明确记载“将指示相关部长在年内通过G7的工作组会议设立广岛AI项目组，以讨论生成式AI”。这是基于G7广岛峰会之前在高崎市召开的“G7数码与技术部长会议”上的联合声明和更早开始的OECD（经济合作开发机构）的内容而做出的。G7数字与技术部长会议的联合声明中提到，将推进“负责任的AI”，特别是针对以ChatGPT等为代表的生成式AI，G7将在今年下半年再次召开会议，以制定指导方针。

另一方面，G7广岛峰会的首脑宣言中还提道：“应该认识到，尽管快速的技术革新强化了社会和经济，但新的数字技术的国际管理始终未能跟上步伐”、“须认识到实现可信赖AI这一共同目标的方法和政策手段在G7各国之间可能有所不同”。从上述首脑宣言的记述中可以看出，AI的应用在G7各国间存在相当大的差异，特别是日本明显落后的现状。

关于生成式AI，在G7广岛峰会后于6月9日召开的政府知识产权战略本部会议上讨论了其与著作权的关系。本次会议通过的“知识产权推进计划2023”中包含了在促进AI技术进步的同时，对与保护创作者的权利、扩大AI在创作过程中的使用等专利审查实务相关的课题，及与AI自主发明的处理相关的课题进行整理和讨论的内容。岸田首相在该会议上表示：“关于生成式AI和知识产权的存在方式，基于G7广岛峰会和AI战略会议的讨论，为推进负责任的AI和可信赖的AI，我们将考虑到促进AI技术的应用和维持知识产权创造激励机制的两个方面，考虑包括著作权侵害等具体风险应对的必要措施。”

岸田文雄首相在知识产权战略本部会议上发言（6月9日于首相官邸），图片取自首相官邸网站

日本工程院将在9月进行政策建言

在6月6日举行的“政治家与科学家对话会”上，针对森教授的报告，国会议员和日本工程院的其他成员表达了各自的意见。其中之一是担心随着AI应用的扩大，处理的数据量急剧增加，将导致服务器运行所需的能源超过可供应的能源量。这是因为生成式AI的基础在于大规模语言模型技术，随着AI的社会实际应用扩大，大规模语言模型的耗电量也会大幅增加。对此，中岛先生发表了“能源问题是不可避免的，不能放任不管”的意见。与会者似乎达成了选择怎样的AI社会实际应用将成为一大社会问题的共识。

日本工程院的“5G/6G时代的人工智能应用战略”项目旨在制定AI应用的具体战略和规划，以获得不落后于AI发达国家欧美各国的数字竞争力。工程院由信息通信技术和AI技术专家、接口、机器人、可穿戴设备等工程技术专家、推进AI技术应用和社会实际应用的企业家、AI伦理法规专家等相关领域的22名委员组成。目前为止已经召开了6次讨论会，该项目领导森教授表示，今后在完成AI社会实际应用进展前如何获得社会共识的讨论工作后，将在9月内汇总制定政策建言。

代表出席对话会的国会议员最后发表致词的众议院议员大野敬太郎（自民党）表示：“像今天这样热烈的讨论如果发生在美国发布ChatGPT之前，效果会更好。创新是会令人感到恐惧的东西。虽然有意见表示生成式AI会导致失业的增加，但创新同样会带来新的工作机会。希望知道其可怕性的各位老师能像今天这样通过坦率的对话不断提出要求。”

主持对话会的日本工程院政策共创推进委员会委员长永野博回顾此次对话的成果表示：“迄今为止从来没有机会在国会议员与日本工程院会员以及会员之间分享快速且复杂变化的关于AI的情况”。他还补充表示：“当新事物出现时，人们通常会感到害怕，但完全没有必要害怕一切事物。我们要做的是与多领域的人广泛讨论应该注意什么，并共享认知。与国会议员的对话将成为其中重要的一步”，明确了继续扩大讨论的看法。

日文：小岩井忠道（科学记者）
翻译：JST客观日本编辑部

【相关网站】
日本工程院政策共创推进委员会“第7次政治家与科学家对话会召开”
日本工程院“5G/6G时代的AI应用战略项目”
内阁府“AI战略会议”（第1次）
首相官邸“总理的一天 AI战略会议”