目前在撰写科研论文时，使用生成式AI辅助写作的情况越来越多，全球论文产出量的增长率也确实随着生成式AI的普及大幅提升。另一方面，生成式AI也开始用于制定研究计划，再加上各研究领域的深化、跨领域融合研究的增多，科研经费的申请数量也在持续上涨。目前多数科学经费支援机构都禁止在评审中使用生成式AI，难道没有运用AI减轻评审人员负担的方法吗？针对评审辅助AI智能体研发的相关调研，日本文部科学省决定向国立信息学研究所相泽彰子教授负责的研究团队拨付2500万日元科学研究费补助金（特别研究促进费）。研究期间为截至下一年度末。
论文出版数量在全球范围内持续增长，2022年ChatGPT问世后其增长率有所提升。与此同时，AI幻觉问题的影响范围也随之扩大。例如，在自然语言处理领域的国际会议入选论文中，不仅参考文献错误逐年增多，单篇论文的平均错误数量也在上升。
针对论文写作中的AI使用问题，多家出版社和学术学会已制定“必须标注是否使用了生成式AI”“禁止将生成式AI列为作者”等相关规范。这类规范的原则是：AI可用于文稿校对等工作，但不能让生成式AI直接完成论文的写作。
主流出版社已将生成式AI用于学术不端排查、参考文献等内容的事实核查。至于是否在审稿时使用AI大多由各机构自行决定，而一项针对1600名科研人员的调查显示，超半数受访者有使用生成式AI辅助撰写审稿结果、生成摘要、开展剽窃检测的经验。目前AI论文审稿的应用形式并非是由审稿人使用，而是由作者在投稿前利用AI完成预评审，以此提高论文质量。不过，通用AI的审稿效果并不理想，目前仍处于启动专用系统研发与试运行的阶段。
相比论文审稿，AI在科研经费评审中的应用管控更为审慎。原因在于，论文对应的是已完成的工作，而经费申请针对的是今后拟开展的工作；除了担忧向第三方生成式AI上传申请书会造成信息泄露外，作为AI研发基础的开源数据也严重不足。此外，论文与科研经费在领域多样性、评审目标、评审标准等方面均存在差异，因此为论文审稿等目的开发的系统无法直接套用。
作为科研经费评审领域的AI应用，首先将应用于评审人员的选择、评审文本的规整、对评审意见的反馈、申请书提交前的核查以及改进意见等用途。
实际上，在评审人员选择方面，瑞士国家科学基金会（SNSF）、西班牙拉凯克萨基金会、荷兰研究理事会（NWO）已将AI投入应用。据悉，拉凯克萨基金会已将AI方案作为识别不符合要求申请的工具引入预审系统。英国UK元科学研究组正在实施一项用于辅助科研经费评审的大语言模型（LLM）项目。
另一方面，日本学术振兴会（JSPS）、美国NSF等海外资金资助机构（FA），出于信息泄露等风险考虑，禁止在评审环节直接使用生成式AI。
此次项目旨在应对申请量增长、减轻评审人员负担，将整理以“以人为本、高可靠性”为前提、为探讨生成式AI辅助评审合理模式提供支撑的见解，并开展面向该模式落地的调查研究。
具体而言，项目将以科研经费评审作为应用场景，将进行拥有评审委员遴选辅助（在考虑基于研究内容等各评审类别中年龄、性别、地区、机构类型等进行平衡的基础上）、评审意见的整合辅助（为将评审委员的评审意见反馈给申请人，整合并总结多份评审意见的功能）、学术评价辅助（以构建安全的国产基础设施，并引入能够输入申请人研究构想等敏感信息进行检索的生成式AI为前提）等功能的AI智能体的概念设计与部分验证。
上述项目将着眼于未来将AI评审辅助引入科研经费制度的规划，为文部科学省及JSPS的制度设计、运营研讨提供参考素材。具体将在研究周期内梳理技术可行性、制度适配性、运营层面的议题等内容，反馈可支撑未来决策的相关见解。
原文：《科学新闻》
翻译：JST客观日本编辑部
