客观日本

“生成式AI”的商业应用日益扩展,在错误信息与合规方面存在问题

2023年04月24日 信息通信
title

可以自动创建复杂文本等的生成式 AI(人工智能)在商业领域的应用范围正在逐步扩大。协助网络内容创作、法律咨询、市场营销等提高工作效率的功能相继展开。另一方面,AI提供的错误信息以及对法律法规的适用性,似乎将成为阻挡其普及的绊脚石。

title

“note AI助手(β)”屏幕示例(截至3月)

2月,运营内容发布网站的日本note株式会社向部分用户开放了网页内容创作辅助工具“note AI助手(β)”。这是采用了美国开放人工智能研究中心(OpenAI)研发的聊天机器人程序“ChatGPT”所应用的技术。

其中包含了AI辅助内容进行写作的13种功能。如提议新闻稿的结构,自动生成招聘文案等。首席体验官(CXO)深津贵之解释说:“在我们想要写一些东西时,AI会提供帮助。”

日本律师门户网计划在其法律咨询网站“bengo4.com”上使用生成式AI提供法律咨询服务。今年2月,该网站运营公司宣布将开发一项提供法律和合同咨询的AI聊天服务。为此,还与企业和大学合作设立了“专项技术实验室”。

然而,日本明令禁止非律师人员从事以获取报酬为目的的法律案件处理工作。因此,该服务是免费的。目前正在考虑通过提供可以在线免费咨询的Q&A服务“大家的法律咨询”的访问链接,显示问题解答的依据,并让用户自行判断。

title

生成式AI出现的错误,是由基础数据中存在的错误,或一种捏造虚假事实的被称作“Hallucination(幻觉)”的现象引起的,因此需要为AI犯错做好准备。除了只将“大家的法律咨询”中被选为最佳答案的高质量答案录入数据外,还应下达诸如“不知道答案时,输出‘我不知道’”之类的指令来进行应对。

在医疗、金融等领域,也存在法律规定只有具备相应资质者才能对接的情况。熟悉数字技术应用的落合孝文律师指出:“由于不构成违反法律法规的理由都略有不同,因此需要提前准备应对措施。”

提供营销自动化软件服务的台湾公司Appier Group已经将其自主研发的生成式AI的功能并入到服务中。根据客户和广告内容协助制作关键词和横幅广告。其原理类似旅行社营销人员为了吸引潜在客户而思索可能引起客户关注的的旅游地关键字。由于AI可能会呈现片面的观点或不正确的内容,因此最终的决定权依旧在人类手中。

日文:大豆生田崇志、《日经产业新闻》、2023/4/5
中文:JST客观日本编辑部