利用生成式AI进行网络攻击和诈骗的恶意利用威胁正在不断增加。安全领域巨头——美国CloudStrike公司发布了一款加入了生成式AI的防御工具，一举受到市场瞩目。系统方该如何活用AI技术？就此，我们采访了该公司的首席执行官（CEO）乔治·卡茨（George Kurtz），请他展望了AI的应用前景。
乔治·卡茨，毕业于美国西顿霍尔大学，创办了从事信息安全的美国Foundstone公司。该公司后被美国McAfee公司收购，乔治先后担任首席技术官（CTO）和执行副总裁等职务。2011年，与合作伙伴共同创建了CloudStrike公司。
——您认为企业面临的主要网络威胁是什么？
“根据我们在2023年的调查，攻击者入侵企业信息系统的平均时间为79分钟，比2022年缩短了5分钟，入侵速度逐年加快。在互联网黑市上，有大量企业员工的身份验证信息被出售，恶意利用这些信息，攻击者可以轻松接触到企业内部的敏感信息。”
——生成式AI的迅速发展将如何影响网络威胁？
“ChatGPT等正规工具，已经对制作恶意程序（malware）等以恶意利用为目的指令具备拒绝机制。但现在，攻击者正在开发一种即使是恶意指令也会遵从的‘黑暗AI’。”
“攻击者利用‘蠕虫GPT（WormGPT）’等工具，应用生成式AI的技术，即便是非法指令也会执行，按照攻击者的要求制作恶意软件等程序。虽然目前它还无法进行ChatGPT那样的高级处理，但随着学习的深入，它迟早会成为实际应用的一种威胁。”
——面对这种动向，您对安全领域2024年的预测是怎样的？
“目前广泛使用的、监控和检测安全信息的‘SIEM’方案迟早会消亡。这是因为，攻击执行的门槛降低，导致向负责人报告攻击事件的警告数量激增，要检测所有事件将成为一个沉重的负担”
——CloudStrike公司于2023年6月发布了加入了生成式AI的防御工具“夏洛特AI”。它具备了哪些功能？
“简而言之，它被设计成一个‘虚拟安全分析师’。它以CloudStrike公司过去积累的攻击和攻击者等信息作为学习数据，对检测到的安全事件进行解释，说明具体是怎样的威胁，并提供推荐的处理方法。它甚至还可以代替人类执行处理操作。”
——“夏洛特AI”可以用于哪些安全业务？
“举例来说，如果企业负责人询问‘目前最新的威胁是什么？’，它可以从全球范围内发生的攻击中总结出各个行业的典型威胁。进而，如果询问‘这将对公司造成哪些风险？’，它会从公司的信息资产和现存漏洞等方面检测出相关内容，并判断是否需要应用修补程序（补丁）。最后，它还能生成一份向领导汇报的报告。”
“在分析师的日常业务方面，可以通过AI代工实现自动化，缩短工作时间。经测试，准备好适当的提示后，AI可以将手动操作需8小时才能完成的例行工作缩短至仅需10分钟。”
——使用生成式AI实施网络防御时，应注意哪些？
“如果让AI代替人类进行对策处理，必须确保其处理的安全性。因为AI执行非预期的处理可能会对公司业务造成影响。”
日文：网络安全编辑/岩泽明信、《日经产业新闻》、2024/1/29
中文：JST客观日本编辑部
