谷歌：网络安全领域3个有前景的AI用例

谷歌TI Security副总裁兼谷歌云首席信息安全官菲尔·维纳布尔斯于2024年6月19日的专栏播客中回顾总结了人工智能在网络安全领域最有前景的三个用例。

菲尔·维纳布尔斯认为，AI技术能够极大地改变网络安全，并从长远来看使防御者受益。人工智能可以通过自动执行任务来帮助防御者更快地采取行动，而这些任务曾经都需要人类安全专家辛苦完成。他进一步指出，虽然距离实现完全自动化的目标还有很长的路要走，但人工智能在网络安全领域目前已经有三种值得发展的用例：恶意软件分析功能、通过摘要和自然语言搜索助力安全运营团队、使用人工智能来加速网络防御修补过程。

利用人工智能分析恶意软件

恶意软件是网络攻防领域最传统的威胁之一，但攻击者能够以惊人的速度生成恶意软件变种。随着变种数量的增加，防御者尤其是恶意软件分析师的工作量也在增加。这就是自动化可以提供帮助的地方。

谷歌云最近测试了Gemini 1.5 Pro大模型分析恶意软件的能力。工程师使用了一个简单的提示并提供了代码供它分析，要求它得出结论某个文件是否是恶意的，并生成一份活动和入侵指标列表。

Gemini 1.5 Pro查看了多个已知恶意软件文件，测试了反编译和反汇编代码，并以人类可读的语言生成了摘要报告。得益于其100万个令牌上下文窗口，Gemini 1.5 Pro能够一次性处理恶意软件代码，通常只需30到40秒。对于测试样本之一是WannaCry恶意软件的完整反编译代码，该模型能够一次性分析它，仅花费34秒就完成分析并识别终止开关。谷歌近期还宣布，Gemini 1.5 Pro将升级支持200万个令牌上下文窗口，这可以继续大规模改变恶意软件分析，为网络防御者提供更好的结果。

使用人工智能来增强安全运营团队

网络安全运营团队目前仍需要投入大量的人力，但是通过多种方式利用人工智能可以来减轻这种劳动负担，加速许多流程密集型任务，例如分析威胁情报和筛选调查噪音。自然语言搜索和调查摘要可以大大帮助团队在大量警报中找到高风险的线索并采取行动。谷歌开发的安全专用人工智能API SecLM将多个模型、业务逻辑、检索和基础整合到一个针对特定安全任务进行调整的有凝聚力的系统中，辅助模型理解网络防御实践的细微差别。

人工智能生成的摘要可以帮助节省整合威胁研究的时间，并以清晰、简洁、自然的语言解释复杂信息。受益于Google DeepMind在人工智能方面的最新进展以及Google业界领先的威胁情报和安全数据，谷歌Gemini大模型在威胁情报中提供的人工智能摘要可以帮助起草威胁行为者的概述，包括有关相关实体和关联实体的详细信息，以及他们针对的地区。信息的流通顺畅帮助安全运营团队在很短的时间内收集到所需要的情报。

AI促进网络安全运营团队工作中一个更有价值的方法是帮助新团队成员快速适应。例如，AI支持自然语言查询，这可以帮助定期生成可靠的搜索查询，而不必记住专有的安全运营平台查询语言。正在安全运营中使用的Gemini 自然语言查询，可以帮助新团队成员更快地加入，使分析师能够更快地找到答案，并提高其安全运营计划的整体效率。

使用人工智能扩展安全解决方案

2024年1月，谷歌团队发布了一个模糊测试框架，这是一个免费的开源工具，旨在帮助研究人员和开发人员提高模糊测试的漏洞查找能力。该团队指示AI基础模型编写可以提高模糊测试覆盖率的项目特定代码，目的是发现更多漏洞，并在检测到漏洞时私下提醒开发人员。

使用人工智能帮助追踪和修复漏洞的潜力越来越大。精心设计的人工智能工具还可以通过提供一系列叠加的优势来提高网络安全性，这些小的改进叠加在一起可以帮助生产力飞速提高。该团队为基础模型构建了一个自动化管道，用于分析软件中的漏洞，然后促使这些模型生成补丁，最后测试这些修复程序，选择最佳候选方案进行人工审查。

图为网络安全漫画图

图片来源：谷歌云

参考文献：

[1]Cloud CISO Perspectives: 3 promising AI use cases for cybersecurity[EB/OL].（2024-06-19）[2024-11-29]. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-3-promising-ai-use-cases-for-cybersecurity

[2]From Assistant to Analyst: The Power of Gemini 1.5 Pro for Malware Analysis[EB/OL].（2024-04-30）[2024-11-29]. https://cloud.google.com/blog/topics/threat-intelligence/gemini-for-malware-analysis

[3]Advancing the art of AI-driven security with Google Cloud[EB/OL].（2024-05-7）[2024-11-29]. https://cloud.google.com/blog/products/identity-security/advancing-the-art-of-ai-driven-security-with-google-cloud-at-rsa

[4]Scaling security with AI: from detection to solution[EB/OL].（2024-01-31）[2024-11-29]. https://security.googleblog.com/2024/01/scaling-security-with-ai-from-detection.html#:~:text=releasing%20our%20fuzzing%20framework

[5]Practical use cases for AI in security operations[EB/OL].（2024-07-31）[2024-11-29]. https://www.youtube.com/watch?v=UAZvnW1McV0