ChatGPT是OpenAI训练的一个大数据语言模型,每天都在开发新的用例。由于ChatGPT采用了大量的数据进行训练,它可以理解自然语言,并以高超水平、类似人类的方式去回答问题。在这篇博客中,我们将简要介绍防御者可以在其网络安全计划中使用它的几种方式。
过滤安全漏洞
最近更新的GitHub Copilot(由GitHub和OpenAI开发的AI工具)引入了AI驱动的漏洞过滤系统,该系统增强了其代码安全性建议。通过实时检测和防止不安全的代码模式,这一创新功能可帮助程序员避免常见的编码错误。因此,可以开发更安全的应用程序,防止漏洞通过 DevSecOps 工具链传播。
生成安全代码
使用 Microsoft 365 Defender Advanced Hunting ,可以生成有助于调查安全事件的智能检索语句,从而缩短采取行动的时间。例如:找出哪些员工在网络钓鱼电子邮件中执行了恶意代码。
转换安全代码
ChatGPT 的底层 Codex 模型可以获取源代码和配置文件,并将它们翻译成其他编程语言。它还通过在提供的答案和新创建背后的方法中添加关键细节,简化了最终用户的流程。例如,这允许你利用 Microsoft 365 Defender Advanced Hunting ,即使你的系统无法使用 KQL 编程语言。
漏洞扫描程序
OpenAI的Codex API是C、C#、Java和JavaScript等编程语言的有效漏洞扫描程序。此外,用于检测和标记各种语言的不安全代码模式的扫描程序已经被开发出来,帮助开发人员在潜在漏洞成为关键安全风险之前解决这些漏洞。
寻找网络安全问题的解决方案
用户可以将他们正在努力解决的网络安全场景提交给 ChatGPT。例如,如何阻止将机密文档上载到 OneDrive。在对您的查询进行一些优化后,ChatGPT 通常会提出一个有用的解决方案。而且,传统上需要大量人工参与的解决方案,例如扫描敏感信息的内容,现在可以在 ChatGPT 的帮助下实现自动化。
与SIEM/SOAR集成
3月8日,微软宣布将Azure OpenAI服务与内置连接器集成,通过Azure Logic Apps实现剧本的自动化,即通过利用 OpenAI 模型的自动化功能来加速事件管理。当团队每天要处理数百万个事件时,这种类型的自动化至关重要。
将技术代码/文件转换为简单易懂的语言
ChatGPT 的一个突出特点是它能够阐明自己的思维过程,这使得它能够用清晰明了的语言检查和解释各种技术文件的功能,包括源代码、配置文件等。此功能使用户(即使没有深厚技术专业知识的用户)能深入了解这些文件的内部工作原理,并了解其用途、结构和潜在影响。
解读安全补丁和变更日志
对于操作人员来说,大量时间花费在阅读变更日志和其他信息源上,以查看是否存在任何与安全相关的、需要处理的信息。ChatGPT 可以轻松总结网页,更重要的是,它还可以提取上下文含义并查找特定信息,例如“[URL] 中是否列出了任何与计算机安全相关的问题”以及这些问题是什么。
模糊测试和测试代码
目前,ChatGPT 无法直接对您的代码执行模糊测试。但是,它可以帮助您了解如何模糊测试代码以及应该采取哪些步骤,并帮助您快速构建测试用例。这种洞察力对于处于入门级角色的人来说特别有用,可以帮助他们快速学习必要的步骤和程序。
深入了解 ChatGPT 世界,可以通过 CSA发布的报告《 ChatGPT 安全影响》(Security Implications of ChatGPT)。这本 54 页的出版物探讨了:
文章来源:CSA官网
https://cloudsecurityalliance.org/blog/2023/06/16/how-chatgpt-can-be-used-in-cybersecurity/
翻译:刘广坤,云安全联盟大中华区研究专家,专注于信息技术战略规划、网络安全、威胁情报、机器学习(ML)与人工智能(AI)等领域。
审校:谢绍志,云安全联盟大中华区研究专家,某安全公司技术总监,专注于数据安全规划、安全防护体系建设、风险管控等领域。