首页   >  关于我们   >  新闻中心   >  CAIDCP AI驱动安全:安全实践篇|智能协同、场景应用与风险防控
返回
CAIDCP AI驱动安全:安全实践篇|智能协同、场景应用与风险防控
  • 2025.07.28
  • 7824

7月24日晚,由云安全联盟大中华区(CSA大中华区)深信服、京东集团、亚信安全及乐信集团联合举办的“CAIDCP AI驱动安全系列”第二场活动——安全实践篇专题对话顺利举行。本次活动聚焦AI在安全领域的深度实践,围绕AI驱动安全的三阶段演进路径、SOC智能化改造的量化成效、生成式AI在安全测试中的实际应用,以及中小企业AI安全能力建设的可行路径等热点议题,进行了深入探讨。

 

圆桌讨论环节由乐信集团信息安全中心总监刘志诚担任主持人,邀请了深信服安全大模型专家肖鹏、亚信安全人工智能首席科学家杨婷、京东集团高级安全专家Skyvast。各位嘉宾结合自身的实践经验,分享了关于AI驱动安全的深刻见解和实用建议。
 


AI驱动安全的演进:从“辅助”到“重塑

 

刘志诚

AI驱动安全的核心价值如何体现?

 

肖鹏

AI驱动安全的核心价值在于推动安全体系从“辅助”走向“赋能”,最终迈向“驱动”的全新阶段。初期AI作为工具应用于钓鱼邮件识别、流量检测等单点场景,展现明显成效;中期与安全体系深度融合,提升整体防御能力;最终通过“安全智能体”实现多能力协同,完成端到端任务处理,推动安全从被动响应向主动智能演进,并可能重构安全组织架构与协作模式。

 

杨婷

AI驱动安全的核心价值不仅在于技术升级,更在于推动安全体系从“被动防御”向“主动防御”转变。通过整合EDR、NDR等单点能力,AI构建起协同的全局防御体系,实现威胁检测、分析到处置的全流程闭环。相比传统规则检测,AI在应对复杂攻击、提升恶意代码溯源能力方面更具优势,为安全防护带来智能化、主动化的全新可能。

 

Skyvast

根据从用户和一线实践角度,AI驱动安全是否实现了从被动防御到主动防御的转变这个问题,Skyvast指出,AI虽推动安全升级,但防御方仍处被动局面,企业需通过“数字员工”为工程师赋能,AI在研判类场景已成熟,推理类场景仍需探索,未来需思考大模型如何适配专业安全需求。AI驱动安全不仅是技术升级,更是攻防对抗格局的重构,防御方需要通过AI工具提升效率,能更好跟上攻击方的AI进化速度

 

AI驱动安全的核心应用场景
 

刘志诚

AI驱动安全的具体应用场景与实践情况?

 

肖鹏

  • 安全运营场景(告警研判);  
  • 高级威胁检测场景:加密WebShell/白利用攻击识别;
  • 钓鱼邮件检测场景:破解二维码钓鱼、多层加密附件;  
  • 数据安全场景(敏感数据动态识别);
  • 响应自动化与剧本生成 。

以上五大场景中已展现出显著成效,尤其在提升效率、降低人工负担、增强检测能力方面效果突出,是当前AI驱动安全最容易落地、最快见效的方向。

 

杨婷

  • 构建“智能威胁检测→联动处置→威胁溯源”三层AI原生防御体系。
  • 八大AI能力覆盖资产管理、脆弱性管理、威胁情报等环节,实现云网边端协同。
  • AI在威胁检测、告警降噪、联动处置、威胁溯源等场景中已展现出显著成效,尤其在勒索病毒识别、钓鱼邮件闭环、告警优先级排序等实战场景中见效快、价值高,是企业构建AI驱动安全体系的优先落地方向

 

Skyvast

两类场景实践:

  • 研判类:敏感数据识别、威胁情报(成熟度高)。
  • 推理类:渗透测试、漏洞修复(需结合传统能力)。
  • AI在研判类场景已成熟见效,在推理类场景仍需探索,通过AI与传统能力结合的方式,能有效提升漏洞挖掘、渗透测试等复杂任务的效率和准确性,是当前AI驱动安全落地的关键路径。


企业如何规划AI安全能力建设?

 

刘志诚

如何平衡投入与风险?

 

Skyvast

自研vs采购三标准(用户视角):

  • 业务价值:高价值场景优先(如钓鱼邮件检测)。
  • 数据敏感性:涉密能力自研,通用能力采购。
  • 技术门槛:避免“用AI解决业务理解不足的问题”。

 

杨婷

分阶段落地(厂商视角):

  • 第一步:事件响应与修复(中小型企业降本,大型企业降损)。
  • 专项突破:钓鱼邮件检测、勒索防护等“小投入高回报”场景。
  • 客户分层:高价值资产企业重威胁闭环,中小企业重运维提效。

 

肖鹏

  • 客户差异化路径(厂商视角):
  • 技术型KA:优先检测类模型(如0day检出)。
  • 管理型KA:运营与检测一体化(提升告警处理质量)。
  • 中小企业:SaaS化钓鱼防护(见效快,显价值)。

 

 

AI应用风险与未来趋势

 

刘志诚

如何应对AI的"不可控"?

 

杨婷

伦理与治理:

  • 三大风险:数据垄断导致创新失衡、责任边界模糊、成本收益错配。
  • 破局思路:数据联盟流通、行业标准制定(如自动驾驶L1-L5分级)、政策顶层设计。
 

Skyvast

落地风险防控:
1.安全三防线:

  • 使用前:明确大模型,任务分级(禁止AI直接执行高危操作)。
  • 使用中:输入脱敏+容器隔离。
  • 使用后:输出审计+敏感数据识别。

2、幻觉应对:知识库检索+多角色审查(如“审查者”验证逻辑链)。

 

肖鹏

四层防护:

  • 应用风险层:护栏模型防御提示词注入(如业务模型+安全模型协同)。
  • 模型算法层:厂商解决幻觉/偏见(用户无需参与)。
  • 系统平台层:用户修补框架漏洞(如Llama未授权漏洞)。
  • 训练数据层:厂商承担投毒防护责任。

 

问答环节
 

除了主题分享,现场还回应了观众提问。

1、对于启发性的没有 detection 是否有能够平衡性,能和准确性的有效实践?
 

更多回答请关注
“云安全联盟CSA”视频号观看回放

 

CAIDCP AI驱动安全专家认证开班信息

 

云安全联盟大中华区推出AI驱动安全专家认证(Certified AI-Driven Cybersecurity Profession ,CAIDCP)培训与认证计划。首期课将于8月正式开课,课程覆盖 A1驱动网络安全系统的全生命周期实践,通过理论与实战结合,培养学员构建和运用新一代智能防御体系的能力。
 

具体课程开班更多信息可咨询CSA Training

 
本网站使用Cookies以使您获得最佳的体验。为了继续浏览本网站,您需同意我们对Cookies的使用。想要了解更多有关于Cookies的信息,或不希望当您使用网站时出现cookies,请阅读我们的Cookies声明隐私声明
全 部 接 受
拒 绝