首页   >  关于我们   >  新闻中心   >  共创活动·圆桌回顾 | AI 让攻击变便宜了吗?安全人探讨 AI 时代漏洞演进与攻防成本重构
返回
共创活动·圆桌回顾 | AI 让攻击变便宜了吗?安全人探讨 AI 时代漏洞演进与攻防成本重构
  • 2026.08.26
  • 1305
当 AI 同时改变了开发与攻击的方式,

攻防之间的成本天平正在向哪边倾斜?

 

作为2026 CSA 大中华区暨 AI + 安全大会预热共创系列活动——以AI 时代的漏洞演进与攻防成本变化为主题的线上直播圆桌于8月21日顺利举办。本次直播围绕 AI 重构攻防成本这一行业热点,来自学术界、白帽社区、大厂安全、独立攻防领域的多位安全实践者开展 90 分钟深度对话,直面 AI 安全现实问题。本文为内容精编版,错过直播的朋友,跟我回到现场。

 

 

本期嘉宾

主持人 · 宁大叔小怪兽:

ChaMD5 AI 团队负责人、社区主理人

岚霭:

PCL-南科大联培博士,BinX 战队成员,学术前沿视角

陈河杉(Box):

Crypto 安全研究员、知名 X 大 V,开发者与工具链视角

小东:

第四届白帽赏金赛总榜第一、无界 AI 安全社区共建者,大厂防御 + 白帽实战

w1th0ut:

2025 HackProve Champion、无界 AI 安全社区共建者,大厂攻防 + 独立渗透

 

 

话题一:

安全从业者使用 AI 的 ROI,为什么这么多"怪现象"?

 

核心矛盾:安全任务几乎都是"对抗性"的——模型面对的是故意构造、持续演化、有对手驱动的输入,这与 AI 当前的能力特征存在结构性错位。

 

岚霭:实验室里效果不错,一上线遇到真实攻击流量就断崖式下降;很多工具在已知漏洞数据集上表现惊艳,真实命中率可能只有 benchmark 的十分之一。
 

陈河杉:信息整理类任务(报告、模板、文档)ROI 立竿见影;判断类任务(代码有没有漏洞、流量是不是攻击)ROI 急剧下降——"大模型擅长'看起来合理的生成',但差一个字符可能就是漏洞和不是漏洞的区别。"
 

小东:"AI 让新手变快,让专家变慢"——资深工程师反而多了一道"校验 AI 输出"的工序;模型常以非常确定的语气给出错误结论,这种"高置信度错误"在安全场景极其危险。
 

w1th0ut:算上验证输出、处理误报的隐性成本,表面"人时"降约 30%,实际"总有效人时"只降了不到 10%。
 

一句话总结:信息整理 ROI 高、判断 ROI 低;新手受益多、专家反被拖慢。怪象的根源是结构性错位,模型进步只能缓解、不会消除——因为对手也在进化。

 

 

话题二:

AI 为什么让攻击越来越"便宜"?

 
 

把"攻击成本"拆开看:信息收集、漏洞发现、利用编写、绕过防御、规模化执行——AI 到底降了哪几环?

 

w1th0ut:信息收集成本趋近于零,exploit 初稿从半天缩到一小时内,钓鱼文本质的飞跃;但 0day 挖掘、逻辑漏洞嗅觉这些"高水平攻击"的成本基本没变——"真正贵的不是工具,是认知。"

 

小东:真正降本的是批量的边际成本——从一天测 50 个目标到扫几千个;防御端则表现为攻击"噪音"暴增,"攻击者基盘扩大"才是 AI 让攻击变便宜的最深层原因。

 

陈河杉:泼盆冷水——"便宜不等于有效",AI 生成的攻击脚本多数在真实环境跑不通;按"成功攻击的成本"算,降本幅度远没有想象中大,成熟黑产并不依赖 AI。

 

岚霭:学术量化研究(CCS 2025 智能体 CTF 评估、TSecBench 等)结论一致——已知漏洞的自动化利用显著降本,未知漏洞发现仍难衡量;更该担心的是防御者急剧上升的"认知成本"和攻击"多样性"对特征匹配防御的冲击。
 

一句话总结:AI 降低的是攻击的"下限"而非"上限",而下限降低带来的攻击量激增,本身就在推高防御成本。

 

 

话题三:

甲方 SDL,在 AI 冲击下如何重构?


 

当开发用 AI 写代码、攻击者用 AI 生成攻击,传统 SDL 的代码审计、威胁建模、应急响应都要跟着变。

 

小东:变化最大的是代码审计——AI 生成代码量暴增且风格高度一致,人工 review 反而更难发现异常;大厂正把 AI 审计前移到开发阶段、威胁建模纳入"AI 代码的系统性偏差"、用 AI 做告警分诊。

 

w1th0ut:从"流程驱动"转向"数据驱动"——安全画像动态调整检查深度、AI 攻击场景自动入测试用例库、红蓝"AI 对抗 AI"持续验证。最大挑战不是技术,是组织。

 

岚霭:学术界提出"Secure by AI"——代码审计应从"找已知模式"转向"理解语义意图";AI 生成代码的责任归属也将影响流程设计。

 

陈河杉:最易忽略的是开发者安全教育——"AI 写的代码应该没问题吧"这种心理依赖非常危险,需要重塑开发者的安全心智。

一句话总结:流程前移、机制数据化、检测语义化、重塑安全心智——但最大的挑战是组织协调与责任归属。

 

 

话题四:

渗透智能体 + 开源模型,攻防成本曲线会怎么走?

 

岚霭:渗透智能体三阶段——"AI 辅助"已成熟,"AI 编排"正处研究热点(ReAct 类智能体已能打 CTF,但离真实渗透尚远),"AI 自主渗透"仍非常早期;当前正从第一阶段向第二阶段过渡。

 

w1th0ut:闭源模型推理强但贵、有内容审查、有隐私风险;开源可本地部署、边际成本趋零。实战最优解是"闭源做大脑、开源做手脚"。开源模型本地化部署是 game changer——攻击成本从"按次计费"变成"一次性硬件投入",且不再留下溯源线索。

 

陈河杉:防御场景选闭源(准确率优先),红队场景必须开源(可 fine-tune、可控);微调后的漏洞分析"专家模型"成本仅为闭源的十分之一——"定制化安全 AI"正在成为可能。

 

小东:大厂多一层合规约束;开源模型普及后,攻方可能比守方获益更大——因为攻击者没有合规包袱。

一句话总结:混合策略是当前最优解;开源 fine-tune 可能改写攻防成本格局,而攻击方"零合规约束"的不对称优势会持续扩大。

 

互动问答精选

 

Q  预算有限,优先在哪个环节引入 AI?

 

陈河杉:安全运营(告警分诊、日志分析、报告生成)ROI 最确定;别一上来就搞 AI 漏洞挖掘,那个坑太深。

 

 

Q  学术界最看好什么方向?

 

岚霭:"AI 生成代码的安全验证"——白盒审计(如 CodeQL)的输出自带 CWE 方向和代码位置,交给渗透智能体做自动化验证,可能是个好方向。

 

 

Q  独立白帽用 AI 挖洞,效果如何?

 

w1th0ut:AI 管信息整理和初步分析,找到漏洞那一刻还是靠人的经验和对业务逻辑的理解。

 

小东:AI 的最大价值是"扩大覆盖面"——广度有提升,深度还是靠人。

 

Q  未来一年防御者最该担心什么?

 

岚霭:攻击规模化带来的防御疲劳,重点是自动化防御能力建设。

 

陈河杉:开源模型 + 自动化工具链,会让"定制化攻击"从 APT 专利变成普通攻击者也能负担。

......

 

写在最后——

四位嘉宾的分享:

 

岚霭:AI 的核心挑战不是能力不够强,而是安全任务的对抗性本质——真正的核心竞争力还是对安全本质的理解。

 

陈河杉:AI 让安全的"广度"变便宜了,但"深度"依然昂贵。把 AI 用在确定能提效的环节,不要追概念。

 

小东:SDL 的重构不只是技术升级,是组织变革。攻防成本的变化不只是技术问题,更是管理问题。

 

w1th0ut:闭源 + 开源混合是当前最优解;长远看开源 fine-tune 会改变游戏规则——而攻击方"零合规约束"的不对称优势会持续扩大。

 

如果说这场 90 分钟的圆桌有一条贯穿全场的主线,那就是—

AI 让安全攻防的"下限"在降低:攻击门槛、工具成本、入门难度都在降低;但"上限"并没有被拉高:真正的高水平攻防,依然依赖人的认知、经验和创造力。攻防成本的剪刀差短期在扩大,长期走向取决于防御方能否在 AI 工具化和组织变革上跟上节奏。

 

这不是终点,9月我们将在清华大学举办2026 CSA大中华区暨AI+安全大会,两院院士、国际组织代表、头部企业高管同台,围绕AI原生基础设施、AI国际治理与安全标准、国际可信AI人才体系共建三大方向展开,期待在9月的大会上我们一起聊更多体系建设和标准治理。

 

鸣谢

感谢 ChaMd5 安全团队、无界 AI 安全社区、BinX 战队及洺熙等伙伴对本次共创活动支持,感谢所有线上参与观众。
 

大会预告

 
2026 CSA大中华区大会暨AI+安全大会将于9月11日在北京清华大学举办。大会由云安全联盟大中华区(CSA GCR)与清华大学联合主办,以“智序·本体:以可信智能时代筑基”为主题,聚焦AI安全、人工智能治理、产业应用及人才培养等核心方向,汇聚政产学研各界力量,共同探索可信智能时代的发展路径,推动人工智能安全生态建设。

                                  扫码报名CSA GCR大会

 

本网站使用Cookies以使您获得最佳的体验。为了继续浏览本网站,您需同意我们对Cookies的使用。想要了解更多有关于Cookies的信息,或不希望当您使用网站时出现cookies,请阅读我们的Cookies声明隐私声明
全 部 接 受
拒 绝