课程要点
 

·全面覆盖AI安全领域，从基础知识到高级技能；

·结合技术、法律、伦理和管理，提升AI安全综合治理能力；

·通过实际案例和实践指导，提升解决AI安全实际问题的能力；

·结合全球AI安全标准和法规，培养国际视野，确保企业合规性。

学习对象
 

·AI行业相关人员：AI工程师与开发者、AI安全工程师、AI应用终端用户；

·安全相关人员：安全研究员、合规与风险管理专员、网络安全从业者；

·其他：政策制定者和监管机构、在校学生。

课程大纲
 

模块1-AI安全概述篇

• AI与AI安全基本概念
• AI与安全衍生
• 技术发展脉络

模块2-技术基础篇

• 常见AI算法与模型介绍
• AI模型与算法安全性分析
• 数据隐私保护与安全措施

模块3-安全风险篇

• 大模型安全风险概述
• 典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略
• 防御机制解析

模块4-政策与治理篇

• 国内外AI安全法律法规、标准规范分析
• AI安全治理框架

模块5-全生命周期管理篇

• DevSecOps与AI
• AI安全需求分析与设计
• 安全的AI系统开发指南与实践
• AI安全测评框架应用
• AI渗透测试技术与方法
• AI安全运营保障体系建设

模块6-标准与评估篇

• AI安全框架
• AI成熟度模型应用与评估
• AI安全标准与测评认证实践

模块7-特别篇ChatGPT的安全影响

• 恶意行为者利用LLM的安全分析
• 防御者如何将LLM应用于网络安全
• 恶意提示词攻击的防范措施
• 企业安全使用ChatGPT的最佳实践

模块8-实践案例篇

• 现实世界中的AI安全问题深度分析
• 解决方案制定与应对策略
• 关键领域的AI安全最佳实践案例
• 行业大模型应用及安全实践案例

模块9-伦理与未来发展篇

• AI伦理道德挑战与分析
• 典型场景下的AI伦理道德风险
• 未来发展趋势

培养关键能力
 

·核心知识与技能构建：培养学员在AI安全领域的扎实基础，确保其能有效应对现代数字化安全挑战。掌握识别并防御各类安全威胁，特别是应对对抗性攻击的能力。

·AI算法与模型安全精通：深入理解AI常用算法和模型及其安全性，强化防范对抗性攻击的技巧，实施有效防御措施，确保数据安全免受泄露。

·大模型安全风险管理：掌握大型AI模型的安全漏洞识别、应对策略与管理，提升对各类攻击的防御能力以及系统性评估AI安全威胁能力。

·AI安全法规与安全治理：全面掌握国内外AI安全相关的政策法规与标准规范及AI安全治理体系，掌握AI安全治理的方法论、整体体系架构及各模块能力，全面提升学员对AI安全治理的能力。

·DevSecOps与AI集成安全：融合DevSecOps原则于AI开发流程，熟练运用DevSecOps框架于AI项目中，提升开发环境中的安全实践水平，确保AI应用的安全集成与维护。

·全生命周期AI安全管理：掌握AI应用从需求设计到测试部署的全周期安全管理，设计安全的AI系统，执行渗透测试，强化企业AI安全实施能力。

·大语言模型安全实践：安全实施和管理大语言模型，专攻大语言模型（LLM）的安全应用，识别并抵御未来安全威胁，提升防御恶意利用的能力，增强风险应对策略。

·AI安全成熟度提升：运用AI安全成熟度模型，掌握评估与提升AI安全成熟度的方法，依据测评结果实施改进策略，全面评估并优化系统安全性能。

·ChatGPT安全最佳实践：掌握ChatGPT安全使用策略，在企业中安全高效地利用ChatGPT，制定并执行安全操作规范，确保技术应用的合规与安全。

·政策法规与伦理道德：熟悉相关政策法规，识别伦理风险，应用有效的治理机制。增强对国内外AI安全政策、法规及伦理道德的理解，促进负责任的AI发展。

培训与认证考试
 

教学标准课时：2天课程，16-18课时。

考试认证：限时考试，题型为单选题和多选题，共60道题，必须在90分钟内完成。考生获得70%以上的成绩通过考试，考试通过后，系统生成考试证书。

考试入口：https://exam.c-csa.cn ，线上考试。

培训及考试认证费用：6980元/人（其中：培训费4500元/人；考试认证费2480元/人）

关于CSA大中华区CPE