2023年9月，CSA大中华区成立AI安全工作组，旨在共同解决 AI 技术快速发展所带来的安全难题。《AI安全白皮书》是CSA大中华区AI安全工作组的首个研究成果，由来自中国电信、蚂蚁集团、电子科技大学、百度安全、华为、京东安全、启明星辰、安恒信息、联通（广东）产业互联网有限公司、Ucloud、物盾科技、世平信息、魔方安全、孚临科技、安几科技等单位共同编制而成。

报告探讨了AI在安全领域的多种应用，包括漏洞挖掘、安全防御和威胁检测，着重分析了AI本身的安全问题，如内生安全和衍生安全问题。此外，白皮书还涉及了AI安全的监管生态、技术生态以及行业发展情况，关注AI安全的最新热点问题，如大模型安全、对抗样本攻击、数据投毒攻击、供应链攻击、数据泄露攻击和模型窃取攻击等，这些内容对于理解当前和未来AI安全的趋势至关重要。

报告指出AI将成为企业成功的关键因素之一，包括提供更高级的安全保障。AI赋能网络安全，为漏洞挖掘、威胁检测以及加强网络防御带来了新的能力，通过智能化预测与决策提高安全运营效率，大幅缩短对攻击的响应时间，增强网络安全防御的协作能力。

报告指出AI赋能安全的同时，在其应用的前提下依然会带来新的安全问题，一是AI技术自身的脆弱性可能导致不稳定或者不安全的情况；再就是其自身应用特点可能给其他领域带来风险，即AI技术的产生的衍生安全问题。

AI环境生态的安全是整个AI安全的实施基础，报告从AI环境切入，提出AI安全应从AI数据安全、AI算法安全、AI应用安全和AI安全运营4个层面综合考虑。

报告指出数据安全是AI数据安全的关键，数据的安全和质量影响着AI算法/模型的准确性，在机器学习的每个步骤中，都存在着隐私泄露的风险。

基于AI技术安全问题，报告针对当前的热点技术AI技术话题，进行了展开，包括：大模型安全、对抗样本攻击、数据投毒攻击、供应链攻击、数据泄露攻击、模型窃取攻击，以及AI辅助应用场景（例如：辅助医疗、辅助驾驶、辅助客服，以及金融、军事、基础设施、社交媒体应用场景等）的安全问题。

此外，AI的技术安全问题也催生了行业标准的发展，报告汇总介绍了医疗行业、汽车行业、通信行业、金融行业相关标准。

人工智能安全是一个快速发展的行业，需要不断创新和投入研发。随着人工智能技术的进一步发展和普及，人工智能安全将成为一个重要的领域，为保护人工智能系统和用户提供更安全的环境。

在监管发展方面，报告指出，最少应从法律法规、政策指引、行业标准、国际共识等多个方面进行考虑，应对人工智能安全的多重挑战。

在法律法规上，欧洲议会2023年6月14日通过了《人工智能法案》的初稿，有望成为世界首个针对这一新兴技术的全面监管法案， 这是一项关注人工智能安全开发和应用的法律，如ChatGPT和Bard。它对风险最高的技术使用施加了限制，例如面部识别软件的使用。

在政策指引上，人工智能的设计必须确保公平和透明，避免偏见和歧视。我国自2017年陆续发布《新一代人工智能发展规划》、《个人信息安全规范》、《新一代人工智能治理原则》、《新一代人工智能伦理规范》、《关于规范和加强人工智能司法应用的意见》、《算法推荐管理规定》、《互联网信息服务深度合成管理规定》等大量的政策法规文件均提出了“安全可控”的人工智能治理目标。

在行业标准上，人工智能安全的行业标准还处于起步阶段。人工智能安全（AI安全）的行业标准的发展是为了确保人工智能系统在设计、开发和应用过程中的安全性和可靠性。CSA大中华区正在制定AI安全相关标准，希望通过标准制定，促进产业有序发展。

在国际共识上，CSA于2023年5月发布《ChatGPT的安全影响》白皮书，强调了GPT技术在提升生产力和改变软件开发实践上的潜力，同时也指出区分其人工智能安全的合法和非法使用的挑战。

《ChatGPT的安全影响》的发布也让人工智能安全即AI安全进入到了人工智能第四个发展阶段，即国际共识的产生阶段。《ChatGPT的安全影响》提供了一些关于人工智能安全的一致意见与重要参考。

点击跳转详情

人工智能安全是一个不断发展的技术领域。我们需要不断研究和创新，以应对新的安全威胁和挑战。只有确保AI系统的安全性和可靠性，才能更好地发挥其潜力，为人类社会带来更多的福祉。

CSA大中华区正在推进多项AI安全相关工作，包括AI安全标准制定、AI安全认证课程开发、AI安全神兽方阵报告编制，有意向参与单位可联系CSA大中华区秘书处叶女士 19925407556 联系。
 

CSA大中华区办公室微信