12月12日，云安全联盟（CSA）与OpenAI、亚马逊、谷歌、微软和Anthropic合作发起AI安全倡议。该团队汇集了来自政府机构、学术界以及众多行业的专家，这是CSA成立14年以来参与人数最多的倡议之一。

AI安全倡议致力于制定和公开共享可靠的AI安全和安全指南，最初专注于生成式AI。其目标是为所有客户提供部署AI的工具、模板和知识，以确保其安全、道德和合规地使用AI。通过与政府法规保持一致并增加敏捷性的行业标准，该倡议弥合了政策与实践之间的距离。AI安全倡议正在积极开发适用于当今生成式AI的实用安全措施，以帮助为未来更强大的AI系统做好准备。其目标是减少风险并增强AI在所有领域的积极影响。

“生成式AI正在重塑我们的世界，带来巨大的机遇。团结起来分享知识和最佳实践至关重要。领导者们跨越竞争边界进行教育和实施最佳实践的合作精神使我们能够为行业构建最佳建议，”云安全联盟AI安全倡议主席、行业专家Caleb Sima表示。

AI安全倡议已开始其核心研究工作组的会议：

• AI技术和风险工作组
• AI治理与合规工作组
• AI控制工作组
• AI组织责任工作组

该团队已有超过1500名专家参与。此外，CSA在全球的110个分会正在积极参与全球活动，并在其国家或地区与当地AI企业积极合作。其中，CSA大中华区在“2023 inclusion·外滩大会”上发起并成立了“AI安全工作组”，工作组由中国电信和蚂蚁集团担任联席组长单位，电子科技大学、南京邮电大学、华为、百度安全、京东安全、火山引擎等企业、高校、研究机构将作为首批成员，共同推进研究人工智能内生安全、衍生安全、助力安全领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案，为行业提供一个清晰、系统的AI安全研究框架。

“Anthropic的AI系统旨在提供帮助、诚实和无害。我们期待将我们的专业知识用于为更广泛行业制定安全和负责任的AI系统指南。通过参与专注于当今生成模型的倡议——同时着眼于未来更高级的AI——我们可以确保这种变革性技术造福全社会，”Anthropic首席安全官Jason Clinton提到。

“CSA与我们的理念相同，即当私营机构、政府和学术界围绕行业标准达成一致时，长期生成式AI的进步将得以实现，正如我们在安全AI框架（SAIF）中所概述的那样。持续的行业合作将帮助组织确保新兴AI技术在安全生态系统中产生重大影响，”谷歌云首席信息安全官Phil Venables表示。

“安全是值得信赖、安全和负责任的AI的基础，并且是OpenAI使命的核心。我们认识到新安全框架的机会，并很高兴以合作方式来处理这一问题，”OpenAI安全负责人Matt Knight表示。“这个联盟及其产生的指南将设立标准，以帮助确保AI系统的安全构建。”

CSA大中华区将于2024年第一季度启动AI安全神兽方阵项目，计划发布《AI安全神兽方阵报告（2024）》，该报告是面向AI安全领域的中国企业发展的专业分析报告。有意向参与单位可联系CSA大中华区秘书处。

CSA大中华区办公室微信