AI安全工作组

首页 > 研究 > 工作组 > AI安全工作组

AI安全工作组简介

人工智能技术经过三次发展高峰期，已成为驱动经济社会各领域从数字化、网络化向智能化加速跃升的重要引擎，深刻改变人类生活。但由于人工智能系统涉及数据、算法、模型、运行等多个复杂的环节，各个环节都存在难以避免的脆弱性，势必会带来新的安全问题。人工智能安全问题已然成为人工智能全面新发展的重要制约瓶颈和亟需突破的关键挑战，但目前国内在人工智能安全领域的研究工作还存在大量空白地带。

云安全联盟大中华区成立人工智能安全工作组，希望通过AI威胁和风险、AI内生安全、AI助力安全、AI衍生安全、AI伦理、AI合规等课题的研究，了解AI安全在当前中国的行业发展现状、厂商的落地方案以及客户的最佳实践，让企业能够更便捷地获得安全能力，促进整个AI安全领域的快速发展。AI工作组将致力于推动AI安全技术在中国的应用发展，创造一个更安全的人工智能生态环境。

工作组职责

AI工作组的主要职责是研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护、AI技术助力安全应用、AI的伦理和AI合规等方面的材料。工作组将围绕以AI安全为核心的各种AI技术威胁、风险、防护以及其他相关问题展开研究工作。

工作组目标

1、建立完整全面的人工智能安全研究框架：基于人工智能安全分类，对人工智能安全问题研究方向进行整体规划，确立一个全面而系统的研究框架。
2、开展前沿技术研究：组织联盟单位对研究框架下的前沿技术和应用进行研究，推动具有前瞻性的指导建议的输出。
3、推动合作和交流：召集联盟内的相关企业、学校、研究机构和用户单位，共同研究人工智能安全前沿技术，并促进技术和经验的分享与交流。
4、输出研究成果：通过白皮书和研究报告等形式，输出人工智能攻击和防御的前沿技术研究成果，为相关领域提供指导和标准。

工作组组长简介

黄磊，中国电信股份有限公司研究院，安全技术研究所副总工，数据安全资深专家，数据和AI专业方向负责人。具电信行业信息化、大数据、数据安全领域的战略规划、技术咨询和解决方案制定等经验。目前从事AI+数据安全、隐私计算、AI安全专业领域的研究。