登录
2024.10.23
3117
如何在安全挑战中构建大模型稳健防线？
如何在复杂生命周期中确保大模型安全无虞？
如何在AI技术飞速发展中应对新型安全威胁？
2024年11月15日，北京
第八届云安全联盟大中华区大会将为您带来答案。
围绕主题 “云安全·AI，迎接未来”，我们将深入探讨前沿技术与安全挑战的应对之道。
等你来，共话未来！
百度杰出架构师、百度安全技术委员会主席包沉浮先生将出席本次大会，并针对大模型在其全生命周期内的安全挑战，发表主题为“大模型原生安全构建之路”的演讲。他将全面剖析大模型在训练、部署、运营等阶段面临的安全难题，介绍原生安全理念，同时，他也将探讨AI技术向智能体演进过程中涌现的新安全挑战，关注智能体安全问题，呼吁产学研各界共同关注并应对这些新兴风险。
大模型在其训练、部署、运营等各阶段面临着不同的安全挑战，如训练数据的选择与保护、防止模型参数泄露、应对恶意输入等，需要全面的、系统的安全策略来应对。而原生安全是一种从设计之初就考虑大模型特点的安全approach，包含数据清洗、安全围栏、安全对齐和持续评估四个核心要素。与此同时，随着AI技术向智能体方向发展，新的安全问题也随之出现。这些包括Prompt泄露、RAG检索增强生成投毒、非预期执行等风险。这些新型威胁需要特别关注，并开发针对性的防御措施。
此次议题的一个重要特点是对大模型生命周期各阶段安全挑战的全面分析，为构建完整的安全体系提供了基础。原生安全概念的提出也体现了创新思维，它区别于传统安全思路，针对大模型的特点构建了专门的安全方案，如多轮会话安全、提示词攻击防护、多模态融合安全等，旨在提升整体系统的安全性。另一个值得关注的点是对智能体安全的重视，在于智能体在各种场景中的广泛应用，其特有的安全问题日益凸显，这些新兴风险亟需产学研各界的关注和应对。
公司介绍
百度安全是百度公司旗下，以AI为核心打造的安全品牌，是百度二十四年安全实践的总结与提炼，致力于成为深谙业务的智能世界安全领导者。基于基础安全、数据安全、业务安全、车与IoT安全四大产品矩阵，百度安全业务覆盖百度各种复杂业务场景，同时面向合作伙伴输出安全产品与行业一体化解决方案，涵盖泛科技、智慧金融、智慧工业、智慧汽车、智慧政务等领域，全面探索AI时代的新实践、新范式。
面向行业生态，一方面，发挥技术能力打击包括电信网络诈骗、赌博、隐私窃取在内的各类违法犯罪行为，协助公安机关破案数百起，涉案金额达数亿元人民币，一方面，秉承技术开源、标准驱动理念，联合生态合作伙伴推动AI时代的安全生态建设。
手机：19925407556
邮箱：info@c-csa.cn