研究

《AI模型风险管理框架》

2025.04.09

《AI模型风险管理框架》探讨了模型风险管理在AI模型应用任开发、部署和使用方面的重要性，适用于对该主题有兴趣的读者群体，包括直接参与AI开发的从业者以及专注于AI治理的业务和合规监管机构。本报告强调了与AI模型相关的内在风险，如数据偏见、事实性错误或信息不相关（通常被称为“幻觉”或“虚构”）、以及潜在的滥用行为。同时，提出了一个全面的MRM框架的需求，该框架基于四个相互关联的支柱：模型卡片（ModelCards）、数据手册（DataSheets）、风险卡片（RiskCards）和场景规划（ScenarioPlanning），上述支柱协同工作，通过持续的反馈循环来识别和减轻风险，并改进模型开发与风险管理。具体而言，模型卡片和数据手册为风险评估提供信息，风险卡片则指导场景规划，场景规划进一步优化风险管理和模型开发。

查看详细

《从原则到实践：在动态监管环境下负责任的人工智能》

2025.01.09

《从原则到实践：动态监管下负责任的人工智能》旨在为各组织提供基本知识，帮助其从根本上了解自身的现状，并为他们在快速变化的负责任、合规地使用人工智能方面的需求提供指导。本文探过了部分现行法规，并阐述了在地区、国家和国际层面开发和部署负责任的人工智能的注意事项和最佳实践。

查看详细

《AI韧性：AI安全的革命性基准模型》

2024.12.16

报告详细讨论了AI 治理与合规的重要性，并分析了AI 技术的发展历史和当前的训练方法。通过一系列实际案例研究，揭示了AI 失败的教训，并针对汽车、航空、关键基础设施等行业的监管挑战进行了深入分析。报告提出了一个受生物进化启发的AI 韧性基准模型，强调了多样性和韧性在AI 系统中的重要性，并给出了AI 韧性评分的标准。

查看详细

《AI组织责任：核心安全责任》

2024.12.10

报告详细分析了数据真实性、匿名化、数据最小化等核心问题，并提出了一系列量化的评估标准与实施策略。同时，报告中引入了AI 共享责任模型，明确界定了AI 平台提供商、应用所有者、开发者与使用者之间的责任分工，并探讨了各方如何协同合作，确保AI 应用的安全可靠运行。

查看详细

《大语言模型威胁分类》

2024.12.03

本报告详尽地分析了 LLM 的关键资产、服务生命周期、影响类别和威胁类别，为政策制定者、技术专家和行业决策者提供了一个清晰的理解和应对 LLM相关风险的框架。

查看详细