2024.04.19
This standard document provides a framework for evaluating the resilience of large language models (LLMs) against adversarial attacks. The framework applies to the testing and validation of LLMs across various attack classifications, including L1 Random, L2 Blind-Box, L3 Black-Box, and L4 White-Box. Key metrics used to assess the effectiveness of these attacks include the Attack Success Rate (R) and Decline Rate (D). The document outlines a diverse range of attack methodologies, such as instruction hijacking and prompt masking, to comprehensively test the LLMs' resistance to different types of adversarial techniques. The testing procedure detailed in this standard document aims to establish a structured approach for evaluating the robustness of LLMs against adversarial attacks, enabling developers and organizations to identify and mitigate potential vulnerabilities, and ultimately improve the security and reliability of AI systems built using LLMs. By establishing the "Large Language Model Security Testing Method," WDTA seeks to lead the way in creating a digital ecosystem where AI systems are not only advanced but also secure and ethically aligned. It symbolizes our dedication to a future where digital technologies are developed with a keen sense of their societal implications and are leveraged for the greater benefit of all.
查看详细
2024.04.01
云安全联盟(CSA)和SAFECode 致力于提高软件安全成果。2019年8月发布的论文《DevSecOps 的六大支柱》提供了一套高级方法并成功实施了解决方案,其作者使用这些方法快速构建软件并最大限度地减少与安全相关的错误。
查看详细
2024.03.20
报告总体反映出企业对云计算中安全驱动创新的推动作用和积极性普遍较高。它为读者深入理解全球企业的云计算实践、面临的安全与管理难题,以及最新的技术部署动向提供了翔实的第一手资料。
查看详细
2024.03.12
零信任是一个技术无关的指导性框架,将访问控制措施更加靠近受保护资产(保护面)。从身份、访问管理的角度来看,它提供了基于风险的决策授权能力,而不是仅基于单一访问控制方法的二元信任来进行授权访问。
查看详细
2024.01.30
报告系统的整理了目前中国数据出境监管的法律制度要求,这一制度呈现为基础法律、规范性文件、标准、指南的立体结构,并从原则到已经具有一定颗粒度的指引,说明监管者规范数据出境活动的良苦用心。同时,这一体系化结构也意味着可解释和可例外的场景虽然很多,包括自贸区等先行先试模式在一定区域范围、数据类型、甚至字段级别的“突破”,但整体上不太可能存在“颠覆性”的规则重塑,因此企业所寻求的稳定性和对出境活动后果的可预期性事实上也是清晰和明确的,大可不必为所谓监管的“不确定性”焦虑。进一步的,报告着力于从已经公开的评估、备案信息中,分析和识别一般规律,包括涉及的行业特征、所在区域的省级网信部门的指导能力、企业对可适用出境路径的定性判断等等,这些抽象的、一般的规律性认识,对未来无论是数据出境的细节考虑,还是常态化的企业数据合规建设应都有启发。当然最为重要的是,需要将CSA大中华区在数据技术和管理中的最佳实践和较优做法注入到数据出境场景,成为数据跨境企业赋能的一部分,在更广阔的全球范围内分享中国数据跨境的监管规则变迁、落地个案的优劣得失,并将全球主要国家的政策法律进行符合中国跨境监管要求的解读和适配。在秉持中立性的原则下加强和推动不同国家跨境监管制度的交流和协调,为繁荣数字经济和贸易活动贡献力量,这也是启动报告工作的初衷和意愿所在。从这一意义上,这份发起于数据跨境监管元年的报告将只是一个起点、一个尝试。在全球视野下报告所涉及的领域和方向仍将有诸多方向的持续性进展,值得每位报告参与者和关注报告的每位读者保持关注,甚至倾注更多力量。
查看详细
2024.01.29
通过对AI安全风险进行深入分析和研究,我们坚信企业和组织可以采取更为有效的管理措施,确保数据安全与隐私保护。面对数字经济时代,企业和组织必须高度重视人工智能安全风险管理,并积极应对各类人工智能安全挑战。借助《AI安全白皮书》的指导和建议,我们期待广大从业者能够更好地把握人工智能安全管理要点,确保数字经济发展可持续性。同时,我们也期待更多企业和组织能够参与到人工智能安全事业中来,共同为构建安全、健康的数字经济环境贡献力量。
查看详细
本网站使用Cookies以使您获得最佳的体验。为了继续浏览本网站,您需同意我们对Cookies的使用。想要了解更多有关于Cookies的信息,或不希望当您使用网站时出现cookies,请阅读我们的Cookies声明隐私声明
全 部 接 受
拒 绝