2024年4月15-19日,第27届联合国科技大会在日内瓦万国宫举行,作为最高级别会议(部长级),汇聚193国政府与国际科技界领袖。联合国贸易和发展会议秘书长Rebeca Grynspan,国际电信联盟秘书长Ms. Doreen Bogdan-Marti与联合国经济及社会理事会主席H.E. Ms. Paula Narváez发表特别致辞,共谋全球科技发展与合作。
期间,由云安全联盟大中华区(CSA GCR)与世界数字技术院(WDTA)联合主办的第27届联合国科技大会AI边会“塑造AI的未来”于4月16日成功举办。
此次AI边会汇聚了来自全球50多个国家的部长及政策制定者、顶尖研究机构、国际组织负责人,以及企业中超过100位专家和决策者。会议强调了在全球人工智能领域所面临的巨大机遇与挑战之下,国际合作与团结的迫切性与重要性。
会议由云安全联盟大中华区主席李雨航院士主持,全球多位领域专家与领导者共同探讨了生成式人工智能对人类和联合国可持续发展目标(SDGs)的贡献,以及深入研究了如何处理人工智能自我意识、信任和安全等相关问题。
联合国科学和技术促进发展委员会(UN CSTD)副主席,世界数字技术院WDTA创始理事长Peter Major 在其发言中强调, 在AI快速发展的背景下,国际合作对解决AI在健康、安全、人权和环境等方面的影响至关重要。为确保AI技术安全融入各领域,需制定标准化安全措施和测试方法,以增强公众信任并促进数字技术发展。
美国商务部负责标准与技术的副部长兼NIST主任Laurie Locascio介绍了NIST在人工智能、半导体、网络安全、量子科学和高级通信等关键技术领域的研究和优先事项。她特别指出,NIST正致力于开发测量、测试和标准来确保人工智能的安全性和可靠性,并已与全球组织合作创建了人工智能风险管理框架。
谷歌DeepMind研究所所长Suzan (Sam) Miller强调了AI的未来发展和不断出现的新挑战。她指出,虽然像WDTA、CSA等国际组织在制定AI使用指导和标准方面已有所进展,但我们仍然期待继续推动这一进程,并寻找可能存在指导不足的领域,尤其是在人机交互方面需要更多的关注。
美国乔治城大学安全与新兴技术中心(CSET)高级研究员Heather Frase 在讨论中专注于AI的宏观监管问题。她表示:许多关于AI监管的讨论通常集中在单个模型及其输出上,但更重要的是从宏观层面审视AI对社会的影响,特别是对健康、安全、人权、环境以及政府服务和机构的潜在影响。
蚂蚁集团机器智能部总经理王维强在发言中介绍了蚂蚁集团在人工智能领域的实践和成就。他强调了公司如何利用AI技术提高数字金融服务的便捷性和普及性,并确保高效率和极低的错误率。此外,他也提到了对AI带来的潜在风险的警觉,强调了在金融、医疗和法律等关键领域确保AI的安全、准确性和专业性的重要性。
OpenAI治理、风险和合规部门负责人Nick Hamilton在其发言中重申了OpenAI的使命是确保人工智能(AGI)造福全人类,并强调了在开发AI产品的过程中坚持公平分配利益的原则,确保AI的广泛可用性和安全性。他提到,OpenAI非常愿意与WDTA、CSA及其他研究和政策机构合作,寻求全球社区,并携手应对如何确保AI安全、可靠,以及协助制定促进AI安全使用所需的标准和法规等方面的挑战。
非洲联盟AI经济委员会主席,minoHealth AI实验室创始人兼首席执行官Darlington Aakogo表示, 其实验室与联合国、盖茨基金会合作研发的AI系统解决了非洲医疗基础设施和人员短缺问题,取得了显著的成果。该系统可诊断多种疾病,计划全球推广,Aakogo对此充满期待,并呼吁国际合作,共同解决全球健康不平等问题,让更多人享受先进医疗技术。
西蒙长期治理研究所联合创始人兼首席CEO Maxime Stauffe表示, 一个主要风险是大多数国家无法从AI发展中获益,这主要由于基础设施的不平等。另一个关键风险是在大规模部署时可能出现的控制失衡。而解决这些问题的关键在于国际层面上的治理空白,需要通过提高包容性、能力建设和加强协调来填补。
最后,WDTA发布了AI STR标准(文末附带下载链接),包括《生成式人工智能应用安全测试标准》、《大语言模型安全测试方法》,这两项标准是由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成,为全球人工智能安全评估和测试设定了新的基准。
WDTA还正式发布了“生成式人工智能人才发展框架”、“AI安全专家(CAISP)”及“首席AI官 (CAIO)”项目,以支持全面的人工智能教育,旨在全面应对AI时代对专业技能的需求,为数字经济和社会的未来发展提供坚实的人才保障。
本次会议突显了在人工智能迅速增长的机遇和挑战下,CSA大中华区及其合作伙伴在推动技术创新、加强国际合作以及制定人工智能发展的伦理策略方面所做的持续努力。会议重点强调了以人为本、确保安全和负责任的发展,这一协作愿景为人工智能的未来绘制出一个前瞻性路线图。