首页   >  关于我们   >  新闻中心   >  如何理解生成式人工智能监管思路?
返回
如何理解生成式人工智能监管思路?
  • 2023.08.07
  • 4066

2023年7月,国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局联合发布了《生成式人工智能服务管理暂行办法》。云安全联盟大中华区(简称“CSA大中华区”)专家此前在办法的征求意见稿阶段提出了一些反馈意见,部分意见建议得到了办法的响应:

 
CSA大中华区专家建议对“生成式人工智能”的定义,应与《互联网信息服务深度合成管理规定》的深度合成技术(利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术)区分开来。

 


正式发布版本在第二条和第二十二条进行了概念更新,同时将监管范围从原先的“研发、利用”限缩为“利用”

 
二 

CSA大中华区专家认为,“对提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,……利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”中的虚假信息应进行规范限定,该“虚假”应包含一定的社会危害性,包括对国家安全、社会秩序和公共利益、组织和个人合法权益的“有害性”限定“虚假性”,应采取措施防止采用带有偏见的训练数据生成带有偏见和有害的观点或言论。

 

正式发布版本对“虚假”增加了虚假有害信息的明确。

 

CSA大中华区专家认为,目前来看,AIGC并不都构成有舆论或动员性质,也不都是推荐算法,因此不应笼统的要求评估和备案。否则会一刀切的增加特别是初创企业的合规成本。

 

对此,正式发布版本明确:只有“提供具有舆论属性或者社会动员能力的生成式人工智能服务的”,方应当“按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。”

CSA大中华区专家认为,现有的《个人信息保护法》对生成式人工智能整体上仍然是适用的,且对个人信息的处理有不同于其他场景的特点,这要求对个人信息的删除可能不仅限于个人主体的删除请求,而且应应明确个人信息保留期限政策并设置默认删除技术策略,以降低用户同意个人信息处理目的外的数据二次使用(再度训练)。

 

正式发布版本对此也做出响应,从原先规定的基于“用户投诉接收处理机制”的个人信息删除处置,完备为包括受理处置和主动处置的两种情形,实现了对个人主体权益保护的进一步强化。

 

从本次正式发布的监管机构组成,以及征求意见稿到正式发布版的差异性比较,CSA大中华区专家认为从宏观层面,在国内对生成式人工智能早期监管阶段可以做以下理解:


从人工智能的监管架构设计方面:暂行办法的监管机构的组成体现出生成式人工智能在从研发(教育部、科技部、发改委)到应用(网信部门、公安部、工信部、广电总局)的广泛的跨机构特点,但现阶段的监管又应有所“收敛”,避免了在技术发展早期过度和泛化监管导致的技术抑制问题。这可以成为理解当前中国生成式人工智能监管的一个出发点。

 

从立法适用范围的选择方面:与欧盟的顶层设计不同(尽管国内也将人工智能立法纳入2023年立法工作计划),监管者可能考虑在一个小的层级和范围内进行“先行先试”的容错,解决早期发现,并有助于鼓励技术演化进程和多样性,从而最终进化出同时考虑到效率和成本平衡的市场化“模型”,减少不确定的监管对不明朗的技术路径的干预和扭曲。

 

从人工智能的国际观察方面:人工智能的技术特点意味着包括中国的法律监管在内,各国也需要对其他国家、地区不同政策、法律的参考和评估,以实现符合本国产业状况的政策和法律方法。目前从国际上人工智能发展的态势看,纯粹和独立的本地化人工智能政策法律已经不再现实,这也意味着需要从包括联合国层面和其他多边途径在内,寻求全球性的人工智能治理的共识和监管基线。

 

CSA大中华区组织专家积极参与AI全球治理的讨论与活动,将保持对生成式人工智能监管的关注,并持续细化对具体条款的理解分析。

 

此外,CSA大中华区组织和参与国际技术峰会、跨国企业交流活动,了解联合国、欧盟、美国、日本的人工智能法规与标准情况,共同促进生成式人工智能的健康发展和规范应用。

 

人工智能造福人类全球峰会
 

2023年7月4日至8日,CSA大中华区受邀出席了40个联合国机构在7月6至7日共同主办的人工智能造福人类全球峰会。此次峰会就安全和负责任的人工智能所需防范措施以及全球人工智能治理框架发展等议题展开讨论。
 

 

国际元宇宙与AI大会
 

2023年7月26日至27日,国际元宇宙与AI大会在日本京都举行,大会以“高端、专业、国际、务实”为原则,包括学术论坛、成果展示、应用体验、数字艺术展览、标准探讨等内容。云安全联盟大中华区受邀出席,机器学习之父、图灵奖获得者辛顿教授,OpenAI 创始人、CEO Sam Altman,英伟达副总裁Neil Trevett等参会。
 


 

在交流中,与会专家们认为生成式AI开始进入元宇宙和多种数字经济场景,CSA大中华区发起AI安全工作组非常及时并具有重要意义,会议主办方IEEE标准协会期待与CSA大中华区展开全球合作,在联合国指导下共同推进安全、可信、负责的通用人工智能。

本网站使用Cookies以使您获得最佳的体验。为了继续浏览本网站,您需同意我们对Cookies的使用。想要了解更多有关于Cookies的信息,或不希望当您使用网站时出现cookies,请阅读我们的Cookies声明隐私声明
全 部 接 受
拒 绝