环球讯息:生成式人工智能要发展也要规范丨思与辨
漫画:颜庆雄
近日,国家互联网信息办公室发布通知,就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《办法》)公开征求意见。这或将是我国专门针对AIGC(人工智能生成内容)发布的第一份政府文件,引发社会各界广泛关注。本期“思与辨”就该问题进行讨论。
【资料图】
■ 主持人:赵 鑫
■ 嘉 宾:盘和林(浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员)
李 岩(辽宁大学法学院副院长、教授)
国瀚文(西北政法大学民商法学院讲师、数字法学研究院特聘研究员)
从年初至今,以ChatGPT为代表的生成式人工智能引爆科技圈,一些国内公司也纷纷推出相应的产品和服务。此时国家出台《办法》规范生成式人工智能,释放了哪些信号?
李岩: 第一,明确我国致力于人工智能服务合法化发展的立场。 《办法》为企业发展提供一个合规框架,并试图在合规前提下打造出人工智能技术创新发展新局面。 第二,对服务提供者提出了高标准的合规义务要求。 一方面,服务提供者需要在应用中满足运营合规要求;另一方面,服务提供者将作为主要的人工智能生成物法律责任的承担者。《办法》在责任承担上实现了与其他法律制度的衔接,服务提供者不仅需要承担生成内容生产者的责任,还需要承担作为个人信息处理者的责任。
盘和林: 一个信号是我们走的是先规范后发展的模式 ,在这个总基调下,互联网企业要考虑应用的合规性。 《 办法》还是一个粗线条的条款,是对于当前国内对AIGC一哄而上无序状态的应急举措,政策的执行具体流程是怎么样的?主管单位是谁?怎么认定是真实准确的内容?这些细节还没有确切的说法,所以《办法》还有很大的完善空间。
国瀚文: 透过该《办法》可以看出国家鼓励生成式人工智能的发展,同时也将加大管理、监督力度,引导和规范相关行业。 《办法》一方面体现了国家对个人权益的保护,另一方面也体现出国家大力支持人工智能产业,推动相关产业技术的发展。
此前,有不少国家对生成式人工智能出台了监管新政,侧重点各不相同。我国出台的《办法》有哪些显著特点?哪些规定值得特别关注?
国瀚文: 一是 对生成式人工智能服务的监管贯穿始终,规定了申报安全评估、履行算法备案等登记手续。 二是 强调生成式人工智能产品或服务需遵守法律规范及尊重社会公德、公序良俗,与我国对待数据产业的态度是一致的。
值得关注的是,《办法》聚焦生成式人工智能服务的安全合法,强调生成式人工智能服务的治理及权益保护,对算法的可靠性和透明度提出了要求。
总体来看,《办法》回应了当前生成式人工智能发展的需要,对一些可能出现的衍生问题提出防范举措,有助于提前研判规避风险。
盘和林: 《办法》和其他国家的监管目标是不同的, 我国关注的重点是内容生成的价值取向问题。 规范生成内容是可以做到的,因为AI是高质量数据训练的产物,文本也好,图像也好,都是可以达成目标的,但现在以提供方为责任人的规定,我认为还是要有所调整,诸如用户也要负一定责任,因为AI生成内容是和用户有关系的。所以要加强对用户责任的认定,不能让所有的责任都由提供方来承担。当然,提供方有责任进行一些必要的限制,来回避敏感内容,但即便是提供方屏蔽了,模型训练了,还是无法回避所有的问题,因为人类文字,尤其是中文是很复杂的,如果出现歧义,应该给予适度包容,如果被用户恶意传播,则应该让用户承担相应责任。
李岩: 第一, 《办法》提出了全流程全周期的监管要求。对算法入市、数据来源、数据训练输出文本等各个环节的风险控制,提出了要求。 第二, 《办法》的监管举措主要通过为服务提供者设置监管义务实现。 第三, 《办法》设置了多条引致条款,与《数据安全法》《个人信息保护法》等现行法律法规形成良好衔接,能够发挥出体系效应。
值得注意的是,《办法》第十一条规定不得非法留存能推断出用户身份的输入信息。这一规定能够有效防范个人信息泄露风险。但如何实现这类信息与其他信息的区分,还需要进一步研究。另外,《办法》未涉及对于商业秘密或高敏感度的商业数据的留存问题,缺乏对商业数据的事前监管。
对于规范生成式人工智能,您还有哪些好的建议?
盘和林: 立法应该关注AIGC的一些特性,比如内容生成的随机性,比如责任划分问题。如果先规范再发展成为主基调,那么在规范方面要考虑更加成熟的立法方案,因为法规一旦出台,就需要不折不扣地执行。而如果法律出台之后,对AIGC产业发展造成了阻碍,导致大量AIGC应用无法落地,那就有可能导致新的科技差距。 所以,立法还是要进一步细化,做好每一条的解释工作,落实责任主体。 也要和AIGC领域的龙头企业做好沟通。对于新技术,我们都有一个接受的过程,对新技术的理解不可能一步到位。法律就是画红线,红线是规范企业行为的,红线划得越细,企业获得的空间就越大,企业在科技领域的表现就越活跃。
国瀚文: 规范生成式人工智能, 首先 应完善相关的法律法规,对生成式人工智能服务进行分类管理; 其次 ,建立完整的安全评估规范和管理流程规范,保障数据安全及隐私安全,提高生成式人工智能服务的质量和水平。
李岩: 第一, 建立包容审慎的生成式人工智能审查模式。包容审慎的审查观能够更好实现技术发展与安全之间的平衡,为企业的技术发展预留空间。 第二, 建立专门监管机构,对生成式人工智能实施专项监管。生成式人工智能行业的监管需要一定的技术支持,不仅需要借助技术手段监管,而且需要技术人才进行风险解构。传统监管模式容易出现权限划分争端,可能出现监管权限交叉或监管真空问题,专项监管模式有助于实现算法的分级分类管理。