生成式人工智能服务,如何查适用的合规义务
查一份生成式人工智能服务的适用义务,顺序是固定的:先判断它是否落入《生成式人工智能服务管理暂行办法》的适用范围,再按条款逐项对照,最后单独核《人工智能生成合成内容标识办法》。适用范围的判断点只有一个——是否向中华人民共和国境内公众提供。
先确定管辖和适用门槛
本文依据的是中国大陆现行的官方规章文本,各条文的适用范围以该条本身写明的条件为准。
《生成式人工智能服务管理暂行办法》的适用范围表述为:「利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称生成式人工智能服务),适用本办法。」该办法自2023年8月15日起施行。
也就是说,技术上用了生成式人工智能并不自动触发该办法,关键在于是否向境内公众提供。
哪些情形明确不适用
办法同时写明:「行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定。」
这里有两处容易读错:该除外针对的是「未向境内公众提供」这一条件,而不是对研发主体身份的普遍豁免;同时,它只是本办法的不适用,不等于其他法律、行政法规上的豁免。企业内部研发、内部工具是否真的没有面向公众,仍需按自己的实际分发方式判断,官方文本没有给出更细的判定清单。
落入范围后,逐条对照义务
适用后,义务分布在办法的不同条款里,可以按下面这张表自查:
| 条款 | 义务要点 |
|---|---|
| 第四条 | 遵守法律、行政法规,尊重社会公德和伦理道德;不得生成法律、行政法规禁止的内容;在算法设计、训练数据选择、模型生成和优化、提供服务等环节采取措施防止歧视;尊重知识产权与商业道德,不得利用算法、数据、平台优势实施垄断和不正当竞争;不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;基于服务类型特点提升透明度,提高生成内容的准确性和可靠性 |
| 第七条 | 训练数据处理:使用具有合法来源的数据和基础模型;涉及知识产权的不得侵害他人依法享有的知识产权;涉及个人信息的应取得个人同意或符合法律、行政法规规定的其他情形;采取措施提高训练数据质量,增强真实性、准确性、客观性、多样性;遵守网络安全法、数据安全法、个人信息保护法等有关规定和主管部门监管要求 |
| 第八条 | 研发过程中进行数据标注的,应制定清晰、具体、可操作的标注规则;开展标注质量评估,抽样核验标注内容的准确性;对标注人员进行必要培训并监督指导 |
| 第九条 | 依法承担网络信息内容生产者责任、履行网络信息安全义务;涉及个人信息的依法承担个人信息处理者责任;与注册其服务的使用者签订服务协议,明确双方权利义务 |
| 第十条 | 明确并公开服务的适用人群、场合、用途;引导使用者科学理性认识并依法使用;采取措施防范未成年人用户过度依赖或者沉迷 |
| 第十一条 | 对使用者的输入信息和使用记录依法履行保护义务;不得收集非必要个人信息;不得非法留存能够识别使用者身份的输入信息和使用记录;不得非法向他人提供;依法及时受理和处理个人查阅、复制、更正、补充、删除其个人信息等的请求 |
| 第十五条 | 建立健全投诉、举报机制,设置便捷的投诉、举报入口,公布处理流程和反馈时限,及时受理、处理并反馈结果 |
第七条、第八条列的是「提供者」在训练数据处理与数据标注环节的行为要求,落到具体产品时,要按自己的数据来源、模型和标注流程逐项核。
算法备案不是所有生成式服务的统一义务
这是自查中最容易一步跨错的地方。办法第十七条写的是:「提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。」
触发条件是「具有舆论属性或者社会动员能力」,备案的办理依据是《互联网信息服务算法推荐管理规定》。官方文本没有写明判定舆论属性、社会动员能力的具体阈值或清单,也没有写明费用、受理时限或办理口径,这些都不能推断。
《人工智能生成合成内容标识办法》第十二条从另一侧衔接了这一手续:「服务提供者在履行算法备案、安全评估等手续时,应当按照本办法提供生成合成内容标识相关材料,并加强标识信息共享,为防范打击相关违法犯罪活动提供支持和帮助。」这一条只在已经触发相应手续时才相关,不能反过来用它判断某个服务是否需要备案。
单独核一层:人工智能生成合成内容标识办法
标识办法有自己的适用前提。其第二条为:「符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称"服务提供者")开展人工智能生成合成内容标识活动,适用本办法。」
所以它的路径是:先看服务提供者是否落入这三份规定中的某一份所列情形,再看是否开展了人工智能生成合成内容标识活动,两项都成立才适用;不能直接推定所有使用人工智能的主体都在其范围内。
标识本身分两类,第三条定义为:
- 显式标识:在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
- 隐式标识:采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
具体怎么加、在哪些界面和文件里加,仍需按场景和该办法的后续条款原文核对。
哪些地方只能由你自己判断
办法第十六条写明,网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门依据各自职责依法加强对生成式人工智能服务的管理;国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。第十八条则规定,使用者发现服务不符合法律、行政法规和本办法规定的,有权向有关主管部门投诉、举报。
这意味着行业和领域层面的分类分级规则由主管部门另行制定,本文依据的规章文本本身不包含这些后续规则,也不包含个案结论。以下几处没有通用答案,只能按自身事实判断:服务是否真的面向境内公众提供;是否具有舆论属性或者社会动员能力;是否落入算法推荐、深度合成或生成式人工智能规定中的某一情形;显式、隐式标识在具体产品形态上如何实现。
按顺序自查的操作步骤
- 确认你的服务是否向中华人民共和国境内公众提供。
- 确认是否属于未向境内公众提供服务的研发、应用情形。
- 打开办法原文,核对第四条、第七条、第八条、第九条、第十条、第十一条、第十五条。
- 判断服务是否具有舆论属性或者社会动员能力。
- 若触发第十七条条件,按《互联网信息服务算法推荐管理规定》核算法备案、变更和注销手续。
- 若落入三份规定所列情形,再按标识办法核显式标识与隐式标识要求。
- 把每一项的结论和对应条款编号记下来,作为后续与主管部门沟通时的依据。
每一步的结论都应当能指回具体条款原文,而不是来自概括性说法。