168体育·(中国)官方网站

　　8月1日凌晨，苹果集体下架了百款AI相关的APP。据报道，下架的主要原因是我国《生成式人工智能服务管理暂行办法》（简称《办法》）即将在8月15日实施，而相关APP存在诸多不符合《办法》监管要求从而需要整改的情况。这次集体下架事件充分反映当前AI应用服务提供者对于合规的迫切需求。结合我们的实务经验和《办法》的相关规定，本文将梳理AIGC服务提供者的责任内容并提出具体的合规建议。

　　《办法》第三条对AIGC服务提供者监管原则作出明确：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

　　在该原则的指导下，国家对AIGC服务提供者的监管已悄然开始。对此，我们建议企业应及时做好至少如下七大合规模块：

　　第一，道德合规。“道德合规”是企业合规建设中的重要内容，可以发挥本源性作用，不应忽视，有利于企业长期健康发展。《办法》也明确要求AIGC服务提供者应当遵守法律、行政法规，尊重社会公德和伦理道德。

　　第二，数据合规。AIGC服务提供者应遵循数据合规标准进行组织、管理和存储数据，《办法》亦以较大篇幅对数据处理和数据标注义务进行详细规定。

　　第三，算法合规。AIGC服务提供者应做好算法合规，提升算法安全能力。建议及时建立独立的算法审查机制，测试评估算法的安全性和合规性，保证算法的可解释性和透明度，使得生成内容可以被理解与解释。

　　第四，个人信息保护合规。《个人信息保》明确规定应当建立健全个人信息保护合规制度体系，8月3日中央网信办对《个人信息保护合规审计管理办法（征求意见稿）》已公开征求意见，国家层面对个人信息保护合规相当重视。《办法》第九条和第十一条亦明确AIGC服务提供者应履行网络信息安全义务和个人信息保护义务。

　　第五，服务管理合规。《办法》对AIGC服务提供者的服务规范作出规定，不仅要求其指导使用者科学依法使用、防范未成年人沉迷，还要求提供安全、稳定、持续的服务。

　　第六，企业资质合规。AIGC服务提供者提供某些特定类型的服务需取得相关行政许可，应遵守法律、行政法规的特殊规定。

　　第七，风险管理合规。AIGC服务违法时，提供者的作为方式亦应合规，或可引入专业的风险管理角色。《办法》也对AIGC服务服务提供者处理违法内容、处理违法活动的方式作出规定，并要求其建立健全投诉、举报机制。

　　第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

　　（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、，危害和利益、损害国家形象，煽动国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽，以及虚假有害信息等法律、行政法规禁止的内容；

　　（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

　　（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

　　（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

　　（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

　　《办法》第四条规定，AIGC服务提供者应当遵守法律、行政法规，尊重社会公德和伦理道德，同时根据服务类型特点提升服务透明度与生成内容的准确性。关于该条提高内容真实性规定我们理解这并非强制性保证“生成内容的准确性和可靠性”，更类似于鼓励式条款。

　　第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

　　（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

　　1、来源合法。该条第一项首先提出训练数据应当具有“合法来源”，也即符合《数据安全法》第三十二条的规定：“任何组织、个人收集数据，应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据。”

　　2、形式合法。该条第二、三项规定，对于涉及知识产权、个人信息的训练数据，应当符合相关法律的规定。

　　3、提高数据质量。该条第四项与第四条保持了监管水平的一致性，对数据的真实性、准确性、客观性、多样性作出了鼓励式规定。这体现了“让产业向高质量方向发展”的政策导向，但现阶段限于产业实践并不做出强制性要求。

　　但是，当前《办法》对于数据来源的合法性规定较为抽象，比如对实践中争议较大的AIGC服务提供者能否将使用者输入内容用作训练数据之问题，《办法》似乎没有给出明确答案。

　　第八条 在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

　　《办法》第八条规定，在进行数据标注时，AIGC服务提供者应当制定合理标注规则，并定期开展数据标注质量评估，对标注人员进行必要培训，规范标注工作。

　　第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。

　　提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。

　　《办法》第九条规定了AIGC服务提供者应当承担“网络信息内容生产者责任”与“个人信息处理者责任”，维护网络信息安全与保护个人信息。同时应当与使用者签订服务协议，明确双方权利义务。

　　应当如何理解该条中的“网络信息内容生产者责任”？我国《网络信息内容生态治理规定》第二章“网络信息内容生产者”对相关责任进行了说明，概括而言包括：1. 遵守相关法律法规、公序良俗；2. 鼓励网络信息内容生产者制作、复制、发布符合价值观的信息；3.禁止网络信息内容生产者制作、复制、发布背离价值观的信息；4.网络信息内容生产者应当采取措施，防范和制作、复制、发布含有不良信息的内容。

　　当然，与之前的网络内容产生的模式不同，在AIGC模式下，网络信息内容生产者和网络信息内容服务平台有时会二合一，也就是AIGC服务提供者很可能既是内容生产者又是网络信息内容服务平台。

　　此外，当前《办法》对于用户使用AIGC服务时侵犯他人合法权益的情况下，AIGC服务提供者应当承担的平台责任并没有进行清晰规定。我们认为，对于AIGC服务提供者平台责任的认定可以借鉴“避风港规则”。AIGC服务提供者只有在收到通知后未能在合理期限内删除相关的虚假信息，才依法承担相应的侵权责任。

　　第十条 提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

　　《办法》第十条规定了指导义务，要求服务提供者指导用户对AIGC技术进行科学理性认识和依法使用，同时防止未成年人沉迷AIGC服务。

　　该义务的具体实践可以体现在AIGC的隐私政策中，同时也可以借鉴《未成年人保》中的防沉迷措施，对未成年人采取限制资格、限制使用时间等措施。

　　第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

　　《办法》第十一条规定了AIGC服务提供者的个人信息保护义务，禁止其非必要收集使用者个人信息，禁止非法留存使用者信息，同时应当及时受理使用者的个人信息相关请求。

　　关于如何理解“非必要收集个人信息”的问题，或可借鉴《常见类型移动互联网应用程序必要个人信息范围规定》，该文件为18种类型的app规定了收集必要个人信息的范围，提供者可以根据所处行业、领域查看，了解近似规定，相应规范所提供服务收集个人信息的范围。

　　关于如何理解“非法留存”，首先应当结合《个人信息保》168体育下载，“识别使用者身份的输入信息和使用记录”已经落入了个人信息的范围，因此服务提供者的对此数据的处理必须征求用户个人的同意，而当这些数据经匿名化处理，丧失个人信息特征之后，即可对其进行合法处理。

　　《办法》第十二条规定AIGC服务提供者应当参照《互联网信息服务深度合成管理规定》对生成内容进行标识。其中，《互联网信息服务深度合成管理规定》第十六条、第十七条规定了标识义务与显著标识义务。第十六条标识义务要求添加不影响用户使用的标识，通常指水印等溯源标识，适用于所有生成内容；第十七条为显著标识义务，针对可能导致公众混淆或者误认的生成内容，包括文本生成、语音生成、人脸及视频生成、拟真场景生成等。

　　《办法》第十三条要求AIGC服务提供者提供安全、稳定、持续的服务，保障用户正常使用。在《办法》中作为独立条文对这一点作出规定，可见国家对AIGC服务提供者的特别服务要求，应切实做好服务管理合规工作。

　　第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

　　提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

　　《办法》第十四条其明确了在发现内容违法、使用者利用AIGC服务从事违法活动时，提供者应当采取的相关措施。但其是否会发挥类似于“避风港原则”的效力168体育最新、相应措施的采取会如何以及在何种程度上影响提供者与使用者的责任承担等问题仍待进一步思考。

　　第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

　　《办法》第十五条明确AIGC服务提供者应当建立健全投诉、举报机制。这是《办法》的一大亮点，同时也为对AIGC服务提供者的监督提供了渠道。

　　第十七条 提供具有属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

　　《办法》第十七条规定，提供具有属性或者社会动员能力的AIGC服务的，应当开展安全评估，同时根据相关法律进行算法备案。

　　关于如何理解“具有属性或者社会动员能力”，《办法》中并未明确规定，可以参考《具有属性或社会动员能力的互联网信息服务安全评估规定》第二条进行明确：具有属性或社会动员能力的互联网信息服务，包括下列情形：（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（二）开办提供公众表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

　　第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。

　　关于相关行政许可，比如AIGC服务作为一类互联网信息服务，通常会向用户收取相应费用以维持其运营投入。依据《中华人民共和国电信条例》及《电信业务分类目录》，AIGC服务可能会涉及到第二类增值电信业务之B21许可证（增值电信业务经营许可证-在线数据处理与交易处理业务，即ICP许可证）、B25许可证（增值电信业务经营许可证-互联网信息服务，即EDI许可证）。

　　关于外商投资许可，虽然《外商投资产业指导目录》中并不包括AIGC服务，但是外商投资企业在中国境内提供AIGC服务仍要根据我国相关准入许可受到一定限制。

　　AI技术飞速发展，国家社会大力扶持，行业规模急剧增加，虽然目前AI技术领域的专门性法律规定与案例仍有空白，包容开放的大环境仍在，但专门性法律的研究火热进行，有关部门对其开展切实规制亦为必然趋势，相关企业预先研判、及时开展风险防控及合规管理工作，对于AI技术长期发展与企业良性成长而言具有相当必要性和重要性。

　　海华永泰律师事务所科创业务委员会，坚持“以法律专业为基础，以科技行业为导向”的法律服务行业化战略，我们的数字经济法律服务团队深谙数字经济领域，不仅可为AI领域相关企业提供风险预防和法律合规，还可以提供从科创企业的设立到上市的全链条法律保障和服务，欢迎更多的科创企业和科创生态圈的同仁沟通交流。

　　王进律师为华东政法大学法律硕士、复旦大学工商管理硕士（EMBA），复旦大学法学院实务讲师，海华永泰律师事务所科创业务委员会主任。在资本市场、半导体和新材料、新能源、科研院所、生物医药等行业有丰富的法律经验。王进律师团队坚持“以专业为基础，以行业为导向”的法律服务行业化战略。

　　以上所刊登的文章仅代表作者本人观点，不代表海华永泰律师事务所或其律师出具的任何形式之法律意见或建议。