近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。

国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

专家解读｜推动生成式人工智能精细化治理

当前，生成式人工智能正在加速发展，不断催生新场景、新业态、新模式和新市场，赋能千行百业。与此同时，其暴露出的安全风险也引发了各国监管部门的广泛关注，意大利、德国、法国、西班牙等多个国家的数据保护监管机构对ChatGPT表达担忧或发起调查。近日，国家网信办联合国家有关部门公布了《生成式人工智能服务管理暂行办法》（以下简称《办法》）。《办法》是我国促进生成式人工智能健康发展和规范应用的专门立法，界定了生成式人工智能技术的基本概念，规定了生成式人工智能服务提供者的制度要求，为生成式人工智能的健康发展指明了方向。

一、促进发展，鼓励生成式人工智能研发创新

新一代人工智能是推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量。习近平总书记高度重视人工智能技术发展，指出要加快新能源、人工智能、生物制造、绿色低碳、量子计算等前沿技术研发和应用推广。中共中央政治局4月28日召开会议强调，“要重视通用人工智能发展，营造创新生态，重视防范风险”。

《办法》立足于促进生成式人工智能健康发展和规范应用，在总则中明确了国家坚持发展和安全并重、促进创新和依法治理相结合的原则，并在技术发展与治理一章中提出了一系列鼓励措施。一是鼓励创新应用。生成式人工智能应用场景丰富，可以与各行业深度结合，助力实现各行业智能化变革。《办法》明确提出鼓励生成式人工智能技术在各行业、各领域的创新应用，有助于生成式人工智能赋能千行百业。二是鼓励多方协作。生成式人工智能在技术创新、数据资源建设、转化应用、风险防范等方面涉及多方主体，为此，《办法》鼓励行业组织、企业以及各个相关机构之间开展协作。三是鼓励自主创新与国际合作。生成式人工智能尚处于发展阶段，而我国在生成式人工智能相关算法、芯片等技术研发方面起步相对较晚。《办法》一方面鼓励生成式人工智能相关基础技术的自主创新，另一方面鼓励平等互利开展国际交流与合作，从而促进我国人工智能技术发展。四是鼓励资源共享。算力是支撑数字经济蓬勃发展的重要“底座”，数据是生成式人工智能的重要资源。为此，《办法》提出推动生成式人工智能基础设施和公共训练数据资源平台建设的措施，促进算力资源协同共享，提升算力资源利用效能。

二、划定底线，推动生成式人工智能向上向善

以ChatGPT为代表的生成式人工智能在社会变革中的具有重要作用，但其可能存在的数据违法收集、知识产权侵权、生成虚假信息等问题同样不容忽视。

《办法》积极回应生成式人工智能带来的社会问题，明确提供和使用生成式人工智能服务的法律底线。一是不得生成违法内容。《办法》落实《网络安全法》等法律的规定，强调提供和使用生成式人工智能服务应当坚持社会主义核心价值观，不得生成法律、行政法规禁止的内容。二是防止歧视。训练数据本身存在歧视内容、算法更倾向于某些特征值、标注人员的主观判断等因素可能导致歧视问题，给社会带来不良后果，如边缘化弱势人群或者煽动仇恨与暴力。为减少歧视现象发生，《办法》要求在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止歧视。三是尊重知识产权和他人合法权益。生成式人工智能在个人信息的处理过程中，可能存在违法收集、使用个人信息等风险；生成式人工智能的训练数据中如包括他人已发表并享有著作权的作品，也可能给知识产权造成侵害。为减少侵权事件的发生，《办法》强调尊重知识产权、商业道德；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。四是提高生成内容准确性和可靠性。自生成式人工智能面世之初，其存在的“一本正经地胡说八道”现象便引起了人们的警惕。这种虚假信息的产生很可能会误导用户，加剧社会对共享信息的不信任。如何保障生成内容的真实性，既是产业界为进一步扩大生成式人工智能商用范围需要克服的技术难题，也是监管部门需要重点考量的问题。《办法》要求生成式人工智能服务提供者（以下简称“提供者”）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。这一要求充分体现了发展与安全并重的原则，符合生成式人工智能的技术原理与产业需要。

三、细化责任，构建生成式人工智能治理体系

生成式人工智能从研发到落地需要经历多个环节，包括训练数据处理、数据标注、提供服务等。清晰界定不同环节的要求更有利于降低生成式人工智能的安全风险，增强制度的可落地性。

《办法》明确提供者的义务与责任，提供者是利用生成式人工智能技术提供生成式人工智能服务的组织、个人，包括通过提供可编程接口等方式提供生成式人工智能服务的组织、个人。在训练数据处理环节，提供者应当使用具有合法来源的数据和基础模型，并采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。在数据标注环节，提供者应当制定标注规则，开展数据标注质量评估，并对标注人员进行培训。在提供服务环节，提供者应依法承担网络信息内容生产者责任，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识；发现违法内容的，应当及时采取处置措施、进行整改并向有关主管部门报告；应依法承担个人信息处理者责任，对生成式人工智能服务使用者的输入信息和使用记录依法履行保护义务，及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求；应履行用户管理义务，明确并公开服务适用情况，指导使用者科学理性认识和依法使用技术，采取未成年人防沉迷措施，依法处置从事违法活动的使用者，建立健全投诉、举报机制；应提供安全、稳定、持续的服务。

四、强化披露，明确生成式人工智能监管手段

人工智能算法具有“黑箱”特性，表现为行为不可控、决策机制难以解释，给人工智能监管带来了一定困难。为此，《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规范已经明确了算法备案、安全评估等监管手段，提高算法的透明度与可问责性。

《办法》与现有规范一脉相承，延续了此前监管手段，同时明确了分类分级监管的原则，健全了我国人工智能治理体系。一是明确了安全评估与算法备案要求。为有效应对算法“黑箱”问题，《办法》对提供具有舆论属性或者社会动员能力的生成式人工智能服务的，提出了安全评估与算法备案要求。二是明确了信息披露要求。《办法》明确了提供者应配合主管部门的监督检查，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明。

《办法》是在区块链、汽车数据、算法推荐、深度合成等立法之后，我国对新兴领域立法的又一次探索。《办法》充分协调了发展与安全之间的关系，一方面提出了生成式人工智能发展的鼓励措施，另一方面明确了生成式人工智能的法律底线，构建了生成式人工智能精细化治理体系，有利于推动生成式人工智能健康有序发展，为世界贡献人工智能治理的中国智慧和中国方案。

作者：辛勇飞 中国信息通信研究院政策与经济研究所所长

来源：网信中国

国家互联网信息办公室
中华人民共和国国家发展和改革委员会
中华人民共和国教育部
中华人民共和国科学技术部
中华人民共和国工业和信息化部
中华人民共和国公安部
国家广播电视总局
令
第15号

《生成式人工智能服务管理暂行办法》已经2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意，现予公布，自2023年8月15日起施行。

国家互联网信息办公室主任 庄荣文
国家发展和改革委员会主任 郑栅洁
教育部部长 怀进鹏
科学技术部部长 王志刚
工业和信息化部部长 金壮龙
公安部部长 王小洪
国家广播电视总局局长 曹淑敏
2023年7月10日

生成式人工智能服务管理暂行办法

第一章 总　则

第一条 为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。

第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。

国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。

行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

第二章 技术发展与治理

第五条 鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

（一）使用具有合法来源的数据和基础模型；

（二）涉及知识产权的，不得侵害他人依法享有的知识产权；

（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；

（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

第八条 在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

第三章 服务规范

第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。

提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

第十三条 提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。

第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

第四章 监督检查和法律责任

第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。

国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。

第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。

参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。

第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

第二十一条 提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。

构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第五章 附　则

第二十二条 本办法下列用语的含义是：

（一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。

（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。

（三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。

第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。

外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。

第二十四条 本办法自2023年8月15日起施行。

5月27日，市科委、中关村管委会在中关村论坛“互联网3.0：未来互联网产业发展”平行论坛上发布了《北京市互联网3.0创新发展白皮书（2023）》（以下简称《白皮书》），从互联网3.0内涵、体系架构、国内外发展现状、北京发展现状和发展建议等方面进行了系统分析和阐述。

　　《白皮书》认为，互联网3.0是现代科学技术的集大成者，是未来互联网产业发展的新形态，高度的智能化、虚实融合发展和完整的经济形态是其主要特征。《白皮书》将互联网3.0体系架构分为基础设施层、交互终端层、平台工具层、应用层4层，其中，基础设施层为互联网3.0运行提供必需的基础设施保障。

　　《白皮书》认为，当前生成式人工智能、XR交互终端、内容制作工具平台等是互联网3.0产业的研究热点，百度、字节跳动、腾讯、苹果、Meta、微软、谷歌、英伟达等国内外科技巨头纷纷开展布局，并引领产业发展；数字人、数字藏品等新兴应用快速发展落地，创新主体纷纷开展应用落地探索。互联网3.0社会组织表现活跃，资本市场逐渐回归理性。在国家层面，美国正在持续引领全球互联网3.0产业发展，日韩力争在XR终端等细分领域实现领先。我国地方政府积极布局发展，已有30多个省市发布支持政策，北京、上海等互联网3.0产业发展方面处于领先位置。

　　《白皮书》认为，北京在互联网3.0科技创新和产业发展基础等方面处于全国领先地位。当前，北京正在围绕关键技术、共性技术平台、应用场景、创新生态和监管等方面，谋划开展系列工作举措，加快推动北京建设具有国际影响力的互联网3.0创新高地。同时，北京不断强化市区协同，推动海淀、朝阳、石景山、通州等区域特色化发展。

　　《白皮书》在分析研判互联网3.0发展现状和趋势的基础上，提出当前北京互联网3.0产业发展在技术和人才支撑能力、产业链完整性、法律规范等方面仍面临挑战。下一步，将持续以《关于推动北京互联网3.0产业创新发展的工作方案（2023-2025年）》为指引，从关键技术攻关、应用场景建设、共性平台搭建、创新生态培育、包容审慎监管等五个方面，加强市区资源协同和联动，推动北京率先建成具有国际影响力的互联网3.0科技创新和产业发展高地。

在此我们整理了一些关注的点和重要的部分：

什么是互联网3.0

互联网3.0 = 元宇宙 + 区块链 + 人工智能

互联网 3.0 范畴包括了虚实融合的高沉浸感官体验和虚实贯通的经济活动体验，涵盖了元宇宙和 Web3 的内涵，其概念正是 体现了人类社会和经济形态由实向虚、以虚赋实、虚实融合这 一发展趋势。

互联网3.0发展亦面临重大挑战

1. 部分底层技术尚未成熟，概念落地缺少有力支撑
2. 产业链部分环节缺失，商业模式待丰富验
   商业模式方面，目前互联网3.0相关技术应用场景有限，商业模式单一，如互联网3.0核心技术 AR/VR，市场盈利方式主要为终端设备的出售、线上内容付费和线下VR体验馆的单次付费形式，用户持续性和稳定性均较弱。
3. 安全体系与监管政策配套尚未铺开，数据安全和隐私保护有待加强
   个人在互联网 3.0中的一切活动将以数据的形式产生和传输，海量数据时刻面临泄露、盗取的风险，高速网络传输安全、数据交易安全、个人隐私安全等成为互联网 3.0发展必须高度重视的问题。此外，确权、交易等数据流通关键环节尚未打通，对于数据流通各个环节的市场监管政策尚未全面铺开，一定程度上制约了互联网 3.0经济体系的构建速度。

发展建议

（一）加强政策支持与组织保障
（二）加快推动技术攻关与共性技术支撑平台建设
（三）加快推动“互联网3.0+”应用场景建设
（四）加强互联网 3.0创新生态建设与风险监管
围绕互联网 3.0创新生态构建，进一步加强产业创新服务，通过组建产业创新联合体、设立互联网 3.0投资基金、培育内容生态、推动产业集聚、举办前沿大赛等方式，逐步培育北京互联网3.0创新生态。同时，聚焦互联网3.0内容监管、数据安全、隐私保护、身份可信、资产确权等，加强监管机制和监管模式探索，利用区块链、隐私计算、网络安全、量子加密等新型监管技术，实现对互联网3.0虚拟世界的可监管和可审计，保障互联网3.0数据的安全与隐私，提升对虚拟世界监管的智能化水平。

以下为全文链接地址：

https://www.beijing.gov.cn/ywdt/gzdt/202305/t20230529_3116307.html

以下为全文链接地址：

北京市促进通用人工智能创新发展的若干措施(2023-2025年)

（征求意见稿）

原文地址：https://www.beijing.gov.cn/hudong/gfxwjzj/zjxx/202305/t20230515_3103080.html

为抢抓大模型发展机遇，重视通用人工智能发展，充分发挥政府引导作用和创新平台催化作用，整合创新资源，加强要素配置，营造创新生态，重视风险防范，推动我市通用人工智能领域实现创新引领，提出以下落实措施：

一、加强算力资源统筹供给能力

（一）组织商业算力定向满足本市紧迫需求

加强与头部公有云厂商等市场主体合作，实施算力伙伴计划，并确定首批伙伴计划成员，明确供给技术标准、软硬件服务要求、算力供给规模、优惠策略等，向在京高校院所和中小企业公布一批优质算力供应商。

（二）高效推动新增算力基础设施建设

将新增算力建设项目纳入算力伙伴计划，加快推动海淀区“北京人工智能公共算力平台”，朝阳区“北京数字经济算力中心”等项目建设，快速形成规模化先进算力供给能力，支撑千亿级参数量的大型语言模型、多模态大模型、大规模精细神经网络模拟仿真模型、脑启发神经网络等研发。

（三）建设统一的多云算力调度平台

利用政府统一入口，降低公有云采购成本，普惠中小企业，同时减少企业分别面对不同云厂商的沟通成本。针对弹性算力需求，建设统一的多云算力调度平台，实现异构算力环境统一管理、统一运营，方便企业在不同云环境上无缝、经济、高效地运行各类人工智能计算任务。建设北京与河北、天津、山西、内蒙古等省（市）算力集群的直连基础光传输网络，进一步提升平台对四地算力资源感知能力，探索开展算力交易。

二、提升高质量数据要素供给能力

（四）归集高质量基础训练数据集

针对目前大模型训练高质量中文语料占比过少，不利于中文语境表达及产业应用的问题，整合现有开源中文预训练数据集和高质量互联网中文数据并进行合规清洗。同时持续扩展高质量多模态数据来源，建设合规安全的中文、图文对、音频、视频等大模型预训练语料库，通过北京国际大数据交易所社会数据专区进行定向有条件开放。

（五）打造“国家数据基础制度先行先试示范区”，谋划国家级数据训练基地

加快推动数据要素高水平开放的“国家数据基础制度先行先试示范区”建设，争创国家级数据训练基地，提升北京人工智能数据标注库规模和质量。倡议高质量数据网站所属企业提供部分脱敏高质量数据，进行定向有条件开放，企业或科研机构通过在线申请进行有偿使用，并探索基于数据贡献、模型应用的商业化场景合作。

（六）搭建数据集精细化标注众包服务平台

建设指令数据集及多模态数据集众包服务平台，开发集成相关工具应用的智能云服务系统，鼓励并组织来自不同学科的专业人员标注通用人工智能模型训练数据及指令数据，提高训练数据的多样性，给予贡献者适当奖励，推动平台持续良性发展。

三、系统布局大模型技术体系，持续探索通用人工智能路径

（七）开展大模型创新算法及关键技术研究

围绕大型语言模型构建、训练、调优对齐、推理部署等全流程，支持开展创新算法及核心技术研究，形成完整高效的训练体系并对外开源。探索多模态通用模型架构，研究大模型高效并行训练技术，以及逻辑和知识推理、指令学习、人类意图对齐等调优方法，研发支持百亿参数模型推理的高效压缩技术。

（八）加强大模型训练数据采集及治理工具研发

从“采、存、管、研、用”五个方面，研发包含数据采集、清洗、标注、脱敏、存储等功能在内的数据处理工具。重点研究互联网数据全量实时更新技术，多源异构数据整合与分类方法，数据管理平台相关系统，数据清洗、标注、分类、注释等软件工具及算法，数据内容安全审查算法及工具等。

（九）开放大模型评测基准及工具

构建多模态多维度的基础模型评测基准及评测方法。建立基础模型评测工具集，提供适应性的工具进行评测。建立公平高效的自适应评测机制，根据评测目标的不同，自动适配不同的工具和指标。研究人工智能辅助的智能模型评测算法，面向主观型或生成式的任务，构建自动化评估工具。集成包括通用性、高效性、智能性、鲁棒性在内的多维度评测工具，构建基础模型线上评测服务平台。

（十）推动大模型基础软硬件体系研发

支持研发分布式高效训练系统，实现模型训练任务高效自动并行。研发适用于模型训练场景的新一代人工智能编译器，实现算子自动生成和自动优化，推动人工智能芯片与框架的广泛适配。研发人工智能芯片评测系统，实现多芯片多框架的自动化评测。为大模型训练和应用提供自主创新的基础软硬件生态底座。

（十一）探索具身智能、通用智能体和类脑智能等通用人工智能新路径

发展面向通用人工智能的基础理论框架体系，加强人工智能数学机理、自主协同与决策等基础理论研究。推动具身智能系统研究及应用，突破机器人在开放环境、泛化场景、连续任务等复杂条件下的感知、认知、决策技术。探索价值与因果驱动的通用人工智能新路径研究，打造通用人工智能统一理论框架体系、评级标准及测试平台，研发通用人工智能操作系统和编程语言，推动通用智能体底层技术架构应用。探索类脑智能等交叉学科研究，通过大脑神经元连接模式、编码机制、信息处理原理研究，启发新型人工神经网络模型建模和训练方法。

四、推动通用人工智能技术创新场景应用

（十二）推动在政务服务领域率先试点应用

围绕政务咨询、政策服务、接诉即办、政务办事等工作，率先实现大模型技术赋能。借助大模型语义理解、自主学习和智能推理等能力，提高政务咨询系统智能问答水平，增强多语种交互能力。支撑“京策”平台建设，优化政策规范管理和精准服务。辅助市民服务热线更高效回应市民诉求，深化民生大数据高效利用。提升办事服务便利度，辅助引导办事人员表单填写，辅助综合窗口人员更精准提供办事指引，辅助审批人员提高审批效率，推进业务数据更充分共享、业务流程更高效协同。

（十三）探索在医疗领域示范应用

支持我市有条件的研究型医疗机构提炼智能导诊、辅助诊断、智能治疗等场景需求，充分挖掘医学文献、医学知识图谱、医学影像等多模态医疗数据，构建基于医疗领域通用数据与专业数据的智能应用，实现对各种疾病和症状的准确识别和预测，辅助医疗机构提高疾病诊断、治疗和预防的决策水平。

（十四）探索在科学研究领域示范应用

发展科学智能，加速人工智能技术赋能新材料和创新药物领域科学研究。支持我市能源、材料、生物领域相关实验室设立科研合作专项，与我市相关科研机构和创新企业开展联合研发，充分挖掘材料、蛋白质和分子药物领域实验数据，研发科学计算模型，开展新型合金材料、蛋白质序列和创新药物化学结构序列预测，缩短科研实验周期。

（十五）推动在金融领域示范应用

进一步挖掘我市金融行业应用场景，系统布局一批金融机构场景开放“揭榜挂帅”项目。支持金融科技企业针对金融场景中信息负载高，信息更新快，金融从业者难以快速全面的获取准确信息的问题，探索面向金融文本深度理解和分析的人工智能技术应用。聚焦智能风控、智能投顾、智能客服等环节，推动实现金融专业长文本的精准解析和模型知识的更新，突破复杂决策逻辑与模型信息处理能力间的融合技术，实现从复杂金融信息处理到投资决策建议的转化，支撑金融领域的投资辅助决策。

（十六）探索在自动驾驶领域示范应用

支持自动驾驶企业研发多模态自动驾驶技术，发挥大型语言模型高维语义理解和泛化优势，基于车路协同数据和车辆行驶多传感器融合数据，提高自动驾驶模型多维感知和预测性能，有效解决复杂场景长尾问题，辅助提高车载自动驾驶模型泛化能力。支持在北京市高级别自动驾驶示范区3.0建设中，构建车路协同数据库，引导企业开展基于真实场景的自动驾驶模型训练迭代。探索基于低时延通讯的云控自动驾驶模型测试，发展自动驾驶新技术路径。

（十七）推动在城市治理领域示范应用

支持人工智能研发企业结合智慧城市建设场景需求，率先在城市大脑建设中引进大模型技术，开展多感知系统融合处理技术研发，打破城市治理中各系统数据孤岛，实现智慧城市底层业务的统一感知、关联分析和态势预测，科学调配政府资源和行政力量，为城市治理提供更加综合全面的辅助决策能力。

五、探索营造包容审慎的监管环境

（十八）持续推动监管政策和监管流程创新

探索营造稳定包容的监管环境，积极推动人工智能领域新技术赋能传统行业的包容审慎监管，支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作。鼓励优先采用安全可信的软件、工具、计算和数据资源，通过改进算法等技术手段，确保训练数据集的规范性。鼓励生成式人工智能产品在科研等非面向公众服务领域实现向上向善应用。积极向国家网信部门争取，在中关村核心区建立先行先试，推动实行包容审慎监管试点。

（十九）建立常态化服务和指导机制

做好对拟面向公众提供服务的生成式人工智能产品的安全评估工作，建立常态化联系服务和指导机制，督促企业遵守法律法规要求，尊重社会公德、公序良俗。优化安全评估流程机制，细化对大模型算法设计、训练数据源筛选、内容安全性、人工标注规则的审核评估标准，开展精准化服务指导，加快推进我市人工智能企业相关技术产品的安全评估工作。指导企业建立健全算法安全防范机制，在产品研发阶段引入技术工具进行安全检测，督促企业积极履行算法备案和变更、注销备案手续。发布《北京市互联网信息服务算法推荐合规指引》，引导创新主体树立安全责任意识，健全管理制度、强化技术手段、促进企业算法合规发展。

（二十）加强网络服务安全防护和个人数据保护

指导算力运营主体落实《网络安全法》《数据安全法》《个人信息保护法》等法律规定，加强网络和数据安全管理，明确网络安全、数据安全和个人信息保护主体责任，强化安全管理制度建设和工作落实，鼓励企业开展数据安全管理认证及个人信息保护认证，落实数据跨境传输安全管理制度，全面提升网络安全和数据安全防护能力。

（二十一）持续提升人工智能产业伦理治理自律自治能力

落实国家新一代人工智能创新发展试验区建设任务，加强人工智能伦理安全规范及社会治理实践研究，研发并部署人工智能伦理治理公共服务平台，服务政府监管与产业自律自治，强化相关责任主体科技伦理规范意识，提升科技伦理治理能力。

（征求意见稿）

官方地址：http://www.moj.gov.cn/pub/sfbgw/lfyjzj/lflfyjzj/202304/t20230411_476092.html

　　第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。

　　第二条 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

　　本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

　　第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

　　第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

　　（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

　　（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

　　（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

　　（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

　　（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

　　第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

　　第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

　　第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

　　用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

　　（一）符合《中华人民共和国网络安全法》等法律法规的要求；

　　（二）不含有侵犯知识产权的内容；

　　（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

　　（四）能够保证数据的真实性、准确性、客观性、多样性；

　　（五）国家网信部门关于生成式人工智能服务的其他监管要求。

　　第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

　　第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。

　　第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

　　第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

　　第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

　　第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

　　第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。

　　第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

　　第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

　　第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

　　第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

　　用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。

　　第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

　　第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

　　法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

　　第二十一条 本办法自2023年 月 日起实施。