作者：张成岗（清华大学教授、社会治理与发展研究院院长）

5-24 光明网-理论频道

人类文明演进中的“现代化”议题

持续的基于创新的发展是近代才出现的一种导致经济发展不均衡分布的历史现象。14世纪开始至麦哲伦环球航行结束的地理大发现对欧洲影响极为深刻，使得封闭于西方一隅的欧洲走向世界，极大地开阔了视野、丰富了认识，尤其是对世界多样性的认识。地理大发现增加了各种文明相互摩擦、碰撞、借鉴、交流和融合的机会，开启了一直持续至今的全球化进程，对世界范围的现代化影响巨大。长期以来，由于西方发达国家的科技迅速发展，国家之间经济、贸易、社会、产业、人员之间联系越来越密切，人们之间交往更加频繁，国家之间、区域之间一体化趋势日益明显。

随着近代资本主义大工业的形成以及资本在全球市场的不断扩张，人类社会进入一个崭新时代，人类科技水平不断提高，社会秩序、文明形态和生活面貌发生巨大改变，现代化发展的意义空前凸显。人类文明进步建立在摆脱传统、冲破偏见基础之上，通过一系列改革在政治、经济、文化、社会、生态等各个领域取得重要成就。世界各国现代化道路复杂多样，既相对独立又相互关联。正如习近平总书记指出，现代化不是单选题。历史条件的多样性，决定了各国选择发展道路的多样性。现代化具体形式与各个国家具体国情、制度禀赋和文化传统相结合，呈现出不同特点。

在学理意义上，中国式现代化正在以其伟大实践实现对传统与现代、中国与西方、全球化与地方性二分思维及其叙事模式的超越。中国正在打破西方对现代化标准垄断，探索出一条不同于西方的社会主义现代化新路，创造属于自己的发展经验，为现代化理论作出重要贡献，为其他国家制定增长和发展计划提供启示借鉴，有助于人类文明多元发展与持续进步。中国式现代化道路着眼于世界现代化发展历史进程，积极探索建立新型现代化发展道路和人类文明新形态，能够在更高层次引领和推动全球治理体系和治理能力现代化。

“第四次工业革命”正在开启人类历史新阶段

新一轮科学技术革命是中国乃至世界的最大现实，也是哲学社会科学研究者需要关注的重大议题。新工业革命正在深刻改变人类生产和生活方式。信息技术是新科技革命的龙头，正在向各个领域深度渗透，深刻改变着人类生产和生活方式。基于持续的技术创新和颠覆，以数字化、网络化、机器自组织为标志的“第四次工业革命”正在开启人类历史新阶段。

进入21世纪以来，大数据和人工智能蓬勃发展成为新工业革命的显著标志，并将重塑人类生存和生活的现实空间。第四次工业革命自2013年提出以来，迅速从发展理念转变为产业现实，并深入到社会生活的各个方面。第四次工业革命并不满足于“智能工厂”，而已经向着第四次科技革命迈进，预计将会在新一代信息技术、生物技术、新能源技术、新材料技术、智能制造技术等领域取得突破性进展。新一轮的科技革命将和以往每次科技革命一样，与全球政治、经济、文化、社会、环境进行新一轮的相互建构，并在根本上变革现代人的核心观念、认知方式、行动原则。

新工业革命不仅是一场技术与产业革命，对全球价值链结构、全球产业竞争格局产生深刻影响，更是一场社会、文化、价值与思维等领域的全景式整体性变革，将提供社会转型新动能，为社会发展带来新机遇。顺应形势把握住人工智能带来的重大历史机遇，可以带动国家整体竞争力的整体跃升，为处于转型期的中国经济社会发展提供强大动能。作为一项引领未来的战略性技术，推动和发展人工智能已经成为国际社会的共识，然而人工智能提供社会发展动力，赋能和助力现代化发展的同时，也对经济、社会、就业、伦理、安全诸领域提出新挑战。人工智能时代机遇与挑战同在，应当加强人工智能技术发展研判和预测，增强风险意识，更好应对人工智能技术可能导致的失控风险、伦理挑战、就业影响，促进科技治理能力现代化。

人工智能赋能中国式现代化新征程

科学技术是一种在历史上起推动作用的革命力量。科技创新是提高社会生产力、提升国际竞争力、增强综合国力、保障国家安全的战略支撑。人类从农耕文明到今天智能时代，均以科技工具出现重大变革为时代标志。当前，区块链、人工智能、大数据、物联网等新兴技术的创新发展和社会应用突飞猛进，正在给现代化的内涵、体系、方式带来创造性变革。科技进步提供了现代化的基本框架及结构，引领现代化新趋向。人工智能已经成为新一轮国际竞争的焦点和经济发展新引擎，也将为现代化建设带来新机遇。

首先，科技是现代化的基本构成。科技创新是中国式现代化的重要支撑。科技是国之利器，是“国家赖之以强，企业赖之以赢，人民生活赖之以好”的核心要素。现代性诞生于主客两大观念领域的分离，实现在实践中人对自然的科学化认识、技术化改造。现代化是奠基于科技化之上的社会整体现代性呈现，一个现代化国家的基本构成就是科学技术。

其次，科技是现代化的关键动力。伴随着人工智能产业关键技术实现突破，以及新兴技术场景应用建设的加快，科技赋能成为高质量发展的显著标志，科技创新成为引领现代化建设的重要动力。一方面，人工智能是新兴科技重大革新的结果；另一方面，作为革新的基础，人工智能发展又在世界各地更大程度、更大范围推进了现代化发展。现代化在各个社会阶层之间、国家之间、人与非人存在之间，主要是以科技为载体展开。现代性观念本身，也是从人对科技后果反思中获得的。科技的自主性与反身性，推动着现代化进程，以及对现代性的超越。

最后，科技创新深度推进和引领社会发展变革。近年来，我国坚定实施创新驱动发展战略，以科技创新为核心带动全面创新，以体制机制改革激发创新活力，加快建设创新型国家，为全面建设社会主义现代化国家提供强有力战略支撑。在新科技革命背景下，机器人与人工智能已经成为下一个产业新风口和产业转型升级新机遇。科技变革了社会物质生产方式，是调整社会中各种关系的基础与动力。每一次社会结构的变革，都起于科技发展的需求与结果，也都创造出下一次科技变革的社会基础。科技革命提供了发展方向，未来人类社会是深度科技化的，而科技发展的方向标注了人类发展的进程，原有学科的创新以及新学科的建立，都提供了一窥未来社会形态的途径。

走向“好的人工智能社会（Good AI Society）”

发展科学技术是近代以来中国建设现代民族国家努力的重要组成部分，大力发展人工智能技术是当代中国创新型国家建设的重要组成部分，人工智能的快速发展要求我们对其风险及其挑战有全面和系统认知。

1.人工智能发展中的伦理风险

人工智能在带来生产方式、生活方式以及思维方式的重大变革的同时，也给当代社会带来了哲学和伦理挑战。新兴科技正在重塑人类的社会秩序和伦理规范。不道德地使用人工智能，是否会导致人工智能取代人的功能，甚至取代人的主体地位？实际上，新兴科技伦理规约所面临的现代性困境其实在于责任问题，如何确定人工智能技术活动及其后果的责任主体，是人工智能发展必须要考虑的问题。在新兴科技的伦理规约挑战中，技术设计的美好愿望与技术后果失控风险存在矛盾。技术与伦理的内在冲突呈显于技术发展的不同阶段。只有处理好新兴科技与人、社会及环境的关系，处理好高效率存在方式与真正的进步之间的关系问题，才能给人类和新兴科技的和谐发展提供一个良性环境，真正实现“善治”与“善智”的互构。

2.人工智能的就业冲击及社会风险

历史上，工业革命的一个重要影响就是机器对劳动力的补充或取代。在新技术革命浪潮中，新兴技术作为节约劳动力速度的工具超过了社会为劳动力开辟新用途的速度，人工智能正在挑战社会就业结构。伴随着人工智能技术的迅速发展和应用，人们抑或会进入一个技术性失业率不断上升的时代。随着人工智能发展，新型机器人正在成为社会生产和生活中极具竞争力的“新型脑力劳动者”，这种“新劳动者”的职业优势已经体现在诸多行业。随着人工智能广泛应用，第二产业中的“第三产业”将重构人群就业结构，对社会稳定性构成挑战。

3.人工智能时代整体图景缺失的挑战

人工智能时代是通过程序呈现的世界图像在时间序列上的布展；然而，技术的复杂性往往会掩盖人类重要活动的复杂性。时代的困境在于人类无法将复杂的世界组成可以理解的整体，在享受技术便利的同时，失去了对复杂技术系统的控制。人工智能时代正面临整体图景缺失的挑战。在网络时代，互联网可以在相当程度上提供有用网络知识，但互联网不能为我们提供对网络知识的“理解力”。互联网非但不能为我们提供理解能力，而且可能阻碍理解能力的发展。实际上，与其他技术类似，人工智能技术的复杂性存在掩盖人类重要活动复杂性的风险，社会技术网络并不能自我调整和校正，便捷化人工智能技术的使用对整体化的时代图景形成挑战，不能把人类发展放在不确定性根基之上。

4.构建“好的人工智能社会”的挑战

人民对美好生活的向往，就是中国式现代化的奋斗目标。进入新时期，要坚持以满足人民群众日益增长的物质文化需要，提升人民群众对美好生活的满意度作为全面推进现代化各项工作的目标旨归，推动人工智能融入社会转型发展的前瞻性创新、过程性监测、后果性评估，切实让人民群众的生活更和谐更美好。

构建“好的人工智能社会”是全人类面临的严峻挑战。人工智能在生产活动和社会活动中的作用日益增加，人工智能甚至在对人类的智慧能动者唯一地位提出挑战。“让生活更美好”的人类愿景正面临如何构建“好的人工智能社会”的紧迫挑战。人类无疑具有独特性，无论是什么样的机会和环境造就了今日的人类，这样的机会并没有出现在人类的近亲所生活的环境中，技术产物的终极制造者还是人类，但人类要预防技术发展可能的风险。

总体而言，AI的最高原则是安全可控；AI的愿景是促进人类更加平等地获得技术能力；AI的存在价值是让人成长，而不是取代人和超越人；AI的终极目标应当是为人类带来更多的自由和可能。面对AI的崛起及其全面融入社会生活，我们需要清醒客观的判断和扎实冷静的努力。人类不能让舒适的假象迷惑主体性意识，人不能放弃自己而沦落成为技术决定论的服从者。成为决定论的服从者会导致被奴役，被技术所奴役；人在获得“表面上的自由”的同时，不能放弃“真正的自由”。技术起源于机器，但是技术不等于机器；机器与人工智能仅仅代表技术的一部分，关注人本身始终应当成为科技发展的目标和动力！

（本文系贵阳市南明区社会治理现代化专题项目（04150201022)、 国家社科基金重大项目（19ZDA040）阶段性成果））

(作者：张成岗  清华大学教授、社会治理与发展研究院院长)

ChatGPT的惊人功能已经占据了头条新闻，但企业现在面临的问题是，如何使用这些强大的工具来优化客户或员工体验。

开发ChatGPT的OpenAI公司在网站展示了摩根士丹利进行的一个案例研究。其主题是“摩根士丹利财富管理部署GPT-4来组织其庞大的知识库。”该案例研究援引摩根士丹利分析、数据与创新主管Jeff McMillan的话说，“该模型将为一个面向内部的聊天机器人提供动力，该机器人将对财富管理内容进行全面搜索，并有效地解锁摩根士丹利财富管理的累积知识”。

McMillan进一步强调说：“采用GPT-4，你基本上立刻就拥有了财富管理领域最博学的人的知识……可以把它想象成我们的首席投资策略师、首席全球经济学家、全球股票策略师，以及全球其他每一位分析师，并且每天都在待命。我们相信，这对我们公司来说是一种变革能力。”

这是知识管理的终极目标——将企业的知识和专长体现在与客户交互的系统、过程和工具中的能力。

那么真的达到这个目标了吗？生成式人工智能是知识访问、检索和应用的答案吗？在宣布战胜信息混乱之前，考虑一些基本元素和注意事项是很重要的。

首先，生成式人工智能可以克服知识管理挑战的认知背后有一个假设，即知识以明确的、记录的形式存在。然而，在大多数企业中，知识被锁定在员工的头脑中，如果以数字形式存储，它就会分散在部门、技术和存储库的生态系统中的孤岛中。OpenAI公司在其网站进一步指出，摩根士丹利每年发表数千篇论文，其内容涉及资本市场、资产类别、行业分析和全球经济区域……这些知识财富为摩根士丹利公司创建了一个独特的内部内容库，可以使用GPT-4进行处理和解析，同时也可以进行内部控制。摩根士丹利拥有的知识可以构成使用ChatGPT大型语言模型的基础。如果企业内容和知识资源不可获取，质量很差，或者与客户和员工的需求不一致，ChatGPT将无法访问响应这些需求的特定知识。

第二，生成式人工智能创造内容。它不是一个检索机制。那么原始知识库是如何使用的呢？这是一个棘手的领域。ChatGPT正在寻找内容和概念关系中的模式，以便它可以根据提示预测应该显示哪些文本。提示符是一种信号，就像搜索词是一种信号一样。搜索引擎不仅根据术语，而且还根据与查询场景相关的其他信号(例如，行业或搜索者的角色)预测应该显示哪些信息。可以在提示中以事实或文档的形式向ChatGPT提供场景，也可以通过指向作为响应基础的特定信息以编程方式提供场景。

大型语言模型——同义词库

大型语言模型是包含在信息体中的术语、概念和关系的数学表示。大型语言模型的强大之处在于它们能够理解用户的意图——无论请求是如何表达的，用户都在寻找什么内容，以及预测最有可能响应用户意图的单词模式。该模型“理解”用户的请求，并对应该返回的内容做出预测。搜索引擎也会根据用户的查询做出预测，尽管是通过不同的机制。搜索引擎可以用于生成人工智能场景中的检索。使用语义搜索或神经搜索引擎检索内容，并使用大型语言模型为用户格式化响应。

同义词库将非首选术语映射为首选术语(例如，“SOW”和“Statement of Work”映射为“Proposal”，即标记文档的首选术语)。把大型语言模型的一个方面看作是“同义词库”，但不仅仅是单词，而且是短语和概念。用户可以用许多不同的方式提出相同的问题。这种意图分类并不新鲜，它是将短语变化解析为特定动作的聊天机器人的基础。语言模型是意图解析和分类功能的基础。

大型语言模型还能理解提示符后面的单词模式。这就是启用ChatGPT会话流畅性的方式。使它们对企业具有实用性的关键是根据特定的内容或知识体来调整模型(摩根士丹利在实施ChatGPT时就是这样做的)，并吸收企业独有的术语。

有许多带有示例代码的教程说明了如何使用具有特定内容的大型语言模型。例如，其视频引导开发人员完成使用语言模型(如GPT-4)并将聊天机器人指向特定知识和内容的过程。

面向企业的知识专用机器人

在回顾了这些教程之后，有一些观察结果：

定制的、特定于知识的聊天机器人可以使用大型语言模型来理解用户的要求，然后从指定的知识来源返回结果。开发人员指出，需要将内容“分块”成“语义上有意义”的部分。为回答特定问题而设计的组件化内容需要完整且符合场景。重要的是要注意，知识通常不存在于这种状态。要进行组件化，必须将大型文档和文本主体分解成块。例如，用户手册可以按章、节、段和句子分成若干部分。在技术文档领域，这已经做到了——DITA (达尔文信息类分类架构)等标准使用了基于主题的方法，非常适合回答问题。

开发人员谈论“语义”以及语义的重要性。这是什么意思?语义学是关于意义的。语义丰富的内容用元数据标记，元数据有助于精确检索所需的信息和信息的场景。例如，如果用户使用特定型号的路由器，并且该路由器发出错误代码，那么当请求支持机器人帮助时，可以检索标有这些标识符的内容。这个过程在聊天机器人领域也被称为“插播”。

自定义内容被摄取到所谓的“向量空间”中，这是另一种信息数学模型，它将文档放在多维空间中(这是一种数学构造)，允许对类似的文档进行聚类和检索。这被称为“嵌入”。嵌入可以包含元数据和标识符(例如参考源)，这些元数据和标识符有助于记录向用户提供特定答案的原因。这对于法律责任和监管目的以及向用户提供正确、最权威信息的保证都很重要。

训练人工智能的定义

关于“训练”有几个观点。ChatGPT和大型语言模型在大量内容上进行了训练，使它们能够理解用户的查询，并以格式良好且具有会话性的最佳答案进行响应。训练该工具的一种方法是在提示符中包含内容，“根据以下信息回答这个问题……”

但在这里有两个问题：

首先，ChatGPT在其提示符中只能处理一定数量的内容，这种提问方式将非常有限。可以将内容摄取到工具中，这将支持额外的训练。然而，将内容添加到ChatGPT中也会将该内容合并到公共模型中。因此，企业的知识产权将受到损害。这种风险导致许多企业禁止使用ChatGPT和其他因无意中上传企业机密而丢失知识产权的人工智能工具。

另外，还有另一种训练内容的方法。大型语言模型可以使用企业特定知识作为训练语料库的一部分，但这需要提供一个防火墙后面的版本。幸运的是，大型语言模型正在迅速实现商品化，有些甚至可以在笔记本电脑上本地运行。这种类型的训练在计算上也很昂贵。另一种机制是使用大型语言模型来解释用户的目标(他们的意图)，然后使用向量嵌入以编程方式提供来自特定数据或内容源的场景。

然后，语言模型对响应进行处理和格式化，使其具有对话性和完整性。通过这种方式，知识与大型语言模型分开，使企业的商业秘密和知识产权不会受到损害。

所有这些因素都表明需要知识管理和知识架构，将信息组织成组件，以便用户可以获得特定问题的答案。大型语言模型和ChatGPT的革命性本质可以提供所需的会话流畅性，以近乎人类的互动水平来支持积极的客户体验。关键因素是获得企业中结构良好的知识。ChatGPT看起来很神奇，但它是基于信息的统计处理和模式预测。如果正确地组织和整合信息，将会成为企业数字化转型的重要组成部分。

 5 月 17 日消息，北京市于 5 月 12 日发布了关于对《北京市促进通用人工智能创新发展的若干措施（2023-2025 年）（征求意见稿）》（下称《征求意见稿》）公开征集意见的公告，拟对 AI 训练所需的算力推行统筹供给。

《征求意见稿》提出，加强算力资源统筹供给能力，加强与头部公有云厂商等市场主体合作，实施算力伙伴计划，并确定首批伙伴计划成员，明确供给技术标准、软硬件服务要求、算力供给规模、优惠策略等，向在京高校院所和中小企业公布一批优质算力供应商。

《征求意见稿》称，利用政府统一入口，降低公有云采购成本，普惠中小企业，同时减少企业分别面对不同云厂商的沟通成本。针对弹性算力需求，建设统一的多云算力调度平台，实现异构算力环境统一管理、统一运营，方便企业在不同云环境上无缝、经济、高效地运行各类人工智能计算任务。建设北京与河北、天津、山西、内蒙古等省（市）算力集群的直连基础光传输网络，进一步提升平台对四地算力资源感知能力，探索开展算力交易。

《征求意见稿》还表示，针对目前大模型训练高质量中文语料占比过少，不利于中文语境表达及产业应用的问题，整合现有开源中文预训练数据集和高质量互联网中文数据并进行合规清洗。同时持续扩展高质量多模态数据来源，建设合规安全的中文、图文对、音频、视频等大模型预训练语料库，通过北京国际大数据交易所社会数据专区进行定向有条件开放。

在人力资源管理中，AI技术的应用已经成为了不可逆转的趋势。然而，这项技术的优缺点也同样明显。这篇文章将从A/B两个面向来探索AI技术对HR的影响。

AI技术的A/B面：对HR带来的喜与悲

A面: AI技术对HR带来的悲

1. 职业冲击

随着AI技术的应用，一些传统的岗位可能会被机器人替代，导致一些员工失去了原有的工作。之前的研究人员也提出，在未来的20年内，相对传统而言，将会有更多的岗位被部分或者全部替代，与此同时，将会有不少的岗位和职位被重新定义或者创造出来，人力资源部门需要做好职场转型准备。

2. 管理方式转变

AI技术的应用，特别是在招聘和员工管理方面，需要人力资源部门调整管理方式，确保在各个岗位上都能够进行有效的协同工作。 HR团队需要学习AI知识，调整管理方式，负责管理AI工具和系统并进行跨部门的管理。

3. 技术应用

HR专业需要长时间投入AI技术，进行相关系统应用开发与创新，根据业务特点和岗位能力，想出最佳应用模式以提升业务效率。此外，还要注意信息安全，数据会因为管理全过程而在不断流动，并基于各种数据源进行建模，所以必须确保数据源和处理的方法是可靠、准确的。

4. 安全意识

HR部门需要重视安全意识，与IT部门紧密合作，制定防范人工智能安全风险的全面计划。企业应该加强AI相关知识和技术能力的培训，加强员工对数据隐私的保护意识，对AI算法和数据解释进行梳理并强制要求审查。

B面: AI技术对HR带来的喜

1. 工作效率提升

HR通过AI技术，可以在更短的时间内筛选出更适合的候选人和预测员工的潜力和表现，建立智能化的职业策略和战略，提高综合管理水平和竞争优势，大幅提升工作效率和业务质量。

2. 职业发展空间

AI技术的应用能够提供AI与人的合作模式，对于人力资源部门而言，也可以通过引入一些AI技术工具来优化流程，增强职业发展空间和职业竞争力，对于部门成员而言，也能够增加学习机会，提高拥抱数字化的能力，增强职业发展机会。推进整个人才生态系统的发展。

3. 员工体验改善

AI技术可以帮助HR部门对员工体验进行全面的改善。职场变化之快，员工与企业间的互动也变得更加复杂，而AI技术可以用于提高职员的体验，如在招聘过程中优化职位推荐等，从而提高雇主和

员工之间的相互满意度和信任度，提升员工绩效。

4. 斜杠技能

随着人工智能技术的应用，HR部门的工作方式和要求也在不断发生变化，感知复合人才的价值正在增加，会让人力资源工作更具高质量和深层次的综合能力，人力资源的工作未来会需要更多沟通、协调、合作、推销、营销等斜杠技能，这会令HR更加倾向于拥有更全面技能背景的员工。

末尾的话

AI技术的应用为HR部门带来了利与弊。HR专业需要在应用过程中承认收益和弊端，采取适当的管理措施，避免忽视相关信息或者信仰盲目从而带来损失。因此，HR团队应该不断学习和更新，扩展其知识和能力，始终关注人力资源部门的责任，促进业务的安全、可靠和创新发展。

本文由gpt3.5根据网络信息生产，特此申明

在现代企业中，人力资源管理一直是一个非常重要的方面。然而，实际上，无论是企业还是人事部门，都很难面对繁重的招聘和员工管理任务。随着人工智能技术的不断发展和普及，大型AI模型的应用已经成为了人力资源发展的重要趋势。

招聘方面的应用场景

大型AI模型借助深度学习和自然语言处理等技术，可以根据候选人的背景、技能和经验等因素预测最适合和最佳的员工，从而提高招聘的质量。

例如，美国航空宇宙公司NASA曾使用基于AI的大型模型来筛选众多求职者，筛选过程中把求职者的数据和文本匹配，并使最适合符合职位质量大幅提升，同时也减小了招聘筛选员工的准确率和成本的压力。

员工绩效管理和人才培养方面的应用场景

大模型在员工绩效管理和人才培养方面也有广泛的应用场景。通过大型AI模型的数据分析和挖掘，可以预测员工的离职率，策划员工的职业路径并为员工的职业发展和晋升提供科学有效的指引。

例如，芬兰移动通信公司Nokia利用大型AI模型对员工的工作表现、投诉记录和社交行为等信息进行一定的习惯和系统性地数据分析，即可预测员工的离职率，然后采取及时和明确的措施避免无效流失。在中国，电子商务公司阿里巴巴也采用大型 AI 模型识别和晋升内部卓越性的员工，以鼓励大家实现更大的目标，维持良好的团队工作和高效的组织运作。

大型AI模型也可以引导员工职业发展以及解决职业瓶颈

举例而言，在美国，德勤公司已经利用大型AI模型，建立了崭新的职业发展领导，并引导员工发现自身的职业发展需要和优缺点。

总结

基于人工智能的大型AI模型可以在企业人才管理非常广泛地应用，并取得非常显著的质量和效益提升。虽然AI模型的适用性比较广泛，但是这种技术并非万事通，也会带来质量和安全等风险，因此应谨慎使用，避免过度依赖大型AI模型，而应该平衡机器学习对人类经验和理解的补充。

‍“狂飙”的AIGC产业刚刚迎来国家级规范性政策。

4月11日，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《意见稿》）公开征求意见。

监管一出手，11日下午ChatGPT相关概念股大幅回调，但热度不减。有的游走在灰色地带的人慌了，有的AI创业者却更加乐观了。

无界AI商务与市场总监李本涨认为，现在很多企业开始将生成式AI融入自己的业务生态，如果有明确的标准、具体的规则可以遵循，那么大家使用AI产品时都会更安心。而且，他希望在监管下，创业者能有更多创新、与互联网巨头公平竞争的机会。

从百度的文心一言到阿里的通义千问，国内各大厂相继发布生成式AI产品。尽管国内大模型研究和商业应用仍处于发展初期，但监管政策“来得很快”，这份《意见稿》对生成式AI技术、生成内容、主体责任、数据源和数据处理等方面都做出了规定。

有网友担心这才刚起步就开展监管是不是太早了？在追赶海外同行的情况下会不会造成阻碍？

实际上，数据安全作为AI发展的前提，近日已被多国提上监管日程。

本周二，美国政府也开始研究是否需要监管ChatGPT。据《华尔街日报》报道，美国商务部就相关的问责措施正式公开征求意见，包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序。

“人工智能会让我们的生活变得更美好，还是会造成灾难性的后果？”随着新技术的迅猛发展，人们愈加关注生成式AI本身的安全风险以及所引起的负面影响。

围绕这份《意见稿》，“头号AI玩家”和AI从业者、有关专家聊了聊此次新规释放了哪些信号，对AIGC产业会产生哪些影响？

以下是我们划的几个重点：

1 意见稿是《互联网信息服务深度合成管理规定》的升级版

我国是最早对人工智能进行监管治理的国家之一。

比如AI写作领域有一个典型案例。2018年，腾讯研发的AI智能写作助手Dreamwriter生成了财经文章发布后，未经授权许可被其他网站复制并传播。对此，腾讯提起了维权诉讼，认为其侵犯了腾讯及Dreamwriter的著作权。

2020年初，法院判决AI生成作品属于著作权法保护范畴，最终腾讯胜诉。这是国内首例人工智能合成作品维权的案例。

2022年，中国首部专门针对人工智能特定技术制定的法规《互联网信息服务深度合成管理规定》正式发布，已于今年1月10日施行。而此前《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中亦涉及到AIGC、深度合成等内容。

近日多起AI换脸或AI换装的争议事件

基于此，中伦律师事务所合伙人马远超认为，这次颁发征求意见稿不算是“突发性”事件，并且，这份《意见稿》可视作《互联网信息服务深度合成管理规定》的升级版。有些内容是对深度合成规定的延续、细化，有的内容则是首次提出，例如第四条、第七条、第十七条。

2 AIGC行业将从野蛮生长走向合规发展

先从整体基调来看，本次新规是为了促进生成式人工智能健康发展和规范应用，对支持行业合规发展传递出积极的信号。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

多位从业者表示这意味着“野蛮生长的时代要结束了”。

李本涨告诉我们，他很高兴看到国家推动AI行业朝着合规有序的方向发展，一方面说明一些行业乱象会得到治理，整个行业会得到更多认可和资源投入，另一方面，这也能够让无界AI在未来的产品规划以及业务发展思路上有更多的参考依据，从“走得更快”变成“走得更快更稳”。

3 防止AI生成歧视、虚假信息

从内容来看，AI生成内容同其他互联网上的内容一样，应当遵守法律法规的要求，尊重社会公德、公序良俗。

第四条提到的涉及政治、涉黄涉暴等敏感内容，一直都是互联网内容风控审核的重点。特别强调的是，AI生成内容还应当真实准确，防止生成虚假信息和带有歧视性的内容。

第四条（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

第四条（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

在AI绘画中，如果用户输入特定关键词就有可能生成现实中不存在的图片，以假乱真，比如前一阵子海外热传的用AI生成的“特朗普被捕”照片。

ChatGPT同样会生成合乎逻辑但与事实不符的错误“幻觉”，这是AI大模型的“通病”。

为此，我们需要让AI更好地理解人类的价值观和道德观念。除了不断完善和迭代模型，目前AI产品提供者会采取内容过滤、人工审核等风控措施。

李本涨表示，无界AI在训练模型和生成图片时会尽量还原真实效果，避免一些涉嫌歧视的“刻板印象”，如果遇到类似产出，也会迅速调整模型相关的训练内容。同时产品设置了关键词约束规则，可以避免违规内容生成，发布后会再通过算法和人工对图片进行审核，另外还设立了用户举报机制。

输入“密室杀人现场”，只生成了房间

3 个人信息保护是重要防线

近期ChatGPT的一些用户消息和支付信息泄露后，意大利数据保护机构Garante宣布禁止使用ChatGPT，命令其公司OpenAI暂停处理意大利用户信息，并开展调查。

这是全球范围内针对ChatGPT的第一道政府禁令。此后德国、加拿大、法国等国家也开始考虑效仿意大利，加强对Al数据安全的监管。

可见，保护好个人信息和商业秘密的内容是AI生成内容的重要防线。

第四条（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

在《意见稿》公布前夕，中国支付清算协会网站发布了“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。像金融支付属于数据密集型行业，对信息安全防护的要求很高，海外就有企业员工把工作数据输入到ChatGPT中，这种行为涉嫌违规。

5 模型训练数据来源要合法，不能侵权

《意见稿》对AI模型数据来源的合法性提出了新要求，其中一点要求“不含有侵犯知识产权的内容”。

此前就有AI绘画的反对者声称AI使用了版权作品作为训练素材，侵犯了原创者的权利。今年3月，聚集大量写手和画手的兴趣平台lofter，因为部分创作者反对而下线了AI创作功能。

部分lofter用户停更且更换为抵制AI的头像

马远超认为，关于数据源的知识产权保护落地会有一定难度，但也要具体情况具体分析。

例如对独创性相对较低的作品，增加了纯属巧合、生成相似作品的概率，这会对一方权利人维权带来难度。对训练时使用第三方作品是否构成合理使用，也有争议。但某些场景比较容易维权，例如未经许可输入他人的注册商标进行训练，导致输出相似的成果。

6 防止用户沉迷AI生成内容

目前有不少学生群体在使用AI帮助自己写作业、写论文了。据媒体报道，一位海外大学生用ChatGPT写出了一篇世界宗教课的“满分论文”，结果因为过于完美而被教授发现。

为了防止学生作弊，美国、日本、法国等地区的部分高校就声明禁用AI工具。比如香港大学的内部信提到，有学生要使用相关应用程序，须获得课程导师书面同意，若有违规，将被视为潜在抄袭。

由此，我们看到《意见稿》要求用户应实名登录，提供者还要采取防沉迷措施。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

7 调用API的提供者，也要承担相应责任和义务

在ChatGPT爆火后，国内出现了很多调用其接口提供服务的AI小程序、APP或社群，但有的因为因违规而被平台封禁。

《意见稿》对AI模型提供者，以及调用接口进行二次开发的服务商都提出了一系列要求，比如第六条要求提供服务前向国家网信部门申报安全评估，做好备案；第十四条要求提供安全、稳定的服务；第十七条要求披露模型描述等必要信息等等。

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

国内的提供者可能以往容易忽视这些规定和限制，但新规施行后，都要承担起相应的责任和义务了。

8 AI生成的内容要有标识

按照《互联网信息服务深度合成管理规定》，提供者还应对生成的图片、视频等内容进行标识。

有标识的AI生成视频

目前对标识的具体方式还没有很清晰的解释。但加上标识是有利于整治行业乱象的，例如上文提到的换脸造谣事件，AI服务提供方可以依据标识快速辟谣、进行追责。

9 提供者要接受用户投诉，及时处理违法违规内容

今年1月，图库商Getty Images以侵犯版权的名义，起诉了Stable Difussion的公司Stability AI，后者回应称会在新版本添加一个“退出（opt out）”选项，用户可以让AI模型不再收集其作品作为训练数据。

他们还与HaveIBeenTrained网站合作，允许艺术家在Stable Diffusion的训练数据集中搜索自己的作品并选择删除。

类似的，《意见稿》显示国内AI提供者也要建立用户投诉通道，及时处理侵权作品等违规违法内容，并且避免再次生成。

第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

此外，对于涉及炒作营销等违规内容，AI提供者应暂停或终止用户服务。

第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

Tiamat的关键词违禁提示

新兴技 术的 发展和监管 合规其实是相辅相成的关系。 人工智能技术的发展趋势，一定是跨地域跨国界的，未来数据跨境传输、存储、使用将成为数据安全保护的重大挑战。

马远超认为，我们国家已有网络安全法以及配套立法，这些立法内容能否与时俱进、能否监管到位、执法落地，就成为关键。

《意见稿》只是第一步，部分规定还比较笼统，但在国内AIGC发展初期就跟进革新，长远来看，可以为整个产业的稳健发展保驾护航。

本文转载自新榜官方自媒体文章