在9月15日举行的人力资源年度大型论坛——“2023 HRoot人力资本论坛·上海站”上，AI时代如何积极主动地探寻变革之道，以适应不断变化的商业环境成为各行业高管热议的话题。

图说：“2023 HRoot 人力资本论坛·上海站”现场 主办方提供

本次论坛以“技术·组织·人 重塑中的叠加态未来”为主题，邀请了近20名行业专家、知名学者及专业领袖，通过14场精彩演讲和1场深度圆桌对谈，深入探讨技术、组织和人三方协同与共存的意义。

《人力资源数字化转型行动指南》作者、复旦MBA同学会人力资源协会主理人徐刚说，数字化、AI技术在职场上的应用主要有三大方面：提升效率，无论是流程自动化、还是智能客服机器人等，都能帮助我们减少不必要的人工操作，提升工作效率；数据分析，数字化可以积累更多的数据，而AI能帮助我们更好地对这些数据进行智能分析和预测；组织协同，有了数字化可以更好地进行远程协同，这个世界变得越来越小，协同也会变得随时随地。

他认为，总体来说借助数字化和AI，可以让我们能更好地满足客户需求，提升企业组织的竞争力。但AI给我们带来了前所未有的挑战，他认为，职场人士需要持续学习，一旦停止学习，很有可能就跟不上这个世界的变化；另外还有数据隐私和道德问题，可以看到个人保护法的出台其实就是为了更好地保护好个人隐私；人类情感连接的问题，技术会让我们人与人之间面对面的沟通越来越少，这会降低人与人之间的情感连接，产生其他的一些组织管理问题。企业也需要不断探索和完善应用方式和管理措施来应对。

中智股份党委副书记、总经理单为民说，技术不断在更迭，AI时代的到来，使大家不免担心人工智能会取代人力，而这也是此次大会聚焦于此的原因。AI对就业的长期影响十分复杂。为了确保技术的优势得到广泛体现，至关重要的是，要对员工队伍的发展进行投资管理。个人和企业都应该专注于提高数字思维和数字化转型能力，为充分利用新技术做好准备。他认为，目前来看，AI最大的潜力并不是取代人力，而是协助人类创造创新性解决方案，补充并强化人的能力。与其说是AI取代了人力，不如说更有可能出现的情况是，具备数字思维、未来思维的人将取代那些无法适应时代变革的人。

ChatGPT的惊人功能已经占据了头条新闻，但企业现在面临的问题是，如何使用这些强大的工具来优化客户或员工体验。

开发ChatGPT的OpenAI公司在网站展示了摩根士丹利进行的一个案例研究。其主题是“摩根士丹利财富管理部署GPT-4来组织其庞大的知识库。”该案例研究援引摩根士丹利分析、数据与创新主管Jeff McMillan的话说，“该模型将为一个面向内部的聊天机器人提供动力，该机器人将对财富管理内容进行全面搜索，并有效地解锁摩根士丹利财富管理的累积知识”。

McMillan进一步强调说：“采用GPT-4，你基本上立刻就拥有了财富管理领域最博学的人的知识……可以把它想象成我们的首席投资策略师、首席全球经济学家、全球股票策略师，以及全球其他每一位分析师，并且每天都在待命。我们相信，这对我们公司来说是一种变革能力。”

这是知识管理的终极目标——将企业的知识和专长体现在与客户交互的系统、过程和工具中的能力。

那么真的达到这个目标了吗？生成式人工智能是知识访问、检索和应用的答案吗？在宣布战胜信息混乱之前，考虑一些基本元素和注意事项是很重要的。

首先，生成式人工智能可以克服知识管理挑战的认知背后有一个假设，即知识以明确的、记录的形式存在。然而，在大多数企业中，知识被锁定在员工的头脑中，如果以数字形式存储，它就会分散在部门、技术和存储库的生态系统中的孤岛中。OpenAI公司在其网站进一步指出，摩根士丹利每年发表数千篇论文，其内容涉及资本市场、资产类别、行业分析和全球经济区域……这些知识财富为摩根士丹利公司创建了一个独特的内部内容库，可以使用GPT-4进行处理和解析，同时也可以进行内部控制。摩根士丹利拥有的知识可以构成使用ChatGPT大型语言模型的基础。如果企业内容和知识资源不可获取，质量很差，或者与客户和员工的需求不一致，ChatGPT将无法访问响应这些需求的特定知识。

第二，生成式人工智能创造内容。它不是一个检索机制。那么原始知识库是如何使用的呢？这是一个棘手的领域。ChatGPT正在寻找内容和概念关系中的模式，以便它可以根据提示预测应该显示哪些文本。提示符是一种信号，就像搜索词是一种信号一样。搜索引擎不仅根据术语，而且还根据与查询场景相关的其他信号(例如，行业或搜索者的角色)预测应该显示哪些信息。可以在提示中以事实或文档的形式向ChatGPT提供场景，也可以通过指向作为响应基础的特定信息以编程方式提供场景。

大型语言模型——同义词库

大型语言模型是包含在信息体中的术语、概念和关系的数学表示。大型语言模型的强大之处在于它们能够理解用户的意图——无论请求是如何表达的，用户都在寻找什么内容，以及预测最有可能响应用户意图的单词模式。该模型“理解”用户的请求，并对应该返回的内容做出预测。搜索引擎也会根据用户的查询做出预测，尽管是通过不同的机制。搜索引擎可以用于生成人工智能场景中的检索。使用语义搜索或神经搜索引擎检索内容，并使用大型语言模型为用户格式化响应。

同义词库将非首选术语映射为首选术语(例如，“SOW”和“Statement of Work”映射为“Proposal”，即标记文档的首选术语)。把大型语言模型的一个方面看作是“同义词库”，但不仅仅是单词，而且是短语和概念。用户可以用许多不同的方式提出相同的问题。这种意图分类并不新鲜，它是将短语变化解析为特定动作的聊天机器人的基础。语言模型是意图解析和分类功能的基础。

大型语言模型还能理解提示符后面的单词模式。这就是启用ChatGPT会话流畅性的方式。使它们对企业具有实用性的关键是根据特定的内容或知识体来调整模型(摩根士丹利在实施ChatGPT时就是这样做的)，并吸收企业独有的术语。

有许多带有示例代码的教程说明了如何使用具有特定内容的大型语言模型。例如，其视频引导开发人员完成使用语言模型(如GPT-4)并将聊天机器人指向特定知识和内容的过程。

面向企业的知识专用机器人

在回顾了这些教程之后，有一些观察结果：

定制的、特定于知识的聊天机器人可以使用大型语言模型来理解用户的要求，然后从指定的知识来源返回结果。开发人员指出，需要将内容“分块”成“语义上有意义”的部分。为回答特定问题而设计的组件化内容需要完整且符合场景。重要的是要注意，知识通常不存在于这种状态。要进行组件化，必须将大型文档和文本主体分解成块。例如，用户手册可以按章、节、段和句子分成若干部分。在技术文档领域，这已经做到了——DITA (达尔文信息类分类架构)等标准使用了基于主题的方法，非常适合回答问题。

开发人员谈论“语义”以及语义的重要性。这是什么意思?语义学是关于意义的。语义丰富的内容用元数据标记，元数据有助于精确检索所需的信息和信息的场景。例如，如果用户使用特定型号的路由器，并且该路由器发出错误代码，那么当请求支持机器人帮助时，可以检索标有这些标识符的内容。这个过程在聊天机器人领域也被称为“插播”。

自定义内容被摄取到所谓的“向量空间”中，这是另一种信息数学模型，它将文档放在多维空间中(这是一种数学构造)，允许对类似的文档进行聚类和检索。这被称为“嵌入”。嵌入可以包含元数据和标识符(例如参考源)，这些元数据和标识符有助于记录向用户提供特定答案的原因。这对于法律责任和监管目的以及向用户提供正确、最权威信息的保证都很重要。

训练人工智能的定义

关于“训练”有几个观点。ChatGPT和大型语言模型在大量内容上进行了训练，使它们能够理解用户的查询，并以格式良好且具有会话性的最佳答案进行响应。训练该工具的一种方法是在提示符中包含内容，“根据以下信息回答这个问题……”

但在这里有两个问题：

首先，ChatGPT在其提示符中只能处理一定数量的内容，这种提问方式将非常有限。可以将内容摄取到工具中，这将支持额外的训练。然而，将内容添加到ChatGPT中也会将该内容合并到公共模型中。因此，企业的知识产权将受到损害。这种风险导致许多企业禁止使用ChatGPT和其他因无意中上传企业机密而丢失知识产权的人工智能工具。

另外，还有另一种训练内容的方法。大型语言模型可以使用企业特定知识作为训练语料库的一部分，但这需要提供一个防火墙后面的版本。幸运的是，大型语言模型正在迅速实现商品化，有些甚至可以在笔记本电脑上本地运行。这种类型的训练在计算上也很昂贵。另一种机制是使用大型语言模型来解释用户的目标(他们的意图)，然后使用向量嵌入以编程方式提供来自特定数据或内容源的场景。

然后，语言模型对响应进行处理和格式化，使其具有对话性和完整性。通过这种方式，知识与大型语言模型分开，使企业的商业秘密和知识产权不会受到损害。

所有这些因素都表明需要知识管理和知识架构，将信息组织成组件，以便用户可以获得特定问题的答案。大型语言模型和ChatGPT的革命性本质可以提供所需的会话流畅性，以近乎人类的互动水平来支持积极的客户体验。关键因素是获得企业中结构良好的知识。ChatGPT看起来很神奇，但它是基于信息的统计处理和模式预测。如果正确地组织和整合信息，将会成为企业数字化转型的重要组成部分。

在人力资源管理中，AI技术的应用已经成为了不可逆转的趋势。然而，这项技术的优缺点也同样明显。这篇文章将从A/B两个面向来探索AI技术对HR的影响。

AI技术的A/B面：对HR带来的喜与悲

A面: AI技术对HR带来的悲

1. 职业冲击

随着AI技术的应用，一些传统的岗位可能会被机器人替代，导致一些员工失去了原有的工作。之前的研究人员也提出，在未来的20年内，相对传统而言，将会有更多的岗位被部分或者全部替代，与此同时，将会有不少的岗位和职位被重新定义或者创造出来，人力资源部门需要做好职场转型准备。

2. 管理方式转变

AI技术的应用，特别是在招聘和员工管理方面，需要人力资源部门调整管理方式，确保在各个岗位上都能够进行有效的协同工作。 HR团队需要学习AI知识，调整管理方式，负责管理AI工具和系统并进行跨部门的管理。

3. 技术应用

HR专业需要长时间投入AI技术，进行相关系统应用开发与创新，根据业务特点和岗位能力，想出最佳应用模式以提升业务效率。此外，还要注意信息安全，数据会因为管理全过程而在不断流动，并基于各种数据源进行建模，所以必须确保数据源和处理的方法是可靠、准确的。

4. 安全意识

HR部门需要重视安全意识，与IT部门紧密合作，制定防范人工智能安全风险的全面计划。企业应该加强AI相关知识和技术能力的培训，加强员工对数据隐私的保护意识，对AI算法和数据解释进行梳理并强制要求审查。

B面: AI技术对HR带来的喜

1. 工作效率提升

HR通过AI技术，可以在更短的时间内筛选出更适合的候选人和预测员工的潜力和表现，建立智能化的职业策略和战略，提高综合管理水平和竞争优势，大幅提升工作效率和业务质量。

2. 职业发展空间

AI技术的应用能够提供AI与人的合作模式，对于人力资源部门而言，也可以通过引入一些AI技术工具来优化流程，增强职业发展空间和职业竞争力，对于部门成员而言，也能够增加学习机会，提高拥抱数字化的能力，增强职业发展机会。推进整个人才生态系统的发展。

3. 员工体验改善

AI技术可以帮助HR部门对员工体验进行全面的改善。职场变化之快，员工与企业间的互动也变得更加复杂，而AI技术可以用于提高职员的体验，如在招聘过程中优化职位推荐等，从而提高雇主和

员工之间的相互满意度和信任度，提升员工绩效。

4. 斜杠技能

随着人工智能技术的应用，HR部门的工作方式和要求也在不断发生变化，感知复合人才的价值正在增加，会让人力资源工作更具高质量和深层次的综合能力，人力资源的工作未来会需要更多沟通、协调、合作、推销、营销等斜杠技能，这会令HR更加倾向于拥有更全面技能背景的员工。

末尾的话

AI技术的应用为HR部门带来了利与弊。HR专业需要在应用过程中承认收益和弊端，采取适当的管理措施，避免忽视相关信息或者信仰盲目从而带来损失。因此，HR团队应该不断学习和更新，扩展其知识和能力，始终关注人力资源部门的责任，促进业务的安全、可靠和创新发展。

‍“狂飙”的AIGC产业刚刚迎来国家级规范性政策。

4月11日，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《意见稿》）公开征求意见。

监管一出手，11日下午ChatGPT相关概念股大幅回调，但热度不减。有的游走在灰色地带的人慌了，有的AI创业者却更加乐观了。

无界AI商务与市场总监李本涨认为，现在很多企业开始将生成式AI融入自己的业务生态，如果有明确的标准、具体的规则可以遵循，那么大家使用AI产品时都会更安心。而且，他希望在监管下，创业者能有更多创新、与互联网巨头公平竞争的机会。

从百度的文心一言到阿里的通义千问，国内各大厂相继发布生成式AI产品。尽管国内大模型研究和商业应用仍处于发展初期，但监管政策“来得很快”，这份《意见稿》对生成式AI技术、生成内容、主体责任、数据源和数据处理等方面都做出了规定。

有网友担心这才刚起步就开展监管是不是太早了？在追赶海外同行的情况下会不会造成阻碍？

实际上，数据安全作为AI发展的前提，近日已被多国提上监管日程。

本周二，美国政府也开始研究是否需要监管ChatGPT。据《华尔街日报》报道，美国商务部就相关的问责措施正式公开征求意见，包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序。

“人工智能会让我们的生活变得更美好，还是会造成灾难性的后果？”随着新技术的迅猛发展，人们愈加关注生成式AI本身的安全风险以及所引起的负面影响。

围绕这份《意见稿》，“头号AI玩家”和AI从业者、有关专家聊了聊此次新规释放了哪些信号，对AIGC产业会产生哪些影响？

以下是我们划的几个重点：

1 意见稿是《互联网信息服务深度合成管理规定》的升级版

我国是最早对人工智能进行监管治理的国家之一。

比如AI写作领域有一个典型案例。2018年，腾讯研发的AI智能写作助手Dreamwriter生成了财经文章发布后，未经授权许可被其他网站复制并传播。对此，腾讯提起了维权诉讼，认为其侵犯了腾讯及Dreamwriter的著作权。

2020年初，法院判决AI生成作品属于著作权法保护范畴，最终腾讯胜诉。这是国内首例人工智能合成作品维权的案例。

2022年，中国首部专门针对人工智能特定技术制定的法规《互联网信息服务深度合成管理规定》正式发布，已于今年1月10日施行。而此前《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中亦涉及到AIGC、深度合成等内容。

近日多起AI换脸或AI换装的争议事件

基于此，中伦律师事务所合伙人马远超认为，这次颁发征求意见稿不算是“突发性”事件，并且，这份《意见稿》可视作《互联网信息服务深度合成管理规定》的升级版。有些内容是对深度合成规定的延续、细化，有的内容则是首次提出，例如第四条、第七条、第十七条。

2 AIGC行业将从野蛮生长走向合规发展

先从整体基调来看，本次新规是为了促进生成式人工智能健康发展和规范应用，对支持行业合规发展传递出积极的信号。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

多位从业者表示这意味着“野蛮生长的时代要结束了”。

李本涨告诉我们，他很高兴看到国家推动AI行业朝着合规有序的方向发展，一方面说明一些行业乱象会得到治理，整个行业会得到更多认可和资源投入，另一方面，这也能够让无界AI在未来的产品规划以及业务发展思路上有更多的参考依据，从“走得更快”变成“走得更快更稳”。

3 防止AI生成歧视、虚假信息

从内容来看，AI生成内容同其他互联网上的内容一样，应当遵守法律法规的要求，尊重社会公德、公序良俗。

第四条提到的涉及政治、涉黄涉暴等敏感内容，一直都是互联网内容风控审核的重点。特别强调的是，AI生成内容还应当真实准确，防止生成虚假信息和带有歧视性的内容。

第四条（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

第四条（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

在AI绘画中，如果用户输入特定关键词就有可能生成现实中不存在的图片，以假乱真，比如前一阵子海外热传的用AI生成的“特朗普被捕”照片。

ChatGPT同样会生成合乎逻辑但与事实不符的错误“幻觉”，这是AI大模型的“通病”。

为此，我们需要让AI更好地理解人类的价值观和道德观念。除了不断完善和迭代模型，目前AI产品提供者会采取内容过滤、人工审核等风控措施。

李本涨表示，无界AI在训练模型和生成图片时会尽量还原真实效果，避免一些涉嫌歧视的“刻板印象”，如果遇到类似产出，也会迅速调整模型相关的训练内容。同时产品设置了关键词约束规则，可以避免违规内容生成，发布后会再通过算法和人工对图片进行审核，另外还设立了用户举报机制。

输入“密室杀人现场”，只生成了房间

3 个人信息保护是重要防线

近期ChatGPT的一些用户消息和支付信息泄露后，意大利数据保护机构Garante宣布禁止使用ChatGPT，命令其公司OpenAI暂停处理意大利用户信息，并开展调查。

这是全球范围内针对ChatGPT的第一道政府禁令。此后德国、加拿大、法国等国家也开始考虑效仿意大利，加强对Al数据安全的监管。

可见，保护好个人信息和商业秘密的内容是AI生成内容的重要防线。

第四条（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

在《意见稿》公布前夕，中国支付清算协会网站发布了“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。像金融支付属于数据密集型行业，对信息安全防护的要求很高，海外就有企业员工把工作数据输入到ChatGPT中，这种行为涉嫌违规。

5 模型训练数据来源要合法，不能侵权

《意见稿》对AI模型数据来源的合法性提出了新要求，其中一点要求“不含有侵犯知识产权的内容”。

此前就有AI绘画的反对者声称AI使用了版权作品作为训练素材，侵犯了原创者的权利。今年3月，聚集大量写手和画手的兴趣平台lofter，因为部分创作者反对而下线了AI创作功能。

部分lofter用户停更且更换为抵制AI的头像

马远超认为，关于数据源的知识产权保护落地会有一定难度，但也要具体情况具体分析。

例如对独创性相对较低的作品，增加了纯属巧合、生成相似作品的概率，这会对一方权利人维权带来难度。对训练时使用第三方作品是否构成合理使用，也有争议。但某些场景比较容易维权，例如未经许可输入他人的注册商标进行训练，导致输出相似的成果。

6 防止用户沉迷AI生成内容

目前有不少学生群体在使用AI帮助自己写作业、写论文了。据媒体报道，一位海外大学生用ChatGPT写出了一篇世界宗教课的“满分论文”，结果因为过于完美而被教授发现。

为了防止学生作弊，美国、日本、法国等地区的部分高校就声明禁用AI工具。比如香港大学的内部信提到，有学生要使用相关应用程序，须获得课程导师书面同意，若有违规，将被视为潜在抄袭。

由此，我们看到《意见稿》要求用户应实名登录，提供者还要采取防沉迷措施。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

7 调用API的提供者，也要承担相应责任和义务

在ChatGPT爆火后，国内出现了很多调用其接口提供服务的AI小程序、APP或社群，但有的因为因违规而被平台封禁。

《意见稿》对AI模型提供者，以及调用接口进行二次开发的服务商都提出了一系列要求，比如第六条要求提供服务前向国家网信部门申报安全评估，做好备案；第十四条要求提供安全、稳定的服务；第十七条要求披露模型描述等必要信息等等。

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

国内的提供者可能以往容易忽视这些规定和限制，但新规施行后，都要承担起相应的责任和义务了。

8 AI生成的内容要有标识

按照《互联网信息服务深度合成管理规定》，提供者还应对生成的图片、视频等内容进行标识。

有标识的AI生成视频

目前对标识的具体方式还没有很清晰的解释。但加上标识是有利于整治行业乱象的，例如上文提到的换脸造谣事件，AI服务提供方可以依据标识快速辟谣、进行追责。

9 提供者要接受用户投诉，及时处理违法违规内容

今年1月，图库商Getty Images以侵犯版权的名义，起诉了Stable Difussion的公司Stability AI，后者回应称会在新版本添加一个“退出（opt out）”选项，用户可以让AI模型不再收集其作品作为训练数据。

他们还与HaveIBeenTrained网站合作，允许艺术家在Stable Diffusion的训练数据集中搜索自己的作品并选择删除。

类似的，《意见稿》显示国内AI提供者也要建立用户投诉通道，及时处理侵权作品等违规违法内容，并且避免再次生成。

第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

此外，对于涉及炒作营销等违规内容，AI提供者应暂停或终止用户服务。

第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

Tiamat的关键词违禁提示

新兴技 术的 发展和监管 合规其实是相辅相成的关系。 人工智能技术的发展趋势，一定是跨地域跨国界的，未来数据跨境传输、存储、使用将成为数据安全保护的重大挑战。

马远超认为，我们国家已有网络安全法以及配套立法，这些立法内容能否与时俱进、能否监管到位、执法落地，就成为关键。

《意见稿》只是第一步，部分规定还比较笼统，但在国内AIGC发展初期就跟进革新，长远来看，可以为整个产业的稳健发展保驾护航。

本文转载自新榜官方自媒体文章