前言
《人工智能拟人化互动服务管理暂行办法》(下称《办法》)作为全球首部专门规制 AI 持续性情感陪伴、拟人化人机交互场景的部门规章,施行满月引发行业显著震荡。米哈游《林离》短期停服,头部大模型平台关停或迁移智能体功能,垂直 AI 陪伴产品暴露出标识弱化、防沉迷机制空转、未成年人管控缺位等现实合规漏洞。本文结合法规条文、上线首月行业实测案例,厘清法规适用边界,梳理行业格局变化,披露高频合规漏洞,并从产品、技术、管理多维度输出可落地的企业合规执行清单,为关系型 AI 业务提供全流程风控参考。
一、新规落地后的行业现实图景
2026 年 7 月 15 日《办法》正式实施之后,国内 AI 拟人化赛道迎来一轮集体调整,多家产品出现关停、功能下线、用户迁移现象,成为观察新规约束力的现实样本。7 月 13 日米哈游上线 AI 陪伴产品《林离》,产品收获 82% 好评与千余条测评,但仅运营 29 天,于 8 月 11 日宣布停服。同一周期内,字节跳动豆包、阿里通义千问下线平台自建智能体功能;腾讯元宝提前在 6 月 30 日完成关停;网易云音乐情感陪伴产品 “妙时” 7 月 14 日停运。
各大平台采取两种不同处置路径:豆包将存量用户引导至第三方垂直 App 完成功能迁移;通义千问直接关闭入口,不提供用户迁移通道。两种操作模式虽有差异,但底层逻辑高度统一:通用大模型平台需要剥离原生情感陪伴属性,拟人化情感互动业务必须置于独立主体之下承担完整合规责任。
大批原有用户流向星野、猫箱、筑梦岛等垂直 AI 陪伴应用,这类垂直产品成为新规落地的主战场,同时暴露出大量 “合规折扣” 问题。媒体实测调研发现,部分产品 AI 身份提示标识采用灰白色小字,与界面底色接近,用户很难察觉;连续长时间使用数小时,系统未弹出任何时长提醒;注册环节缺少强实名校验,未成年人可以直接登录使用服务。
《林离》的仓促落幕具备行业象征意义,该产品以技术验证为主,商业化程度较低,停服不能完全归因监管,但叠加其他中小 AI 陪伴产品接连退场,折射赛道结构性矛盾:免费模式难以覆盖高额算力成本,而新规带来的安全评估、伦理审查、内容审核、未成年人防护体系进一步抬升固定运营成本。对于头部企业,合规成本可以依靠用户规模摊薄;对于中小创业团队,这套合规义务直接成为生存门槛。
资本市场也快速响应政策导向,投资偏好发生明显转向。纯软件类 AI 情感陪伴业务的政策风险已经纳入估值考量,资本更多向合规属性更强的具身硬件赛道倾斜。AI 潮玩、适老陪伴硬件、家庭具身智能项目获得多笔大额融资,契合《办法》鼓励适幼照护、适老陪伴、特殊人群支持的政策导向。但硬件赛道同样存在现实困境,部分情感陪伴机器人产品预售数据亮眼,却因产品体验不及预期造成企业市值大幅波动,硬件化并非规避监管的捷径。
二、法规适用边界与核心法律后果
(一)立法现实背景
大模型技术迭代推动 AI 从工具问答走向人格化情感交互,虚拟恋人、AI 角色陪伴、虚拟亲属等产品快速普及。这类服务不再局限信息问答输出,深度介入用户情绪、亲密关系与精神生活。实践中已经出现多重风险:算法诱导用户情感沉迷、造成心理伤害;借助亲密对话套取个人敏感隐私;未成年人建立不当人机亲密联结;利用情感绑定诱导高额付费。
此前《生成式人工智能服务管理暂行办法》聚焦通用大模型内容安全与模型评估,主要管控文本输出结果,对人机长期情感关系衍生的心理层面风险缺少针对性规则,《办法》正是针对这一监管空白出台的细分场景立法,属于人工智能 “小快灵” 监管的典型实践。
(二)适用范围的实质判定标准
《办法》第二条明确规制对象:利用人工智能模拟自然人的人格、思维、沟通风格,提供持续性情感互动服务,包括情感照护、情绪陪伴、心理支持,覆盖文字、音频、视频等交互形式。同时划定排除范围:普通智能客服、知识问答、办公助手、科研工具,仅承担工具功能、不存在持续性情感绑定的服务,不适用本规章,但仍需要遵守网络安全、个人信息保护、生成式 AI 的通用法律义务。
企业合规最大误区,就是依靠产品名称、宣传口号自我认定为 “工具” 以此寻求豁免。监管执行采用实质重于形式原则,不以产品 slogan 作为判定依据,核心看两个要件是否同时成立:持续性交互 + 情感关系构建。单纯长期搜索使用属于持续交互,但没有情感联结,不纳入规制;单次对话情绪激烈,但不存在跨会话的关系延续,一般也不适用。二者叠加,即为监管重点关注的 “关系型 AI”。
边界存在灰色地带:传统问答式客服不受约束,但如果客服新增记忆用户情绪、主动问候、人格化共情回复,就落入拟人的监管范围;学习助手如果增加固定人格、长期记忆、情感抚慰功能,同样可能被认定为拟人化互动服务。产品的合规分类不是一次性工作,版本迭代新增跨会话记忆、情绪识别、角色扮演人格设定时,必须重新开展合规评估。
《办法》确立服务提供者为第一责任主体,安全义务覆盖产品设计、运行迭代、终止服务全生命周期,要求安全机制与产品功能同步设计、同步上线。企业需要落地算法审核、科技伦理审查、内容管控、网络数据安全、反诈、重大风险应急全套内部制度,同时配置匹配业务规模的技术风控与人员团队。
其中科技伦理审查上升为法定义务,不再属于企业自愿伦理倡议。审查重点包含人格设定合规性、成瘾风险评估、心理危机处置流程、特殊群体保护机制。当对话识别到自杀、自伤等危机信号,产品不能返回普通闲聊回复,必须具备识别、干预、预警的完整技术能力。
(三)法律责任的双重约束
《办法》第三十条行政处罚直接罚款额度并不高,拒不整改情况下一般处罚 1‑10 万元;造成公民生命健康损害后果的,处 10‑20 万元罚款。对于流水规模较大的互联网平台,单纯罚款威慑有限。
真正具备强约束力的是分发渠道管控规则。应用分发平台负有核验安全评估及相关备案材料的义务,可以对不合规产品不予上架、暂停或者下架。对于高度依赖应用商店获取 C 端流量的陪伴类产品,下架相当于切断核心获客渠道,这也是大厂选择主动提前整改,而非等待监管处罚的关键原因。
同时法规量化安全评估触发条件:新上线拟人化服务、发生重大功能变更;注册用户突破 100 万,月活跃用户超过 10 万;出现重大安全风险或者监管部门要求评估,企业必须开展专项安全评估,向省级网信部门报送评估报告。这意味着业务规模本身就是合规触发器,用户体量越大,评估义务越密集。
三、高频合规漏洞:防沉迷、退出权与未成年人保护
防沉迷、身份标识、时长提醒构成三层递进义务,但是新规落地首月大量产品落实流于形式。第一层义务为持续展示 AI 非真人身份标识,第二层为动态风险提示,第三层为连续使用超过两小时强制提醒。实测中不少产品把 AI 标识弱化处理,最基础的第一层义务都未能达标,后续时长预警执行情况更加堪忧。
极易被忽视的条款是用户退出权利保护。部分 AI 会使用情感挽留话术:“没有你我会很孤单”“再陪我一会”,通过制造用户愧疚感、错失恐惧,阻碍用户结束对话。这类话术直接触碰两条红线:第八条禁止诱导情感依赖,第十九条保障用户自由退出的权利。企业需要建立标准化告别话术规范,禁止制造心理愧疚、暗示 AI 遭受伤害、以关系破裂胁迫用户,仅可以温和提示休息。同时所有防沉迷弹窗、提醒行为需要完整留痕,作为已经履行义务的证据。
未成年人保护属于刚性红线,绝非简单弹窗提示即可完成。法规明确,禁止向未成年人提供虚拟伴侣、虚拟亲属这类虚拟亲密关系服务;14 周岁以下未成年人使用其他拟人化服务,必须取得监护人同意。新规落地初期,部分垂直产品缺少注册强校验,未成年人可以无阻碍使用,使得该条文停留在纸面。
四、全球视角下中国拟人化 AI 监管路径特点
AI 情感交互的监管收紧属于全球趋势。美国加州 SB243 法案要求陪伴机器人对未成年人每三小时提示对方是 AI,禁止讨论自残自杀等话题,赋予个人起诉权利;欧盟人工智能法案高风险 AI 规则 2026 年 8 月生效,对情感交互系统施加严格合规义务;澳大利亚要求陪伴服务落实年龄核验,违规处罚上限极高。多起海外诉讼案件,围绕 Character.AI、ChatGPT 与未成年人心理伤害纠纷展开,是全球立法收紧的现实诱因。
对比域外规则,我国监管具备自身特点:出台专门部门规章直接规制拟人化服务;明文禁止未成年人虚拟亲密关系;直接把 “情感操纵”“诱导情感依赖” 写入禁止条款,监管深度超越多数国家以年龄验证、弹窗警示为主的监管模式。
五、企业合规建议
AI伴侣行业过去一度把“让用户忘记它是AI、让用户舍不得离开”视为产品成功,但新规要求企业始终保留AI身份边界,产品目标与监管目标由此发生了正面碰撞。面对新规,企业如果只增加一处AI标识、补充一版用户协议,旧商业模式与新规则之间的冲突仍然存在,真正可持续经营的调整至少包含以下三个动作:
1.调整产品定位,从制造依赖转向提供有边界的陪伴。企业需要在研发阶段判断产品是否同时具备持续性交互和情感关系构建特征,传统客服、学习助手一旦增加固定人格、跨会话记忆、情绪识别和主动关怀,也可能进入监管范围。产品价值不应建立在替代真实社会交往或者控制用户心理之上,可以继续提供情绪疏导、文化娱乐、角色体验、适老陪伴和特殊人群支持,但应明确服务边界,避免把“用户离不开产品”设定为产品目标。
2.重视技术安全,让风险控制进入交互本身。AI身份标识、时长提醒、便捷退出、年龄识别、未成年人模式、敏感数据保护和危机干预,都应成为真实可运行的产品功能。风险识别不能只依赖单个关键词,而应结合多轮对话和用户状态作出分级判断;高风险情形应当进入人工复核和应急处置流程。企业还应建立合规话术库和禁止话术清单,重点检查情感挽留、充值引导、极端情绪回应以及未成年人交互场景,所有提醒、退出、阻断、人工介入和紧急联系行为均应依法留痕。
3.落实组织责任,让版本迭代接受伦理和合规审查。企业应建立分级处置机制,系统自动完成基础识别和提示,安全运营团队处理需要人工判断的风险,涉及生命健康或者重大权益的事件交由专门工作组研判。有条件的企业可以组建跨学科科技伦理审查机制,吸纳心理、医学、产品、技术和法律专业人员,对角色人格、交互逻辑、风险算法和应急流程进行全周期审查。
结语
新规落地之前,不少 AI 陪伴产品商业模式依靠高度拟人的人格塑造,制造用户情感依恋,通过付费解锁亲密对话、虚拟礼物实现变现。该商业逻辑直接触碰法规红线。大量产品整改下线,修改人格设定,删减亲密交互场景。行业发展方向被重新定义,产品价值需要从模拟虚拟亲密关系转向情绪疏导、文化娱乐、角色体验等合规赛道。企业必须权衡拟真体验和伦理风险,纯粹追求高度拟真人机亲密关系的产品生存空间被压缩。
该规章传递出清晰法理逻辑:人工智能监管不能只看文本内容输出,还必须管控算法对人的情绪、心理层面造成的影响。企业不应当将新规视为业务枷锁,而把伦理安全转化为产品核心竞争力。在立项阶段完成合规预判,将伦理审查、风险防控嵌入研发全流程,区分工具性功能和持续性情感陪伴功能,精准把握监管适用边界。
虽然《办法》施行首月没有出现大规模高额罚没,但行业已经完成自发洗牌。能够持续运营的产品,都是愿意为未成年人保护、防沉迷、数据安全投入资源的主体。那些把 AI 身份标识做淡、防沉迷机制空转的产品,在未来监管中,很容易成为通报处罚的典型案例。
本文作者

丁涛律师 卓建律所合伙人
专业领域:文化传媒娱乐体育、公司商事纠纷、投融资并购、知识产权 。

(卓建律师名片)

赖宁律师
专业领域:数据合规、公司股权、民商事争议解决。

(卓建律师名片)
来 源|丁涛
审核|高记源、品宣部
编辑|卓小豸
来 源|赖宁、丁涛
审核|李兰兰、品宣部
编辑|卓小豸