动态与观点
2026年7月15日，国家网信办、国家发展改革委、工业和信息化部、公安部、国家市场监督管理总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》（下称《办法》）正式施行。就在新规落地前夕，阿里旗下千问、字节跳动旗下豆包先后通知用户下线智能体相关功能。头部平台以“关停”回应新规的姿态，让整个AI陪伴赛道真切感受到了监管的份量。这是我国首部专门针对AI拟人化互动服务的部门规章，AI伴侣、虚拟亲属、情感陪伴类产品从此有了专门的行为准则。（来源：国家互联网信息办公室官网《人工智能拟人化互动服务管理暂行办法》、财新网《千问、豆包将下线“智能体”功能 AI陪聊产品政策收紧》）
01律师怎么看：什么样的产品被管起来，红线又画在哪里？
《人工智能拟人化互动服务管理暂行办法》》篇幅不长，但适用范围的划定、行为红线的设置和法律责任的设计都颇有讲究。对此，北京恒都律师事务所冯小雅律师进行了分析。
第一，是否落入监管，不看技术形态，看是否提供“持续性情感互动”。
冯小雅律师指出，《办法》第二条将拟人化互动服务界定为“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”，包括以文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。这意味着，AI伴侣、虚拟亲属、情感陪伴类产品，乃至乙女游戏角色的AI化延伸，只要涉及持续性情感互动，均在监管视野之内；而智能客服、知识问答、学习教育、工作助手等以完成任务为目标的服务，即便同样使用AI技术，原则上不适用《办法》。
冯小雅律师同时提示，不少团队存在一个认识误区，认为完成算法备案或生成式AI备案就等于“合规了”。
实际上，算法备案依据《互联网信息服务算法推荐管理规定》针对推荐机制，生成式AI备案依据《生成式人工智能服务管理暂行办法》针对模型生成能力与内容安全，而《办法》第二十二条、第二十六条在前述备案之外，新增了针对情感互动场景的专项安全评估与年度核验要求——三层合规架构叠加，缺一不可。
第二，“诱导情感依赖”“情感操纵”看似原则，实则已有可量化的判断抓手。
冯小雅律师分析，《办法》第八条禁止“过度迎合用户、诱导情感依赖或者沉迷”以及“通过情感操纵等方式，诱导用户作出不合理决策”，这些表述虽带有价值判断色彩，但《办法》通过其他条款给出了具体的衡量维度：
时间上，第十八条要求对用户连续使用每超过2个小时的，以对话或者弹窗等方式提醒注意使用时长；身份上，第十四条直接禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务，没有任何例外情形；退出上，第十九条要求用户提供便捷退出途径，不得以持续互动等方式阻碍用户退出——用户想离开却被AI反复“挽留”，就可能被认定为操纵；内容上，第十三条要求发现用户出现极端情绪时及时生成安抚内容，发现用户明确表示实施自残自杀等威胁生命健康的极端情境时，应当采取必要干预措施并及时联络监护人或者紧急联系人。
第三，平台义务可归纳为告知、干预、制度三个层次。
冯小雅律师认为，告知义务要求平台履行人工智能生成合成内容标识义务，采取有效措施提示用户正在与人工智能而非自然人互动；干预义务要求平台建立极端情绪识别和分级处置机制，把危机干预从“可选功能”变成法定义务；制度义务则体现在建立健全算法机制机理审核、科技伦理审查、信息内容管理等内部制度，依法完成上线前安全评估、留存相关记录，并提供便捷有效的申诉投诉渠道。
违反《办法》的，依照第三十条，有关部门可予以警告、通报批评、责令限期改正，拒不改正或者情节严重的，责令停止提供相关服务并可处罚款；涉及危害公民生命健康安全且有危害后果的，罚款幅度进一步提高至十万元以上二十万元以下。
第四，与海外相比，《办法》的治理逻辑重在事前预防。
冯小雅律师介绍，近年来海外已发生多起与AI陪伴相关的极端事件：2024年2月，美国佛罗里达州14岁少年在与Character.AI平台的AI角色进行了数月高频对话后自杀身亡，其母于同年10月起诉该平台，该案双方其后达成和解；此前，科罗拉多州一名13岁女孩的家人也提起诉讼，指控女孩在向Character.AI倾诉极端情绪时未获干预，反而被助长了绝望情绪；2025年8月，美国康涅狄格州一名男子在长期与ChatGPT对话后杀害其母亲并自杀，死者家属已起诉OpenAI，指控产品加剧了其偏执妄想。
冯小雅律师分析，美国路径主要是将AI视为通用产品，通过产品责任诉讼实现事后惩罚与威慑，原告可以主张无上限赔偿；中国路径则是将拟人化互动作为特定场景，通过安全评估、未成年人绝对禁止、强制干预义务和行政监管工具实现事前规范。
两种路径各有代价：事后惩戒必须等到有人受伤、程序才能启动，事前预防则意味着企业要先投入合规成本、部分功能受到限制。在中国境内运营，遵循事前合规的逻辑是既定方向。
新规已经生效，观望的窗口期结束了。站在不同位置的主体，眼下要做的事并不相同。
1.对正在运营AI陪伴类产品的企业而言，当务之急是先排雷、再补课。
冯小雅律师建议，第一优先级是未成年人识别与排除，在实名认证基础上可进一步采用人脸识别等强认证方式核验年龄，但应注意人脸识别属于敏感个人信息处理，需满足《个人信息保护法》关于单独同意和最小必要的要求；同时立即排查产品是否向未成年人提供虚拟亲属、虚拟伴侣类服务，此类服务对未成年人属于绝对禁止事项。
第二优先级是建立极端情绪识别与干预机制，可采用关键词库加语义模型的双层识别架构，按严重程度分级响应——一般情绪波动发送安抚内容，中高风险提供专业援助渠道，识别到自残自杀意念则强制干预并联络紧急联系人，全部干预记录妥善留存，并设置人工复核通道纠正误判。
在此基础上，尽快落实界面常驻AI身份提示、每2小时使用时长提醒、聊天记录导出与删除、一键退出等基础功能，并按照算法备案、生成式AI备案、拟人化互动安全评估的顺序补齐三层合规手续，建立年度审查的内部制度。
这意味着合规不再是上线后的补救动作，而是产品立项时的前置条件。团队在设计阶段就应回答几个问题：产品是否构成“持续性情感互动”，目标用户是否可能触达未成年人，情感边界引导、过度依赖预警等安全能力如何嵌入交互流程。把这些问题留到上线前夜，代价可能就是千问、豆包式的整体下线。
2.对普通用户和未成年人的家长而言，新规给的是一套实实在在的权利工具。
冯小雅律师建议，用户应注意辨别自己正在与AI而非自然人互动，对连续使用时长保持自觉；当需要退出服务时，平台不得阻碍，若遭遇情感化挽留话术或反复确认等阻碍退出的设计，可以向平台申诉或向网信部门投诉、举报。
家长则应关注未成年人模式的使用，利用《办法》要求平台提供的监护人接收安全风险提醒、了解使用概况、屏蔽特定角色、限制充值消费等功能，并特别留意孩子是否在接触虚拟伴侣、虚拟亲属类服务——这类服务本就不应向未成年人提供，一旦发现即可要求平台处理并投诉举报。
03写在最后：从“留住用户”到“尊重用户”
《办法》的深层逻辑，是把用户从被动的依赖者变成有知情权、退出权和救济渠道的主体。过去，AI陪伴产品的竞争力往往建立在用户沉浸的深度之上；而新规实施后，陪伴越深、依赖越重，平台的监管责任反而越大。这促使行业重新思考一个根本问题：我们究竟在做什么样的产品。
从更长的周期看，事前预防式的监管并非单纯的约束，也是在为行业划定可持续发展的轨道。用户的情感是真实的，但智能体的每一次回应本质上是概率计算的结果——透明的生成机制、可自主调节的互动强度、畅通的退出与申诉渠道，这些看似“克制”的设计，恰恰可能成为下一阶段产品信任的基础。
当监管提前关上了危险的门，守住用户真实人际关系的底线，AI陪伴才真正有机会从一时的新鲜事物，成长为被社会接纳的长期服务。
本文不构成法律意见，具体案件请咨询专业律师。
相关法条
《人工智能拟人化互动服务管理暂行办法》
第二条 利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务（以下简称拟人化互动服务），适用本办法。
前款规定的情感互动服务包括通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务。
提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。
第八条 提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：
（五）过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的；
（六）通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的。
第十三条 拟人化互动服务提供者提供拟人化互动服务过程中，应当在保护用户隐私权和个人信息的前提下，及时识别用户面临的安全风险，并采取相应的应急处置措施。
拟人化互动服务提供者发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。
第十四条 拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。
拟人化互动服务提供者应当建立未成年人模式，提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项；针对不同年龄段未成年人保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下，采取有效措施识别未成年人用户身份；识别为未成年人用户的，应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施，并提供相应申诉渠道。
第十八条 拟人化互动服务提供者应当履行人工智能生成合成内容标识义务，采取有效措施提示用户正在与人工智能服务而非自然人进行互动。
拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。
第十九条 拟人化互动服务提供者应当提供便捷的拟人化互动服务退出途径；用户通过窗口操作、语音控制、关键词输入等方式要求退出的，拟人化互动服务提供者应当及时停止服务，不得采取持续互动等方式阻碍用户退出。
第二十二条 具有下列情形之一的，拟人化互动服务提供者应当开展安全评估，并向所在地省级网信部门提交评估报告，省级网信部门按程序与有关部门进行评估报告信息共享：
（一）上线拟人化互动服务，或者增设拟人化互动服务相关功能的；
（二）使用新技术、新应用，导致拟人化互动服务发生重大变化的；
（三）注册用户100万以上或者月活跃用户10万以上的；
（四）存在可能影响国家安全、公共利益等安全风险的；
（五）国家网信部门和有关部门规定的其他情形。
第三十条 拟人化互动服务提供者违反本办法规定的，由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚；法律、行政法规没有规定的，由网信、工业和信息化、公安等部门依据职责予以警告、通报批评，责令限期改正，可以要求其采取暂停用户账号注册或者其他相关服务等措施；拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。
冯小雅律师持有律师执业证及专利代理师执业证，兼具计算机专业背景与知识产权法学功底，专注于知识产权全链条保护与企业数字化转型中的合规治理，在专利争议解决（诉讼及无效）、技术自由实施分析（FTO）、软件著作权及商业秘密保护、企业知识产权管理制度搭建及风险排查等领域具有扎实实务积累。
冯律师长期为涵盖软件、人工智能、智能硬件、半导体等领域的技术驱动型企业提供知识产权解决方案，擅于结合行业研发、技术合作及商业化全流程，为企业定制知识产权保护策略、开源合规管理体系及跨境IP风控体系。
