AI情感陪伴新规施行在即,豆包、千问、元宝下架智能体服务
创始人
2026-07-05 01:10:24
0

面对即将生效的AI虚拟恋人、情感陪伴产品治理新规,多款头部的AI聊天应用近期相继宣布下架相关智能体功能。

字节跳动旗下豆包App发布的《豆包智能体功能下线通知》提到,由于产品功能调整,智能体功能将于2026年7月15日下线。功能下线后,用户仍可在一段时间内查看并自行保存智能体信息及历史对话数据,10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,后续将无法在豆包内查看或恢复。

无独有偶,阿里巴巴旗下千问App亦在《千问智能体服务下线提醒》中称,千问智能体功能与服务将于2026年7月15日正式下线,下线后,用户将无法继续访问相关智能体配置及历史对话记录,平台将依据法律法规对相关数据进行删除。

豆包和千问分别发布的智能体服务下架通知。

这两家公司提及的功能下线时间点——2026年7月15日,恰好与《人工智能拟人化互动服务管理暂行办法》(下称《AI拟人化互动管理办法》)生效施行之日吻合。这部部门规章层级的法规,已于今年4月10日由国家网信办等五部门联合公布。

据“网信中国”公众号发布的《答记者问》解释,拟人化互动服务已成为AI的重要应用方向,通过模拟人类情感和沟通方式,带来了新的发展机遇和人机交互体验,在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。

为此,《AI拟人化互动管理办法》为提供拟人化互动服务的应用划定多条“红线”,其中包括:不得生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系等。

此外,《AI拟人化互动管理办法》还明确,提供拟人化互动服务过程中,应当在保护用户隐私权和个人信息的前提下,及时识别用户面临的安全风险,并采取相应的应急处置措施。如果发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。

相比于豆包、千问卡着新规生效的时间点,腾讯元宝的调整行动更为提前。许多元宝的用户近期在社交平台上反映,元宝App已在6月下架了《长相思》角色IP“相柳”等受欢迎的对话类智能体。

腾讯元宝于6月中旬发布的智能体功能服务下线通知。

一位从事AI产品内容安全业务的人士向南都记者分析,新规落地需要重新做安全评估,几家互联网大厂在没有完成评估之前,集体选择对相关智能体功能予以下线。

随着指控AI诱发自杀的极端案件频发,以及AI涉黄擦边现象屡次被点名,AI情感陪伴赛道已从早期的热门风口,日渐成为部分AI公司的“烫手山芋”。

在海外,Character.AI、OpenAI接连因情感陪伴服务损害用户身心健康而遭到起诉。受此影响,美国加州于2025年10月颁布一项监管AI聊天机器人的法律,并于2026年1月1日正式生效,要求相关企业实施包括年龄验证机制、风险警示在内的多项安全功能。

在国内,知名AI陪伴产品筑梦岛App因生成涉未成年人不良内容,曾被上海市网信办约谈。而侵害未成年人权益内容、制作发布暴力低俗等不良信息,也被中央网信办今年4月启动的“清朗·整治AI应用乱象”专项行动列为重点整治对象。《AI拟人化互动管理办法》正是在此背景下应运而生。

一家AI陪伴赛道的企业告诉南都记者,尽管互联网大厂因为新规而调整AI产品的功能设计,但其公司暂无大的业务调整计划,会按照新规要求进一步加强业务的合规性。

值得注意的是,豆包App在公告下架智能体功能的同时,亦提示称:字节跳动旗下的猫箱App可创建新的智能体、开启对话服务,用户后续可在猫箱App体验智能体功能。

猫箱App是一款角色扮演类的AI陪伴互动产品。这意味着,字节跳动并非放弃AI情感陪伴业务,而是将相关功能从豆包App中剥离。对此,一位互联网领域的AI合规研究人员向南都记者分析,豆包此举或许是在功能上进行风险隔离。

采写:南都N视频记者 杨柳

相关内容

热门资讯

利元亨获得发明专利授权:“异质... 证券之星消息,根据天眼查APP数据显示利元亨(688499)新获得一项发明专利授权,专利名为“异质结...
丘成桐邀请王虹、邓煜回国任教,... 据央视新闻,在23日于美国费城举行的2026年国际数学家大会开幕式上,中国籍数学家王虹获得菲尔兹奖。...
会员动态|中兴通讯全栈智算生态... (来源:上海市物联网行业协会) 7月18日,以“极致协同 沪筑生态”为主题,2026世界人工智能大会...
北京东城推出17条措施建设“人... 中新网北京7月24日电 (记者 陈杭)记者24日从北京市东城区获悉,首届“紫金光影”微视听创新大赛荣...
太空多了颗“上海芯”!力箭一号... 7月24日7时33分,东风商业航天创新试验区,中科宇航力箭一号遥十五运载火箭腾空而起,以“一箭五星”...
三星短宽Z Fold8口碑爆棚... 三星Galaxy Z Fold8上市初期收获压倒性好评,这对正在筹备折叠屏iPhone的苹果而言无疑...
星火智能取得带翻盖功能的空框抓... 国家知识产权局信息显示,广东星火智能科技有限公司取得一项名为“一种带翻盖功能的空框抓取装置”的专利,...
原创 央... 一个人的社会身份,往往由别人怎么称呼他决定。2026年夏天,央视在一档关于人工智能的重头节目里,把一...
携手前沿技术 共创智能未来 夏日长安,秦岭叠翠。7月22日,2026年世界互联网大会数字丝路发展论坛在陕西西安举行。来自全球52...