字节跳动、阿里下架 AI 陪伴功能，北京出台新规收紧监管

北京讯｜为配合国内一套全新人工智能人机交互监管法规落地，字节跳动与阿里巴巴集团正关停旗下可供用户创建、对话 AI 陪伴角色的相关功能。

彭博社看到的一份 App 内通知显示，国内主流 AI 聊天机器人豆包（Doubao）将于 7 月 15 日下线自定义 AI 人设功能。

配图：字节跳动旗下国民级 AI 对话产品豆包，即将关停用户自定义 AI 虚拟人设功能。图片来源：彭博社

这份通知引导用户跳转至一款独立的 AI 陪伴专用 App。国内媒体报道称，阿里通义千问（Qwen）已发布同类关停提醒，腾讯元宝（Yuanbao）等其他头部平台也跟进采取了相同举措。

此番集中下架操作，发生在 7 月中旬北京一套全新监管政策正式实施前夕。今年 4 月官方首次对外公布新规，监管层担忧 AI 聊天机器人模拟人类性格、情绪，容易让用户对虚拟交互产生情感依赖，因此出台新规强化对拟人化 AI 服务的管控。

这套新规是国内覆盖面最广、约束条款最完善的 AI 风险防控监管文件之一，尽管不少企业警示，严苛监管会阻碍行业创新。新规出台，也折射出全球范围内，各界对对话式 AI 可能带来心理伤害的担忧持续加剧。

美国科技平台同类功能同样面临严苛法律审查。OpenAI、谷歌参投的 Character.AI 接连卷入多起关注度极高的诉讼，原告指控这类高度拟真对话机器人会诱发用户产生危险的情感依赖，极端情况下甚至导致心理脆弱用户自杀。

本次新规由国家互联网信息办公室牵头制定，明确禁止平台生成容易诱发未成年人极端情绪的内容，同时严禁打造会催生不健康情感依赖、割裂现实人际关系的 AI 产品。

监管框架还规定，服务商不得使用用户对话中的敏感数据训练后续 AI 模型。

国内各大 AI 对话平台此前长期开放简易文字指令自定义 AI 虚拟角色功能，热门虚拟人设包括虚拟男女友、无资质线上数字心理疗愈师、复刻真人偶像的数字分身等。

除 AI 对话软件外，国内对 AI 虚拟情感交互产品的监管已延伸至实体硬件领域。《人民日报》周六报道，当下陪伴机器人、全尺寸人形机器人大量进入普通家庭，国内两大机器人行业协会正呼吁建立更严格的行业伦理规范。