国家网信办拟发布新规管理AI拟人化互动服务

上海法治报 2026年01月06日 朱非

  提供者发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话;

  人工智能拟人化互动必须显著标示AI属性,若用户连续使用超过2小时,应当弹窗提醒。

  2025年12月27日,国家互联网信息办公室发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》。

  “征求意见稿”明确,提供者应当在保护用户个人隐私前提下,评估用户情绪及对产品和服务的依赖程度,发现用户存在极端情绪和沉迷的,采取必要措施予以干预。此外,应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。

  针对关键风险人群,“征求意见稿”设立了差异化的保护条款:对于未成年人,强制推行“未成年人模式”;对于老年人,则禁止模拟其特定亲属身份提供服务,并要求设置紧急联系人。同时,要求人工智能拟人化互动服务必须显著标示其AI属性,若用户连续使用超过2小时,应当弹窗提醒。  (朱非)