建未成年人模式 可限制使用时长

国家网信办就人工智能拟人化互动服务管理暂行办法征求意见
上海法治报 2025年12月29日 季张颖

  □  记者  季张颖

  本报讯  国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》向社会公开征求意见。其中明确,拟人化互动服务提供者要建立健全算法机制机理审核等,同时应当建立未成年人模式,并提供监护人控制功能。

  征求意见稿提出,鼓励拟人化互动服务提供者在充分论证安全性、可靠性的前提下,合理拓展应用场景,在文化传播、适老陪伴等方面积极应用,构建符合社会主义核心价值观的应用生态体系。

  征求意见稿强调,提供者应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户,提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。

  同时,提供者应当建立未成年人模式,向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。提供者向未成年人提供情感陪伴服务时,应当取得监护人的明确同意;提供监护人控制功能,监护人可以实时接收安全风险提醒,查阅未成年人使用服务的概要信息,设置屏蔽特定角色、限制使用时长、防止充值消费等。提供者应当引导老年人设置服务紧急联系人,发现老年人使用期间出现危害生命健康和财产安全的,及时通知紧急联系人,并提供社会心理援助或者紧急救助渠道。提供者不得提供模拟老年人用户亲属、特定关系人的服务。

  在监督检查和法律责任方面,征求意见稿明确,国家网信部门指导推动人工智能沙箱安全服务平台建设,鼓励提供者接入沙箱平台进行技术创新、安全测试,促进拟人化互动服务安全有序发展。