□法治报记者  陈颖婷

目前，人工智能产品不断涌现，很多教育服务类、游戏类、电商类或互联网平台公司都植入智能算法。然而有些基于商业利益的智能算法正在对青少年群体进行“杀熟”，引诱其沉迷其中，伤害青少年的健康成长。日前，市经信委在对市人大代表的答复中表示，本市将进一步加强人工智能算法研究，采取审查承诺等有针对性的安全保护措施。

人大代表：“算法乱象”亟待审查

市人大代表张治指出，现在很多教育服务类、游戏类、电商类或互联网平台公司都植入智能算法，提升产品销售和用户粘性。但有的公司基于心理算法，推广游戏产品，导致青少年网游成瘾；有的公司涉嫌算法歧视，对特定群体构成不公平；有的公司针对学生的商业销售，只顾利益来推送，不考虑潜在危害；也有的公司通过数据挖掘，构建用户画像“杀熟”，侵犯用户利益。“这些都意味着公司提供的智能算法缺乏审查，亟待得到规范。”张治表示说。

为此，张治代表建议上海加强面向中小学生的互联网公司审查监管，考虑到立法的滞后性，在没有完善的法规前，鼓励各公司内部成立相应的审查部门，开展审查承诺。

同时，面向中小学生的教育智能产品或游戏要加入防沉迷算法的植入，对学生学习平台、游戏平台、搜索引擎或电商平台，要建议或强制植入保护眼睛、减少时长的推荐算法，对涉及学生心理问题的搜索，要植入相关智能算法，强制推送求助热线和积极心理学的内容等。

市经信委：对青少年开展针对性的算法安全保护措施

市经信委在答复中表示，中共中央办公厅、国务院办公厅已经印发《关于加强科技伦理治理的意见》，工信部在科技伦理治理方面加快探索。2022年国家网信办等部门联合发布《互联网信息服务算法推荐管理规定》，明确了算法推荐服务提供者的信息服务规范，对向未成年人等主体提供算法推荐服务的，明确了不得利用算法推荐服务诱导未成年人沉迷网络等具体要求。

2022年9月通过了《上海市促进人工智能产业发展条例》中提到，要注重对未成年人等群体的保护。

市经信委指出，未成年人是易受人工智能算法影响的弱势群体，本市将进一步加强人工智能算法研究，围绕教育、医疗、公共安全等重点领域，开展相关理论研究。其次，市经信委将会同市教委等有关部门，探索教育领域的人工智能示范应用清单，引导资源集聚，加快城市数字化转型。第三，将鼓励相关企业与高等院校、基础教育机构，围绕智能教育伦理审核开展交流合作。

市民政局作为本市未成年人保护委员会办公室，将积极发挥职能，统筹、协调、督促、指导相关部门加强对人工智能算法问题的研究，采取有针对性的安全保护措施。同时，推动加强对人工智能算法的正面运用。此外，加强对未成年学生的教育引导，帮助他们提高识别应对网络风险的认知，提升自我保护意识和能力。

市网信办：继续对企业在算法应用上开展监督检查

市网信办指出，《互联网信息服务算法推荐管理规定》明确“算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查……”“不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”“算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络”。

为切实有效了解各企业算法应用及相关机制机理情况，2021年底，国家网信办同步开设互联网信息服务算法备案系统，相关算法推荐服务提供者通过该系统直接向国家网信办进行备案。截至今年1月，共有3批次102家企业的223个算法通过了备案。

2022年，国家网信办开展了“清朗·2022年算法综合治理”专项行动。其中，国家网信办检查组联合上海市网信办对上海属地近20家重点互联网企业开展了现场检查，未成年人权益保护相关情况是其中的一个重点检查项。检查组对算法安全主体责任建设、算法服务正能量传播和防范抵制违法不良信息的能力、适合未成年人使用的模式或者服务内容的建设、防网络沉迷等进行了深度检查。对发现的未提供相应模式或服务、存在不适宜内容、未有效设置防沉迷功能、扎推推荐泛娱乐化信息、持续推荐易沉迷信息等问题及时予以指出，并提出了整改要求。上海市网信办已督促相关企业就检查中发现的相关问题进行整改，并督导建立长效机制、持续强化算法综合治理、推动算法应用向上向善。

下一步，相关部门将继续督促企业遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，持续按照相关法律法规要求，继续对企业在算法应用上开展监督检查，引导企业加强算法对未成年人的正面运用，积极传播正能量，促进算法应用向上向善，保护未成年人身心健康。