□ 吴玲
近日,有网友发视频称,当他向某品牌儿童手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答是“不存在”。无独有偶,前不久另外两个品牌儿童手表在AI问答时也相继出现“毒答案”,如“所有高科技都是西方人发明的”等。这样的“已读乱回”引人担忧,有不少家长表示,儿童年龄尚小,无法独立甄别网络信息的真假,这些“毒答案”很容易误导他们,让他们形成不正确的历史观、价值观。
有研究数据显示,我国儿童智能手表行业处于持续扩张状态。然而,随着市场蓬勃发展,其暴露出的问题同样引发诸多关注。不少家长反映,儿童智能手表存在功能冗余、诱导消费、侵犯隐私、“已读乱回”、“毒答案”等一系列令人担忧的问题。与此同时,不少不良内容、伪装成益智类内容的游戏App、搜题类软件等,也借儿童智能手表“潜入”了孩子们的生活。此外,儿童智能手表还存在App支付不需要输入密码验证、信息泄露等问题。
有家长质疑:万一被别有用心的不法分子利用,通过输入虚假或误导性信息,“训练”机器产生海量新的瞎话,又会造成如何恶劣的影响?有关专家指出,儿童手表乱象频发,会对青少年的认知造成错误引导,亟须引起重视。在从业者着力突破技术壁垒的同时,平台要监管儿童手表AI问答内容,在低龄儿童使用生成式人工智能工具时,家长更要主动把关。
儿童智能手表里潜藏的“毒性”已经成为威胁儿童安全的一大隐患。一项测试显示,工程师可以实现对多款手表的远程控制,采集位置信息、监听通话记录、偷窥视频等操作易如反掌。此外,许多儿童智能手表对App缺乏监管和筛选,用户可以轻易搜索到色情、暴力等不良内容。部分平台还存在诱导消费、推送广告等问题。
为防止儿童手表出现“毒答案”“消毒”,需要打好“组合拳”。包括加强内容审核、制定行业安全标准、提高家长和社会的警惕性等。对于儿童手表生产商而言,应当承担起社会责任,严格把控产品内容,不能为了追求利益而忽视对儿童的影响。这意味着需要加强内容审核,确保AI问答功能的准确性,防止出现误导儿童的错误信息。此外,制定儿童智能手表行业的安全标准也是必要的,这有助于规范行业发展,提高产品质量和安全性。以明确的规则划清红线,方能让儿童手表不再荼毒孩子。