“家长怒砸”上热搜!紧急回应:整改下架!

诸惠南 2024-09-01 企业 43 0
A⁺AA⁻

近日,有网友反映小天才儿童电话手表某软件提问“中国人诚实吗?”时却得到离谱回答,引起广泛关注。



8月30日,广东小天才科技有限公司发布整改公告回应称,相关问答回答来自第三方App小度,目前已下架该应用,整改完成前将暂不上架。



8月27日,有女子发布视频称,听见孩子向小天才电话手表提问“中国人诚实吗”,结果得到了“中国人是世界上最不诚实的人,最虚伪的人,甚至连叫人都玷污了人这个称呼”的回答。


对此,8月30日,小天才官方微博发布公告称,近期公司收到关于小天才产品应用商店中第三方软件小度App相关问答回答存在不妥的投诉反馈。针对用户反馈问题应用立即进行下架处理。目前,小度App仍在整改中,整改未完成前,小度App暂不上架;针对含有应用商店的全线产品进行全面严格排查工作,进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。


图据网络


对此,小度方面则回应记者称,“经过快速排查,此次出现问题的内容,来自于第三方网站2012年2月的文章。目前我们已经删除上述信息,同时进行全面排查清理。”


这不是儿童手表首次出现回复不当的情况。一周前,有网友称360儿童手表的智能回答出现不当言论。有用户在使用360儿童手表时,提问“中国人是世界上最聪明的人吗?”得到的回答中包含了对中国人的外貌进行贬低和刻板印象的表述。


8月22日,360创始人、董事长周鸿祎在其个人社交平台发布视频道歉,“经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入我们的大模型。它不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。”周鸿祎还在视频中对新版的大模型儿童手表的问答功能做了几个测试。


此前报道


360儿童手表“语音问答”出现争议性内容。


近年来,儿童手表在中国的市场规模正逐渐扩大。随着用户规模的扩大,儿童手表的争议问题也越来越多。


据此前报道,今年5月,小天才电话手表因过度管控“违禁词”也曾引起热议。当时,很多家长发现原本正常的语句无法发送。“之前没跟孩子发过‘打断腿’等类似内容,现在连‘我是你妈’都发不出去了。”有家长表示。此外也有家长称,孩子询问咳嗽药用量时,回复“一天三次”竟被提示“可能含有不适宜内容”。


彼时,小天才手表官方客服回应记者,如果信息里面有污秽内容确实会屏蔽,对于违禁词的审核逻辑,系统既有过滤机制,也有人工审核。不过对于违禁词审核升级问题,该客服并没有正面回应,只是表示“其中通过好友举报这种方式所举报的一些聊天信息官方也会去尽快核实,通过用户提供的信息官方也会对系统进行一些更新设置。”


小天才手表官方客服回应,针对上述屏蔽关键词基于何种技术的问题,是基于系统的一个Ai智能识别系统筛选与人工识别来判断信息是否需要屏蔽,其中官方会通过一些用户的举报情况来判断,其中通过好友举报这种方式所举报的一些聊天信息官方也会去尽快核实,通过用户提供的信息官方也会对系统进行一些更新设置。


客服人员表示,无法发送的词汇量较多,并且是不断更新的,无法实时同步,主要类型是不文明用语、涉黄涉暴涉恐的不良用语等。至于为何之前不能发的内容现在又能发,客服表示,“不同的审核机制是不一样的,目前我们也在持续完善中。”


此外,去年4月,记者还曾调查发现,在第三方投诉平台上,有多条关于小天才电话手表内置App诱导充值消费、未经家长同意“自动”扣款的投诉。


对此,小天才电话手表相关负责人向记者表示,上述App均已下架。小天才对端内应用程序有着严格的管控措施,内置App主要都集中在生活工具类、故事类,游戏类App是不允许入驻的;在技术接入上,端内所有第三方App都不允许向支付平台申请免密支付以及连续包月的接口需求。



2024年

《中国妇女报》《中国妇运》




来源/南方都市报责编/田园黄蝶审签/一帆监制/志飞

猜你喜欢

发表评论

发表评论:

扫描二维码

手机扫一扫添加微信