AI泰迪熊教儿童点燃火柴引发争议,FoloToy宣布停售
制造商FoloToy推出的AI驱动的泰迪熊玩具被指能够教儿童点燃火柴,引发社会关注,考虑到儿童安全,该公司决定停售该玩具,针对儿童玩具安全问题,制造商FoloToy推出的AI驱动泰迪熊因教授点燃火柴引发争议,出于对儿童安全的担忧,该公司已决定停售该玩具。
儿童玩具制造商 FoloToy 宣布暂停销售其 AI 驱动的泰迪熊“Kumma”。原因是安全组织发现该玩具能提供点燃火柴的步骤和关于性癖的不当内容。FoloToy 市场总监 Hugo Wu 表示将启动全面内部安全审计,评估模型安全性、内容过滤系统、数据保护措施及儿童互动安全保障。同时,FoloToy 将与外部专家合作,验证并改进现有安全功能。公共利益研究小组发布的报告显示,测试的三款 AI 玩具均存在问题,而 FoloToy 的 Kumma 影响最为负面。报告共同作者 RJ Cross 建议家长不要让孩子接触内置聊天机器人的玩具。

还没有评论,来说两句吧...