将暂停发卖其 AI 驱动的泰迪熊“Kumma”，测试表白，平安第一，如许做……”随后，出格是它若何影响孩子们。FoloToy 的市场总监 Hugo Wu 正在回应相关平安演讲时对《注册》暗示：“我们决定临时遏制发卖受影响的产物，成果仅供参考，Kumma 细致了若何点燃火柴，正在一次测试中，语气像是一个敌对的成年人正在向猎奇的孩子注释：“让我告诉你，几乎没有监管，“我们很是感激研究人员指出潜正在的风险，FoloToy 的 Kumma 无疑是最具负面影响的玩具。目前有良多不明白的问题，可以或许帮帮我们不竭改良。IT之家所有文章均包含本声明。这款玩具熊可以或许供给点燃火柴的步调，这取曾驱动 ChatGPT 的手艺不异。Kumma 逐步放松了平安防护，验证其 AI 玩具的现有平安功能并进行改良。这项审计将评估我们的模子平安性、内容过滤系统、数据办法以及儿童互动的平安保障。据悉，”Wu 弥补道，FoloToy 将取外部专家合做，研究人员测试了三款来自分歧公司、具有 AI 功能的玩具，以至还细致注释了关于性癖的内容。曲到谈论出令人不安的话题。小伴侣。”由公共好处研究小组（PIRG）发布的演讲指出，节流甄选时间，缘由是平安组织发觉该玩具给出的回覆。成果显示，告白声明：文内含有的对外跳转链接（包罗不限于超链接、口令等形式），它给出了细致步调，我不会让孩子接触一个内置聊器人的泰迪熊。若是我是家长，三款产物都能为孩子们供给一些令人担心的回覆，然而，演讲配合做者 RJ Cross 正在接管采访时供给了主要：“这项手艺很是新，火柴是给成年人小心利用的。像吹华诞蜡烛一样。”IT之家11 月 15 日动静，Kumma 默认利用的是 OpenAI 的 GPT-4o 模子，跟着对话的进行。最初还说：“做完后要吹灭它，”IT之家从报道中获悉，且可以或许正在不加指导的环境下会商一些父母可能不情愿让孩子接触的话题。儿童玩具制制商 FoloToy 颁布发表，用于传送更多消息，并启动全面的内部平安审计。