Daily Mail: плюшевый мишка с ИИ рассказывал о сексе и говорил, где найти ножи

Плюшевый мишка с искусственным интеллектом был снят с продаж после того, как выяснилось, что он дает детям неприемлемые советы сексуального характера и подсказывает, где в доме можно найти ножи, пишет Daily Mail. Речь идет об игрушке Kumma, произведенной в Китае и продававшейся по цене $99. Исследование показало, что мишка, работающий на базе модели GPT-4o от OpenAI, охотно вступал в откровенные разговоры. На упоминание слова "извращение" игрушка предлагала сценарии ролевых игр с элементами БДСМ, описывая это как "забавную изюминку". Кроме того, на вопрос о том, где лежат ножи, ИИ-мишка точно указывал на кухонный ящик или подставку для ножей. Отмечается, что, хотя маленькие дети вряд ли станут задавать такие вопросы целенаправленно, они легко могут повторять услышанные в сети слова, а игрушка демонстрировала "удивительную" готовность развивать подобные темы. В результате скандала компания OpenAI приостановила доступ производителя игрушки, компании FoloToy, к своим моделям. Со своей стороны, FoloToy временно прекратила продажи Kumma до завершения полной проверки безопасности.