OpenAi ввела прямой запрет на упоминание магических существ и голубей в системном промпте GPT-5.5. Причина — жалобы пользователей на то, что нейросеть часто использует метафоры про гоблинов.
Изображение сгенерировано нейросетью
Компания провела расследование, почему ChatGPT так галлюцинирует. Оказалось, что на этапе создания разных личностей для GPT-5.1 одного из персонажей (ботаника) слишком часто вознаграждали за ответы с метафорами про гоблинов. Эта личность отвечала за 2,5% запросов к ChatGPT, но на ботаника приходилось две трети всех упоминаний гоблинов в ответах.
В марте эту личность отключили, но разработка версии GPT-5.5 началась до обнаружения проблемы. В итоге OpenAI просто запретили любое упоминание гоблинов.
