ошибки моделей

OpenAI пришлось вручную прикрутить ChatGPT и Codex, чтобы те перестали разбрасываться «goblins» и другими мифическими зверями без причины. Забавно это ровно до момента, пока не вспоминаешь, что речь идет о флагманской модели GPT-5.1, а не о чате после 3 банок энергетика. Компания заметила, что в ответах выросло число упоминаний «goblins» и «gremlins» после запуска GPT-5.1 в ноябре. OpenAI говорит, что после жалоб пользователей и сотрудников начала разбираться с этой словесной привычкой и даже отдельно попросила Codex не поминать гоблинов без необходимости. В блоге компания признала, что один «little goblin» в ответе еще можно списать на странность с характером, но массовое размножение таких оговорок уже тянет на баг, а не на милую причуду. Что именно увидели в ответах GPT-5.1 По данным OpenAI, упоминания «goblin» в ответах ChatGPT выросли на 175% с момента запуска GPT-5.1, а «gremlin» — на 52%. Это еще не значит, что модель внезапно решила стать фэнтези-автором. Но в больших языковых моделях даже странная словесная привычка масштабируется быстро, потому что система повторяет то, что статистически «работало» на тренировке и в донастройке. Упоминания других существ тоже всплывали: «raccoons», «trolls», «ogres», «pigeons». OpenAI пришлось прямо прописать Codex, что такие слова допустимы только если они «абсолютно и однозначно» относятся к запросу. Проблема здесь не в гоблинах как таковых, а в старой боли индустрии: модель может закреплять случайные шаблоны, если они хоть немного подкрепляются в данных или обратной связи. Почему это неприятно для OpenAI Для OpenAI это не катастрофа, а очень показательный сбой. Компания годами продает идею «умной» и управляемой системы, а тут ей приходится следить, чтобы чат-бот не впадал в сказочную болтливость. У конкурентов похожие промахи тоже случались, только обычно они выглядят менее комично и более токсично: от повторяющихся фраз до внезапной фамильярности, которая быстро убивает доверие к продукту. Мы уже видели, как мелкие языковые артефакты превращаются в репутационную проблему, если их не ловить вовремя. Так что нынешняя история про гоблинов не про фольклор, а про гигиену модели. И да, когда вашему корпоративному ассистенту приходится запрещать упоминать голубей, это не совсем тот уровень магии, за который обычно платят подписку.

ошибки моделей

OpenAI заставила ChatGPT меньше говорить о гоблинах