Галлюцинации нейросети — это случаи, когда модель уверенно называет факт, цифру или источник, которых на самом деле нет. Текст гладкий, грамматика в порядке, ответ выглядит убедительно, а содержание выдумано. Поэтому ответ нейросети нельзя переносить в договор, рекламу или письмо клиенту без проверки.
Как это работает
Языковая модель (LLM) пишет ответ, подбирая слово за словом то, что обычно идёт следующим в похожем тексте. Справочник она при этом не открывает. Если нужного знания в обучении не было, модель далеко не всегда отвечает «не знаю»: иногда она достраивает ответ, похожий на правду по форме.
Частота выдумок сильно зависит от задачи. В препринте «Invisible to the Machine» (arXiv, август 2026) ответы четырёх нейросетей сверили с полным списком из 4 776 заведений двух районов Бали. Прямые выдумки составили 0,08% упоминаний. Главной проблемой там оказалось другое: про 85,6% заведений модели просто ничего не знали, а закрытые навсегда места рекомендовали 93 раза. Устаревший факт для клиента ничем не лучше выдуманного.
Пример
Допустим, вы спрашиваете нейросеть об условиях доставки конкретной службы. Если модель не подключена к поиску и свежих данных у неё нет, она может уверенно назвать срок или тариф, похожий на настоящий, но неверный. Правильный ответ в такой ситуации был бы «не знаю точно, проверьте на сайте службы».
Частые ошибки
- Публиковать цифры, цитаты и ссылки от модели, не открыв первоисточник. Особенно в текстах для клиентов.
- Называть галлюцинацией любое отсутствие вашего бизнеса в ответе. Чаще модель о вас просто не знает.
- Спрашивать без контекста и ждать точного факта. Если дать модели ваши данные прямо в вопросе, ей не придётся достраивать ответ по памяти.
Подробности исследования и что из него следует для владельца бизнеса, разобраны в материале аудит 4 776 заведений. Как готовят сайт, чтобы модели с веб-поиском находили на нём цены и условия компании обычным текстом, описано в статье продвижение в нейросетях. Где выдумки и устаревшие данные мешают при работе с рекламным кабинетом, показано в статье как использовать AI в Google Ads. Один из способов снизить риск описан в термине RAG: модель сначала находит документы, потом отвечает по ним.
Частые вопросы
Она продолжает текст по вероятности, а не сверяется со справочником. Когда точного знания нет, правдоподобная выдумка для неё ближе, чем признание «не знаю».
Дать модели нужные данные прямо в вопросе, попросить указать источник каждого факта и проверять цифры перед тем, как пускать их в работу.
Обычно нет. Чаще это значит, что модель о вас не знает, а не что она выдумала ответ.