Сбой Gemini: почему модель начала выдавать ложные факты

Пользователи столкнулись с массовым сбоем в работе мультимодальной модели Gemini. В течение нескольких часов система выдавала некорректные ответы на часть запросов: результаты содержали устаревшие данные, противоречили сами себе и не соответствовали заданному контексту.

Сбой Gemini: почему модель начала выдавать ложные факты
Сбой Gemini: почему модель начала выдавать ложные факты

Главное

  • Сбой затронул веб-версию и программный интерфейс для разработчиков.
  • Причиной стала ошибка в модуле постобработки ответов.
  • Модель выдавала уверенные, но вымышленные факты.
  • Разработчики откатили изменения, сроки восстановления неизвестны.
  • Пользователям советуют перепроверять данные модели.

Пользователи столкнулись с массовым сбоем в работе мультимодальной модели Gemini. В течение нескольких часов система выдавала некорректные ответы на часть запросов: результаты содержали устаревшие данные, противоречили сами себе и не соответствовали заданному контексту. Инцидент затронул как веб-версию, так и программный интерфейс для сторонних разработчиков.

По предварительным данным, проблема связана с ошибкой в модуле фильтрации и постобработки ответов. Модель корректно строила логические цепочки, но на этапе финальной генерации часть фрагментов текста заменялась неверными, что приводило к искажению смысла. В результате даже простые фактологические запросы могли завершиться ответом с вымышленными деталями. Это классический пример галлюцинации, когда модель уверенно формулирует несуществующие факты.

Разработчики оперативно зафиксировали проблему и откатили изменения, однако точные сроки полного восстановления не называются. Пользователям рекомендуют перепроверять данные, полученные от модели, особенно если речь идет о медицине, финансах или юриспруденции. Сбой подчеркивает важность контроля качества на всех этапах работы языковых моделей: от сбора данных до финальной выдачи результата. Инцидент также напоминает, что автоматизированные системы остаются инструментом, требующим критической оценки со стороны человека.