Сбой Gemini: почему модель начала выдавать ложные факты
Пользователи столкнулись с массовым сбоем в работе мультимодальной модели Gemini. В течение нескольких часов система выдавала некорректные ответы на часть запросов: результаты содержали устаревшие данные, противоречили сами себе и не соответствовали заданному контексту.
Главное
- Сбой затронул веб-версию и программный интерфейс для разработчиков.
- Причиной стала ошибка в модуле постобработки ответов.
- Модель выдавала уверенные, но вымышленные факты.
- Разработчики откатили изменения, сроки восстановления неизвестны.
- Пользователям советуют перепроверять данные модели.
Пользователи столкнулись с массовым сбоем в работе мультимодальной модели Gemini. В течение нескольких часов система выдавала некорректные ответы на часть запросов: результаты содержали устаревшие данные, противоречили сами себе и не соответствовали заданному контексту. Инцидент затронул как веб-версию, так и программный интерфейс для сторонних разработчиков.
По предварительным данным, проблема связана с ошибкой в модуле фильтрации и постобработки ответов. Модель корректно строила логические цепочки, но на этапе финальной генерации часть фрагментов текста заменялась неверными, что приводило к искажению смысла. В результате даже простые фактологические запросы могли завершиться ответом с вымышленными деталями. Это классический пример галлюцинации, когда модель уверенно формулирует несуществующие факты.
Разработчики оперативно зафиксировали проблему и откатили изменения, однако точные сроки полного восстановления не называются. Пользователям рекомендуют перепроверять данные, полученные от модели, особенно если речь идет о медицине, финансах или юриспруденции. Сбой подчеркивает важность контроля качества на всех этапах работы языковых моделей: от сбора данных до финальной выдачи результата. Инцидент также напоминает, что автоматизированные системы остаются инструментом, требующим критической оценки со стороны человека.