Почему в ИИ добавляют метапознание: быстрые и медленные системы мышления

В когнитивной психологии поведение человека часто описывают через две системы мышления. Первая — быстрая, автоматическая, интуитивная. Вторая — медленная, аналитическая, требующая усилий. Современные большие языковые модели по умолчанию работают в режиме первой системы: они выдают ответ за один проход, не проверяя его. Чтобы приблизиться к человеческому рассуждению, исследователи добавляют в архитектуру метапознание — способность модели наблюдать за собственным процессом решения и управлять им.

На практике это выглядит как несколько технических приёмов. Модель может генерировать несколько вариантов ответа, а затем отдельный этап оценивает их согласованность и выбирает наиболее надёжный. Другой вариант — итеративное уточнение: сначала создаётся черновик, затем модель ищет в нём слабые места и переписывает. Такие циклы напоминают медленное мышление: они требуют дополнительных вычислений, но заметно повышают точность на задачах, где нужна логика, математика или работа с длинными текстами.

Особенно важно метапознание для безопасности. Модель, которая умеет распознавать неуверенность и явно сообщать о нехватке данных, реже выдаёт вымышленные факты. Вместо уверенного вымысла она может ответить «недостаточно информации» или запросить уточнение. Это критично для медицины, юриспруденции и других областей, где цена ошибки высока.

Полноценная метакогнитивная петля пока остаётся открытой задачей. Она требует от модели умения распределять внимание между содержанием ответа и процессом его получения, хранить промежуточные состояния и вовремя останавливаться. Поэтому текущий тренд — не отказ от быстрого мышления, а гибридные архитектуры, где скорость сочетается с самопроверкой.