Почему все ИИ-модели одинаково оценивают людей

Исследователи проанализировали ответы нескольких популярных больших языковых моделей (LLM) на вопросы о человеческой природе и поведении. Оказалось, что, несмотря на различия в архитектуре, обучающих данных и подходах к разработке, все модели формулируют удивительно схожие…

Почему все ИИ-модели одинаково оценивают людей
Почему все ИИ-модели одинаково оценивают людей

Главное

  • LLM дают схожие оценки людям независимо от архитектуры
  • Мнения моделей отражают культурные стереотипы, а не реальность
  • Результаты важны для приложений ИИ в психологии и HR
  • Требуется более разнообразные данные для обучения моделей

Исследователи проанализировали ответы нескольких популярных больших языковых моделей (LLM) на вопросы о человеческой природе и поведении. Оказалось, что, несмотря на различия в архитектуре, обучающих данных и подходах к разработке, все модели формулируют удивительно схожие, часто противоречивые суждения.

Например, модели одновременно называют людей «рациональными» и «эмоциональными», «альтруистичными» и «эгоистичными», «способными к сотрудничеству» и «конфликтными». При этом такие оценки не зависят от того, на каких данных обучалась модель: даже модели с разными языковыми корпусами дают практически идентичные формулировки.

Авторы связывают это с тем, что в обучающих данных любых LLM доминируют одни и те же культурные нарративы, публицистика и художественная литература. Модели усваивают усреднённый, стереотипизированный образ человека, который не отражает реального разнообразия поведенческих паттернов. Это важно учитывать при использовании ИИ в психологии, социологии и HR-сфере, где предвзятость может привести к ошибочным выводам.