Почему все ИИ-модели одинаково оценивают людей
Исследователи проанализировали ответы нескольких популярных больших языковых моделей (LLM) на вопросы о человеческой природе и поведении. Оказалось, что, несмотря на различия в архитектуре, обучающих данных и подходах к разработке, все модели формулируют удивительно схожие…
Главное
- LLM дают схожие оценки людям независимо от архитектуры
- Мнения моделей отражают культурные стереотипы, а не реальность
- Результаты важны для приложений ИИ в психологии и HR
- Требуется более разнообразные данные для обучения моделей
Исследователи проанализировали ответы нескольких популярных больших языковых моделей (LLM) на вопросы о человеческой природе и поведении. Оказалось, что, несмотря на различия в архитектуре, обучающих данных и подходах к разработке, все модели формулируют удивительно схожие, часто противоречивые суждения.
Например, модели одновременно называют людей «рациональными» и «эмоциональными», «альтруистичными» и «эгоистичными», «способными к сотрудничеству» и «конфликтными». При этом такие оценки не зависят от того, на каких данных обучалась модель: даже модели с разными языковыми корпусами дают практически идентичные формулировки.
Авторы связывают это с тем, что в обучающих данных любых LLM доминируют одни и те же культурные нарративы, публицистика и художественная литература. Модели усваивают усреднённый, стереотипизированный образ человека, который не отражает реального разнообразия поведенческих паттернов. Это важно учитывать при использовании ИИ в психологии, социологии и HR-сфере, где предвзятость может привести к ошибочным выводам.