Почему Ян Лекун не боится ИИ и называет опасения главы Anthropic заблуждением

Ян Лекун, лауреат премии Тьюринга и один из создателей современных нейросетей, заявил, что не видит никаких оснований для страхов перед исчезновением человечества из-за ИИ. В ответ на предупреждения о катастрофических рисках он назвал главу компании Anthropic Дарио Амодеи «заблуждающимся». По словам Лекуна, текущие системы ИИ не обладают собственными целями или желаниями, а значит, не могут «захотеть» навредить людям.

Лекун считает, что разговоры о «восстании машин» основаны на антропоморфизме. Современные большие языковые модели лишь предсказывают следующий токен, у них нет ни инстинкта самосохранения, ни способности к долгосрочному планированию. Он предлагает развивать альтернативные архитектуры, такие как модели мира и иерархическое планирование, которые, по его мнению, сделают ИИ более безопасным и контролируемым.

Амодеи, напротив, утверждает, что ИИ может стать одной из главных угроз для человечества, сравнивая его с ядерным оружием. Его компания вкладывает средства в исследование выравнивания — то есть согласования действий ИИ с человеческими ценностями. Лекун же полагает, что такой подход отвлекает от реальных проблем: предвзятости алгоритмов, дезинформации и концентрации власти в руках немногих корпораций.

Спор между двумя ведущими специалистами отражает раскол в научном сообществе. От того, чья позиция возобладает, зависят будущие регуляции и направления исследований. Пока же очевидно одно: единого мнения о безопасности ИИ нет даже среди тех, кто создает эти технологии.