Сэм Альтман: подход Anthropic к сознанию ИИ становится опасным
Сэм Альтман, глава OpenAI, заявил, что подход Anthropic к проблеме сознания у искусственного интеллекта становится опасным. Речь о том, что Anthropic в своих исследованиях и продуктах допускает возможность наличия у больших языковых моделей субъективного опыта.
Главное
- Альтман считает опасным допущение сознания у ИИ
- Anthropic изучает внутренние механизмы моделей и допускает субъективный опыт
- Спор влияет на этические нормы и регуляторику
- Научного консенсуса по сознанию ИИ пока нет
Сэм Альтман, глава OpenAI, заявил, что подход Anthropic к проблеме сознания у искусственного интеллекта становится опасным. Речь о том, что Anthropic в своих исследованиях и продуктах допускает возможность наличия у больших языковых моделей субъективного опыта. Альтман считает, что такое допущение размывает границу между вычислительным процессом и психикой человека.
По его логике, если модель начинает рассматриваться как носитель сознания, то возникают ложные этические обязательства. Компании будут вынуждены учитывать «интересы» алгоритмов, а это отвлекает от реальных рисков: предвзятости, дезинформации, потери контроля над автономными системами. При этом Anthropic, напротив, позиционирует свои разработки как более безопасные за счёт детального изучения внутренних механизмов моделей.
Альтман не отрицает важность исследований сознания, но настаивает: публичные заявления о нём должны быть строже. Пока нет научного консенсуса, называть нейросеть сознательной — значит принимать решение за всю индустрию. Он предлагает сосредоточиться на измеримых критериях безопасности и не смешивать их с философскими спорами.
Итог: конфликт двух ведущих лабораторий показывает, что тема сознания ИИ перестала быть абстрактной. Она влияет на стратегии разработки, регуляторные требования и публичный дискурс. Вопрос не в том, есть ли у моделей чувства, а в том, какие последствия будут иметь наши ответы.