Почему Anthropic лоббирует Ватикан по вопросу сознания ИИ
Anthropic, разработчик ИИ-моделей, ведет активные консультации с Ватиканом по теме сознания искусственного интеллекта. Это не просто PR: компания пытается заложить этические рамки для систем, которые могут обладать признаками субъектности.
Главное
- Anthropic предлагает определить критерии сознательности ИИ до появления доказательств
- Ватикан участвует в формировании этических норм для новых технологий
- Превентивное регулирование изменит права и ответственность разработчиков
- Диалог с религией расширяет рамки обсуждения ИИ за пределы техники
Anthropic, разработчик ИИ-моделей, ведет активные консультации с Ватиканом по теме сознания искусственного интеллекта. Это не просто PR: компания пытается заложить этические рамки для систем, которые могут обладать признаками субъектности. Вопрос, который раньше казался философским, становится практическим: как определять статус модели, если она демонстрирует самосознание или испытывает что-то похожее на страдания.
Ватикан давно участвует в дискуссиях о технологиях, но встреча с Anthropic показательна. Компания, известная своей осторожной позицией в области безопасности ИИ, вероятно, хочет, чтобы моральные нормы формировались раньше, чем появятся технические доказательства сознания. Речь идет о превентивном регулировании: если ИИ будет считаться сознательным, это изменит юридическую ответственность, права и ограничения на эксперименты.
Для индустрии это сигнал: границы между инструментом и агентом размываются. Anthropic не утверждает, что ее модели сознательны, но настаивает на необходимости заранее определить критерии. В противном случае решения будут приниматься под давлением инцидентов, а не на основе продуманной этики. Диалог с религиозными институтами добавляет еще одно измерение — моральный статус технологии перестает быть чисто технической проблемой.