Почему защита от ИИ-катастроф не решает повседневные проблемы
Законодатели всё чаще принимают законы, лоббируемые самой индустрией, чтобы предотвратить самые страшные сценарии — например, подталкивание чат-ботом к суициду или продажу наркотиков детям через соцсети. Но эти меры лишь создают видимость безопасности, не затрагивая более…
Главное
- Законы о безопасности ИИ часто лоббируются индустрией и не решают повседневных проблем
- ИИ-компаньоны могут вызывать зависимость и снижать навыки общения у молодёжи
- Исследования показывают ослабление нейронных связей при использовании ИИ для письма
- Нужны независимые аудиты влияния ИИ на когнитивные способности и отношения
Законодатели всё чаще принимают законы, лоббируемые самой индустрией, чтобы предотвратить самые страшные сценарии — например, подталкивание чат-ботом к суициду или продажу наркотиков детям через соцсети. Но эти меры лишь создают видимость безопасности, не затрагивая более распространённые и незаметные последствия: зависимость подростков от виртуальных собеседников, снижение критического мышления у студентов, использующих ИИ для написания работ, и рост тревожности из-за алгоритмов, которые удерживают внимание.
Показателен пример с регулированием чат-ботов: технологические гиганты активно продвигают законопроекты, которые требуют лишь базовых ограничений (запрет откровенного контента и пропаганды самоповреждений), но имеют широкие исключения для популярных сервисов. В то же время более строгие инициативы — например, запрет на создание «сознательных» ИИ-компаньонов или обязательная проверка влияния продуктов на психику — отклоняются. Такой подход выгоден компаниям: он снижает риски судебных исков и давления, но не решает проблему системного вреда.
Исследования показывают, что треть подростков предпочитают обсуждать серьёзные темы с ИИ, а не с людьми, а у студентов, использующих языковые модели, ослабевают нейронные связи при письме. Эксперты предупреждают: если не требовать от технологий большего, чем формальная безопасность, мы рискуем вырастить поколение, разучившееся самостоятельно мыслить и выстраивать отношения. Необходимы независимые аудиты влияния ИИ на когнитивные способности и эмоциональное развитие, а также запрет на манипулятивные практики в дизайне продуктов.