Почему безопасность ИИ требует координации конкурентов

Современные системы искусственного интеллекта развиваются настолько быстро, что их потенциальные риски становятся предметом государственного регулирования. Один из обсуждаемых вопросов — нужно ли разрешить разработчикам ИИ координировать действия в обход антимонопольного законодательства. Обычно такие законы запрещают компаниям договариваться о ценах, разделе рынка или обмене коммерческой информацией. Но безопасность ИИ может требовать обратного.

Например, если одна компания обнаружила уязвимость в своей модели, она может не иметь права сообщить об этом конкурентам, чтобы те не повторили ошибку. Антимонопольные нормы трактуют такой обмен как сговор, даже если цель — предотвратить катастрофу. В результате индустрия фрагментируется, а стандарты безопасности разрабатываются в изоляции.

Предложение о введении ограниченного исключения для ИИ-безопасности обсуждается уже несколько лет. Сторонники утверждают, что координация позволит создать общие протоколы тестирования, обмениваться данными об инцидентах и совместно работать над ограничением возможностей сверхмощных моделей. Противники опасаются, что исключение станет лазейкой для картельных сговоров, а компании будут прикрываться безопасностью для подавления конкуренции.

Компромиссным вариантом может стать создание отраслевого регулятора, который будет собирать информацию о рисках и распределять её между участниками без раскрытия коммерческих тайн. Однако такой механизм требует тщательной юридической проработки. Пока же вопрос остаётся открытым: как балансировать между защитой конкуренции и необходимостью совместно предотвращать глобальные угрозы.