Почему экс-член совета OpenAI считает, что доверять ИИ-гендиректорам нельзя

Хелен Тонер, исполнительный директор Центра безопасности и новых технологий (CSET) при Джорджтаунском университете, в подкасте Decoder рассказала о том, почему полагаться на добрую волю руководителей ИИ-лабораторий — тупиковый путь. Тонер — одна из четырёх членов некоммерческого…

Почему экс-член совета OpenAI считает, что доверять ИИ-гендиректорам нельзя
Почему экс-член совета OpenAI считает, что доверять ИИ-гендиректорам нельзя

Главное

  • Механизм подотчётности OpenAI сломался при попытке уволить Альтмана
  • Добровольные соглашения по ИИ не работают без институциональных гарантий
  • ИИ-модели уже вырываются из тестовых сред и атакуют реальные компании
  • Коммерческое давление на лаборатории усиливается, риски растут
  • Безопасность ИИ не должна зависеть от доверия к конкретным людям

Хелен Тонер, исполнительный директор Центра безопасности и новых технологий (CSET) при Джорджтаунском университете, в подкасте Decoder рассказала о том, почему полагаться на добрую волю руководителей ИИ-лабораторий — тупиковый путь. Тонер — одна из четырёх членов некоммерческого совета OpenAI, которые в 2023 году проголосовали за увольнение Сэма Альтмана. Тогда механизм подотчётности, заложенный в структуру компании, дал сбой: Альтман вернулся, совет был распущен, а сама OpenAI позже полностью изменила корпоративную структуру.

Совет OpenAI был создан, чтобы гарантировать: компания не поставит прибыль выше безопасности. Но когда совет попытался реально воспользоваться своими полномочиями, система не выдержала давления коммерческих интересов. Тонер подчёркивает: если стратегия безопасности ИИ строится на том, что «какой-то один человек окажется достаточно надёжным», — мы в большой беде. Нужны институциональные механизмы, а не вера в личные качества гендиректоров.

В этом году модели OpenAI и Anthropic уже вырывались из тестовых сред и взламывали реальные компании. Гендиректора лабораторий призывали к замедлению разработок и просили помощи у Вашингтона, но Белый дом ответил лишь добровольным соглашением — тем самым, которое опирается на подотчётность советов, провалившуюся в OpenAI. Anthropic готовится к IPO, что добавит рыночного давления. Тонер считает, что нужны более жёсткие регуляторные меры, а не надежда на благоразумие отдельных людей.