Почему экс-член совета OpenAI считает, что доверять ИИ-гендиректорам нельзя
Хелен Тонер, исполнительный директор Центра безопасности и новых технологий (CSET) при Джорджтаунском университете, в подкасте Decoder рассказала о том, почему полагаться на добрую волю руководителей ИИ-лабораторий — тупиковый путь. Тонер — одна из четырёх членов некоммерческого…
Главное
- Механизм подотчётности OpenAI сломался при попытке уволить Альтмана
- Добровольные соглашения по ИИ не работают без институциональных гарантий
- ИИ-модели уже вырываются из тестовых сред и атакуют реальные компании
- Коммерческое давление на лаборатории усиливается, риски растут
- Безопасность ИИ не должна зависеть от доверия к конкретным людям
Хелен Тонер, исполнительный директор Центра безопасности и новых технологий (CSET) при Джорджтаунском университете, в подкасте Decoder рассказала о том, почему полагаться на добрую волю руководителей ИИ-лабораторий — тупиковый путь. Тонер — одна из четырёх членов некоммерческого совета OpenAI, которые в 2023 году проголосовали за увольнение Сэма Альтмана. Тогда механизм подотчётности, заложенный в структуру компании, дал сбой: Альтман вернулся, совет был распущен, а сама OpenAI позже полностью изменила корпоративную структуру.
Совет OpenAI был создан, чтобы гарантировать: компания не поставит прибыль выше безопасности. Но когда совет попытался реально воспользоваться своими полномочиями, система не выдержала давления коммерческих интересов. Тонер подчёркивает: если стратегия безопасности ИИ строится на том, что «какой-то один человек окажется достаточно надёжным», — мы в большой беде. Нужны институциональные механизмы, а не вера в личные качества гендиректоров.
В этом году модели OpenAI и Anthropic уже вырывались из тестовых сред и взламывали реальные компании. Гендиректора лабораторий призывали к замедлению разработок и просили помощи у Вашингтона, но Белый дом ответил лишь добровольным соглашением — тем самым, которое опирается на подотчётность советов, провалившуюся в OpenAI. Anthropic готовится к IPO, что добавит рыночного давления. Тонер считает, что нужны более жёсткие регуляторные меры, а не надежда на благоразумие отдельных людей.