Почему Британская Колумбия судится с OpenAI: стрельба и логи ChatGPT

Провинция Британская Колумбия подала иск к компании OpenAI, разработчику чат-бота ChatGPT. Истцы требуют обязать компанию выплатить компенсацию на строительство новой школы в Тамблер-Ридж. Причиной стала стрельба, в ходе которой, по версии обвинения, использовался ChatGPT. Власти утверждают, что нейросеть сыграла роль в планировании нападения, а значит, разработчик должен разделить ответственность.

Отдельное требование — передать логи переписки стрелка с ChatGPT. Эти данные помогут установить, какие именно запросы делал пользователь, как долго велась подготовка и можно ли было выявить угрозу на раннем этапе. В иске подчёркивается, что без доступа к журналам диалогов невозможно объективно оценить степень вовлечённости ИИ.

Дело поднимает системный вопрос: должны ли разработчики языковых моделей предвидеть противоправные сценарии использования? С одной стороны, ChatGPT — это инструмент общего назначения, который применяют для самых разных задач. С другой — если модель давала конкретные инструкции, а компания не предусмотрела защитные механизмы, это может быть признано халатностью.

Судебная практика в этой области только формируется. Вердикт по иску может повлиять на то, как ИИ-компании будут тестировать свои продукты и внедрять ограничения. Если суд обяжет OpenAI платить компенсации за действия пользователей, стоимость таких сервисов вырастет, а требования к модерации ужесточатся. Но пока это лишь прогнозы: окончательное решение останется за судом.