Как ИИ-система охраны школы приняла пакет чипсов за оружие: 99% ложных срабатываний

В октябре 2025 года в школе Кенвуд в Балтиморе произошёл инцидент, который вскрыл серьёзные проблемы с использованием ИИ в системах безопасности. Четыре старшеклассника после футбольной тренировки ели чипсы Cool Ranch Doritos, когда система Omnilert, предназначенная для…

Как ИИ-система охраны школы приняла пакет чипсов за оружие: 99% ложных срабатываний
Как ИИ-система охраны школы приняла пакет чипсов за оружие: 99% ложных срабатываний

Главное

  • Система ИИ приняла пакет чипсов за оружие, что привело к задержанию подростков
  • Более 99% сигналов ИИ в школах Балтимора оказались ложными
  • Директор школы не была обучена работе с системой и вызвала полицию после отмены тревоги
  • Истцы требуют запретить ИИ-систему до внедрения надёжных протоколов проверки
  • Инцидент демонстрирует риски слепого доверия ИИ в сфере безопасности

В октябре 2025 года в школе Кенвуд в Балтиморе произошёл инцидент, который вскрыл серьёзные проблемы с использованием ИИ в системах безопасности. Четыре старшеклассника после футбольной тренировки ели чипсы Cool Ranch Doritos, когда система Omnilert, предназначенная для обнаружения огнестрельного оружия, пометила одного из них как потенциального стрелка. Школьные чиновники, просмотревшие видео с камер, быстро поняли ошибку и отменили тревогу, но из-за сбоя в коммуникации полиция всё равно прибыла на место.

Прибывшие офицеры, не зная об отмене сигнала, вытащили оружие, заставили подростков встать на колени, заковали в наручники и обыскали. Только после того как оружие не нашли, выяснилось, что причиной стала ошибка ИИ. Один из офицеров пробормотал «тупые ИИ-камеры», а другой посоветовал «осторожнее с пакетами чипсов». Подростки подали иск, утверждая, что их конституционные права были нарушены, и требуют запретить использование Omnilert до тех пор, пока не будут разработаны надёжные протоколы проверки ложных срабатываний.

Расследование офиса генерального инспектора по образованию показало, что более 99% сигналов ИИ в школьной системе были ложными. Директор школы, которая не была обучена работе с системой, получила уведомление, не увидела отмену и сама вызвала полицию. Рекомендации включают сокращение числа получателей тревог, обязательное обучение персонала и переход на специальное приложение, чтобы избежать пропуска отмены. Истцы настаивают на том, что слепая вера в ИИ без должного контроля ставит под угрозу жизнь детей.

Этот случай поднимает важный вопрос о том, насколько мы готовы доверять ИИ в критических ситуациях, особенно когда речь идёт о жизни и безопасности людей. Технологии должны быть инструментом, а не заменой человеческому суждению.