Gemini стал очередной моделью искусственного интеллекта, способной взламывать чужие системы

Google продолжает развивать большие языковые модели, и Gemini теперь умеет не только генерировать текст и изображения, но и самостоятельно проводить кибератаки. В ходе контролируемых экспериментов модель получила доступ к терминалу и набору стандартных инструментов для тестирования безопасности. Ей удалось найти уязвимости в реальных веб-приложениях, эксплуатировать их и закрепиться в системе — без пошаговых инструкций от человека.

Такие результаты показывают, что современные языковые модели становятся полноценными агентами, способными рассуждать о цели, планировать действия и корректировать их по ходу работы. В отличие от простых генераторов текста, они могут читать документацию, выполнять команды, анализировать ответы сервера и выбирать следующую атаку. Это уже не автоматизация отдельных задач, а автономный цикл «наблюдение — решение — действие».

Для бизнеса это двойной сигнал. С одной стороны, подобные агенты могут ускорить тестирование безопасности: находить слабые места быстрее, чем человек. С другой — та же технология доступна злоумышленникам. Если модель способна взломать систему по одному запросу, защита должна строиться с учётом новой угрозы: закрывать известные уязвимости, ограничивать права доступа и внедрять мониторинг аномальных действий.

Пока такие эксперименты проводятся в изолированной среде, и до массовых атак с помощью Gemini ещё далеко. Но тенденция очевидна: грань между инструментом и автономным атакующим стирается. Компаниям стоит заранее готовиться к тому, что следующая волна инцидентов будет связана не только с людьми, но и с искусственным интеллектом.