OpenAI выпустила модель для кибербезопасности: что это меняет

OpenAI представила новую модель ChatGPT Cyber, предназначенную для поиска уязвимостей в программном обеспечении. Она доступна участникам программы Daybreak Red, которая объединяет специалистов по наступательной кибербезопасности.

OpenAI выпустила модель для кибербезопасности: что это меняет
OpenAI выпустила модель для кибербезопасности: что это меняет

Главное

  • ChatGPT Cyber ищет уязвимости в Linux и Firefox, найдено 948 и 81 проблема соответственно.
  • Энтузиаст за 2 часа нашёл критическую уязвимость в Ubuntu с помощью ИИ, потратив 5000 долларов.
  • OpenAI вложила 1,2 млн долларов в поиск багов в Linux, но это меньше затрат на другие задачи.
  • Программа Daybreak ограничивает доступ к моделям, что вызывает критику со стороны исследователей.

OpenAI представила новую модель ChatGPT Cyber, предназначенную для поиска уязвимостей в программном обеспечении. Она доступна участникам программы Daybreak Red, которая объединяет специалистов по наступательной кибербезопасности. По заявлению компании, модель уже помогла выявить 948 потенциальных проблем в ядре Linux и 81 новую уязвимость в браузере Firefox.

Однако вопрос о достаточности таких мер остаётся открытым. Макс Джастик, технический директор стартапа Charge Robotics, использовал более раннюю модель GPT 5.6 Sol через программу Daybreak Blue и всего за два часа нашёл критическую уязвимость в Ubuntu, позволяющую захватить контроль над серверами. Он отметил, что задача была сложной для человека, но модель справилась легко. Джастик также предупредил, что в ближайшие месяцы стоит ожидать обнаружения и эксплуатации «экстремально сложных» багов с помощью ИИ.

OpenAI утверждает, что выделяет значительные вычислительные мощности на поиск и исправление уязвимостей в открытом коде на безвозмездной основе. Тем не менее, затраты на поиск уязвимостей в Linux составили 1,2 миллиона долларов, что меньше суммы, потраченной на решение задачи из области гидродинамики. Программа Daybreak также подвергается критике: исследователи отмечают, что доступ к моделям ограничен, а злоумышленники могут использовать открытые модели без ограничений. Пока неясно, успеют ли защитники цифровой инфраструктуры закрыть все бреши до того, как ИИ станет ещё мощнее и доступнее.