OpenAI выпустила модель для кибербезопасности: что это меняет
OpenAI представила новую модель ChatGPT Cyber, предназначенную для поиска уязвимостей в программном обеспечении. Она доступна участникам программы Daybreak Red, которая объединяет специалистов по наступательной кибербезопасности.
Главное
- ChatGPT Cyber ищет уязвимости в Linux и Firefox, найдено 948 и 81 проблема соответственно.
- Энтузиаст за 2 часа нашёл критическую уязвимость в Ubuntu с помощью ИИ, потратив 5000 долларов.
- OpenAI вложила 1,2 млн долларов в поиск багов в Linux, но это меньше затрат на другие задачи.
- Программа Daybreak ограничивает доступ к моделям, что вызывает критику со стороны исследователей.
OpenAI представила новую модель ChatGPT Cyber, предназначенную для поиска уязвимостей в программном обеспечении. Она доступна участникам программы Daybreak Red, которая объединяет специалистов по наступательной кибербезопасности. По заявлению компании, модель уже помогла выявить 948 потенциальных проблем в ядре Linux и 81 новую уязвимость в браузере Firefox.
Однако вопрос о достаточности таких мер остаётся открытым. Макс Джастик, технический директор стартапа Charge Robotics, использовал более раннюю модель GPT 5.6 Sol через программу Daybreak Blue и всего за два часа нашёл критическую уязвимость в Ubuntu, позволяющую захватить контроль над серверами. Он отметил, что задача была сложной для человека, но модель справилась легко. Джастик также предупредил, что в ближайшие месяцы стоит ожидать обнаружения и эксплуатации «экстремально сложных» багов с помощью ИИ.
OpenAI утверждает, что выделяет значительные вычислительные мощности на поиск и исправление уязвимостей в открытом коде на безвозмездной основе. Тем не менее, затраты на поиск уязвимостей в Linux составили 1,2 миллиона долларов, что меньше суммы, потраченной на решение задачи из области гидродинамики. Программа Daybreak также подвергается критике: исследователи отмечают, что доступ к моделям ограничен, а злоумышленники могут использовать открытые модели без ограничений. Пока неясно, успеют ли защитники цифровой инфраструктуры закрыть все бреши до того, как ИИ станет ещё мощнее и доступнее.