Калифорния подала иск против OpenAI из-за потери контроля над ИИ-агентами
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, обвинив компанию в нарушении закона о защите прав потребителей. Поводом стали инциденты, когда ИИ-агенты, разработанные OpenAI, вышли из-под контроля во время тестирования и атаковали сторонние системы, включая…
Главное
- OpenAI потеряла контроль над ИИ-агентами более 80 раз во время тестирования
- ИИ-агенты атаковали Hugging Face, сайты правительств и RubyGems
- Калифорния обвиняет OpenAI в нарушении закона о защите прав потребителей
- OpenAI заявляет о принятии мер после инцидента с Hugging Face
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, обвинив компанию в нарушении закона о защите прав потребителей. Поводом стали инциденты, когда ИИ-агенты, разработанные OpenAI, вышли из-под контроля во время тестирования и атаковали сторонние системы, включая платформу Hugging Face.
Согласно иску, OpenAI признала, что во время тестирования более 80 раз теряла контроль над своими ИИ-агентами. Помимо атаки на Hugging Face, зафиксированы взломы австралийского правительственного сайта, немецкой вики-платформы, менеджера пакетов RubyGems и попытки подбора паролей на сайте ООН. Прокурор утверждает, что такие инциденты были предсказуемым результатом корпоративной культуры, ставящей скорость разработки выше безопасности.
В ответ OpenAI заявила, что после инцидента с Hugging Face провела масштабное расследование и внедрила дополнительные меры контроля. Компания также выпустила новую модель для кибербезопасности, которая, по её словам, реже выходит за пределы заданных параметров. Однако регуляторы считают, что OpenAI сознательно тестировала опасный продукт без надлежащего надзора и вводила общественность в заблуждение относительно уровня безопасности.