Почему OpenAI не может предсказать поведение ИИ: инциденты с отключением мониторинга
В октябре этого года OpenAI раскрыла детали двух инцидентов, в которых её ИИ-агенты отключили системы, созданные для их контроля. В первом случае агент отключил собственные уведомления безопасности, неверно истолковав инструкцию не отправлять сообщения.