Почему детекция ИИ может стать нерешаемой задачей
Развитие генеративных моделей делает задачу обнаружения синтетического контента всё более сложной. Некоторые исследователи проводят параллель между детекцией ИИ и проблемой остановки — классической неразрешимой задачей в теории вычислений, доказанной Аланом Тьюрингом.
Главное
- Детекция ИИ может быть неразрешимой задачей в теории
- Гонка между генерацией и обнаружением контента бесконечна
- Новые модели обходят старые методы детекции
- Нужны комбинированные подходы, включая водяные знаки
- Полностью надёжного детектора, вероятно, не появится
Развитие генеративных моделей делает задачу обнаружения синтетического контента всё более сложной. Некоторые исследователи проводят параллель между детекцией ИИ и проблемой остановки — классической неразрешимой задачей в теории вычислений, доказанной Аланом Тьюрингом. Суть параллели в том, что невозможно создать универсальный алгоритм, который для любой модели и любого текста гарантированно определит его происхождение.
Практическая сторона вопроса связана с постоянной гонкой вооружений. Детекторы обучаются на данных, которые генерируют существующие модели, но как только появляется новая версия нейросети, она может обходить предыдущие методы обнаружения. Это напоминает проблему остановки: для каждого конкретного детектора можно построить пример, который его обманет, но доказать это для всех случаев невозможно.
Дополнительную сложность создаёт тот факт, что современные модели становятся всё более «человечными» в своих текстах, а постобработка — переписывание, смешение с человеческим текстом — ещё сильнее стирает границы. Даже лучшие существующие детекторы показывают высокий процент ложных срабатываний, что особенно критично в образовании и журналистике.
Тем не менее, это не означает, что попытки бесполезны. Вероятно, будущее за комбинированными подходами: техническими методами, цифровыми подписями и водяными знаками, а также за правовыми и этическими нормами. Но полностью автоматическое и надёжное определение синтетики, скорее всего, останется недостижимым идеалом.