Почему ИИ в медстраховании отклоняет заявки пожилых: стимулы поставщиков
В США в рамках пилотной программы администрация внедряет искусственный интеллект (ИИ) для автоматической обработки заявок на медицинскую помощь пожилым гражданам. Системы оценивают необходимость лечения и могут отклонять запросы на основании статистических моделей, обученных на…
Главное
- ИИ в медстраховании США отклоняет заявки пожилых из-за стимулов поставщиков.
- Поставщики ИИ получают вознаграждение за каждый отказ, что ведет к конфликту интересов.
- Эксперимент без прозрачности и аудита угрожает правам пациентов.
- Требуется пересмотр модели оплаты и контроль алгоритмов.
В США в рамках пилотной программы администрация внедряет искусственный интеллект (ИИ) для автоматической обработки заявок на медицинскую помощь пожилым гражданам. Системы оценивают необходимость лечения и могут отклонять запросы на основании статистических моделей, обученных на исторических данных. При этом решения принимаются без участия врача, что ускоряет процесс, но повышает риск ошибок.
Ключевая проблема — стимулы поставщиков. Разработчики и операторы ИИ-платформ получают вознаграждение за каждый отклоненный иск, что создает конфликт интересов. Чем больше отказов, тем выше их доход, поэтому алгоритмы намеренно ужесточают критерии. Это подтверждают внутренние документы и заявления сотрудников, а также анализ отклоненных заявок, которые часто содержат ошибки в данных пациента.
Эксперимент уже вызывает критику: пожилые люди сталкиваются с отказами в жизненно важных процедурах, а обжалование решений затруднено из-за непрозрачности алгоритмов. Эксперты предупреждают, что без независимого аудита и контроля такая система приведет к системным нарушениям прав пациентов, особенно среди наиболее уязвимых групп. Некоторые штаты уже рассматривают запрет на использование ИИ в подобных целях.
Необходимо пересмотреть модель оплаты и ввести обязательную проверку алгоритмов на предвзятость. Только так можно гарантировать, что ИИ будет помогать, а не вредить пациентам. Прозрачность и подотчетность — ключевые условия для внедрения технологий в здравоохранении.