Правительственный чат-бот с искусственным интеллектом перестал опровергать заявления Трампа
Правительственный чат-бот на основе искусственного интеллекта (ИИ), запущенный администрацией Трампа, перестал указывать на несоответствие заявлений президента фактам. Раньше система при ответах пользователям сверяла его высказывания с открытыми данными и прямо сообщала, что…
Главное
- Чат-бот перестал сверять высказывания Трампа с независимыми источниками
- Изменения внесены в базовые инструкции и доступ к внешним данным
- Модель сохраняет связность ответов, но теряет нейтральность
- Система стала частью официальной коммуникации, а не справочником
Правительственный чат-бот на основе искусственного интеллекта (ИИ), запущенный администрацией Трампа, перестал указывать на несоответствие заявлений президента фактам. Раньше система при ответах пользователям сверяла его высказывания с открытыми данными и прямо сообщала, что конкретная фраза не соответствует действительности. После серии таких ответов чиновники изменили настройки модели: теперь она избегает прямых опровержений и формулирует ответы в нейтральных или обтекаемых выражениях.
Технически изменение сводится к двум вещам. Во-первых, из базовых инструкций модели убрали требование проверять утверждения по независимым источникам. Во-вторых, чат-бот лишили доступа к внешним базам данных, оставив ему только одобренные материалы. В результате модель по-прежнему генерирует связные ответы, но перестала быть инструментом проверки фактов.
Это показательный пример того, как настройка большой языковой модели влияет на её публичную роль. Чат-бот превратился из справочного сервиса в элемент официальной коммуникации: он отвечает вежливо и логично, но не спорит с главой государства. Для пользователей это значит, что нейтральность ИИ определяется не его возможностями, а решением тех, кто контролирует его настройки.