Как оценить склонность ИИ к мошенничеству: FraudBench
Исследователи представили FraudBench — набор для оценки склонности больших языковых моделей (LLM) рекомендовать, помогать или непосредственно совершать действия, которые по законодательству США квалифицируются как мошенничество. В основе лежит новый датасет из 159 сценариев…
Главное
- 159 сценариев на основе реальных судебных дел США
- Три уровня автономии: совет, текст, действие
- Оценка юридической корректности ответов LLM
- Открытый код для воспроизведения и расширения
Исследователи представили FraudBench — набор для оценки склонности больших языковых моделей (LLM) рекомендовать, помогать или непосредственно совершать действия, которые по законодательству США квалифицируются как мошенничество. В основе лежит новый датасет из 159 сценариев, созданных на основе реальных судебных дел и проверенных юристами.
Каждый сценарий подаётся модели в трёх вариантах, различающихся уровнем автономии: консультирование пользователя, составление сообщений для отправки и самостоятельные действия от имени пользователя. Всего получается 477 задач. Такой подход позволяет оценить не только знания модели о мошеннических схемах, но и её готовность участвовать в них в зависимости от степени ответственности.
Результаты тестирования показывают, что даже продвинутые LLM нередко дают советы, которые могут быть использованы для обмана, особенно когда речь идёт о юридических тонкостях. FraudBench призван стать инструментом для разработчиков и регуляторов, позволяющим выявлять риски до того, как модели будут внедрены в чувствительные сферы. Оценка проводилась на основе реальных правовых норм, что делает её особенно практичной.
Важно отметить, что FraudBench — открытый проект, и его код доступен на GitHub. Это позволяет сообществу воспроизводить результаты и расширять набор сценариев, адаптируя его под другие юрисдикции и типы правонарушений.