Risk scoring и алгоритмические системы в правоприменении: объяснимость, человеческий контроль и право на оспаривание
Доклад D-25 исследует использование алгоритмических систем и оценки риска в правоохранительной и государственной деятельности. В центре анализа — право ЕС и Великобритании, а также вопрос о том, какие гарантии необходимы, когда алгоритм влияет на проверку человека, направление расследования, доступ к альтернативным процедурам или содержание государственного решения. ARGA_D-25_Risk_Scoring_Algorith…
Ключевой тезис доклада: юридическое значение имеет не сам рассчитанный системой балл, а то, как он влияет на положение конкретного человека. Поэтому оценивать необходимо всю цепочку — происхождение данных, их обработку, работу модели, интерпретацию результата сотрудником, принятое решение и возможность его пересмотра. Даже высокая техническая точность алгоритма сама по себе не подтверждает законность его применения. ARGA_D-25_Risk_Scoring_Algorith…
Отдельно рассматривается европейский AI Act. Доклад показывает, что запрет определённых форм индивидуального прогнозирования преступного поведения не означает общего запрета алгоритмических инструментов в правоохранительной сфере. Кроме того, после изменений 2026 года часть требований к системам высокого риска получила новые сроки применения. При этом уже действующие нормы GDPR, Директивы 2016/680 и процессуальные гарантии продолжают применяться независимо от календаря AI Act.
На примере дел PNR, SCHUFA, Dun & Bradstreet, Bridges и SyRI анализируются разные проблемы: проверяемость критериев, фактический вес алгоритмического балла, право на понятное объяснение, риски дискриминации и достаточность человеческого контроля. Простое присутствие сотрудника в процессе ещё не означает реального контроля — он должен понимать основания оценки, иметь доступ к необходимой информации и обладать возможностью изменить результат.
В итоге доклад выделяет три взаимосвязанных требования: необходимо различать факт, подозрение, прогноз и решение; человеческий контроль должен быть содержательным, а не формальным; механизм обжалования должен позволять оспорить именно тот элемент системы, который привёл к неблагоприятному последствию. Алгоритмический балл, автоматически созданное объяснение и подпись сотрудника не заменяют проверяемой связи между исходными данными, выводом системы и правовым основанием действия государства.
Правила цитирования
- Обязательное указание источникаПри использовании материалов ARGA Observatory необходимо указывать полное название.
- Указание даты и версииДля аналитических отчётов обязательно указывать год публикации.
- Ссылка на оригиналЭлектронные материалы должны сопровождаться активной ссылкой на официальный сайт.
- Соблюдение контекстаЦитаты не должны сокращаться или изменяться таким образом, чтобы искажать смысл.
- Отдельная отметка при адаптацииЕсли текст сокращён или переведён, необходимо указать: «адаптировано из отчёта ARGA».
- Запрет на коммерческое использование без письменного разрешения организации
- Сохранение точности данныхГрафики и таблицы должны воспроизводиться без изменений.
Задайте вопрос экспертам ARGA
Четыре коротких шага. Ответим в течение рабочего дня.