Искусственный интеллект и правосудие: автоматизация решений как новый риск для справедливого процесса

Доклад Observatoire ARGA и ARGA Atlas анализирует, как искусственный интеллект и автоматизированные системы всё чаще используются в судебной, правоохранительной, административной и финансовой практике — от оценки рисков и сортировки дел до анализа доказательств, финансового мониторинга, миграционных процедур и комплаенс-проверок.

Главный вопрос доклада — как сохранить справедливый процесс в условиях, когда алгоритмические выводы начинают влиять на решения, затрагивающие свободу, имущество, деловую репутацию, банковское обслуживание, миграционный статус и доступ к правовой защите. Авторы подчёркивают, что автоматизированная рекомендация не должна восприниматься как нейтральный и бесспорный факт: она зависит от качества данных, методологии модели, выбранных критериев и степени человеческого контроля.

Доклад выделяет ключевые риски: непрозрачность алгоритмов, ошибки и предвзятость данных, чрезмерное доверие к автоматизированным выводам, сохранение негативного цифрового профиля и невозможность эффективного оспаривания. Особое внимание уделяется минимальным процессуальным гарантиям: раскрытию факта использования ИИ, проверке источников данных, объяснимости логики модели, праву на контрпроверку, независимую экспертизу и исправление ошибок.

Ключевой вывод доклада: искусственный интеллект может быть полезным инструментом правовой системы, но он не должен подменять независимую судебную оценку, человеческую ответственность и право человека понимать, проверять и оспаривать основания решений, влияющих на его права.