Расследование серьёзных AI-инцидентов: доказательственные стандарты, отчётность и ответственность
Доклад посвящён расследованию серьёзных инцидентов с участием систем искусственного интеллекта и доказательственной достаточности их объяснения. Центральный вопрос — какие наблюдения подтверждают участие конкретного компонента в неблагоприятном исходе, например в неверной идентификации или ошибочном ограничении доступа, какие альтернативные объяснения остаются открытыми и как проверить результат исправления. Методика разделяет восстановление события, проверку причинного механизма и юридическую квалификацию: ни алгоритмическая оценка, ни сертификат системы управления сами по себе не означают вывода о виновности.
Научную основу исследования составляют цифровая криминалистика, причинный анализ, системная безопасность и статистика. Рассматриваются сохранение цифровых доказательств и chain of custody, восстановление хронологии при несовпадающих часах, логи модели, промпты и retrieval-контекст, реальность человеческого контроля, воспроизведение и контрфактическая проверка, признаки целенаправленных атак, включая prompt injection и манипуляцию памятью, а также разграничение отказа модели и отказа процесса.
Правовая часть по состоянию на 22 октября 2026 года раздельно анализирует серьёзные инциденты по статьям 55 и 73 AI Act, нарушения безопасности персональных данных по GDPR, значительные инциденты NIS2 и крупные ICT-инциденты DORA: для каждого режима устанавливаются правовой порог, адресат и момент начала срока уведомления. Доклад также рассматривает административное, уголовное и гражданское производство, права пострадавших и типовые области риска — санкционный скрининг, международный розыск и экстрадицию, AML/KYC, кредитный скоринг, медицинский AI и deepfakes в качестве мнимых доказательств.
Основной вывод состоит в том, что расследование должно согласовать три самостоятельных результата: проверяемую картину событий, обоснование причинного механизма и правовую оценку последствий. Ни один из методов сам по себе не устанавливает вину конкретного лица. Закрытие инцидента подтверждается по технической, процессной и восстановительной части: исправление модели не завершает работу, пока ошибочная запись продолжает передаваться или ограничение прав сохраняется.
Для ARGA предлагается протокол причинного исследования с реестром исследовательских вопросов, картой доступных и утраченных данных, матрицей альтернативных гипотез, воспроизводящими проверками и критериями завершения, а также пять стандартов качества независимой оценки. Пятьдесят приложений носят характер экспертных форм и учебных сценариев, а не утверждённых регулятором шаблонов или реальных дел. Доклад не содержит эксперимента на реальном деле, не устанавливает эффективность методики и не заменяет оценку адвоката, судебного эксперта или надзорного органа.
Правила цитирования
- Обязательное указание источникаПри использовании материалов ARGA Observatory необходимо указывать полное название.
- Указание даты и версииДля аналитических отчётов обязательно указывать год публикации.
- Ссылка на оригиналЭлектронные материалы должны сопровождаться активной ссылкой на официальный сайт.
- Соблюдение контекстаЦитаты не должны сокращаться или изменяться таким образом, чтобы искажать смысл.
- Отдельная отметка при адаптацииЕсли текст сокращён или переведён, необходимо указать: «адаптировано из отчёта ARGA».
- Запрет на коммерческое использование без письменного разрешения организации
- Сохранение точности данныхГрафики и таблицы должны воспроизводиться без изменений.
Задайте вопрос экспертам ARGA
Четыре коротких шага. Ответим в течение рабочего дня.