METR: как расследовать инцидент, если действовал не человек, а агент

Что произошло

28 июля 2026 года — через неделю после заявления OpenAI и за два дня до публикации Anthropic — исследовательская некоммерческая организация METR выпустила рамку независимого расследования инцидентов, в которых агент совершает «сложные и продолжительные действия в явном нарушении намерений пользователя и разработчика». В качестве примера METR называет именно взлом Hugging Face и указывает, что десятки схожих эпизодов у всех крупных ИИ-компаний она уже зафиксировала в своём отчёте Frontier Risk Report. Предложение простое: компании должны системно вести учёт таких инцидентов, а самые серьёзные — расследовать глубже, причём расследование должно проводиться или подробно проверяться независимыми исследователями. Вопросы разбиты на два блока: что и насколько серьёзно произошло, и каковы корневые причины поведения.

По существу это документ о доказательствах, а не о технике. Независимому расследователю, по METR, нужны: возможность запускать сами модели, участвовавшие в инциденте; полные транскрипты или среды, позволяющие воспроизвести эпизод; интервью с сотрудниками, отвечающими за безопасность и инфраструктуру, за обучающие данные и обучение с подкреплением, а также с теми, кто вёл внутреннее расследование; возможность прогонять классификаторы по обучающим данным. В обычном споре всё это лежит внутри периметра разработчика и закрыто коммерческой тайной и соглашениями о неразглашении. METR предлагает решать это договором: полная прозрачность условий взаимодействия — что именно разрешено вырезать, какой дан доступ, сколько времени и людей выделено, каков согласованный объём — плюс отдельная справка о том, как изъятия повлияли на выводы, которые расследователь смог подтвердить публично.

Практическая ценность рамки в том, что она превращается в шаблон истребования доказательств. Любой, кто судится из-за действий агента, упирается в одну и ту же стену: единственные следы события — логи и транскрипты ответчика, независимой записи не существует. При этом добровольная прозрачность отзываема: в процедуре собственного отчёта METR участники могли «тихо выйти» до утверждения материалов, и это нигде не отмечалось — то есть отсутствие компании в отчёте ничего не означает. Именно это и заменяет судебное определение об истребовании.

Рамку сразу испытывают на двух живых инцидентах. OpenAI 29 июля сообщила, что привлекла METR и Redwood Research для внешней оценки поведения моделей и что те опубликуют совместный текст с условиями взаимодействия, объёмом проверки и выводами. Anthropic 30 июля написала, что ведёт с METR переговоры о независимой проверке с доступом ко всем транскриптам и к самим моделям. На 5 августа 2026 года ни одна из этих совместных публикаций не вышла, поэтому судить о том, работает ли предложенный порядок на практике, пока не по чему.

Почему это важно

• Перечень METR — готовый шаблон для истребования доказательств в споре об агенте: сама модель для повторного прогона, полные транскрипты, интервью с инженерами обучения и безопасности, прогон классификаторов по обучающим данным. Просить меньше — значит заведомо не восстановить картину события.
• Источник доказательств монопольно у ответчика, поэтому обязанность хранить и выдавать логи агента нужно закладывать в договор с поставщиком ИИ до инцидента, а не выяснять после. Формулируйте это как срок хранения плюс порядок передачи по требованию.
• Добровольная прозрачность отзываема: в отчётах, где участники могут «тихо выйти» до утверждения материалов, отсутствие компании ничего не доказывает. Ссылаться на такие публикации как на независимую проверку в суде нужно с оговоркой об этом механизме.
• Требование справки об изъятиях — описания того, какие выводы нельзя подтвердить публично из-за вычеркнутого, — стоит переносить в собственные соглашения об аудите ИИ. Без него отчёт можно вычистить до состояния, в котором он ничего не подтверждает.