Доступ для команды METR

Anthropic 15 октября сообщила, что шесть сотрудников некоммерческой организации METR начали работать внутри компании с доступом, который она называет близким к уровню собственных команд оценки рисков. Им предоставлены корпоративное оборудование, рабочие места и внутренние инструменты. Из доступа исключены узкие категории: клиентские данные, юридически привилегированная информация и, как правило, детали архитектуры моделей.

METR сможет публиковать оценки рисков, инцидентов и практик Anthropic без разрешения компании. Anthropic не получает права вето, но может требовать удаления сведений из заранее определённых закрытых категорий. METR разрешено публично объяснить, считает ли организация такую редактуру обоснованной.

Независимость оценки

Обычный внешний аудит видит модель и подготовленные документы. Этот формат даёт оценщикам более глубокий доступ к обучению, защитным механизмам и внутренним решениям, сохраняя организационную независимость и право публикации. Он приближает контроль фронтирных моделей к постоянному надзору, а не к разовой проверке.

Anthropic также работает с SecureBio и Accenture и описывает три уровня доступа для оценщиков. Самый полный, третий уровень получила небольшая команда METR.

Источники