«Перед рассмотрением нам нужны журналы статьи 12». Какие доказательства принадлежат поставщику, а какие — развертывателю?
Отдельная конструкция автоматической записи в соответствии со статьей 12 Закона ЕС об искусственном интеллекте, от контроля и хранения журналов развертывания до определения области запроса доказательств регистрации данных искусственного интеллекта.
Сигналы для наблюдения
- Именованная система искусственного интеллекта приближается к проверке соответствия, закупок или развертывания, и команда сообщает только, что журналы статьи 12 отсутствуют.
- Разработка событий на стороне поставщика и хранение на стороне развертывания были назначены одному поставщику без подтверждения того, кто контролирует каждую запись.
- В запросе указывается дата проверки, но не указаны классификация высокого риска, предполагаемая цель и точные зарегистрированные события.
Запрос на регистрацию по статье 12 имеет двух разных владельцев доказательств. поставщик должен показать, как система искусственного интеллекта высокого риска технически автоматически записывает события и почему эти события поддерживают отслеживаемость для намеченной цели. развертыватель должен показать, какие автоматически создаваемые журналы находятся под его контролем и как он их хранит. Запрос, в котором говорится только «нам нужны журналы статьи 12», еще не определил работу.
Это первый ответ, который нужен руководителю отдела развития бизнеса поставщика управления или наблюдения ИИ при чтении групп Telegram для авторизованных поставщиков моделей, корпоративных ИИ и регулируемых отраслей. Сообщение становится коммерчески значимым, когда в нем упоминается система, событие проверки и конкретный пробел в записи, экспорте, целостности, доступе или хранении. После того как группа по обеспечению соответствия или закупкам выберет архитектуру, владелец журнала больше не сможет изменить путь доказательства до проверки.
Определение: Статья 12 представляет собой требование к проектированию систем высокого риска.
Регламент (ЕС) 2024/1689, Закон ЕС об искусственном интеллекте, не налагает статью 12 на каждое программное обеспечение, продаваемое как ИИ. Статья 12 содержится в требованиях для системы искусственного интеллекта высокого риска. Классификация зависит от системы и предполагаемой цели согласно статье 6 и соответствующим приложениям и правилам Закона.
Статья 12 требует от систем искусственного интеллекта высокого риска технически обеспечивать автоматическую запись событий (так называемых журналов) на протяжении всего срока службы системы. Возможность ведения журнала должна позволять записывать события, имеющие отношение к выявлению ситуаций, которые могут создать риск или существенную модификацию, облегчать послепродажный мониторинг и контролировать работу определенных систем высокого риска. Степень прослеживаемости должна соответствовать предполагаемой цели.
Почему это важно: общий журнал инфраструктуры может быть полезен в эксплуатации, не доказывая, что система высокого риска записывает события, необходимые для ее юридического контекста и безопасности. И наоборот, статья 12 не говорит, что каждое внутреннее событие должно сохраняться навсегда.
Первый владелец: провайдер разрабатывает автоматическую запись
Поставщик контролирует определение системы, ее назначение и проектные данные. Его запись по статье 12 должна объединять четыре уровня.
Граница системы. Какая выпущенная система и версия проходят оценку? Конечная точка модели, рабочий процесс, объединяющий несколько компонентов и инструмент принятия человеком решений, могут иметь разные границы событий. «Наша платформа» недостаточно точна.
Каталог мероприятий. Какие события записываются автоматически? Полезные записи могут включать версию, маршрут ввода, идентификатор выхода или решения, вмешательство человека, состояние ошибки и изменение конфигурации материала. Правильный каталог зависит от предполагаемой цели; этот список является примером, а не юридическим минимумом.
Цель отслеживания. Для каждого события укажите, на какой вопрос расследования, мониторинга или риска оно помогает ответить. Длинный список полей без цели отслеживания — это инвентаризация, а не обоснованная конструкция журнала.
Честность и доступ. Покажите, как события получают метки времени и идентификаторы, как контролируются изменения, как авторизованные пользователи получают их и какие ограничения остаются. Снимок экрана информационной панели может демонстрировать видимость, но не экспортировать полноту или целостность.
Некоторые системы удаленной биометрической идентификации имеют дополнительные требования к содержанию статьи 12(3), включая регистрацию периода использования, справочной базы данных, входных данных, которые привели к совпадению, и людей, участвующих в проверке. Этот специальный параграф не следует копировать в несвязанную с ним систему кредитования или занятости с высоким уровнем риска.
Второй владелец: разработчик контролирует использование и хранение.
Статья 19 возлагает на ответственного за развертывание иную обязанность. Разработчики систем искусственного интеллекта высокого риска должны вести журналы, автоматически генерируемые системой в той степени, в которой эти журналы находятся под их контролем. Этот период должен соответствовать предполагаемой цели и составлять не менее шести месяцев, если применимое законодательство Союза или национальное законодательство, особенно закон о персональных данных, не предусматривает иное.
Фраза «под их контролем» не позволяет консультанту предположить, что развертыватель может получить каждое событие на стороне провайдера. В передаче должно быть указано:
- какие потоки журналов достигают среды развертывателя;
- которые остаются под контролем провайдера или другого обработчика;
- кто может получить доступ к каждому потоку и экспортировать его;
- когда начинается отсчет времени хранения;
- какая настройка хранения активна, а не просто доступна;
- какая юридическая или эксплуатационная причина меняет период; и
- как программа развертывания связывает журнал с фактическим событием использования.
Поставщик также может иметь свою собственную документацию и обязанности по ведению учета в других местах Закона. Не заменяйте ролевой анализ лозунгом «шесть месяцев для всех».
Карта доказательств двух владельцев
Оригинальный вклад здесь представляет собой небольшую карту с одной строкой на каждый вопрос доказательства:
| Вопрос-доказательство | Доказательства поставщика | Доказательства развертывания | Еще неизвестно |
|---|---|---|---|
| Какая система находится в поле зрения? | Назначение, версия и границы | Развернутая конфигурация и контекст использования | Меняет ли использование классификацию |
| Что записано? | Автоматический каталог событий и реализация | Фактически полученные потоки | Разрывы между запланированными и доступными событиями |
| Почему это записано? | Обоснование прослеживаемости и мониторинга | Необходимость оперативного расследования | Достаточно ли каждого события |
| Кто это контролирует? | Доступ и экспорт дизайна | Роли, разрешения и маршрут процессора | Пробелы в договорном и техническом контроле |
| Как долго оно хранится? | Возможности и ограничения продукта | Политика активного хранения и доказательства | Другие применимые законодательные требования |
Эта карта не позволяет провайдеру наблюдения принять юридический вывод, который он не может сделать. Он также предоставляет практические возможности: инструментирование событий, сопоставление экспорта, целостность временных меток, проверка контроля доступа или конфигурация хранения.
Пример: один пятничный отзыв, двое пропавших владельцев.
Рассмотрим эту иллюстративную составную нить; это не разговор с клиентом:
“Риск хочет, чтобы журналы по Статье 12 были зарегистрированы до пятницы. Поставщик говорит, что журналирование включено”.
“Мы можем видеть решения на экране администратора. Необработанные события могут находиться в их облачной команде”.
“Сохранение установлено по умолчанию. Никто здесь не знает этого числа”.
Фрагменты раскрывают поименованный обзор и три возможных пробела: доказательства поставщика сводятся к включенной функции, контроль развертывателя над необработанными событиями неясен и сохранение не проверено. Они не доказывают, что система представляет высокий риск, что статья 12 применима, что видимое «решение» является необходимым событием или что шесть месяцев — правильный окончательный период.
Первый коммерческий вопрос не «Сколько гигабайт в день?» Это: Кто классифицировал систему и ее назначение, и какое подтверждение журнала отсутствует в столбце поставщика, а не в столбце развертывания? Если ни один из владельцев не может указать границы системы, честный анализ начинается с обнаружения доказательств.
Запись о грамотности ИИ касается людей, работающих в системе, а не истории ее событий; см. Передача свидетельств о грамотности по статье 4. Запрос о готовности к обеспечению прозрачности по статье 50 касается уведомлений и синтетических выходных данных, а не журналов статьи 12. Цены и доступ описывает продукт Discovery.
TOP Prospect может фильтровать, объединять, дедуплицировать и ранжировать соответствующие фрагменты из групп Telegram, которые пользователь намеренно подключает и имеет право доступа. Он может сохранять оригинальные сообщения, источники, время, резюме и причины ранжирования, чтобы человек мог их изучить. Он не может классифицировать систему искусственного интеллекта, проверять частную инфраструктуру регистрации, принимать решения о законе хранения, сертифицировать соответствие или связываться с автором сообщения.
Ключевые факты
- Статья 12 применяется к системам ИИ высокого риска, а не ко всем системам ИИ.
- Система должна технически обеспечивать автоматическую запись событий на протяжении всего срока ее службы.
- Ведение журнала должно поддерживать отслеживаемость, соответствующую предполагаемой цели, а также функциям мониторинга и расследования, описанным в Статье 12.
- Свидетельства поставщика объясняют границы системы, структуру событий, цель, целостность и доступ.
- Статья 19 требует, чтобы развертывающие организации хранили под своим контролем автоматически создаваемые журналы в течение соответствующего периода, составляющего не менее шести месяцев, если иное применимое законодательство не предусматривает иное.
- Видимая информационная панель и включенная настройка сами по себе не доказывают полноту, контроль или сохранение событий.
FAQ
Применяется ли статья 12 к каждой системе ИИ?
Нет. Статья 12 является требованием к системам искусственного интеллекта высокого риска. Система и предполагаемое назначение должны быть сначала оценены в соответствии с правилами классификации Закона об искусственном интеллекте.
Что требует Статья 12 от проектирования системы на стороне поставщика?
Системы искусственного интеллекта высокого риска должны технически обеспечивать автоматическую запись событий на протяжении всего их существования. Возможность ведения журнала должна поддерживать отслеживаемость, соответствующую намеченной цели, и обеспечивать мониторинг и исследование определенных рисков и существенных модификаций.
Кто хранит логи не менее полугода?
Статья 19 требует, чтобы развертыватели систем искусственного интеллекта высокого риска хранили автоматически генерируемые журналы под своим контролем в течение периода, соответствующего предполагаемой цели, составляющего не менее шести месяцев, если другое применимое законодательство Союза или национальное законодательство не предусматривает иное.
Может ли поставщик средств наблюдения подтвердить соответствие статье 12 на основании запроса Telegram?
Нет. Поставщик может определить объем работ по проектированию событий, экспорту, целостности или сохранению, но юридическая классификация, распределение ролей, доказательства соответствия и заключения о соответствии требуют проверки уполномоченным человеком.
Запрос готов к техническому анализу, когда источник классификации высокого риска, владелец журнала поставщика, владелец журнала развертывания и недостающее доказательство могут быть указаны в одной записи.
Часто задаваемые вопросы
Применяется ли статья 12 к каждой системе ИИ?
Нет. Статья 12 является требованием к системам искусственного интеллекта высокого риска. Система и предполагаемое назначение должны быть сначала оценены в соответствии с правилами классификации Закона об искусственном интеллекте.
Что требует Статья 12 от проектирования системы на стороне поставщика?
Системы искусственного интеллекта высокого риска должны технически обеспечивать автоматическую запись событий на протяжении всего их существования. Возможность ведения журнала должна поддерживать отслеживаемость, соответствующую намеченной цели, и обеспечивать мониторинг и исследование определенных рисков и существенных модификаций.
Кто хранит логи не менее полугода?
Статья 19 требует, чтобы развертыватели систем искусственного интеллекта высокого риска хранили автоматически генерируемые журналы под своим контролем в течение периода, соответствующего предполагаемой цели, составляющего не менее шести месяцев, если другое применимое законодательство Союза или национальное законодательство не предусматривает иное.
Может ли поставщик средств наблюдения подтвердить соответствие статье 12 на основании запроса Telegram?
Нет. Поставщик может определить объем работ по проектированию событий, экспорту, целостности или сохранению, но юридическая классификация, распределение ролей, доказательства соответствия и заключения о соответствии требуют проверки уполномоченным человеком.
Источники и дополнительное чтение
Как обнаруживается Signal, заслуживающий внимания
Методика показывает, как Top Prospect находит и упорядочивает Signals, которые стоит проверить, сохраняет исходный контекст Telegram, удаляет дубли и помогает определить порядок просмотра. Решение о дальнейших действиях остаётся за вами.
