Пользователь извлёк из модели чужие данные через промпт, или исследователь показал атаку на принадлежность к обучающей выборке. Это инцидент, о котором нужно сообщать в Роскомнадзор?

При установлении факта неправомерной или случайной передачи (предоставления, распространения, доступа) персональных данных, повлекшей нарушение прав субъектов, оператор обязан в течение 24 часов уведомить Роскомнадзор о событии, его предполагаемых причинах и вреде, а в течение 72 часов — о результатах внутреннего расследования и виновных лицах (ч. 3.1 ст. 21 152-ФЗ); порядок взаимодействия с Роскомнадзором и состав сведений в уведомлениях установлены приказом Роскомнадзора от 14.11.2022 № 187 (действует с 01.03.2023, подача через Портал персональных данных), взаимодействие с ГосСОПКА — по ч. 12 ст. 19. Порядок действий при утечке разобран в Q18. Если модель воспроизвела запомненные обучающие данные (адрес, диагноз, номер договора) пользователю, которому они недоступны, факт доступа налицо, и срок считается с момента, когда компания об этом узнала, в том числе из обращения пользователя или публикации.

Атака на принадлежность к выборке (membership inference) раскрывает не сами данные, а факт, что запись конкретного человека была в обучающем наборе. Для клиники, банка или сервиса знакомств сам этот факт — сведение о человеке (пациент, заёмщик, участник), иногда специальной категории, поэтому подтверждённое извлечение такого факта о реальном лице тоже инцидент. Если атака показана на тестовых или собственных данных исследователя, инцидента нет, но оператор обязан учитывать актуальные угрозы при выборе мер защиты (ч. 2 ст. 19, ПП РФ № 1119, приказ ФСТЭК № 21) и обновить модель угроз. Позиции Роскомнадзора по утечкам через модели нет. Утечка весов дообученной модели — утечка данных, если из весов они извлекаются.

Ответственность: неуведомление об инциденте — штраф от 1 до 3 млн рублей для юрлица (ч. 11 ст. 13.11 КоАП РФ); утечка данных от 1 тыс. до 10 тыс. субъектов — от 3 до 5 млн, от 10 тыс. до 100 тыс. — от 5 до 10 млн, более 100 тыс. — от 10 до 15 млн, повторно — от 1 до 3 процентов выручки (ч. 12–15); утечка специальных категорий — от 10 до 15 млн (ч. 16), биометрии — от 15 до 20 млн (ч. 17). Срок и порядок уведомления оператора обработчиком нужно закрепить в поручении (ч. 3 ст. 6), поэтому в договорах с провайдерами моделей он должен быть указан.

Практические шаги: тестирование модели на извлечение обучающих данных и на принадлежность к выборке до выпуска и после каждого дообучения; фильтры вывода на паспортные, платёжные и контактные данные; удаление дубликатов и редких записей из датасетов, обезличивание (Q126); журнал промптов и ответов для расследования; регламент реагирования с ролями и заготовками уведомлений по составу приказа № 187; канал для сообщений исследователей об уязвимостях.