ML-решения, которые снижают затраты и ускоряют процессы

Введение: почему именно ML и OSS — зона повышенного риска

ML и регуляторов (непрозрачность, масштаб, риск дискриминации). Open-source: ответственность за использование несёт deployer. Примеры кейсов/штрафов в ML-контексте (очень кратко). Опрос: «Используете ли open-source модели или датасеты в проде?»

ML под AI Act: классификация и роли

ML-система может считаться high-risk: кредитный скоринг, HR-скрининг, биометрия, критические сервисы и т.п. AI provider и deployer. Что с точки зрения AI Act важно в ML-pipeline: training, fine-tuning, inference, мониторинг.

Open-source модели и данные: лицензии и ограничения

Opensource и кому принадлежат права на конечный результат, специальные AI-лицензии (типа OpenRAIL), кастомные лицензии датасетов (только исследование, запрет коммерции, гео-ограничения и т.д.). Разделение: лицензия модели ≠ лицензия датасета. Риски: использование данных/модели вне условий лицензии, отсутствие атрибуции, использование «грязного» датасета

Как работать с лицензиями на практике

Задачи команды: вести реестр используемых моделей/библиотек/датасетов; фиксировать лицензии и ограничения; согласовывать проблемные лицензии (GPL, ограничения по домену) с юристами до внедрения. Роль PM: лицензирование и проверка источников в Definition of Done для ML-фич. Мини-пример: как может выглядеть таблица «Модель/датасет → лицензия → разрешённые сценарии → ответственный».

GDPR для ML: данные, категории и DPIA

Какие данные используете для обучения и inference: персональные, псевдонимизированные, агрегированные, special category (здоровье, биометрия и т.п.), ограничения, требования к анонимизации. DPIA как инструмент описания ML-pipeline и оценка рисков для прав субъектов.

Документация ML и OSS как защита: что нужно иметь

Минимальный набор: цели, данные, ограничения, зоны запрета использования; dataset card (происхождение, состав, лицензия, потенциальный bias); описание data flow; описание human-in-the-loop (когда обязательный ручной пересмотр). 

Q&A и «шаги завтра»

Ответы на вопросы:, «Можно ли дообучать модель на пользовательских данных без отдельного согласия?»,
«Что делать, если лицензия датасета непонятна?».

Практические шаги: 1) собрать список всех ML-моделей и датасетов в компании; 2) завести простой реестр лицензий; 3) выбрать одну продовую модель и сделать для неё model card, data flow с указанием, где используется open-source.