Обзор ML в Штурвале
Раздел предназначен для администраторов кластера и специалистов, отвечающих за ML-инфраструктуру. Здесь описано, как:
- установить Kubeflow в клиентский кластер;
- при наличии узлов с GPU установить GPU Operator и драйверы NVIDIA;
- предоставить пользователям рабочую ML-среду.
Какие компоненты используются
| Компонент | Зачем нужен |
|---|---|
| Штурвал | Управляет доступом к кластеру и его ресурсам через механизм Kubeflow Profiles. Обеспечивает изоляцию рабочих пространств (профилей) для разных пользователей или команд, управляет сервисными аккаунтами и настройками единого входа (SSO) |
| Kubeflow | Единая платформа для жизненного цикла машинного обучения: Jupyter Notebooks, Kubeflow Pipelines, Training Operator, Katib, KServe и TensorBoard |
| NVIDIA GPU Operator | Обнаруживает GPU-узлы и выставляет лейбл nvidia.com/gpu.present=true. По этому лейблу применяются NCI драйверов и среды выполнения |
| NodeConfigItem | Задаёт установку драйверов NVIDIA, Fabric Manager и настройку среды выполнения NVIDIA в containerd |
| Istio ingress/gateway | Публикует веб-интерфейс Kubeflow и эндпоинты KServe |
Для Kubeflow Pipelines нужно объектное хранилище с поддержкой операций AWS IAM API: создания пользователей и политик для каждого Profile. В качестве референсной реализации используется SeaweedFS. Подробнее — в установке Kubeflow.
Рекомендуемый порядок работ
- Проверьте лицензию Enterprise ML: Виды лицензии.
- Подготовьте клиентский кластер.
- Установите Kubeflow: Установка Kubeflow.
- Если нужны GPU — GPU Operator и NVIDIA-драйверы. Этот шаг можно пропустить.
- Создайте рабочие профили: Профили Kubeflow.
- Если модели вызывают снаружи кластера — Внешний доступ к KServe.
- Настройте доступы Kubeflow через наборы доступов: Настройка разрешений.
Как пользователи попадают в Kubeflow
Пользователь работает в неймспейсе, связанном с Profile Kubeflow. Переход в Kubeflow доступен из дашборда неймспейса по SSO. Подробнее: