Узлы с поддержкой графического процессора

Kubernetes включает поддержку управления графическими процессорами (GPU) на различных узлах кластера с помощью подключаемых модулей устройств.

В ArcGIS Enterprise on Kubernetes можно внедрить подключаемый модуль устройства для включения графических узлов в кластер, чтобы оптимизировать рабочие процессы ГИС, например, связанные с аналитикой растров и глубоким обучением. По умолчанию такие возможности, как аналитика растра, настроены для запуска в режиме центрального процессора (CPU), но также обеспечивают гибкость для запуска в режиме графического процессора, когда эти ресурсы доступны.

Учет доступности и использования графического процессора в кластере не является обязательным действием, поскольку это повлечет за собой дополнительные расходы.

Чтобы включить графический процессор, требуется подключаемый модуль устройств NVIDIA для Kubernetes. Подключаемый модуль устройства NVIDIA для Kubernetes представляет собой набор демонов, который позволяет отображать число графических процессоров на каждом узле кластера, запускать контейнеры с поддержкой графических процессоров и отслеживать работоспособность графических процессоров.

Примечание:

В данной версии ArcGIS Enterprise on Kubernetes поддерживается только с графическими процессорами NVIDIA.

Включить графический процессор

Шаги по включению графического процессора для вашей организации включают следующие действия, которые зависят от вашей среды и настроек.

1. Выполните действия по настройке аналитики растров или другой возможности, для которой вы хотите использовать узлы с поддержкой графического процессора.
2. Проверьте, установлен ли на вашем экземпляре подключаемый модуль устройства.

   Многие облачные среды предварительно настроены с узлами графического процессора. Если подключаемый модуль устройства не установлен, см. документацию Подключаемый модуль устройств NVIDIA для Kubernetes для получения подробной информации и инструкций по установке. Если выполняется локальное развертывание, администратор должен включить графический процессор на каждом узле кластера.

3. Чтобы использовать узлы с поддержкой графического процессора для рабочих процессов ГИС организации, установите запросы и ограничения для графического процессора.
4. Дополнительно, если хотите запускать рабочие нагрузки графического процессора исключительно на узлах графического процессора, настройте привязку узлов и допуски.

Установка запросов и ограничений для графического процессора

Используйте Директорию ArcGIS Enterprise Administrator API, чтобы установить запросы и ограничения для графического процессора для каждого из следующих развертываний:

• system-rasteranalysistools-gpsyncserver (используется для обучающих моделей)
• system-rasterprocessinggpu-dpserver (используется для обработки)

1. Войдите в ArcGIS Enterprise Administrator API Directory как администратор.
2. Щелкните Системы > Развертывания.
3. Найдите развертывание system-rasteranalysistools-gpsyncserver и щелкните соответствующий ID.
4. Щелкните Изменить развертывание.
5. В развертывании JSON найдите раздел resources, для развертывания и параметр customResources.

             
   "containers": [
         {
           "name": "main-container",
           "resources": {
             "memoryMin": "4Gi",
             "memoryMax": "8Gi",
             "cpuMin": "0.125",
             "customResources": {
               "limits":{"nvidia.com/gpu": "1"},
               "requests":{"nvidia.com/gpu": "1"}
             },
             "cpuMax": "2"
           },
   

6. Обновите параметр customResources для каждого перечисленного контейнера, чтобы включить запросы и ограничения для графического процессора.
7. Щелкните Подтвердить, чтобы сохранить изменения в развертывании.
8. Повторите шаги для развертывания system-rasterprocessinggpu-dpserver.

Более подробно о том, как редактировать развертывания системы в документации Administrator Directory API.

Настройка привязки узлов и допусков

На узлах графического процессора могут выполняться рабочие нагрузки как центрального процессора, так и графического процессора. Если вашим рабочим нагрузкам центрального процессора разрешено запускаться на узле графического процессора, никаких дальнейших действий не требуется. Однако, чтобы обеспечить запуск рабочих нагрузок графического процессора исключительно на узлах GPU, администратор должен предпринять дополнительные шаги для настройки привязки узлов и допусков. Для этого необходимо выполнить следующие шаги, чтобы пометить узлы и применить допуски к применимым сервисам, чтобы их можно было запланировать на помеченном узле.

Примечание:

Из ArcGIS Enterprise Manager можно выбрать эффект NoSchedule и PreferNoSchedule. В данной версии эффект NoExecute недоступен, поскольку он может нарушить рабочие процессы, которые в данный момент выполняются на узле. Однако NoExecute может быть применен при настройке привязки узлов и допусков с помощью Admin API.

1. Чтобы рабочие нагрузки графического процессора планировались исключительно на узлах графического процессора, пометьте узлы графического процессора.

   kubectl taint nodes <your-node-name> nvidia.com/gpu=Exists:NoSchedule
   

2. Отметка узла графического процессора. В качестве альтернативы можно использовать существующую отметку, которая уже указана в узле.

   kubectl label nodes <your-node-name> raster=GPU
   

3. Войдите в ArcGIS Enterprise Manager как администратор.
4. Щелкните кнопку Сервисы на боковой панели.
5. Щелкните Системные сервисы и выберите сервис RasterProcessingGPU.
6. Щелкните вкладку Размещение модулей, чтобы управлять размещением модулей для сервиса.
7. Чтобы применить правило привязки узлов, которое гарантирует, что модули сервиса запланированы на узлах GPU, укажите следующую информацию в разделе Привязка узлов и щелкните Добавить:
   • Тип — Обязательное
   • Ключ — растр
   • Оператор — In
   • Значение — GPU
8. Чтобы применить допуск, позволяющий модулям работать на запрещенных узлах, укажите следующую информацию в разделе Допуски и щелкните Добавить:
   • Эффект — без расписания
   • Ключ — nvidia.com/gpu
   • Оператор — существует

9. Щелкните Сохранить.
10. Убедитесь, что модули графического процессора запущены на узлах графического процессора.

Вы можете начать работать с инструментами анализа растра и размещать изображения в своей организации. Дополнительно см. рекомендации по Настройке аналитики растров.