Узлы с поддержкой графического процессора

Kubernetes включает поддержку управления графическими процессорами (GPU) на различных узлах вашего кластера с помощью подключаемых модулей устройств.

В ArcGIS Enterprise on Kubernetes можно внедрить подключаемый модуль устройства для включения графических узлов в свой кластер, чтобы оптимизировать рабочие процессы ГИС, например, связанные с аналитикой растров и глубоким обучением. По умолчанию такие возможности, как аналитика растра, настроены для запуска в режиме центрального процессора (CPU), но также обеспечивают гибкость для запуска в режиме графического процессора, когда эти ресурсы доступны.

Учет доступности и использования графического процессора в вашем кластере не является обязательным, поскольку это повлечет за собой дополнительные расходы.

Чтобы включить графический процессор, требуется подключаемый модуль устройств NVIDIA для Kubernetes. Подключаемый модуль устройства NVIDIA для Kubernetes - это набор демонов, который позволяет отображать количество графических процессоров на каждом узле вашего кластера, запускать контейнеры с поддержкой графических процессоров и отслеживать работоспособность графических процессоров.

Примечание:

В данной версии ArcGIS Enterprise on Kubernetes поддерживается только с графическими процессорами NVIDIA.

Включить графический процессор

Шаги по включению графического процессора для вашей организации включают следующие действия, которые зависят от вашей среды и настроек.

  1. Выполните действия по настройке аналитики растров или другой возможности, для которой вы хотите использовать узлы с поддержкой графического процессора.
  2. Проверьте, установлен ли на вашем экземпляре подключаемый модуль устройства.

    Многие облачные среды предварительно настроены с узлами графического процессора. Если подключаемый модуль устройства не установлен, см. документацию Подключаемый модуль устройств NVIDIA для Kubernetes для получения подробной информации и инструкций по установке. Если выполняется локальное развертывание, администратор должен включить графический процессор на каждом узле кластера.

  3. Чтобы использовать узлы с поддержкой графического процессора для рабочих процессов ГИС организации, установите запросы и ограничения для графического процессора.
  4. Дополнительно, если вы хотите запускать рабочие нагрузки графического процессора исключительно на узлах графического процессора, настройте привязку узлов и допуски.

Установка запросов и ограничений для графического процессора

Используйте Директорию ArcGIS Enterprise Administrator API, чтобы установить запросы и ограничения для графического процессора для каждого из следующих развертываний:

  • system-rasteranalysistools-gpsyncserver (используется для обучающих моделей)
  • system-rasterprocessinggpu-dpserver (используется для обработки)

  1. Войдите в ArcGIS Enterprise Administrator API Directory как администратор.
  2. Щелкните Системы > Развертывания.
  3. Найдите развертывание system-rasteranalysistools-gpsyncserver и щелкните соответствующий ID.
  4. Щелкните Изменить развертывание.
  5. В развертывании JSON найдите раздел resources, для развертывания и параметр customResources.
              
    "containers": [
          {
            "name": "main-container",
            "resources": {
              "memoryMin": "4Gi",
              "memoryMax": "8Gi",
              "cpuMin": "0.125",
              "customResources": {
                "limits":{"nvidia.com/gpu": "1"},
                "requests":{"nvidia.com/gpu": "1"}
              },
              "cpuMax": "2"
            },
    
  6. Обновите параметр customResources для каждого перечисленного контейнера, чтобы включить запросы и ограничения для графического процессора.
  7. Щелкните Подтвердить, чтобы сохранить изменения в развертывании.
  8. Повторите шаги для развертывания system-rasterprocessinggpu-dpserver.

Более подробно о том, как редактировать развертывания системы в документации Administrator Directory API.

Настройка привязки узлов и допусков

На узлах графического процессора могут выполняться рабочие нагрузки как центрального процессора, так и графического процессора. Если вашим рабочим нагрузкам центрального процессора разрешено запускаться на узле графического процессора, никаких дальнейших действий не требуется. Однако, если вы хотите обеспечить запуск рабочих нагрузок графического процессора исключительно на узлах графического процессора, администратор должен предпринять дополнительные шаги для настройки привязки узлов и допусков. Для этого необходимо выполнить следующие шаги, чтобы пометить узлы и применить допуски к применимым сервисам, чтобы их можно было запланировать на помеченном узле.

  1. Чтобы рабочие нагрузки графического процессора планировались исключительно на узлах графического процессора, пометьте узлы графического процессора.

    kubectl taint nodes <your-node-name> nvidia.com/gpu=Exists:NoExecute
    

  2. Отметка узла графического процессора. В качестве альтернативы можно использовать существующую отметку, которая уже указана в узле.

    kubectl label nodes <your-node-name> raster=GPU
    

  3. Измените политику размещения сервиса для сервиса RasterProcessingGPU (DPServer) в разделе Система, чтобы она использовала привязку узлов и допуски.

          
    
    "podPlacementPolicy": {
              "tolerations": [{
                 "effect": "NoExecute",
                 "key": "nvidia.com/gpu",
                 "operator": "Exists"
              }],
              "nodeAffinity": {
                 "requiredDuringSchedulingIgnoredDuringExecution": {
                      "nodeSelectorTerms": [{
                           "matchExpressions": [{
                              "key": "raster",
                              "operator": "In",
                              "values": ["GPU"]
                            }]
                       }]
                  }
              }
          }
    

  4. Убедитесь, что модули графического процессора запущены на узлах графического процессора.

Вы можете начать работать с инструментами анализа растра и размещать изображения в своей организации. Дополнительно см. рекомендации по Настройке аналитики растров.