Crea un MIG con VMs de GPU

En este documento, se describe cómo crear un grupo de instancias administrado (MIG) con instancias de máquina virtual (VM) que tengan GPU conectadas. En él, se describe cómo agregar VMs con GPU de una sola vez en un MIG zonal con solicitudes de cambio de tamaño y el modelo de aprovisionamiento de inicio flexible. Para crear una solicitud de cambio de tamaño de MIG que pueda usar las funciones y los servicios disponibles en el Director de clústeres, consulta Cómo crear un MIG y una solicitud de cambio de tamaño en la documentación de Hypercomputer de IA.

El uso de una solicitud de cambio de tamaño de MIG con el modelo de aprovisionamiento de inicio flexible mejora la disponibilidad de las VMs de GPU. En la solicitud, especifica la cantidad de VMs de GPU y la duración para la que deseas ejecutar esas VMs. El programador dinámico de cargas de trabajo (DWS), el mecanismo de programador subyacente, programa las solicitudes de cambio de tamaño creadas en Compute Engine según las duraciones solicitadas y la disponibilidad de recursos. Cuando los recursos estén disponibles, el MIG creará automáticamente las VMs.

Si el trabajo que se ejecuta en estas VMs finaliza antes de la duración solicitada, puedes borrar esas VMs. De lo contrario, el MIG borra de forma automática las VMs al final de la duración de ejecución.

También puedes leer sobre otras situaciones básicas para crear un MIG.

Antes de comenzar

  • A fin de asegurarte de que tienes suficiente cuota de GPU para los recursos que solicitas, verifica tu cuota de GPU.
  • Para comprender el consumo de cuotas, lee VMs de GPU y cuotas de asignación interrumpibles.
  • Si aún no lo hiciste, configura la autenticación. La autenticación es el proceso mediante el cual se verifica tu identidad para acceder a los servicios y las APIs de Google Cloud . Para ejecutar código o muestras desde un entorno de desarrollo local, puedes autenticarte en Compute Engine seleccionando una de las siguientes opciones:

    Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

    1. After installing the Google Cloud CLI, initialize it by running the following command: 

      gcloud init

      If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

    2. Set a default region and zone.

      3. REST

      Para usar las muestras de la API de REST en esta página en un entorno de desarrollo local, debes usar las credenciales que proporcionas a la CLI de gcloud.

        After installing the Google Cloud CLI, initialize it by running the following command: 

        gcloud init

        If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      Para obtener más información, consulta Autentica para usar REST en la documentación de autenticación de Google Cloud .

      Limitaciones

      Revisa las limitaciones para crear una solicitud de cambio de tamaño de MIG.

      Crea un MIG y agrega VMs de GPU de una sola vez

      Para crear un MIG y agregar todas las VMs de GPU de una sola vez en el grupo, haz lo siguiente:

      1. Crea una plantilla de instancias, que es necesaria para crear un MIG. El MIG crea cada VM del grupo según la plantilla de instancias. En la plantilla, especifica la configuración para las VMs de GPU y las opciones de configuración adicionales necesarias a fin de usar solicitudes de cambio de tamaño.

        Para obtener más información sobre las plantillas de instancias, consulta Acerca de las plantillas de instancias.

      2. Crea un MIG y una solicitud de cambio de tamaño para agregar VMs de GPU de una sola vez.

      Crea una plantilla de instancias

      Crea una plantilla de instancias como se describe en esta sección y, luego, úsala para crear un MIG.

      Console

      1. Ve a la página Plantillas de instancias.

        Ir a Plantillas de instancia

      2. Haz clic en Crear plantilla de instancias. Se abrirá la página Crear una plantilla de instancias.

      3. En el campo Nombre, ingresa un nombre para la plantilla de instancias.

      4. En la sección Configuración de la máquina, haz lo siguiente:

        1. Haz clic en la pestaña GPU.

        2. En la lista Tipo de GPU, selecciona el tipo de GPU.

        3. En la lista Cantidad de GPU, selecciona la cantidad.

        4. En la sección Tipo de máquina, selecciona un tipo de máquina.

      5. En la sección Modelo de aprovisionamiento, haz lo siguiente:

        1. En la lista Modelo de aprovisionamiento de VM, selecciona Inicio flexible.

        2. Para establecer una duración de ejecución para las VMs creadas a través de la plantilla de instancia, en el campo Ingresar cantidad de horas, ingresa la cantidad de horas. El valor debe estar entre una hora (1) y siete días (168).

      6. Opcional: Para cambiar el valor o la imagen de disco de arranque predeterminados, en la sección Disco de arranque, haz clic en Cambiar. Luego, sigue las instrucciones para cambiar el disco de arranque.

      7. Haz clic en Crear.

      gcloud

      Crea una plantilla de instancias con el comando beta instance-templates create:

      gcloud beta compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --image-project=IMAGE_PROJECT \
    --image-family=IMAGE_FAMILY \
    --instance-termination-action=DELETE \
    --instance-template-region=REGION \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --max-run-duration=RUN_DURATION \
    --provisioning-model=FLEX_START \
    --reservation-affinity=none

      Reemplaza lo siguiente:

      • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.

      • IMAGE_PROJECT: el proyecto de imagen que contiene la imagen; por ejemplo, debian-cloud. Para obtener más información sobre los proyectos de imágenes compatibles, consulta Imágenes públicas.

      • IMAGE_FAMILY: Es una familia de imágenes. Esto especifica la imagen de SO no obsoleta más reciente. Por ejemplo, si especificas debian-12, se usa la versión más reciente de la familia de imágenes de Debian 12. Para obtener más información sobre el uso de las familias de imágenes, consulta Prácticas recomendadas para las familias de imágenes.

      • REGION: Es la región en la que se creará la plantilla de instancias.

      • MACHINE_TYPE: un tipo de máquina que admite GPU. Si especificas un tipo de máquina N1, incluye la marca --accelerator para especificar la cantidad y el tipo de GPU que conectarás a las VMs.

      • RUN_DURATION: la duración de la que deseas que se ejecuten las VMs. Debes dar formato al valor como la cantidad de días, horas, minutos o segundos, seguidos de d, h, m o s, respectivamente. Por ejemplo, especifica 30m para 30 minutos o 1d2h3m4s para un día, dos horas, tres minutos y cuatro segundos. El valor debe ser de entre 10 minutos y siete días.

      REST

      Crea una plantilla de instancias mediante una solicitud POST al método beta.instanceTemplates.insert:

      POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceTemplates

{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "sourceImage": "projects/IMAGE_PROJECT/global/images/IMAGE
        }
      }
    ],
    "machineType": "MACHINE_TYPE",
    "networkInterfaces": [
      {
        "network": "global/networks/default"
      }
    ],
    "reservationAffinity": {
      "consumeReservationType": "NO_RESERVATION"
    },
    "scheduling": {
      "instanceTerminationAction": "DELETE",
      "maxRunDuration": {
        "seconds": RUN_DURATION
      },
      "onHostMaintenance": "TERMINATE",
      "provisioningModel": "FLEX_START"
    }
  }
}

      Reemplaza lo siguiente:

      • PROJECT_ID: Es el ID del proyecto en el que deseas crear la plantilla de instancias.

      • REGION: Es la región en la que se creará la plantilla de instancias.

      • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.

      • IMAGE_PROJECT: el proyecto de imagen que contiene la imagen; por ejemplo, debian-cloud. Para obtener más información sobre los proyectos de imágenes compatibles, consulta Imágenes públicas.

      • IMAGE: especifica una de las siguientes opciones:

        • una versión específica de la imagen de SO; por ejemplo, debian-12-bookworm-v20240617.

        • Una familia de imágenes, que debe tener el formato family/IMAGE_FAMILY. Esto especifica la imagen de SO no obsoleta más reciente. Por ejemplo, si especificas family/debian-12, se usa la versión más reciente de la familia de imágenes de Debian 12. Para obtener más información sobre el uso de las familias de imágenes, consulta Prácticas recomendadas para las familias de imágenes.

      • MACHINE_TYPE: un tipo de máquina que admite GPU. Si especificas un tipo de máquina N1, incluye el campo guestAccelerators para especificar la cantidad y el tipo de GPU que conectarás a las VMs.

      • RUN_DURATION: el tiempo, en segundos, por el que deseas que se ejecuten las VMs solicitadas antes de que el MIG las borre de forma automática. El valor debe estar entre 600, que es 600 segundos (10 minutos), y 604800, que es 604,800 segundos (siete días).

      Crea un MIG y agrega VMs de GPU de una sola vez

      Crea un MIG como se describe en esta sección. Para crear una solicitud de cambio de tamaño en el MIG, no debes configurar el ajuste de escala automático y debes desactivar las reparaciones.

      Console

      1. Ve a la página Grupos de instancias.

        Ir a Grupos de instancias

      2. Haz clic en Crear grupo de instancias. Se abrirá la página Crear grupo de instancias.

      3. En el campo Nombre, ingresa un nombre para el MIG.

      4. Antes de seleccionar una plantilla de instancia, debes borrar la configuración del ajuste de escala automático y desactivar las reparaciones de la siguiente manera:

        1. Para borrar la configuración del ajuste de escala automático, haz lo siguiente:
          1. En la sección Ajuste de escala automático, haz clic en la lista Modo de ajuste de escala automático y, luego, en Borrar configuración del ajuste de escala automático.
          2. En el diálogo de confirmación, haz clic en Borrar.
        2. Para desactivar las reparaciones, en la sección Ciclo de vida de la instancia de VM, haz clic en la lista Acción predeterminada en caso de error y, luego, selecciona Sin acción.

      5. Regresa al campo Plantilla de instancias. En la lista Plantilla de instancias, selecciona la plantilla de instancias que creaste en la sección anterior.

      6. Realiza una de las siguientes acciones:

        • Para crear una solicitud de cambio de tamaño con el MIG, haz lo siguiente:
          1. En el campo Cantidad de instancias, ingresa la cantidad de VMs que deseas crear a la vez.
          2. Selecciona la casilla de verificación Usa la solicitud de cambio de tamaño para crear VMs de una sola vez.
          3. Opcional: Para especificar una duración de ejecución diferente para las VMs que la establecida en la plantilla de instancias, en el campo Duración de ejecución solicitada y las listas Unidad, especifica una duración. La duración debe ser de entre una hora y siete días.
        • Para crear una solicitud de cambio de tamaño después de crear el MIG, en el campo Cantidad de instancias, ingresa 0.

      7. En la sección Ubicación, especifica si deseas crear un MIG regional o zonal de la siguiente manera:

        1. Para crear un MIG zonal, selecciona Zona única. O bien, para crear un MIG regional, selecciona Varias zonas.
        2. Selecciona la región y las zonas del MIG.
        3. Si creas un MIG regional, haz lo siguiente:
          1. En el campo Forma de distribución objetivo, selecciona Cualquier zona.
          2. En el cuadro de diálogo que aparece, haz clic en Disable instance redistribution.

      8. Haz clic en Crear.

      gcloud

      1. Crea un MIG zonal con el comando instance-groups managed create:

        gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
   --template=INSTANCE_TEMPLATE_NAME \
   --size=0 \
   --zone=ZONE \
   --default-action-on-vm-failure=do_nothing

      2. En el MIG, crea una solicitud de cambio de tamaño con el comando instance-groups managed resize-requests create. Especifica la cantidad de VM de GPU que deseas y la duración de la ejecución de esas VMs.

        gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
   --resize-request=RESIZE_REQUEST_NAME \
   --resize-by=COUNT \
   --zone=ZONE

      Reemplaza lo siguiente:

      • INSTANCE_GROUP_NAME: Es el nombre del MIG.
      • INSTANCE_TEMPLATE_NAME: Es el nombre de la plantilla de instancias para las VMs con GPU.
      • ZONE: Una de las zonas disponibles para Compute Engine.
      • RESIZE_REQUEST_NAME: Es el nombre de la solicitud de cambio de tamaño.
      • COUNT: la cantidad de VMs que se agregarán a la vez en el grupo.

      REST

      1. Para crear un MIG zonal, realiza una solicitud POST al método instanceGroupManagers.insert.

        POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers

{
 "versions": [
   {
     "instanceTemplate": "global/instanceTemplates/INSTANCE_TEMPLATE_NAME"
   }
 ],
 "name": "INSTANCE_GROUP_NAME",
 "targetSize": 0,
 "instanceLifecyclePolicy": {
   "defaultActionOnFailure": "DO_NOTHING"
 }
}

      2. En el MIG, crea una solicitud de cambio de tamaño mediante una solicitud POST al método instanceGroupManagerResizeRequests.insert. En el cuerpo de la solicitud, especifica la cantidad de VM de GPU que deseas crear a la vez y la duración por la que deseas ejecutar esas VMs.

        POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests

{
 "name": "RESIZE_REQUEST_NAME",
 "resizeBy": COUNT
}

      Reemplaza lo siguiente:

      • PROJECT_ID: El ID del proyecto en el que deseas crear el MIG.
      • INSTANCE_GROUP_NAME: Es el nombre del MIG.
      • INSTANCE_TEMPLATE_NAME: Es el nombre de la plantilla de instancias para las VMs con GPU.
      • ZONE: Una de las zonas disponibles para Compute Engine.
      • RESIZE_REQUEST_NAME: Es el nombre de la solicitud de cambio de tamaño.
      • COUNT: la cantidad de VMs que se agregarán a la vez en el grupo.

      La solicitud de cambio de tamaño que crees permanecerá en el estado ACCEPTED hasta que el MIG cree todas las VMs de GPU solicitadas. Después de crear todas las VMs de GPU en el grupo, el estado de la solicitud cambia a SUCCEEDED.

      ¿Qué sigue?