Entrega modelos abiertos de Gemma mediante GPUs en GKE con Hugging Face TGI

En este instructivo, se muestra cómo entregar el modelo de lenguaje grande (LLM) de Gemma, una familia de modelos abiertos, con unidades de procesamiento gráfico (GPU) en Google Kubernetes Engine (GKE) con el framework de entrega de Inferencia de generación de texto (TGI) de Hugging Face.

En este instructivo, debes descargar un modelo ajustado por instrucciones de Gemma 2 (parámetros 2B, 9B y 27B) o un modelo de CodeGemma de Hugging Face. Luego, implementa el modelo en un clúster de Autopilot o Standard de GKE con un contenedor que ejecute TGI.

Esta guía es un buen punto de partida si necesitas el control detallado, la escalabilidad, la resiliencia, la portabilidad y la rentabilidad de Kubernetes administrado cuando implementas y entregas tus cargas de trabajo de IA/AA. Si necesitas una plataforma de IA administrada unificada para compilar y entregar modelos de AA con rapidez de forma rentable, te recomendamos que pruebes nuestra solución de implementación de Vertex AI.

Contexto

La entrega de Gemma mediante GPU en GKE con TGIte permite implementar una solución de entrega de inferencia sólida y lista para la producción con todos los beneficios de administrarKubernetes, incluida la escalabilidad eficiente y la mayor disponibilidad. En esta sección, se describen las tecnologías clave que se usan en este instructivo.

Gemma

Gemma es un conjunto de modelos de Inteligencia Artificial (IA) generativos básicos disponibles de forma abierta que se lanzaron con una licencia abierta. Estos modelos de IA están disponibles para ejecutarse en tus aplicaciones, hardware, dispositivos móviles o servicios alojados.

En esta guía, presentamos los siguientes modelos:

  • Gemma para la generación de texto, también puedes ajustar estos modelos para especializarlos en realizar tareas específicas.
  • CodeGemma es una colección de modelos potentes y ligeros que pueden realizar una variedad de tareas de codificación, como la finalización de código por medio de la finalización, la generación de código, la comprensión del lenguaje natural, el razonamiento matemático y las instrucciones que se detallan a continuación.

Para obtener más información, consulta la documentación de Gemma.

GPU

Las GPUs te permiten acelerar cargas de trabajo específicas que se ejecutan en tus nodos, como el aprendizaje automático y el procesamiento de datos. GKE proporciona una variedad de opciones de tipos de máquinas para la configuración de nodos, incluidos los tipos de máquinas con GPUs NVIDIA H100, L4 y A100.

Antes de usar las GPUs en GKE, te recomendamos que completes la siguiente ruta de aprendizaje:

  1. Obtén información sobre la disponibilidad actual de la versión de GPU.
  2. Obtén información sobre las GPUs en GKE.

Inferencia de generación de texto (TGI)

TGI es el kit de herramientas de Hugging Face para implementar y entregar LLM. TGI permite la generación de texto de alto rendimiento para LLM de código abierto populares, incluido Gemma. La TGI incluye características como las siguientes:

Para obtener más información, consulta la documentación de TGI.

Objetivos

Esta guía está dirigida a clientes de IA generativa que usan PyTorch, usuarios nuevos o existentes de GKE, ingenieros de AA, ingenieros de MLOps (DevOps) o administradores de plataformas que estén interesados en el uso de las capacidades de organización de contenedores de Kubernetes para entregar LLMs en hardware de GPU H100, A100 y L4.

Al final de esta guía, deberías poder realizar los siguientes pasos:

  1. Preparar tu entorno con un clúster de GKE en modo Autopilot.
  2. Implementar TGI en tu clúster.
  3. Usar TGI para entregar el modelo de Gemma 2 a través de curl y una interfaz de chat web.

Antes de comenzar

  • Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  • In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  • Make sure that billing is enabled for your Google Cloud project.

  • Enable the required API.

    Enable the API

    •

  • In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  • Make sure that billing is enabled for your Google Cloud project.

  • Enable the required API.

    Enable the API

    •

  • Make sure that you have the following role or roles on the project: roles/container.admin, roles/iam.serviceAccountAdmin

    Check for the roles

    1. In the Google Cloud console, go to the IAM page.

      Go to IAM
    2. Select the project.

    3. In the Principal column, find all rows that identify you or a group that you're included in. To learn which groups you're included in, contact your administrator.

    4. For all rows that specify or include you, check the Role column to see whether the list of roles includes the required roles.

    Grant the roles

    1. In the Google Cloud console, go to the IAM page.

      Ir a IAM
    2. Selecciona el proyecto.
    3. Haz clic en Grant access.

    4. En el campo Principales nuevas, ingresa tu identificador de usuario. Esta suele ser la dirección de correo electrónico de una Cuenta de Google.

    5. En la lista Seleccionar un rol, elige un rol.
    6. Para otorgar funciones adicionales, haz clic en Agregar otro rol y agrega cada rol adicional.
    7. Haz clic en Guardar.

Obtén acceso al modelo

Para obtener acceso a los modelos de Gemma para la implementación en GKE, primero debes firmar el contrato de consentimiento de licencia y, luego, generar un token de acceso de Hugging Face.

Debes firmar el acuerdo de consentimiento para usar Gemma. Sigue estas instrucciones:

  1. Accede a la página de consentimiento del modelo en Kaggle.com.
  2. Verifica el consentimiento con tu cuenta de Hugging Face.
  3. Acepta los términos del modelo.

Genera un token de acceso

Para acceder al modelo a través de Hugging Face, necesitarás un token de Hugging Face.

Sigue estos pasos para generar un token nuevo si aún no tienes uno:

  1. Haz clic en Tu perfil > Configuración > Tokens de acceso.
  2. Selecciona Token nuevo.
  3. Especifica el nombre que desees y un rol de al menos Read.
  4. Selecciona Genera un token.
  5. Copia el token generado al portapapeles.

Prepara el entorno

En este instructivo, usarás Cloud Shell para administrar recursos alojados en Google Cloud. Cloud Shell tiene preinstalado el software que necesitarás para este instructivo, incluidos kubectl y la CLI de gcloud.

Para configurar tu entorno con Cloud Shell, sigue estos pasos:

  1. En la consola de Google Cloud, haz clic en Ícono de activación de Cloud Shell Activar Cloud Shell en la consola de Google Cloud para iniciar una sesión de Cloud Shell. Esto inicia una sesión en el panel inferior de la consola de Google Cloud.

  2. Configura las variables de entorno predeterminadas:

    gcloud config set project PROJECT_ID export PROJECT_ID=$(gcloud config get project) export REGION=REGION export CLUSTER_NAME=tgi export HF_TOKEN=HF_TOKEN

    Reemplaza los siguientes valores:

    • PROJECT_ID: El ID del proyecto de Google Cloud.
    • REGION: Una región que admita el tipo de acelerador que deseas usar, por ejemplo, us-central1 para la GPU L4.
    • HF_TOKEN: El token de Hugging Face que generaste antes.

Crea y configura recursos de Google Cloud

Sigue estas instrucciones para crear los recursos necesarios.

Crea un clúster de GKE y un grupo de nodos

Puedes entregar Gemma en GPU en un clúster de GKE Autopilot o Standard. Te recomendamos que uses un clúster de Autopilot para una experiencia de Kubernetes completamente administrada. Para elegir el modo de operación de GKE que se adapte mejor a tus cargas de trabajo, consulta Elige un modo de operación de GKE.

Autopilot

En Cloud Shell, ejecuta el siguiente comando:

gcloud container clusters create-auto ${CLUSTER_NAME} \   --project=${PROJECT_ID} \   --region=${REGION} \   --release-channel=rapid

GKE crea un clúster de Autopilot con nodos de CPU y GPU según lo solicitan las cargas de trabajo implementadas.

Estándar

  1. En Cloud Shell, ejecuta el siguiente comando para crear un clúster estándar:

    gcloud container clusters create ${CLUSTER_NAME} \   --project=${PROJECT_ID} \   --region=${REGION} \   --workload-pool=${PROJECT_ID}.svc.id.goog \   --release-channel=rapid \   --num-nodes=1

    La creación del clúster puede tomar varios minutos.

  2. Ejecuta el siguiente comando para crear un grupo de nodos para el clúster:

    Gemma 2 2B

    gcloud container node-pools create gpupool \   --accelerator type=nvidia-l4,count=1,gpu-driver-version=latest \   --project=${PROJECT_ID} \   --location=${REGION} \   --node-locations=${REGION}-a \   --cluster=${CLUSTER_NAME} \   --machine-type=g2-standard-8 \   --num-nodes=1

    GKE crea un grupo de nodos único que contiene una GPU L4 para cada nodo.

    Gemma 2 9B

    gcloud container node-pools create gpupool \   --accelerator type=nvidia-l4,count=2,gpu-driver-version=latest \   --project=${PROJECT_ID} \   --location=${REGION} \   --node-locations=${REGION}-a \   --cluster=${CLUSTER_NAME} \   --machine-type=g2-standard-24 \   --num-nodes=1

    GKE crea un solo grupo de nodos que contiene dos GPU L4 para cada nodo.

    Gemma 2 27B

    gcloud container node-pools create gpupool \   --accelerator type=nvidia-l4,count=4,gpu-driver-version=latest \   --project=${PROJECT_ID} \   --location=${REGION} \   --node-locations=${REGION}-a \   --cluster=${CLUSTER_NAME} \   --machine-type=g2-standard-48 \   --num-nodes=1

    GKE crea un solo grupo de nodos que contiene cuatro GPU L4 para cada nodo.

Crea un secreto de Kubernetes para las credenciales de Hugging Face

En Cloud Shell, haz lo siguiente:

  1. Configura kubectl para comunicarse con tu clúster:

    gcloud container clusters get-credentials ${CLUSTER_NAME} --location=${REGION}

  2. Crea un Secret de Kubernetes que contenga el token de Hugging Face:

    kubectl create secret generic hf-secret \   --from-literal=hf_api_token=${HF_TOKEN} \   --dry-run=client -o yaml | kubectl apply -f -

Implementa TGI

En esta sección, implementarás el contenedor de TGI para entregar el modelo de Gemma que deseas usar.

Gemma 2 2B-it

Sigue estas instrucciones para implementar el modelo ajustado por instrucciones de Gemma 2B.

  1. Crea el siguiente manifiesto tgi-2-2b-it.yaml:

    apiVersion: apps/v1 kind: Deployment metadata:   name: tgi-gemma-deployment spec:   replicas: 1   selector:     matchLabels:       app: gemma-server   template:     metadata:       labels:         app: gemma-server         ai.gke.io/model: gemma-2-2b-it         ai.gke.io/inference-server: text-generation-inference         examples.ai.gke.io/source: user-guide     spec:       containers:       - name: inference-server         image: us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-text-generation-inference-cu121.2-1.ubuntu2204.py310         resources:           requests:             cpu: "2"             memory: "10Gi"             ephemeral-storage: "10Gi"             nvidia.com/gpu: "1"           limits:             cpu: "2"             memory: "10Gi"             ephemeral-storage: "10Gi"             nvidia.com/gpu: "1"         env:         - name: AIP_HTTP_PORT           value: '8000'         - name: NUM_SHARD           value: '1'         - name: MAX_INPUT_LENGTH           value: '1562'         - name: MAX_TOTAL_TOKENS           value: '2048'         - name: MAX_BATCH_PREFILL_TOKENS           value: '2048'         - name: CUDA_MEMORY_FRACTION           value: '0.93'         - name: MODEL_ID           value: google/gemma-2-2b-it         - name: HUGGING_FACE_HUB_TOKEN           valueFrom:             secretKeyRef:               name: hf-secret               key: hf_api_token         volumeMounts:         - mountPath: /dev/shm           name: dshm       volumes:       - name: dshm         emptyDir:           medium: Memory       nodeSelector:         cloud.google.com/gke-accelerator: nvidia-l4 --- apiVersion: v1 kind: Service metadata:   name: llm-service spec:   selector:     app: gemma-server   type: ClusterIP   ports:   - protocol: TCP     port: 8000     targetPort: 8000

  2. Aplica el manifiesto

    kubectl apply -f tgi-2-2b-it.yaml

Gemma 2 9B-it

Sigue estas instrucciones para implementar el modelo ajustado por instrucciones de Gemma 9B.

  1. Crea el siguiente manifiesto tgi-2-9b-it.yaml:

    apiVersion: apps/v1 kind: Deployment metadata:   name: tgi-gemma-deployment spec:   replicas: 1   selector:     matchLabels:       app: gemma-server   template:     metadata:       labels:         app: gemma-server         ai.gke.io/model: gemma-2-9b-it         ai.gke.io/inference-server: text-generation-inference         examples.ai.gke.io/source: user-guide     spec:       containers:       - name: inference-server         image: us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-text-generation-inference-cu121.2-1.ubuntu2204.py310         resources:           requests:             cpu: "4"             memory: "30Gi"             ephemeral-storage: "30Gi"             nvidia.com/gpu: "2"           limits:             cpu: "4"             memory: "30Gi"             ephemeral-storage: "30Gi"             nvidia.com/gpu: "2"         env:         - name: AIP_HTTP_PORT           value: '8000'         - name: NUM_SHARD           value: '2'         - name: MAX_INPUT_LENGTH           value: '1562'         - name: MAX_TOTAL_TOKENS           value: '2048'         - name: MAX_BATCH_PREFILL_TOKENS           value: '2048'         - name: CUDA_MEMORY_FRACTION           value: '0.93'         - name: MODEL_ID           value: google/gemma-2-9b-it         - name: HUGGING_FACE_HUB_TOKEN           valueFrom:             secretKeyRef:               name: hf-secret               key: hf_api_token         volumeMounts:         - mountPath: /dev/shm           name: dshm       volumes:       - name: dshm         emptyDir:           medium: Memory       nodeSelector:         cloud.google.com/gke-accelerator: nvidia-l4 --- apiVersion: v1 kind: Service metadata:   name: llm-service spec:   selector:     app: gemma-server   type: ClusterIP   ports:   - protocol: TCP     port: 8000     targetPort: 8000

  2. Aplica el manifiesto

    kubectl apply -f tgi-2-9b-it.yaml

Gemma 2 27B-it

Sigue estas instrucciones para implementar el modelo ajustado por instrucciones de Gemma 2 27B

  1. Crea el siguiente manifiesto tgi-2-27b-it.yaml:

    apiVersion: apps/v1 kind: Deployment metadata:   name: tgi-gemma-deployment spec:   replicas: 1   selector:     matchLabels:       app: gemma-server   template:     metadata:       labels:         app: gemma-server         ai.gke.io/model: gemma-2-27b-it         ai.gke.io/inference-server: text-generation-inference         examples.ai.gke.io/source: user-guide     spec:       containers:       - name: inference-server         image: us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-text-generation-inference-cu121.2-1.ubuntu2204.py310         resources:           requests:             cpu: "10"             memory: "80Gi"             ephemeral-storage: "80Gi"             nvidia.com/gpu: "4"           limits:             cpu: "10"             memory: "80Gi"             ephemeral-storage: "80Gi"             nvidia.com/gpu: "4"         env:         - name: AIP_HTTP_PORT           value: '8000'         - name: NUM_SHARD           value: '4'         - name: MAX_INPUT_LENGTH           value: '1562'         - name: MAX_TOTAL_TOKENS           value: '2048'         - name: MAX_BATCH_PREFILL_TOKENS           value: '2048'         - name: CUDA_MEMORY_FRACTION           value: '0.93'         - name: MODEL_ID           value: google/gemma-2-27b-it         - name: HUGGING_FACE_HUB_TOKEN           valueFrom:             secretKeyRef:               name: hf-secret               key: hf_api_token         volumeMounts:         - mountPath: /dev/shm           name: dshm       volumes:       - name: dshm         emptyDir:           medium: Memory       nodeSelector:         cloud.google.com/gke-accelerator: nvidia-l4 --- apiVersion: v1 kind: Service metadata:   name: llm-service spec:   selector:     app: gemma-server   type: ClusterIP   ports:   - protocol: TCP     port: 8000     targetPort: 8000

  2. Aplica el manifiesto

    kubectl apply -f tgi-2-27b-it.yaml

CodeGemma 7B-it

Sigue estas instrucciones para implementar el modelo ajustado por instrucciones de CodeGemma 7B.

  1. Crea el siguiente manifiesto tgi-codegemma-1.1-7b-it.yaml:

    apiVersion: apps/v1 kind: Deployment metadata:   name: tgi-gemma-deployment spec:   replicas: 1   selector:     matchLabels:       app: gemma-server   template:     metadata:       labels:         app: gemma-server         ai.gke.io/model: codegemma-1.1-7b-it         ai.gke.io/inference-server: text-generation-inference         examples.ai.gke.io/source: user-guide     spec:       containers:       - name: inference-server         image: ghcr.io/huggingface/text-generation-inference:2.0.2         resources:           requests:             cpu: "2"             memory: "25Gi"             ephemeral-storage: "40Gi"             nvidia.com/gpu: 2           limits:             cpu: "10"             memory: "25Gi"             ephemeral-storage: "40Gi"             nvidia.com/gpu: 2         args:         - --model-id=$(MODEL_ID)         - --num-shard=2         env:         - name: MODEL_ID           value: google/codegemma-1.1-7b-it         - name: PORT           value: "8000"         - name: HUGGING_FACE_HUB_TOKEN           valueFrom:             secretKeyRef:               name: hf-secret               key: hf_api_token         volumeMounts:         - mountPath: /dev/shm           name: dshm       volumes:       - name: dshm         emptyDir:           medium: Memory       nodeSelector:         cloud.google.com/gke-accelerator: nvidia-l4 --- apiVersion: v1 kind: Service metadata:   name: llm-service spec:   selector:     app: gemma-server   type: ClusterIP   ports:     - protocol: TCP       port: 8000       targetPort: 8000

  2. Aplica el manifiesto

    kubectl apply -f tgi-codegemma-1.1-7b-it.yaml

Entrega el modelo

En esta sección, interactuarás con el modelo.

Configura la redirección de puertos

Ejecuta el siguiente comando para configurar la redirección de puertos al modelo:

kubectl port-forward service/llm-service 8000:8000

El resultado es similar al siguiente:

Forwarding from 127.0.0.1:8000 -> 8000

Interactúa con el modelo con curl

En esta sección, se muestra cómo puedes realizar una prueba de humo básica para verificar los modelos implementados previamente entrenados o los ajustados por instrucciones. Para simplificar, en esta sección se describe el enfoque de prueba con los modelos de Gemma 2 ajustados por instrucciones y CodeGemma.

Gemma 2

En una sesión de terminal nueva, usa curl para chatear con tu modelo:

USER_PROMPT="I'm new to coding. If you could only recommend one programming language to start with, what would it be and why?"  curl -X POST http://localhost:8000/generate \   -H "Content-Type: application/json" \   -d @- <<EOF {     "inputs": "<start_of_turn>user\n${USER_PROMPT}<end_of_turn>\n",     "parameters": {         "temperature": 0.90,         "top_p": 0.95,         "max_new_tokens": 128     } } EOF

En el siguiente resultado, se muestra un ejemplo de la respuesta del modelo:

{"generated_text":"**Python**\n\n**Reasons why Python is a great choice for beginners:**\n\n* **Simple syntax:** Python uses clear and concise syntax, making it easy for beginners to pick up.\n* **Easy to learn:** Python's syntax is based on English, making it easier to learn than other languages.\n* **Large and supportive community:** Python has a massive and active community of developers who are constantly willing to help.\n* **Numerous libraries and tools:** Python comes with a vast collection of libraries and tools that make it easy to perform various tasks, such as data manipulation, web development, and machine learning.\n* **"}

CodeGemma

En una sesión de terminal nueva, usa curl para chatear con tu modelo:

USER_PROMPT="Generate a python code example of a adding two numbers from a function called addNumbers"  curl -s -X POST http://localhost:8000/generate \   -H "Content-Type: application/json" \   -d @- <<EOF | jq -r .generated_text {     "inputs": "<start_of_turn>user\n${USER_PROMPT}<end_of_turn>\n",     "parameters": {         "temperature": 0.90,         "top_p": 0.95,         "max_new_tokens": 2000     } } EOF

En el siguiente resultado, se muestra un ejemplo de la respuesta del modelo:

def addNumbers(num1, num2):   sum = num1 + num2   return sum  # Get the input from the user num1 = float(input("Enter the first number: ")) num2 = float(input("Enter the second number: "))  # Call the addNumbers function sum = addNumbers(num1, num2)  # Print the result print("The sum of", num1, "and", num2, "is", sum)

Interactúa con el modelo a través de una interfaz de chat de Gradio (opcional)

En esta sección, compilarás una aplicación de chat web que te permita interactuar con el modelo ajustado a instrucciones. Para simplificar, en esta sección solo se describe el enfoque de prueba con el modelo 2B-it.

Gradio es una biblioteca de Python que tiene un wrapper ChatInterface de ChatInterface que crea interfaces de usuario para chatbots.

Implementa la interfaz de chat

  1. En Cloud Shell, guarda el siguiente manifiesto YAML como gradio.yaml:

    apiVersion: apps/v1 kind: Deployment metadata:   name: gradio   labels:     app: gradio spec:   replicas: 1   selector:     matchLabels:       app: gradio   template:     metadata:       labels:         app: gradio     spec:       containers:       - name: gradio         image: us-docker.pkg.dev/google-samples/containers/gke/gradio-app:v1.0.3         resources:           requests:             cpu: "250m"             memory: "512Mi"           limits:             cpu: "500m"             memory: "512Mi"         env:         - name: CONTEXT_PATH           value: "/generate"         - name: HOST           value: "http://llm-service:8000"         - name: LLM_ENGINE           value: "tgi"         - name: MODEL_ID           value: "gemma"         - name: USER_PROMPT           value: "<start_of_turn>user\nprompt<end_of_turn>\n"         - name: SYSTEM_PROMPT           value: "<start_of_turn>model\nprompt<end_of_turn>\n"         ports:         - containerPort: 7860 --- apiVersion: v1 kind: Service metadata:   name: gradio spec:   selector:     app: gradio   ports:     - protocol: TCP       port: 8080       targetPort: 7860   type: ClusterIP

  2. Aplica el manifiesto

    kubectl apply -f gradio.yaml

  3. Espera a que la implementación esté disponible:

    kubectl wait --for=condition=Available --timeout=300s deployment/gradio

Usa la interfaz de chat

  1. En Cloud Shell, ejecuta el siguiente comando:

    kubectl port-forward service/gradio 8080:8080

    Esto crea una redirección de puertos desde Cloud Shell al servicio de Gradio.

  2. Haz clic en el botón Ícono de vista previa en la Web Vista previa en la Web, que se encuentra en la parte superior derecha de la barra de tareas de Cloud Shell. Haga clic en Vista previa en el puerto 8080. Se abrirá una pestaña nueva en el navegador.

  3. Interactúa con Gemma con la interfaz de chat de Gradio. Agrega un mensaje y haz clic en Enviar.

Soluciona problemas

  • Si recibes el mensaje Empty reply from server, es posible que el contenedor no haya terminado de descargar los datos del modelo. Vuelve a verificar los registros del Pod en busca del mensaje Connected, que indica que el modelo está listo para entregar.
  • Si ves Connection refused, verifica que tu redirección de puertos esté activa.

Realiza una limpieza

Para evitar que se apliquen cargos a tu cuenta de Google Cloud por los recursos usados en este instructivo, borra el proyecto que contiene los recursos o conserva el proyecto y borra los recursos individuales.

Borra los recursos implementados

Para evitar que se generen cargos en tu cuenta de Google Cloud por los recursos que creaste en esta guía, ejecuta el siguiente comando:

gcloud container clusters delete ${CLUSTER_NAME} \   --region=${REGION}

¿Qué sigue?