NegociosNoticias

NVIDIA muestra cómo optimizar la IA en laptops RTX y DGX Spark.

La nueva familia NVIDIA Nemotron 3, que incluye modelos abiertos, datasets y librerías diseñadas para un fine-tuning eficiente y escalable.


Los desarrolladores de NVIDIA están ajustando modelos de lenguaje (LLMs) para tareas específicas, desde optimizar un chatbot para atención al cliente hasta crear un asistente personal que ayude a gestionar y manejar agendas.

Muchos de estos flujos de trabajo se facilitan con GPUs NVIDIA, que ofrecen mayor control, más memoria y una iteración local más rápida.

EN RTX AI Garage  explican paso a paso cómo realizar fine-tuning con Unsloth, un framework de código abierto optimizado para GPUs NVIDIA, que va desde laptops RTX hasta DGX Spark, la supercomputadora de IA compacta de NVIDIA. También destaca cómo los desarrolladores pueden aprovechar DGX Spark para ajustar modelos más grandes y crear flujos de trabajo agentic más complejos.

Además, la nueva familia NVIDIA Nemotron 3, que incluye modelos abiertos, datasets y librerías diseñadas para un fine-tuning eficiente y escalable. Pensada para aplicaciones de IA agentic, Nemotron 3 es la línea de modelos abiertos más potente de NVIDIA hasta ahora, con versiones Nano, Super y Ultra, adaptadas a diferentes cargas de trabajo.

Descubre en esta edición del blog de NVIDIA, RTX AI Garage una introducción rápida a lo que es fine-tuning:

  • Aspectos clave del fine-tuning, desde técnicas eficientes en parámetros hasta aprendizaje por refuerzo, así como recomendaciones de VRAM según el tamaño del modelo.
  • Cómo Unsloth acelera el entrenamiento y reduce el uso de VRAM en GPUs NVIDIA.
  • Por qué DGX Spark destaca al trabajar con modelos más grandes, ventanas de contexto extendidas y flujos de trabajo avanzados.
  • La nueva familia de modelos abiertos Nemotron 3, en versiones Nano, Super y Ultra, que ofrece alta eficiencia y precisión líder, ideal para desarrollar aplicaciones de IA agentic.

Para una demostración práctica de fine-tuning, mira a Matthew Berman muestra el aprendizaje por refuerzo ejecutándose en una NVIDIA GeForce RTX 5090 con Unsloth en el siguiente video:  https://youtu.be/9t-BAjzBWj8.

La compañía ofrece tutoriales de como instalar Unsloth en NVIDIA DGX Spark, paso a paso:

El fine-tuning de Nemotron 3 Nano ya está disponible en Unsloth. Puedes descargarlos desde Hugging Face o pruébalo a través de Llama.cpp y LM Studio.





DERECHOS DE AUTOR
Esta información pertenece a su autor original y se encuentra en el sitio https://boletin.mx/2025/12/16/nvidia-muestra-como-optimizar-la-ia-en-laptops-rtx-y-dgx-spark/

Publicaciones relacionadas

Botón volver arriba