Cómo usar los modelos de DeepSeek en la nube de Amazon sin pagar de más
Hugging Face y Amazon Web Services publican una guía técnica para ejecutar y personalizar los modelos de código abierto de DeepSeek en servidores en la nube, con opciones desde 1,30 dólares la hora hasta despliegues a gran escala.
Hugging Face y Amazon Web Services publicaron una guía técnica que explica cómo ejecutar y personalizar los modelos DeepSeek R1 y V3 en servidores de la nube de Amazon. La documentación cubre desde despliegues económicos (1,30 dólares la hora para experimentos con R1) hasta configuraciones de alta capacidad con ocho GPUs H100, e incluye instrucciones para adaptar los modelos a tareas específicas mediante fine-tuning.
Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) publicó esta semana una guía técnica en colaboración con Amazon Web Services para desplegar y personalizar los modelos DeepSeek R1 y V3 en la nube de Amazon. La guía explica paso a paso cómo usar estos modelos de pesos abiertos (modelos cuyo código y parámetros internos están disponibles públicamente para que cualquiera los descargue y modifique) sin necesidad de infraestructura propia, desde opciones económicas para experimentos hasta configuraciones de alta capacidad para aplicaciones en producción.
DeepSeek R1, el modelo de razonamiento que causó revuelo en enero por su rendimiento comparable a GPT-4o a una fracción del coste de desarrollo, puede desplegarse en instancias g6e.2xlarge de AWS (servidores virtuales con procesadores gráficos o GPUs especializados en ejecutar modelos de IA) por 1,30 dólares la hora. Para la versión cuantizada de 32.000 millones de parámetros (una versión comprimida del modelo que ocupa menos memoria pero mantiene buena parte de su capacidad), basta con una máquina de 24 GB de memoria de vídeo. DeepSeek V3, el modelo de lenguaje más completo de la empresa china, requiere configuraciones más potentes: la guía documenta despliegues en instancias p5.48xlarge con ocho GPUs H100, las más avanzadas de Nvidia.
La documentación incluye también instrucciones para fine-tuning (el proceso de reentrenar un modelo ya existente con datos específicos para adaptarlo a una tarea concreta, como responder preguntas médicas o analizar contratos legales) usando el framework TRL de Hugging Face. Según los autores, un fine-tuning completo de DeepSeek R1 Distill de 70.000 millones de parámetros sobre el dataset OpenHermes puede completarse en poco más de una hora en una instancia p5.48xlarge, con un coste aproximado de 115 dólares. Para proyectos con presupuestos más ajustados, la guía explica técnicas como LoRA (Low-Rank Adaptation, un método que permite personalizar un modelo modificando solo una pequeña parte de sus parámetros en lugar de reentrenarlo entero), que reduce significativamente el uso de memoria.
Hugging Face destaca que DeepSeek V3 puede ejecutarse en modo de inferencia (el proceso de usar un modelo ya entrenado para generar respuestas o predicciones) a velocidades de hasta 60 tokens por segundo (unidades de texto que el modelo procesa, aproximadamente palabras o fragmentos de palabra) en configuraciones con cuatro GPUs H100. La guía técnica forma parte de una tendencia creciente en la industria: facilitar el acceso a modelos de código abierto mediante servicios en la nube que eliminan la barrera técnica de gestionar servidores propios, algo especialmente relevante tras la irrupción de DeepSeek como alternativa viable a modelos propietarios de empresas estadounidenses.
