Hugging Face facilita crear y compartir código optimizado para GPUs de AMD
La plataforma permite a desarrolladores publicar kernels ROCm personalizados sin tener que configurar servidores propios ni luchar con dependencias.
Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) acaba de lanzar una función que facilita crear y distribuir kernels ROCm personalizados. Un kernel, en este contexto, es un fragmento de código altamente optimizado que se ejecuta directamente en una GPU (el chip gráfico que acelera los cálculos de IA) para realizar operaciones específicas, como multiplicaciones de matrices o transformaciones de datos. ROCm (el ecosistema de software de AMD para programar sus GPUs) ha sido históricamente más difícil de usar que CUDA de NVIDIA, en parte porque distribuir estos kernels requería configurar entornos complejos y gestionar múltiples versiones de librerías.
La novedad es que ahora cualquier desarrollador puede subir sus kernels ROCm a Hugging Face como si fueran un modelo más, sin tener que montar infraestructura propia. El sistema compila automáticamente el código para diferentes versiones de ROCm y lo empaqueta en un formato estándar de Python (wheels, los archivos .whl que se instalan con pip), de modo que otros usuarios puedan descargarlo e instalarlo con un solo comando. Esto es especialmente útil para equipos que trabajan con hardware de AMD, que hasta ahora tenían que recompilar manualmente cada kernel o depender de repositorios poco mantenidos.
Según informó Hugging Face en su blog oficial, el proceso de compilación se ejecuta en contenedores Docker (entornos aislados que garantizan que el código se compile siempre en las mismas condiciones) y genera binarios compatibles con las versiones 6.0, 6.1 y 6.2 de ROCm. Esto significa que un mismo kernel puede funcionar en GPUs tan diferentes como las MI100 de centros de datos y las Radeon más recientes, sin que el desarrollador tenga que lidiar con las particularidades de cada arquitectura. Además, el sistema detecta automáticamente qué versión de ROCm está usando quien descarga el paquete y le entrega el binario correcto.
El servicio también incluye integración con GitHub Actions (un sistema que automatiza tareas cada vez que se actualiza el código en un repositorio), lo que permite recompilar y republicar kernels de forma automática cuando se corrige un error o se añade una mejora. Esto reduce drásticamente el tiempo que antes se perdía en configurar entornos de compilación locales, que podían tardar horas en prepararse y a menudo fallaban por incompatibilidades de librerías. Para la comunidad de desarrolladores que trabaja con modelos de IA en GPUs de AMD, esto podría significar un impulso importante: hasta ahora, muchos proyectos de código abierto solo ofrecían soporte oficial para NVIDIA precisamente porque distribuir código para ROCm era demasiado engorroso.
La función está disponible de forma gratuita para cualquier usuario de Hugging Face y ya se está usando en proyectos como vLLM (un framework para ejecutar modelos de lenguaje grandes de forma eficiente) y Flash Attention (una técnica que acelera el entrenamiento de modelos tipo GPT). Aunque AMD sigue siendo minoritaria en el mercado de GPUs para IA frente a NVIDIA, iniciativas como esta hacen más viable usar su hardware en producción, especialmente en equipos que buscan alternativas más baratas o que ya tienen infraestructura basada en chips Radeon Instinct.
