Qué pasó
- AWS anunció TorchNeuron, un backend nativo de PyTorch para sus chips Trainium2 y Trainium3. Entra en beta pública el 20 de octubre de 2026 con licencia Apache 2.0, según el blog de PyTorch.
- Se instala con
pip install torch-neuronx. Para mover un modelo basta indicar el dispositivo,.to('neuron'). En modo compilado hay que nombrar el backend una vez. - Soporta ejecución inmediata (eager),
torch.compiley las APIs distribuidas habituales, como FSDP2 y paralelismo tensorial. Hugging Face lo reconoce como dispositivo en Transformers v5 y Diffusers. - Deepgram, citado por AWS, reporta que Trainium procesa cerca de 60% más segundos de audio de entrada por dólar que su línea base en GPU, en los benchmarks que evaluó.
Por qué importa
- Hasta ahora, usar Trainium exigía adaptar el código con herramientas propias de AWS. Ese costo de ingeniería era la razón práctica para quedarse en GPU de Nvidia. TorchNeuron lo reduce, sin eliminarlo.
- Para un equipo de datos en Chile que arrienda cómputo, el cambio es de poder de negociación: mover una carga entre proveedores deja de ser un proyecto de meses.
- La consecuencia que el anuncio omite: el 60% es una cifra de una sola empresa en un caso, con apoyo del centro de innovación de AWS durante varios meses. No es el resultado que obtendrá una pyme con una semana de trabajo.
El dato
~22.000 pruebas omitidas. Son las pruebas de PyTorch que AWS saltó porque faltan operadores sin traducción nativa a Neuron, según su propio informe.
Contexto
El soporte llega por PrivateUse1, el mecanismo oficial de PyTorch para hardware ajeno. AWS reconoce límites en esta primera versión: no hay formas dinámicas ni tensores dispersos, y FP8 sigue en beta privada. Probó 100.000 modelos de Hugging Face en una configuración reducida y publica el resultado en un gráfico, sin cifra en el texto.
Qué viene
- FP8 y TorchAO pasarán a disponibilidad general en la próxima versión, sin fecha.
- AWS dice que cerrará la mayoría de los huecos de operadores “en futuras versiones”, sin calendario.
- Queda por ver cuántas bibliotecas de terceros declaran compatibilidad real, más allá de las pruebas de AWS.
Cierre
La disputa por el cómputo se libra ahora en el software que lo rodea. Akamai firmó con Anthropic un contrato por CPU y el Departamento de Justicia pidió información sobre el trato entre Nvidia y Groq. TorchNeuron busca que el código que ya usan los equipos de IA funcione sin reescribirse en un chip que no es de Nvidia.
Fuentes
Editado por Rodrigo Cornejo. Quiénes escriben las notas
