Amazon Web Services ha lanzado TorchNeuron, un backend nativo de PyTorch para sus aceleradores de IA Trainium2 y Trainium3, creado para que el entrenamiento en investigación se sienta como cualquier otro trabajo de PyTorch. El movimiento aborda un punto de fricción de larga data: los chips Trainium han funcionado bien ejecutando modelos de IA terminados, pero resultaban incómodos para el trabajo experimental y complejo de construir modelos nuevos. AWS ahora busca cerrar esa brecha. Los aceleradores forman parte de la línea de silicio propia de la compañía para cargas de trabajo de aprendizaje automático.

Lo que AWS lanzó

TorchNeuron entró en beta pública el 19 de octubre de 2026. AWS liberó el proyecto como código abierto un día después, el 20 de octubre, en la PyTorch Conference North America. El lanzamiento llegó junto con la versión 2.33.0 del Neuron SDK, el kit de herramientas de software que AWS utiliza para programar sus chips propios.

La característica principal es la simplicidad. Los desarrolladores pueden mover un modelo a Trainium con una sola línea de código, como .to('neuron'), de manera similar a apuntar el código a cualquier otro dispositivo. Esa única línea mantiene la compatibilidad con las APIs estándar de PyTorch y admite la ejecución eager, lo que significa que las operaciones se ejecutan de inmediato cuando el código las invoca en lugar de compilarse primero en un grafo más grande.

La configuración anterior se basaba en una integración con PyTorch/XLA. Ese camino requería que los desarrolladores dispersaran llamadas como xm.step() en sus bucles de entrenamiento y lidiaran con un estilo de programación personalizado y centrado en el compilador. Funcionaba, pero exigía código adicional y ofrecía una cobertura de API más limitada.

La fricción que esto elimina es una de toda la industria. PyTorch es el framework dominante en la investigación de IA, y el stack de software CUDA de NVIDIA sigue siendo el entorno predeterminado para ejecutarlo; los aceleradores alternativos suelen requerir que los desarrolladores adapten su código antes de comenzar el entrenamiento. Liberar el backend como código abierto también hace público su desarrollo, donde los investigadores pueden inspeccionar el código, reportar problemas y contribuir con cambios en lugar de depender únicamente de AWS.

Neuron 2.33 también incluye varias mejoras de soporte:

• Neuron Observer, una herramienta para detectar problemas de salud del hardware
• Funcionalidad NKI mejorada para personalización de nivel más bajo
• Plugins de vLLM actualizados ajustados para funcionar con TorchNeuron

Sin embargo, hay una limitación para los propietarios de hardware más antiguo: TorchNeuron solo admite Trainium2 y Trainium3. El Trainium1 y la familia de chips Inferentia quedan fuera.

Por qué la inferencia llegó primero

Trainium ya se había consolidado en la inferencia, la etapa en la que un modelo entrenado responde solicitudes reales. Anthropic ejecuta inferencia de producción y despliegues de aprendizaje por refuerzo en Trainium2 y Trainium3.

El entrenamiento en investigación es un asunto distinto. Los científicos cambian constantemente capas, prueban variaciones y ejecutan ablaciones, experimentos que eliminan o modifican un componente para ver qué falla. Cada ajuste puede requerir un rincón diferente de la API de PyTorch, un patrón que exigía esfuerzo adicional bajo el flujo anterior basado en XLA.

Esa división explica por qué este lanzamiento tiene peso: el entrenamiento es donde se crean los modelos nuevos, y el soporte nativo pone a Trainium en escena desde el primer experimento de un modelo, y no cuando está terminado.

Quiénes ya lo usan

AWS afirma que tiene más de 30 clientes iniciales en TorchNeuron. Estos abarcan robótica, IA de voz y desarrollo de grandes modelos de lenguaje. Cartesia y Deepgram, dos empresas dedicadas a la IA de voz, reportan mejoras sustanciales de rendimiento en comparación con sus configuraciones anteriores. Hugging Face, el popular repositorio de modelos de IA abiertos, también ha adoptado el soporte de Trainium.

La actualización también abre Trainium a casos de uso de investigación más amplios, citando campos como el descubrimiento de fármacos entre las áreas que podrían beneficiarse de un acceso más fácil al hardware. Al tratarse de una beta pública, el conjunto de funciones y la cobertura de hardware de TorchNeuron aún pueden cambiar antes de que el proyecto se estabilice; mientras tanto, los equipos con Trainium1 o Inferentia continúan con las herramientas anteriores basadas en XLA.