Amazon Web Services uruchomił TorchNeuron, natywny backend PyTorch dla swoich akceleratorów AI Trainium2 i Trainium3, zaprojektowany tak, aby trening badawczy przypominał pracę z dowolnym innym zadaniem PyTorch. Ten krok odpowiada na długotrwały problem: układy Trainium dobrze radziły sobie z uruchamianiem gotowych modeli AI, ale były nieporęczne w chaotycznej, eksperymentalnej pracy nad tworzeniem nowych. AWS chce teraz zamknąć tę lukę. Akceleratory są częścią firmowej linii układów przeznaczonych do zadań uczenia maszynowego.

Co AWS faktycznie wypuścił

TorchNeuron wszedł do publicznej bety 19 października 2026 roku. AWS udostępnił projekt open source dzień później, 20 października, podczas konferencji PyTorch Conference North America. Premiera zbiegła się z wersją 2.33.0 pakietu Neuron SDK, zestawu narzędzi programistycznych, którego AWS używa do programowania swoich autorskich układów.

Główną cechą jest prostota. Deweloperzy mogą przenieść model na Trainium jedną linią kodu, np. .to('neuron'), podobnie jak wskazują kod na dowolne inne urządzenie. Ta jednolinijkowa zmiana zachowuje zgodność ze standardowymi API PyTorch i obsługuje wykonanie eager, co oznacza, że operacje są uruchamiane natychmiast w miarę wywoływania ich przez kod, zamiast najpierw być kompilowane do większego grafu.

Poprzednie rozwiązanie opierało się na integracji PyTorch/XLA. Ta ścieżka wymagała od deweloperów rozsypywania wywołań takich jak xm.step() w pętlach treningowych i radzenia sobie z niestandardowym stylem programowania, mocno zależnym od kompilatora. Działało, ale wymagało dodatkowego kodu i oferowało węższe pokrycie API.

Usuwane przez tarcie ma charakter ogólno branżowy. PyTorch jest dominującym frameworkiem w badaniach nad AI, a stos oprogramowania CUDA firmy NVIDIA pozostaje domyślnym środowiskiem jego uruchamiania; alternatywne akceleratory zazwyczaj wymagają od deweloperów dostosowania kodu przed rozpoczęciem treningu. Udostępnienie backendu jako open source sprawia również, że jego rozwój jest publiczny — badacze mogą przeglądać kod, zgłaszać problemy i wnosić zmiany, zamiast polegać wyłącznie na AWS.

Neuron 2.33 przynosi także kilka dodatkowych ulepszeń:

• Neuron Observer, narzędzie do wykrywania problemów ze stanem sprzętu
• Rozszerzoną funkcjonalność NKI umożliwiającą dostosowanie na niższym poziomie
• Zaktualizowane wtyczki vLLM dostrojone do współpracy z TorchNeuron

Jest jednak haczyk dla właścicieli starszego sprzętu: TorchNeuron obsługuje wyłącznie Trainium2 i Trainium3. Trainium1 oraz rodzina układów Inferentia zostały pominięte.

Dlaczego inferencja była pierwsza

Trainium zdobył już pozycję w inferencji, etapie, na którym wytrenowany model odpowiada na rzeczywiste zapytania. Anthropic prowadzi inferencję produkcyjną i wdrożenia uczenia ze wzmocnieniem na Trainium2 i Trainium3.

Trening badawczy to co innego. Naukowcy nieustannie wymieniają warstwy, testują warianty i przeprowadzają ablacje — eksperymenty polegające na usuwaniu lub zmianie jednego komponentu, aby zobaczyć, co się zepsuje. Każda modyfikacja może sięgać innego zakątka API PyTorch, co przy wcześniejszym przepływie opartym na XLA wymagało dodatkowego wysiłku.

Właśnie dlatego ta premiera ma znaczenie: to podczas treningu powstają nowe modele, a natywne wsparcie stawia Trainium w centrum uwagi od pierwszego eksperymentu z modelem, a nie dopiero po jego ukończeniu.

Kto już z tego korzysta

AWS twierdzi, że ma ponad 30 wczesnych klientów korzystających z TorchNeuron. Obejmują oni robotykę, głosowe AI i rozwój dużych modeli językowych. Cartesia i Deepgram, dwie firmy działające w obszarze głosowego AI, zgłaszają znaczne poprawy wydajności w porównaniu z wcześniejszymi konfiguracjami. Hugging Face, popularna platforma otwartych modeli AI, również przyjęła wsparcie dla Trainium.

Aktualizacja otwiera także Trainium na szersze zastosowania badawcze, przy czym za obszary, które mogłyby skorzystać na łatwiejszym dostę do sprzętu, wskazuje się m.in. odkrywanie leków. Jako publiczna beta, TorchNeuron może jeszcze zmienić zestaw funkcji i pokrycie sprzętowe przed ustabilizowaniem projektu; w międzyczasie zespoły korzystające z Trainium1 lub Inferentia pozostają przy wcześniejszych narzędziach opartych na XLA.