Amazon uruchomił TorchNeuron — nowy backend programowy, który pozwala deweloperom AI uruchamiać istniejący kod PyTorch na chipach AI Trainium dzięki zmianie jednej linii kodu — przejściu z .to('cuda') na .to('neuron') — bez konieczności przepisywania kodu ani ponownej walidacji. Firma przedstawia narzędzie jako rozwiązanie, dzięki któremu odejście od chipów Nvidii jest mniej więcej tak proste jak zmiana ustawienia w pliku konfiguracyjnym. Debiut wymierza jedną z najbardziej trwałych przewag Nvidii: warstwę programową. Duża część dzisiejszego kodu AI jest pisana w oparciu o ekosystem CUDA Nvidii, a kompatybilność z tymi narzędziami od dawna stanowi praktyczną barierę dla zespołów rozważających alternatywny sprzęt.

Jednostka Amazona, Annapurna Labs, zapowiedziała TorchNeuron 19 października 2026 roku, a publiczna wersja beta zadebiutowała dzień później na konferencji PyTorch. Termin nie był przypadkowy: PyTorch to dominujący framework do tworzenia modeli AI, a premiera narzędzia na jego flagowej konferencji to postawienie stopy bezpośrednio na terenie Nvidii.

Co robi TorchNeuron

Wydany na licencji open source Apache 2.0, TorchNeuron działa jako backend integrujący się bezpośrednio z PyTorch, dzięki czemu chipy Trainium — konkretnie generacje Trainium2 i Trainium3 — są widziane przez framework jako urządzenia natywne. Praktycz efektem jest to, że zespół uruchamiający obciążenia na sprzęcie Nvidii mógłby teoretycznie zmigrować swoje potoki treningowe i inferencyjne do infrastruktury AWS Trainium bez dotykania bazy kodu. Licencja pozwala również każdemu przeglądać, modyfikować i komercyjnie wykorzystywać kod, co zmniejsza bariery ewaluacji dla zespołów inżynieryjnych oceniających backend.

Ponad 30 wczesnych użytkowników uczestniczyło w testach alfa i beta przed publiczną premierą. Należą do nich firmy zajmujące się AI głosowym — Cartesia i Deepgram — oraz Lieber Institute for Brain Development, który wykorzystuje narzędzie w badaniach nad lekami. Wcześni użytkownicy zgłaszali oszczędności kosztów związane z migracją, choć Amazon nie opublikował konkretnych danych.

Uzasadnienie biznesowe

Dział Amazona zajmujący się projektowaniem własnych chipów osiągnął roczne tempo przychodów na poziomie 25 miliardów dolarów, według firmy, która prognozuje, że wartość ta może sięgnąć 50 miliardów dolarów. Jeśli prognoza się potwierdzi, skala działu ulegnie podwojeniu — to miara komercyjnego ciężaru, jaki Amazon wkłada w pozycjonowanie Trainium jako realnej alternatywy na rynku od dawna zdominowanym przez sprzęt Nvidii.

Znane ograniczenia

Pierwsze wydanie nie jest pozbawione wad. TorchNeuron obecnie pomija około 22 000 testów w frameworku testowym PyTorch, głównie dlatego, że nie obsługuje jeszcze niektórych zaawansowanych funkcji, w tym dynamicznych kształtów danych wejściowych. To realne ograniczenie dla zespołów uruchamiających modele wymagające elastycznej obsługi danych wejściowych i sygnał, że TorchNeuron to produkt w wersji beta w prawdziwym tego słowa znaczeniu, a nie w sensie marketingowym. Dla zespołów oceniających wersję beta konkretne wskaźniki do obserwacji to: czy kolejne wydania zmniejszą liczbę pomijanych testów, czy dynamiczne kształty danych wejściowych uzyskają wsparcie oraz czy Amazon opublikuje dane dotyczące oszczędności kosztów zgłaszanych przez wczesnych użytkowników.