Singapurski neocloud Aolani zaprezentował Aolani Token Factory, zarządzaną platformę wnioskowania, zaprojektowaną tak, aby organizacje mogły wdrażać i skalować modele AI w modelu pay-per-token, bez konieczności provisionowania lub zarządzania bazową infrastrukturą GPU. Ogłoszenie pozycjonuje Aolani jako pierwszy neocloud założony w Singapurze, który oferuje zarządzane wnioskowanie klasy produkcyjnej na dużą skalę.

Wraz z rozwojem globalnych firm AI w Singapurze oraz inwestycjami przedsiębiorstw na całym świecie w AI nastawione na konkretne rezultaty biznesowe, popyt na infrastrukturę wnioskowania klasy produkcyjnej rośnie. Ta zmiana ma znaczenie, ponieważ choć trenowanie modeli przyciągało dużą część wczesnej uwagi w obszarze AI, to właśnie niezawodne uruchamianie modeli w produkcji wiąże się dla organizacji z powtarzalnymi wymaganiami dotyczącymi obliczeń, zgodności i operacji. Aolani Token Factory ma zmniejszyć lukę w dostępności, zapewniając firmom natywnym dla AI oraz przedsiębiorstwom zgodną z przepisami, wydajną ścieżkę od eksperymentów do wdrożenia produkcyjnego.

Platforma działa w modelu rozliczania per token, w którym klienci kupują kredyty z góry i płacą w zależności od zużycia tokenów, unikając kapitałochłonnych inwestycji w GPU. Aolani zarządza pełnym stosem wnioskowania, w tym alokacją mocy GPU, obsługą modeli, orkiestracją, planowaniem i optymalizacją obciążeń, umożliwiając klientom skalowanie zużycia bez ciągłego provisionowania infrastruktury.

W momencie startu Token Factory obsługuje wiodące modele open-source, takie jak DeepSeek, GLM, Kimi i Qwen, a katalog ma być rozszerzany zgodnie z popytem klientów. Klienci mogą także wdrażać własne modele za pośrednictwem API zgodnych z OpenAI. Dla przedsiębiorstw o rygorystycznych wymaganiach dotyczących zgodności i lokalizacji danych dostępne są opcje dedykowanej mocy obliczeniowej oraz izolacji danych.

Platforma jest skierowana do trzech podstawowych zastosowań produkcyjnych: agentów AI do wnioskowania na dużą skalę i automatyzacji procesów, korporacyjnych aplikacji AI, takich jak wewnętrzne copiloty i asystenci wiedzy, oraz agentów programistycznych do generowania kodu, uzupełniania, testowania i przeglądu.

Sea Xu, Applied AI Research Lead w Aolani, podkreślił wydajność i elastyczność platformy: „Aolani Token Factory jest zbudowany na wydajnym stosie wnioskowania, który obsługuje najbardziej poszukiwane rodziny modeli open-source. Zaprojektowaliśmy platformę z myślą o szybkim dostosowywaniu i wdrażaniu modeli, aby nasi klienci mogli szybko uzyskiwać dostęp do nowych modeli, gdy się pojawiają. Wraz z szybkim rozwojem ekosystemu AI w Azji Południowo-Wschodniej naszym celem jest zapewnienie, że infrastruktura, która go obsługuje, dotrzyma mu kroku.”

Nicholas Chia, CEO Aolani, podkreślił transformacyjny wpływ: „Firmy AI, które działają szybko, chcą budować i dostarczać produkty elastycznie oraz na żądanie, bez konieczności zarządzania flotami GPU. Dzięki naszej konkurencyjnej cenie per token i w pełni zarządzanemu stakowi firmy mogą przejść od wyboru modelu do wdrożenia produkcyjnego bez nakładów kapitałowych ani złożoności operacyjnej związanej z samodzielnie zarządzaną infrastrukturą. To ważny kamień milowy dla nas i naszych klientów, ponieważ Aolani Token Factory zasadniczo zmieni sposób, w jaki klienci uzyskują dostęp do mocy obliczeniowej AI.”

Premiera następuje w warunkach rosnącego regionalnego popytu na infrastrukturę AI. Oferując zarządzany model pay-as-you-go, Aolani chce obniżyć bariery dla firm każdej wielkości, umożliwiając im korzystanie z zaawansowanych możliwości AI bez inwestycji z góry. Takie podejście może przyspieszyć adopcję AI w Azji, szczególnie wśród startupów i średnich przedsiębiorstw, które wcześniej mierzyły się z zaporowymi kosztami.

Zainteresowane podmioty mogą zgłosić zainteresowanie w Aolani Token Factory . Więcej informacji o Aolani można znaleźć na stronie internetowej Aolani . The post Aolani Launches Token Factory to Democratize AI Inference in Asia appeared first on citybuzz .