AI offline w praktyce: jak uruchomić sztuczną inteligencję bez internetu — i gdzie robi błędy
Najważniejsze informacje
- •AI offline działa w całości na urządzeniu po jednorazowym pobraniu modelu, wymagając połączenia z internetem tylko do początkowej instalacji.
- •Technext przetestował Google AI Edge Gallery i PocketPal AI na telefonie z Androidem z 4 GB RAM, pobierając model Gemma3-1B-IT o rozmiarze 584,4 MB (około 234 ₦) oraz LFM2.5-1.2B-Instruct o rozmiarze 730,9 MB (około 292 ₦).
- •Testowany telefon zwalniał podczas lokalnego działania modeli, a narzędzia desktopowe, takie jak LM Studio, wymagają minimum 8 GB pamięci, przy zalecanych 16 GB dla płynnej pracy.
- •Gemma w AI Edge Gallery błędnie podał 27 lutego 2027 jako datę najbliższych wyborów w Nigerii, ponieważ granica jego wiedzy sięga około października 2023, podczas gdy zrewidowany harmonogram INEC wyznacza wybory na 16 stycznia 2027.
- •AI offline sprawdza się w pisaniu, przeredagowywaniu, streszczaniu i zadaniach wrażliwych na prywatność na obszarach o słabym zasięgu, ale jest niewiarygodne w kwestii wiadomości, cen czy informacji wyborczych — jego odpowiedzi należy sprawdzać ręcznie.

Wyłącz dane komórkowe i Wi-Fi, włącz tryb samolotowy, otwórz zainstalowaną wcześniej aplikację AI w telefonie i zapytaj, kto jest prezydentem Nigerii. Odpowiedź przychodzi w 32 sekundy — wypowiedziana pewnym tonem, z błędną datą.
Taki był rezultat, gdy Technext przetestował Google AI Edge Gallery na telefonie z Androidem bez połączenia z siecią. Wniosek: tak, AI może działać bez internetu, ale tylko mniejszy rodzaj AI, a użytkownicy powinni poznać jej ograniczenia, zanim zaczną na niej polegać.
Jak działa AI offline
Główne asystenty, takie jak ChatGPT, Claude i Gemini, działają na zdalnych serwerach — dlatego wymagają połączenia z internetem. AI offline działa inaczej: kompaktowy model — ten typ, który branża nazywa małym modelem językowym — jest pobierany raz i zapisywany na urządzeniu, które następnie samo wykonuje obliczenia.
To ta sama logika, którą producenci urządzeń stosują już na poziomie systemu, gdzie Gemini Nano od Google napędza niektóre funkcje bezpośrednio na telefonach Pixel; różnica polega na tym, że tutaj na urządzeniu działa cały chatbot, a nie tylko funkcja działająca w tle.
Połączenie jest potrzebne tylko do początkowego pobrania i instalacji; po zainstalowaniu model może działać bez niego.
Kompromisem jest rozmiar. PocketPal AI informuje w swoim procesie onboardingu, że modele na telefonie są szybkie i prywatne, ale lżejsze niż AI w chmurze — „kieszonkowy towarzysz, a nie wszechwiedzące wyrocznia”.
Co testowaliśmy na mobile
Technext przetestował dwie darmowe aplikacje na telefonie o numerze modelu 25078RA3EA, z Androidem 16, 4 GB RAM i 4 GB pamięci rozszerzonej. Obie aplikacje były używane w trybie samolotowym.
AI Edge Gallery jest publikowana przez Research at Google i nosi etykietę wczesnego dostępu w Google Play. Jej lista pokazuje ponad 1 milion pobrań i ocenę 12+ — a ponieważ to wczesny dostęp, zestaw funkcji i lista modeli mogą się jeszcze zmieniać wraz z kolejnymi aktualizacjami. Według licznika Technextu oferuje 11 funkcji, w tym AI Chat, Ask Image, Audio Scribe i Prompt Lab, oraz 16 modeli łącznie.
Technext przetestował AI Chat z najmniejszym modelem, Gemma3-1B-IT z rodziny Gemma firmy Google, o rozmiarze pobrania 584,4 MB. Przy stawce Glo wynoszącej 400 ₦ za 1 GB — stawce, którą używał Technext — wychodzi około 234 ₦ danych.
Telefon zwalniał, gdy model działał. To sprzętowa rzeczywistość uruchamiania modeli lokalnie: model ładuje się do tej samej pamięci, której telefon potrzebuje do wszystkiego innego — dlatego poniższe poradniki dla komputerów traktują 8 GB jako minimum, a 16 GB jako komfortowy cel. Gdy poproszono go o pomoc w napisaniu tekstu, odpowiedział jednak rozsądnie, pytając, do czego tekst ma służyć, kto jest odbiorcą i jaki ton ma mieć.
PocketPal AI również ma ponad 1 milion pobrań i ocenę 3+. Dopasował go do testowanego telefonu za pomocą LFM2.5-1.2B-Instruct, modelu o rozmiarze 730,9 MB, którego pobranie kosztuje około 292 ₦ przy tej samej stawce.
Gdy poproszono go o przedstawienie historii Nigerii i jej byłych przywódców, stworzył uporządkowany przegląd zaczynający się od przedkolonialnych królestw, takich jak państwa Hausa i królestwa Joruba, oraz szczegółowo opisał wszystkich poprzednich przywódców.
Gdzie się myli
Gdy zapytano o obecnego prezydenta i datę najbliższych wyborów powszechnych, Gemma w AI Edge Gallery wymienił Bola Tinubu, ale umieścił dzisiejszą datę w październiku 2023 roku. Następnie podał datę wyborów jako 27 lutego 2027 roku.
To błąd. INEC zrewidował harmonogram, przesuwając wybory prezydenckie i do Zgromadzenia Narodowego na 16 stycznia 2027 roku, po podpisaniu Electoral Act 2026. Data podana przez model nie odpowiadała ani tej, ani wcześniejszej dacie 20 lutego.
Przyczyna błędu w datach jest prosta: model offline zna tylko to, czego nauczył się przed swoją budową, i nie może niczego sprawdzić. Deweloperzy nazywają to granicą wiedzy (knowledge cutoff) — obraz świata w Gemmie zatrzymuje się około października 2023 roku, więc Electoral Act 2026 i przekształcony przez niego harmonogram po prostu nie istnieją dla tego modelu, niezależnie od sposobu zadania pytania.
Jak skonfigurować i używać AI bez internetu na telefonie i komputerze
Na telefonie (Android)
- Połącz się z stabilną siecią i upewnij się, że masz co najmniej 2 GB wolnej pamięci.
- Zainstaluj AI Edge Gallery lub PocketPal AI z Google Play.
- W AI Edge Gallery otwórz AI Chat i wybierz najmniejszy lub pożądany model z listy. W PocketPal AI wybierz Smart Chat lub inny konkretny typ, gdy aplikacja zapyta, do czego służy twój „pal”, a aplikacja zaproponuje model pasujący do twojego telefonu.
- Pobierz model. To jedyny krok zużywający dane.
- Włącz tryb samolotowy, a potem zacznij rozmawiać.
Jeśli telefon zwalnia, najpierw zamknij inne aplikacje działające w tle i spróbuj zwolnić więcej miejsca.
Na komputerze
Technext nie testował wersji desktopowej, więc te kroki pochodzą z dokumentacji dewelopera i opublikowanych poradników.
- Sprawdź swój sprzęt. Jeden z poradników podaje 8 GB pamięci jako minimum, a 16 GB jako zalecane dla płynnej pracy.
- Pobierz LM Studio ze strony lmstudio.ai. Jest darmowy do użytku osobistego i działa na macOS, Windows i Linux.
- Otwórz przeglądarkę modeli. Skrót to Ctrl + Shift + M na Windows i Linux lub Cmd + Shift + M na Macu. Aplikacja pokazuje szacowane zapotrzebowanie na pamięć i ostrzega, jeśli model jest zbyt duży dla twojego sprzętu.
- Pobierz pasujący model. Mają zwykle od 2,5 GB do 5 GB każdy — znacznie więcej niż powyższe modele na telefony — więc spodziewaj się większego rachunku za dane.
- Rozłącz się z internetem i rozmawiaj.
Ollama to kolejna opcja na komputer, ale obsługuje się ją przez polecenia.
Jak najlepiej go używać
AI offline nadaje się do tworzenia szkiców, przeredagowywania tekstu, burzy mózgów, streszczania wklejonych treści i przygotowywania się do egzaminów. Są też modele do transkrypcji, opisywania obrazów, tłumaczeń, a nawet generowania dźwięku. Ponieważ przetwarzanie jest lokalne, dane pozostają na twoim komputerze, co pomaga przy dokumentach wrażliwych — a ponieważ nie potrzebuje sygnału, działa też na obszarach o słabym zasięgu, gdzie asystent w chmurze w ogóle by nie odpowiedział.
To słaby wybór dla wiadomości, cen, informacji wyborczych czy czegokolwiek świeżego, a każdy podany fakt należy sprawdzić ręcznie.
Uczciwa odpowiedź jest więc taka: AI offline to użyteczny asystent do pisania i nauki, gdy sieć zawodzi, ale nie jest źródłem faktów — zwłaszcza tych najnowszych.