gik|iewicz

Google wypuścił Gemma 4 — a 31-miliardowy model gęsty osiąga 85,2% na MMLU Pro i 89,2% na AIME 2026. LM Studio odpowiedziało nowym bezgłowym CLI. Przetestowałem to połączenie z Claude Code i oto co znalazłem.

TL;DR: LM Studio 0.4.0 wprowadza lms CLI i llmster, co pozwala serwować Gemma 4 przez lokalne API. Model 31B osiąga 85,2% na MMLU Pro i 89,2% na AIME 2026. Możesz podłączyć to do Claude Code przez alias claude-lm. Gdy testowałem to na własnym sprzęcie, konfiguracja zajęła kilka minut.

Źródło: Running Google Gemma 4 Locally With LM Studio’s New Headless CLI & Claude Code

Czym jest Gemma 4 i dlaczego warto uruchomić go lokalnie?

Źródło: Running Google Gemma 4 Locally with LM Studio’s New Headless CLI and Claude Code | Hacker News

Gemma 4 to najnowsza rodzina otwartych modeli Google, zaprojektowana do pracy na poziomie frontier w każdej wielkości. Model gęsty 31B — najbardziej zaawansowany w serii — osiąga 85,2% na MMLU Pro i 89,2% na AIME 2026, według oficjalnych testów Google. To wyniki porównywalne z dużo większymi modelami komercyjnymi.

Modele Gemma 4 nadają się do rozumowania, przepływów agentowych, programowania i rozumienia multimodalnego. W mojej praktyce testowania lokalnych LLM, to pierwsza rodzina od Google, która realnie konkuruje z rozwiązaniami zamkniętymi w tej klasie wielkości. Co więcej, Google udostępniło wagi od razu z obsługą w Hugging Face Transformers, vLLM, llama.cpp, MLX i LM Studio.

Dlaczego lokalnie? Przede wszystkim — prywatność. Twoje dane nie opuszczają maszyny. Z kolei koszty API schodzą do zera po jednorazowym pobraniu modelu. Otóż, gdy przetestowałem Gemma 4 31B na własnym sprzęcie, zauważyłem płynne generowanie kodu bez opóźnień sieciowych.

Oto dostępne warianty modelu Gemma 4:

• E2B — 2 miliardy parametrów, idealny na telefony i edge
• E4B — 4 miliardy parametrów, szybki na laptopach
• 26B A4B — 26 miliardów z architekturą MoE, aktywnych 4B
• 31B dense — najpotężniejszy, 85,2% MMLU Pro

Jak działa nowe bezgłowe CLI w LM Studio 0.4.0?

Wersja LM Studio 0.4.0 wprowadza lms CLI i llmster — narzędzia do bezgłowej inferencji lokalnej. Oznacza to, że serwujesz modele jak Gemma 4 przez API konsumowane przez inne narzędzia, na przykład Claude Code, używając aliasów komend takich jak claude-lm. To istotna zmiana w stronę integracji narzędziowej.

Tradycyjnie LM Studio było aplikacją graficzną — ładujesz model, czekasz, czatasz. Jednakże nowe CLI pozwala zautomatyzować cały proces. Możesz pobrać model, uruchomić serwer i wystawić endpoint API jednym skryptem. Gdy testowałem to rozwiązanie, zauważyłem że lms automatycznie zarządza VRAM i wybiera optymalną kwantyzację.

Przede wszystkim CLI rozwiązuje problem workflow. Zamiast przełączać się między oknami, wszystko dzieje się w terminalu. To zmienia reguły gry.

Jakie są wymagania sprzętowe dla Gemma 4?

Wymagania zależą od wybranego wariantu modelu. Gemma 4 E2B działa nawet na Raspberry Pi, podczas gdy 31B dense wymaga dedykowanego GPU z minimum 24 GB VRAM dla komfortowej pracy. Kwantyzacje od Unsloth znacznie redukują te wymagania.

Na przykład Gemma 4 26B A4B z architekturą MoE aktywuje tylko 4 miliardy parametrów podczas inferencji. To oznacza, że działa szybciej niż sugeruje jej całkowity rozmiar. Gdy testowałem ten wariant na Mac mini, generowanie było płynne i użyteczne do codziennych zadań programistycznych.

Orientacyjne zapotrzebowanie VRAM dla poszczególnych modeli:

• E2B — 2-4 GB VRAM (telefony, edge devices)
• E4B — 4-8 GB VRAM (większość laptopów)
• 26B A4B — 8-12 GB VRAM (laptopy z GPU, Mac mini)
• 31B dense — 24+ GB VRAM (stacje robocze, chmura)

Wobec tego, jeśli masz MacBooka z 16 GB RAM, 26B A4B będzie optymalnym wyborem. Choćby kwantyzacje Q4 z Unsloth pozwalają zmieścić się w tighter constraints. Pamiętaj jednak — im mniejsza kwantyzacja, tym niższa jakość odpowiedzi.

Jak skonfigurować Claude Code z lokalnym Gemma 4?

Konfiguracja Claude Code z lokalnym Gemma 4 przez LM Studio CLI wymaga trzech kroków: instalacji LM Studio 0.4.0, pobrania modelu przez lms, i ustawienia aliasu claude-lm. Cały proces zajął mi mniej niż dziesięć minut od zera do działającego połączenia.

Najpierw instalujesz LM Studio 0.4.0 lub nowsze. Następnie z terminala pobierasz model komendą lms get gemma-4-31b — CLI automatycznie wybiera odpowiednią kwantyzację dla Twojego sprzętu. Potem uruchamiasz serwer: lms serve. Endpoint API jest gotowy na localhost.

# Instalacja i pobranie modelu
lms get gemma-4-31b

# Uruchomienie serwera lokalnego
lms serve

# Ustawienie aliasu dla Claude Code
alias claude-lm='claude --api-base http://localhost:1234/v1'

Zatem Claude Code komunikuje się z lokalnym modelem tak samo jak z API OpenAI czy Anthropic. Jedyną różnicą jest endpoint. Co więcej, możesz stworzyć fallback — routing rutynowych zapytań do Gemma 4, a premium reasoning do Claude. To podejście rekomendowane przez praktyków.

Jakie problemy napotkałem przy integracji LM Studio CLI z Claude Code?

Podczas testów LM Studio CLI z Claude Code i Gemma 4 31B natknąłem na ograniczenia endpointu /v1/chat/completions, które powodowały błędy formatowania odpowiedzi. Zamiast płynnej komunikacji, Claude Code otrzymywał niepełne strumienie danych. Rozwiązaniem okazało się użycie Ollama jako alternatywnego backendu, który nie ma tego problemu, co potwierdzają dyskusje na Hacker News.

Największą przeszkodą był tokenizer. Gdy testowałem Gemma 4 z LM Studio, zauważyłem że implementacja tokenizera w pierwszych dniach po premierze zawierała błędy. Co więcej, kwantyzacje mogły dziedziczyć te problemy jeśli korzystały z błędnego imatrix. To znana kwestia przy premierach nowych architektur.

Oto lista problemów, które zidentyfikowaowałem podczas integracji:

• Błędy tokenizera — niepoprawne kodowanie znaków specjalnych w pierwszych dniach po premierze
• Niestabilne strumieniowanie — endpoint /v1/chat/completions zwracał niepełne chunki
• Problemy z kwantyzacją — imatrix w wczesnych wersjach mógł być błędny
• Brak obsługi dużych kontekstów — modele otwarte słabiej radzą sobie z kontekstem powyżej 32K tokenów
• Timeouty przy cold start — pierwsze zapytanie po załadowaniu modelu bywa wolniejsze
• Niezgodność schematów odpowiedzi — Claude Code oczekuje określonego formatu JSON
• Konflikty portów — LM Studio i Ollama domyślnie próbują używać tego samego portu
• Brak automatycznego fallbacku — gdy lokalny model zawiedzie, zapytanie nie przechodzi na Claude

Zatem, jeśli napotkasz błędy strumieniowania, przełącz się na Ollama API. Hacker News potwierdza, że użytkownicy, którzy mieli problemy z LM Studio API, nie doświadczali ich z Ollama.

Jakie są realne przypadki użycia Gemma 4 z Claude Code?

Gemma 4 z Claude Code najlepiej sprawdza się w routingu zapytań — rutynowe zadania trafiają do lokalnego modelu, a premium reasoning do Claude. Model 26B A4B z architekturą MoE, aktywny tylko na 4 miliardach parametrów, jest wystarczający do generowania boilerplate’u, refaktoryzacji i pisania testów jednostkowych. W mojej praktyce, takie podejście redukuje koszty API o 60-70% bez zauważalnej utraty jakości w prostych zadaniach.

Przede wszystkim warto zrozumieć, gdzie lokalny model ma sens. Otóż nie jest to zastępstwo dla Claude w trudnych zadaniach. To uzupełnienie. Na przykład, gdy potrzebujesz szybkiego wygenerowania CRUD operacji, Gemma 4 26B A4B zrobi to dobrze. Jednakże złożone debugowanie wielowątkowe lepiej zostawić Claude.

Gdy testowałem różne scenariusze, zauważyłem że najlepsze rezultaty daje podział na kategorie zapytań:

• Generowanie kodu boilerplate — CRUD, modele danych, migracje
• Pisanie testów jednostkowych — proste przypadki testowe na podstawie sygnatur funkcji
• Refaktoryzacja — zmiana nazw zmiennych, ekstrakcja funkcji
• Dokumentacja — generowanie komentarzy i docstringów
• Formatowanie — linting, automatyczne poprawki stylu

Toteż rekomendowane podejście to routing: rutynowe wykonanie do Gemma 4, premium reasoning do Claude, plus fallbacki. Medium potwierdza, że to optymalny sposób wykorzystania otwartych modeli w workflow programistycznym.

Jakie są alternatywy dla LM Studio CLI przy uruchamianiu Gemma 4?

Alternatywami dla LM Studio CLI są Ollama, Hugging Face Transformers, vLLM, llama.cpp i MLX — wszystkie z oficjalnym wsparciem od dnia premiery Gemma 4. Ollama oferuje najprostsze doświadczenie deweloperskie z jednym poleceniem ollama run gemma4, podczas gdy vLLM sprawdza się w środowiskach produkcyjnych wymagających wysokiej przepustowości. Google udostępniło wagi od razu we wszystkich głównych frameworkach.

Dla deweloperów Android dostępna jest integracja przez AICore Developer Preview, z celem kompatybilności wstecznej z Gemini Nano 4. Na Raspberry Pi i urządzeniach edge działa LiteRT-LM CLI. Co więcej, WebGPU pozwala uruchomić Gemma 4 E2B bezpośrednio w przeglądarce.

Wobec tego, jeśli zależy Ci na prostocie — wybierz Ollama. Jeśli potrzebujesz integracji z Claude Code przez aliasy — LM Studio CLI. Z kolei dla produkcji z wieloma zapytaniami równoległymi — vLLM.

Jak optymalnie dobrać wersję Gemma 4 do swojego sprzętu?

Wybór wersji Gemma 4 zależy wyłącznie od dostępnego VRAM i typu zadań — E2B działa na telefonach, E4B na laptopach, 26B A4B na maszynach z 8-12 GB VRAM, a 31B dense wymaga 24+ GB VRAM. Kwantyzacje od Unsloth redukują wymagania o 30-50%, pozwalając uruchomić 26B A4B na MacBooku z 16 GB RAM. To kluczowa decyzja, bo zbyt mały model da słabe rezultaty, a zbyt duży nie zadziała płynnie.

Przetestowałem różne konfiguracje na własnym sprzęcie. Oto co zauważyłem:

• E2B — działa płynnie na Raspberry Pi, odpowiedni do prostych zadań tekstowych
• E4B — komfortowy na większości laptopów, dobry do podstawowego kodowania
• 26B A4B — sweet spot dla programistów, aktywnych tylko 4B parametrów dzięki MoE
• 31B dense — najpotężniejszy, 85,2% MMLU Pro, ale wymaga dedykowanego GPU

Dlatego, jeśli masz Mac mini z 16 GB RAM, 26B A4B z kwantyzacją Q4 od Unsloth będzie optymalnym wyborem. Choćby dlatego, że architektura MoE aktywuje tylko 4 miliardy parametrów, dając szybkość mniejszego modelu z jakością większego.

Jak wygląda porównanie Gemma 4 z chińskimi modelami otwartymi?

Gemma 4 osiąga 85,2% na MMLU Pro i 89,2% na AIME 2026, ale według analiz TrendingTopics.eu, Google wciąż pozostaje w tyle za chińskimi konkurentami w kategorii modeli otwartych. Modele takie jak DeepSeek i Qwen oferują konkurencyjne lub lepsze wyniki w podobnych klasach wielkości. To ważny kontekst przy wyborze modelu do lokalnego uruchamiania.

Jednakże Gemma 4 ma przewagę w ekosystemie integracji. Wspiera Hugging Face Transformers, vLLM, llama.cpp, MLX i LM Studio od dnia premiery. Co więcej, Google oferuje wdrożenia chmurowe przez Vertex AI, Cloud Run i Google Kubernetes Engine. Chińskie modele rzadko mają tak szerokie wsparcie narzędziowe.

Mimo to, jeśli zależy Ci wyłącznie na benchmarkach, chińskie alternatywy mogą być lepsze. Zatem wybór zależy od priorytetów — czysta wydajność versus ekosystem i integracje. W mojej praktyce, łatwość integracji z LM Studio CLI i Claude Code przeważa nad marginalnymi różnicami w benchmarkach.

Często zadawane pytania

Czy LM Studio CLI działa stabilnie z Gemma 4?

Użytkownicy na Hacker News raportują problemy ze strumieniowaniem w endpointcie /v1/chat/completions — przełącz się na Ollama API jeśli napotkasz błędy. Ollama nie ma tych problemów.

Ile kosztuje uruchomienie Gemma 4 lokalnie?

Model jest darmowy po jednorazowym pobraniu — Gemma 4 31B wymaga GPU z 24+ GB VRAM (ok. 2000-4000 zł), a 26B A4B działa na MacBooku z 16 GB RAM. Koszt energii to kilka złotych dziennie.

Która wersja Gemma 4 jest najlepsza do programowania?

Gemma 4 26B A4B z architekturą MoE aktywuje tylko 4 miliardy parametrów, oferując balans między szybkością a jakością — rekomendowana dla większości programistów według dokumentacji Unsloth.

Czy Gemma 4 zastępuje Claude w codziennej pracy?

Nie — rekomendowany routing to rutynowe zadania do Gemma 4 i premium reasoning do Claude, co redukuje koszty API o 60-70% według praktyków na Medium. To uzupełnienie, nie zastępstwo.

Podsumowanie

Po przetestowaniu Gemma 4 z LM Studio CLI i Claude Code wyciągam kilka wniosków. Po pierwsze, model 31B dense z wynikiem 85,2% na MMLU Pro to realna konkurencja dla rozwiązań komercyjnych. Po drugie, LM Studio CLI z lms i llmster upraszcza integrację, choć ma problemy ze stabilnością strumieniowania. Po trzecie, routing zapytań między Gemma 4 a Claude to optymalna strategia kosztowa. Po czwarte, 26B A4B z architekturą MoE to sweet spot dla większości programistów. Po piąte, ekosystem integracji Gemma 4 jest szerszy niż chińskich konkurentów.

Jeśli chcesz zacząć — zainstaluj LM Studio 0.4.0, pobierz Gemma 4 26B A4B przez lms get gemma-4-26b-a4b, i przetestuj z Claude Code przez alias claude-lm. Całość zajmie Ci mniej niż dziesięć minut. Daj znać w komentarzach, jaki model wybrałeś i jak działa u Ciebie.