gik|iewicz

Agent, który rozwiązuje skomplikowane zadanie, potrafi wygenerować tysiące słów widocznego rozumowania, zanim poda ostateczną odpowiedź. Zespół badaczy ze Stanford i Together AI zaproponował inny model pracy: większość myślenia przenosi do ukrytej przestrzeni wektorowej modelu, a na zewnątrz trafia już tylko tekstowe działanie. Papier pod tytułem „Hybrid Reasoning Agents” (arXiv:2610.18861) pokazuje, że takie podejście podnosi wyniki na 11 benchmarkach i jednocześnie obniża koszty.

TL;DR: Badacze Stanford i Together AI opisali HybridAgent, architekturę agenta łączącą rozumowanie w ukrytej przestrzeni wektorowej modelu z tekstowymi wywołaniami narzędzi. Na 11 benchmarkach agent poprawił wyniki średnio o 10,4%, zużył o 35,5-54,7% mniej tokenów i obniżył koszt inferencji 2,7-3,7 raza. Kod został udostępniony publicznie.

Czym są hybrydowe agenty rozumujące?

Hybrydowe agenty rozumujące to architektury, w których model naprzemiennie korzysta z dwóch trybów pracy: rozumowania w ukrytej, ciągłej przestrzeni wektorowej oraz klasycznych, tekstowych wywołań narzędzi w otaczającym środowisku.Źródła opisują je jako agenty, które „myślą poza ludzkim językiem, a mimo to działają za jego pośrednictwem” w środowisku zewnętrznym.Taka podziałka pracy ma sens, bo część obliczeń nie musi być zapisywana jako tokeny.

Przeczytaj też: Show HN: Zbudowałem malutki LLM, aby zdemistyfikować, jak działają modele językowe

W praktyce oznacza to, że agent nie wypisuje każdego kroku rozumowania jako tekstu widocznego w kontekście.Zamiast tego przechodzi fazę rozumowania latentnego, a potem wraca do trybu tekstowego, gdy musi na przykład wywołać narzędzie.Dlatego właśnie ten nurt określa się mianem hybrydowego: łączy dwa światy, wektorowy i lingwistyczny.

Przeczytaj też: RISC-V jest teraz oficjalnie wspierany przez CPythona

Dlaczego agenty mają myśleć w przestrzeni latentnej, a nie w tekście?

Głównym motywacją jest koszt.Każdy „myślący” token generowany przez model deweloper płaci, a długie łańcuchy rozumowania w tekście potrafią liczyć tysiące słów, jak opisują źródła na przykładzie agenta rozwiązującego zadanie matematyczne.Paper Stanford i Together AI pokazuje, że tańsze rozumowanie nie musi oznaczać spadku dokładności: hybrydowe agenty zmniejszyły koszt dekodowania o 62,5% do 72,9% i jednocześnie osiągnęły wyższe wyniki.

Źródła podsumowują to następująco: agenty działają szybciej i punktują wyżej, gdy większość myślenia dzieje się w ukrytych wektorach, a nie w zapisywanym tekście.Dodatkowo mniejsza liczba tokenów w kontekście upraszcza zarządzanie oknem kontekstowym. To przekłada się bezpośrednio na rachunek za inferencję.

Co to jest HybridAgent i jak działa HybridLink?

HybridAgent to konkretna realizacja idei hybrydowej: agent, który naprzemiennie przechodzi między rozumowaniem latentnym a tekstowym użyciem narzędzi za pośrednictwem lekkiego mechanizmu o nazwie HybridLink, wspieranego przez ciągłą pamięć roboczą (continuous working memory).Na przykład źródła opisują, że model myśli w wektorach, ale gdy dochodzi do momentu działania w środowisku, wynik opuszcza model już jako tekst.

Szkolenie takiej koordynacji wymagało dwóch etapów opisanych w papierze:

• HybridSFT – etap dostrajania nadzorowanego, uczy agenta przełączania trybów,
• HybridRL – etap uczenia ze wzmocnieniem, doszlifowuje tę koordynację,
• HybridLink – lekki mechanizm spinający rozumowanie latentne z akcjami tekstowymi,
• continuous working memory – ciągła pamięć robocza przenosząca stan między krokami.

Modele bazowe to Qwen3-Base w rozmiarach 4B, 8B i 14B.Ponadto kod projektu został udostępniony publicznie, co ułatwia własne eksperymenty.

Jakie wyniki osiągnął HybridAgent w benchmarkach?

Wyniki są spójne z obietnicą architektury.HybridAgent poprawił rezultaty na 11 benchmarkach średnio o 10,4%, jednocześnie zmniejszając zużycie tokenów o 35,5-54,7% i obniżając koszt inferencji 2,7-3,7 raza.Jak zaznaczają źródła, szacunki kosztów nie obejmują kosztów promptu i narzędzi.

Interesujący jest też obraz wygranych i przegranych na poszczególnych testach.Jeden z cytowanych serwisów opisuje agenta 8B, który „myśli bez pisania tokenów” i pokonuje model GPT-5.6 Luna na benchmarku GAIA, ale nie na HLE.Wobec tego przewaga jest zauważalna tam, gdzie liczy się wieloetapowe rozumowanie agentowe, choć nie na każdym rodzaju zadania.Zespół publikuje wyniki w papierze arXiv 2610.18861 i w opracowaniu na DEV Community.

Ile realnie oszczędza się na tokenach i kosztach inferencji?

Oszczędności są konkretne i wyrażone liczbami w samym papierze. HybridAgent zmniejszył zużycie tokenów o 35,5-54,7%, obniżył koszt inferencji 2,7-3,7 raza, a jednocześnie poprawił wyniki na benchmarkach średnio o 10,4%. Według jednego z opracowań dekodowanie było szybsze nawet 2,6 raza, choć zakres tych szacunków może się różnić w zależności od metody liczenia. Z tego powodu oszczędności najlepiej traktować jako przedział, a nie pojedynczą gwarancję.

Trzeba jednak pamiętać o jednym zastrzeżeniu, które źródła podają wprost: szacunki kosztów nie obejmują kosztów promptu i narzędzi. Wobec tego całkowity rachunek za działanie agenta w produkcji będzie wyglądał inaczej niż w samej analizie dekodowania. Ponadto oszczędność tokenów w kontekście ma drugi skutek, trudniejszy do wyceny: dłuższe zadania mieszczą się w oknie kontekstowym bez jego forsowania. Dla agentów działających wieloetapowo to realna korzyść.

Na jakich modelach oparto badanie i czy kod jest dostępny?

Zespół zbudował HybridAgent na modelach bazowych Qwen3-Base w trzech rozmiarach: 4B, 8B i 14B. Dzięki temu widać, jak podejście skaluje się w obrębie jednej rodziny modeli, od mniejszych po większe warianty. Jak podają źródła, kod projektu został udostępniony publicznie, co pozwala odtworzyć wyniki i prowadzić własne eksperymenty.

Publiczna dostępność kodu ma znaczenie praktyczne dla zespołów rozważających podobne architektury. Zamiast opierać się wyłącznie na liczbach z papieru, można sprawdzić mechanizm HybridLink oraz ciągłą pamięć roboczą na własnych zadaniach. Co więcej, publikacja obejmuje zarówno etap HybridSFT, jak i HybridRL, więc opisuje pełną ścieżkę trenowania koordynacji między trybami. Papier dostępny jest jako arXiv 2610.18861, a omówienie wprowadzające znajomo można przeczytać w opracowaniu na DEV Community.

Gdzie hybrydowe rozumowanie się sprawdza, a gdzie nie?

Zestawienie 11 benchmarków daje obraz sytuacji, w których architektura wygrywa. Średnia poprawa o 10,4% przy jednoczesnym spadku zużycia tokenów sugeruje, że zadania agentowe z wieloma krokami i wywołaniami narzędzi to naturalne środowisko dla rozumowania latentnego. Im więcej pośrednich kroków myślenia trzeba wykonać między akcjami, tym większy zysk z przeniesienia ich poza tekst.

Nie wszędzie jednak podejście wygrywa, i to źródła pokazują wprost. Agent 8B pokonuje model GPT-5.6 Luna na benchmarku GAIA, ale już nie na HLE. Wobec tego trudno zakładać, że hybrydowe rozumowanie zastąpi klasyczne łańcuchy myśli w każdym typie zadania. Z tego porównania wynika praktyczny wniosek: dobór architektury powinien wynikać z charakteru zadania, a nie z samej obietnicy oszczędności. Na przykład tam, gdzie liczy się wieloetapowe działanie agentowe w środowisku, podejście hybrydowe ma mocne podstawy.

Co doniesienia o modelu 8B mówią o wynikach na GAIA i HLE?

Doniesienia o wariancie 8B są najbardziej dyskutowanym elementem całej publikacji. Jeden z cytowanych serwisów opisuje go bezpośrednio: agent, który „myśli bez pisania tokenów”, pokonuje GPT-5.6 Luna na benchmarku GAIA, natomiast na HLE ten wynik się nie powtarza. To ważne rozróżnienie, bo pokazuje granice przewagi mniejszego modelu z rozumowaniem latentnym.

GAIA mierzy zadania agentowe, w których liczy się koordynacja wielu kroków, a HLE stawia inne wymagania. Zatem wygrana na pierwszym i porażka na drugim mówią coś o naturze zadania, nie tylko o samym modelu. Warto też oddzielić dwie warstwy tej relacji: wynik liczbowy pochodzi z benchmarków opisanych w papierze, natomiast narracja o „myśleniu bez tokenów” to interpretacja serwisu, który wynik opisał. Rozsądnie jest więc traktować tę wzmiankę jako jeden z sygnałów, a nie jako dowód ogólnej wyższości architektury nad każdym większym modelem.

Jak trenowana jest koordynacja między rozumowaniem latentnym a tekstem?

Koordynacja dwóch trybów pracy wymaga celowego trenowania, którego opis stanowi istotną część papieru. Zespół zastosował dwuetapowy proces: najpierw HybridSFT, czyli dostrajanie nadzorowane uczące agenta przełączania trybów, a następnie HybridRL, czyli uczenie ze wzmocnieniem doszlifowujące tę koordynację w praktycznym działaniu.

Sam przebieg treningu wspiera mechanizm HybridLink, lekki komponent spinający rozumowanie latentne z tekstowymi akcjami. Pracuje on razem z ciągłą pamięcią roboczą, która przenosi stan agenta między krokami. W skrócie cały zestaw elementów wygląda następująco:

• HybridSFT – nadzorowany etap uczenia przełączania między trybami,
• HybridRL – uczenie ze wzmocnieniem dopracowujące koordynację,
• HybridLink – lekki mechanizm łączący wektory z akcjami tekstowymi,
• continuous working memory – pamięć robocza przenosząca stan między krokami.

Taka kolejność ma sens: model najpierw uczy się struktury naprzemienności na przykładach, a dopiero potem optymalizuje ją za nagrody. Jak podają dostępne omówienia, celem całego układu jest lepsza praca agenta przy mniejszej liczbie tokenów oraz szybszej i tańszej inferencji. Według relacji o wynikach zespołu koordynacja ta przełożyła się na poprawę wyników na wszystkich 11 benchmarkach objętych ewaluacją.

Często zadawane pytania

Czym dokładnie jest HybridLink?

HybridLink to lekki mechanizm, który łączy rozumowanie latentne HybridAgenta z jego tekstowymi wywołaniami narzędzi. Działa razem z ciągłą pamięcią roboczą, dzięki czemu agent może myśleć w przestrzeni wektorowej, a na zewnątrz komunikować się już jako tekst. To właśnie ten komponent sprawia, że architektura określa się jako hybrydowa.

Jak duże modele posłużono do budowy HybridAgent?

Zespół użył modeli bazowych Qwen3-Base w rozmiarach 4B, 8B i 14B. Testy objęły więc warianty od mniejszych po największe w tej rodzinie. Najwięcej dyskusji wywołał wariant 8B, który według opisów serwisów pokonał GPT-5.6 Luna na benchmarku GAIA.

O ile spadło zużycie tokenów w badaniu?

HybridAgent zużył o 35,5-54,7% mniej tokenów niż podejście odniesienia. Jednocześnie koszt inferencji obniżył się 2,7-3,7 raza, a wyniki na 11 benchmarkach poprawiły się średnio o 10,4%. Źródła zaznaczają, że te szacunki kosztów nie obejmują kosztów promptu i narzędzi.

Czy HybridAgent zawsze wygrywa z konkurencyjnymi modelami?

Nie, i to pokazuje porównanie GAIA z HLE. Wariant 8B wygrał z GPT-5.6 Luna na GAIA, ale przegrał na HLE. Przewaga hybrydowej architektury ujawnia się więc w określonych typach zadań agentowych, a nie na każdej ewaluacji.

Podsumowanie

Hybrydowe agenty rozumujące pokazują, że kosztowne pisanie każdego kroku myślenia nie jest koniecznością. Wnioski z całej serii można streścić następująco:

• HybridAgent przenosi większość rozumowania do przestrzeni latentnej i wraca do tekstu tylko przy działaniu.
• Średnia poprawa na 11 benchmarkach wyniosła 10,4%, przy 35,5-54,7% mniej tokenów i koszcie inferencji niższym 2,7-3,7 raza.
• Koordynację trybów trenowano dwuetapowo, przez HybridSFT i HybridRL, przy wsparciu HybridLink i ciągłej pamięci roboczej.
• Przewaga nie jest uniwersalna: wariant 8B wygrał na GAIA, ale przegrał na HLE.
• Kod i papier są publicznie dostępne, więc wyniki można zweryfikować samodzielnie.

Jeśli temat agentów i modeli językowych jest Ci bliski, obserwuj rozwój projektu i zajrzyj do papieru arXiv 2610.18861 oraz publicznego repozytorium. To dobry moment, aby przetestować, jak rozumowanie latentne zachowuje się na zadaniach z Twojej własnej domeny.