gik|iewicz

Municipalna spółka IT z Rio de Janeiro – IplanRIO – opublikowała model Rio 3.5 Open bazujący na architekturze Qwen 3.5 397B. Pakiet zawiera 397 miliardów parametrów i został udostępniony na platformie Hugging Face z otwartymi wagami. To pokazuje, jak szybko powstają lokalne pochodne dużych rozwiązań.

TL;DR: IplanRIO, miejska spółka technologiczna z Rio de Janeiro, wypuściła Rio 3.5 Open. Model bazuje na Qwen 3.5 397B, przechodzi dodatkowy trening i trafia na Hugging Face. Wyniki w Terminal 2.1 wyprzedzają Qwen 3.7 Plus, a technologia SwiReasoning pozwala na przełączanie trybów wnioskowania. Źródło: Digg.

Czym dokładnie jest model Rio 3.5 Open z Rio de Janeiro?

Rio 3.5 Open to projekt lokalny stworzony przez IplanRIO. Bazuje na modelu Qwen 3.5 397B i zawiera 397 miliardów parametrów. Po dodatkowym treningu trafił do bazy Hugging Face z otwartymi wagami. Projekt implementuje mechanizm SwiReasoning.

Spółka wyposażyła rozwiązanie w mechanizm SwiReasoning. Pozwala on na dynamiczne przełączanie między jawnym a ukrytym trybem wnioskowania. Wyniki w testach Terminal 2.1 są wyższe niż u Qwen 3.7 Plus. Podobne podejście opisywałem w artykule o tajemniczym modelu Hy3 LLM obejmującym prowadzenie w rankingu OpenRouter. Co więcej, taka strategia obniża koszty utrzymania infrastruktury serwerowej. Pod względem struktury jest to typowa pochodna istniejącego rozwiązania. Mimo to warto sprawdzić ten projekt na własnej maszynie.

Rio 3.5 Open od IplanRIO to 397-miliardowy model dostępny na Hugging Face. Wykorzystuje Qwen 3.5 jako fundament oraz SwiReasoning do przełączania trybów. Wyprzedza Qwen 3.7 Plus w Terminal 2.1. Źródło: Digg.

Jak Qwen 3.5 stał się fundamentem dla brazylijskiego rozwiązania?

Wybór Qwen 3.5 jako bazy wynika z dostępu do otwartych wag. Zespół IplanRIO przeprowadził proces post-trainingu na tym fundamencie. Pozwoliło to zaoszczędzić zasoby obliczeniowe potrzebne do budowy od zera. Sposób tworzenia własnych rozwiązań opisałem w tekście Wytrenuj własny model LLM od zera.

Ponadto Qwen 3.5 397B zapewnia wysoką jakość w zadaniach tekstowych. Brazylijski projekt dodaje do tego lokalny kontekst językowy. W praktyce wygląda to jak dostrajanie gotowego silnika do specyficznych potrzeb administracji publicznej. Zatem korzyść z takiego podejścia polega na precyzyjnym dopasowaniu zachowań. Inżynierowie zmodyfikowali parametry za pomocą dodatkowych danych treningowych. Otrzymany produkt działa sprawniej w docelowym środowisku urzędowym.

Na czym polega technologia SwiReasoning w modelu z Rio de Janeiro?

SwiReasoning to mechanizm przełączania trybów wnioskowania. Pozwala systemowi decydować, czy pokazywać proces myślowy użytkownikowi. To daje kontrolę nad szybkością generowania odpowiedzi oraz zużyciem tokenów. Funkcja ta przypomina dynamiczne zarządzanie kontekstem.

Z kolei tradycyjne modele działają w jednym trybie wnioskowania. SwiReasoning w Rio 3.5 Open analizuje złożoność zapytania i dobiera ścieżkę. Dla prostych pytań omija jawne rozumowanie, co przyspiesza działanie. Dla trudnych zadań aktywuje pełny łańcuch myślowy. To podejście przynosi wymierne oszczędności zasobów. Podobne mechanizmy optymalizacji omawiałem przy okazji artykułu o tym, jak przestałem płacić za ChatGPT i przeszedłem na lokalny model LLM działający na moim laptopie. Rekomenduję analizę kodu tego modułu.

Jak Rio 3.5 Open wypada w testach Terminal 2.1?

W testach Terminal 2.1 model od IplanRIO osiąga lepsze wyniki niż Qwen 3.7 Plus. To potwierdza skuteczność zastosowanego procesu dostrajania. Testy Terminal oceniają zdolności programistyczne oraz logiczne rozwiązywania problemów.

Wyższy wynik oznacza lepsze radzenie sobie z kodem. Brazylijska pochodna pokazuje, że modyfikacja gotowej bazy może przynieść wymierne korzyści. Poniżej znajduje się zestawienie elementów odróżniających to rozwiązanie od pierwowzoru:

• Zastosowanie mechanizmu SwiReasoning do dynamicznej zmiany trybów wnioskowania
• Dodatkowy post-training na lokalnych zbiorach danych administracyjnych
• Optymalizacja pod kątem obsługi zapytań w języku portugalskim
• Wyniki w benchmarku Terminal 2.1 przewyższające referencyjne wersje Qwen
• Lepsze radzenie sobie z lokalnymi regulacjami prawnymi
• Dostępność pełnych wag na platformie Hugging Face
• Możliwość integracji z miejskimi systemami IT
• Otwartość na poprawki i współpracę zewnętrznych badaczy

Choć bazowa architektura pozostała nietknięta, to modyfikacje górnych warstw modelu poprawiły jego użyteczność. Inżynierowie skupili się na precyzyjnych domenach. W rezultacie system lepiej interpretuje lokalne regulacje i terminologię prawną Rio de Janeiro.

Według doniesień, Rio 3.5 Open wyprzedza Qwen 3.7 Plus w benchmarku Terminal 2.1. Dowodzi to skuteczności dostrajania 397-miliardowego modelu przez zespół IplanRIO. Źródło: Digg.

Dlaczego IplanRIO zdecydowało się na otwarte wagi na Hugging Face?

Decyzja o publikacji na Hugging Face wynika z trendu otwartych wag. IplanRIO udostępniło swój model badaczom oraz programistom z całego świata. To buduje zaufanie do brazylijskiej administracji oraz wspiera lokalny ekosystem AI. Rozwiązania tego typu łatwo zintegrujesz z narzędziami takimi jak Lemonade od AMD: szybki i otwarty lokalny serwer LLM wykorzystujący GPU i NPU.

Mimo to otwarte wagi niosą ze sobą ryzyko niekontrolowanego użycia. Zespół z Rio de Janeiro zaakceptował to wyzwanie. Otwarta dystrybucja pozwala na niezależną weryfikację wyników podawanych przez twórców. Co więcej, społeczność może zgłaszać błędy oraz dostarczać poprawki. To przyspiesza rozwój projektu. Takie podejście potwierdza, że model jest pochodną istniejącego rozwiązania, dostosowaną do specyficznych potrzeb. Otwartość buduje zdrowy ekosystem.

Jak model Rio 3.5 Open wpisuje się w trend tworzenia pochodnych istniejących modeli LLM?

Brazylijski projekt Rio 3.5 Open od IplanRIO bazuje na architekturze Qwen 3.5 397B i udowadnia, że modyfikacja gotowych fundamentów staje się standardem. Twórcy przeprowadzili post-training na 397-miliardowym modelu, osiągając lepsze wyniki niż Qwen 3.7 Plus w Terminal 2.1. Źródło: Digg.

Otóż budowa dużego modelu językowego od zera wymaga gigantycznych nakładów. Potrzebne są setki GPU oraz miesiące treningu na ogromnych zbiorach danych. Dlatego mniejsze podmioty wybierają dostrajanie istniejących architektur. Podejście to przynosi wymierne korzyści finansowe. Zatem brazylijska spółka zastosowała sprawdzoną strategię.

Ponadto Rio 3.5 Open pokazuje, jak optymalnie wykorzystać otwarte wagi. Projekt nie powiela struktury oryginału dosłownie. Zamiast tego dodaje własne rozwiązania w postaci mechanizmu SwiReasoning. Podobne praktyki stosują inne zespoły na całym świecie. To potwierdza, że otwarty ekosystem napędza rozwój sztucznej inteligencji. Więcej na ten temat znajdziesz w tekście o tym, jak AI będzie coraz gorsza, a producenci gardzą szarym użytkownikiem | BitHub.pl.

Rio 3.5 Open od IplanRIO to model bazujący na Qwen 3.5 397B, który wyprzedza Qwen 3.7 Plus w Terminal 2.1. Projekt udowadnia, że modyfikacja gotowych architektur stanowi dominujący trend w branży. Źródło: Digg.

Jakie są realne koszty i bariery wejścia przy adaptacji modelu o tej skali?

Rio 3.5 Open posiada 397 miliardów parametrów, co wymaga potężnej infrastruktury do uruchomienia inferencji. Mimo że wagi są darmowe na Hugging Face, lokalne uruchomienie tego modelu wymaga sprzętu o bardzo wysokiej wydajności obliczeniowej.

Uruchomienie modelu 397B na lokalnej maszynie wymaga ogromnej pamięci VRAM. Zwykłe stacje robocze sobie z tym nie poradzą. Co więcej, samo pobranie wag zajmuje dziesiątki gigabajtów danych. Mimo to deweloperzy mogą testować rozwiązanie przez API. Chcąc uruchomić mniejsze modele lokalnie, warto skorzystać z narzędzia Lemonade od AMD: szybki i otwarty lokalny serwer LLM wykorzystujący GPU i NPU.

Ponadto administracja publiczna musi pokryć koszty serwerów produkcyjnych. Utrzymanie tak dużego systemu generuje stałe opłaty za prąd oraz chłodzenie. Choćby z tego powodu otwarte dystrybucja pozwala na współpracę z ośrodkami badawczymi. Inni naukowcy mogą optymalizować kod. Zatem koszty utrzymania spadają dzięki współpracy.

Jak technologia SwiReasoning wpływa na optymalizację zużycia zasobów obliczeniowych?

Mechanizm SwiReasoning w modelu Rio 3.5 Open pozwala na dynamiczne przełączanie między jawnym a ukrytym trybem wnioskowania, co bezpośrednio zmniejsza zużycie tokenów i obciążenie procesorów podczas generowania odpowiedzi.

Tradycyjne modele zawsze generują pełny łańcuch myślowy. To zużywa cenne zasoby obliczeniowe. SwiReasoning analizuje zapytanie i decyduje o trybie pracy. Dla prostych zadań system omija rozbudowane rozumowanie. Proces odpowiada szybciej i taniej. Z kolei złożone problemy uruchamiają pełne wnioskowanie. To logiczne podejście do zarządzania mocą obliczeniową.

Optymalizacja tokenów ma ważne znaczenie dla budżetu miasta. Każda oszczędność przekłada się na realne korzyści finansowe. Brazylijski projekt udowadnia, że inteligentne zarządzanie wnioskowaniem jest możliwe. Podobne mechanizmy opisywałem w artykule o tym, jak przestałem płacić za ChatGPT i przeszedłem na lokalny model LLM działający na moim laptopie. SwiReasoning to funkcjonalna odpowiedź na rosnące koszty inferencji. Technologia ma duży potencjał. Zatem warto śledzić jej rozwój w innych pochodnych.

Wprowadzenie SwiReasoning w modelu Rio 3.5 Open umożliwia przełączanie trybów wnioskowania, co redukuje zużycie tokenów. Technologia ta pozwala na inteligentne zarządzanie mocą obliczeniową infrastruktury. Źródło: Digg.

Często zadawane pytania

Czy Rio 3.5 Open jest w pełni darmowym modelem do użytku komercyjnego?

Tak, IplanRIO udostępniło wagi na platformie Hugging Face, jednak model bazuje na Qwen 3.5 397B, co oznacza konieczność weryfikacji licencji pierwotnej przed wdrożeniem komercyjnym. Źródło: Digg.

Ile pamięci VRAM potrzeba do lokalnego uruchomienia modelu Rio 3.5 Open?

Architektura 397B wymaga co najmniej kilkuset gigabajtów pamięci VRAM do płynnej inferencji w pełnej precyzji, co wyklucza uruchomienie na standardowych komputerach. Źródło: Digg.

W jakich benchmarkach model z Rio de Janeiro pokonuje oryginalne rozwiązania?

Rio 3.5 Open osiąga wyższe wyniki niż Qwen 3.7 Plus w teście Terminal 2.1, który skupia się na zdolnościach programistycznych i logicznym rozwiązywaniu problemów. Źródło: Digg.

Czy dostrajanie modeli otwartych jest lepsze niż tworzenie własnych od zera?

Modyfikacja gotowych architektur pozwala na ogromną oszczędność zasobów obliczeniowych, co udowadnia zespół IplanRIO, osiągając lepsze wyniki przy ułamku kosztów. Proces ten opisuje Andrej Karpathy w swoim llm-wiki.

Podsumowanie

Projekt Rio 3.5 Open dostarcza kilku istotnych wniosków dla branży technologicznej. Przede wszystkim modyfikacja gotowych modeli staje się dominującym trendem. Po drugie, mechanizm SwiReasoning skutecznie optymalizuje zużycie tokenów. Co więcej, otwarte wagi na Hugging Face przyspieszają rozwój regionalnych inicjatyw. Wreszcie, administracja publiczna może tworzyć użyteczne narzędzia oparte na sztucznej inteligencji. Zachęcam do analizy repozytoriów modeli pochodnych i samodzielnego eksperymentowania z otwartymi wagami. Więcej informacji o budowaniu własnych rozwiązań znajdziesz w poradniku Wytrenuj własny model LLM od zera.