gik|iewicz

Firma TTMS z Warszawy zbudowała narzędzie AI4Content oparte na architekturze RAG, które przetwarza dokumenty w wielu formatach i generuje ustrukturyzowane raporty. Ich produkt działa lokalnie lub w chmurze kontrolowanej przez klienta, co eliminuje ryzyko wycieku danych. Przetestowałem podobne podejście u siebie i zauważyłem, że klasyczny RAG ma istotne ograniczenia przy złożonej dokumentacji technicznej.

TL;DR: Klasyczny RAG (Retrieval-Augmented Generation) pozwala modelom językowym odpowiadać na pytania na podstawie własnych dokumentów. Narzędzie TTMS AI4Content udowadnia, że ta architektura sprawdza się w analizie wieloformatowych dokumentów biznesowych z lokalnym wdrożeniem. Zastąpienie RAG wirtualnym systemem plików rozwiązuje problemy z fragmentacją kontekstu.

Źródło: RAG na laptopie, czyli bezpieczne AI dla firm – IT Professional Academy

Dlaczego klasyczny RAG przestaje wystarczać do dokumentacji?

Źródło: What is retrieval-augmented generation (RAG) in AI?

Klasyczny RAG opiera się na wektoryzacji dokumentów i wyszukiwaniu fragmentów tekstowych semantycznie podobnych do zapytania użytkownika. Narzędzie TTMS AI4Content wykorzystuje to podejście do analizy dokumentów wieloformatowych z lokalnym wdrożeniem, co gwarantuje prywatność danych. Jednakże, gdy testowałem to rozwiązanie na dokumentacji technicznej z głęboką strukturą katalogów, zauważyłem problem z zachowaniem kontekstu między powiązanymi plikami.

RAG dzieli dokumenty na mniejsze fragmenty (chunks), które są niezależnie wektoryzowane i przechowywane w bazie danych. Ten mechanizm sprawdza się w prostych scenariuszach pytanie-odpowiedź, ale zawodzi, gdy odpowiedź wymaga syntezy informacji z wielu powiązanych plików. Na przykład, gdy dokumentacja API znajduje się w jednym katalogu, a przykłady użycia w drugim, model traci powiązania między nimi.

To zmienia reguły gry.

W rezultacie, odpowiedzi generowane przez system są fragmentaryczne i pozbawione pełnego kontekstu architektonicznego. Co więcej, wektoryzacja usuwa naturalną strukturę plików i katalogów, która często niesie kluczową informację o relacjach między dokumentami. Z tego powodu poszukaliśmy alternatywy, która zachowałaby strukturę plików jako nośnik kontekstu.

Czym jest wirtualny system plików i jak działa z AI?

Wirtualny system plików to abstrakcyjna warstwa, która udostępnia modelowi językowemu strukturę katalogów i plików w formie, którą może bezpośrednio przetwarzać. Zamiast wektoryzować fragmenty tekstu, system udostępnia LLM pełną ścieżkę dostępu, metadane pliku i jego zawartość na żądanie. Gdy testowałem to podejście, zauważyłem natychmiastową poprawę w jakości odpowiedzi na pytania dotyczące relacji między komponentami.

Otóż, model językowy z dostępem do wirtualnego systemu plików może nawigować po katalogach, odczytywać wybrane pliki i budować kontekst stopniowo, podobnie jak programista przegląda dokumentację. System nie usuwa struktury dokumentów —on ją wykorzystuje jako dodatkowy sygnał. Przykładowo, ścieżka /src/api/authentication/oauth.md niesie informację o lokalizacji i przeznaczeniu dokumentu, co RAG ignoruje.

To działa zaskakująco dobrze.

Porównanie obu podejść:

Jakie problemy rozwiązuje podejście oparte na plikach?

Podejście oparte na wirtualnym systemie plików eliminuje trzy główne problemy klasycznego RAG: utratę struktury dokumentów, brak kontekstu relacji między plikami oraz kosztowną reindexację przy każdej aktualizacji. Według opisu architektury RAG od DataOne, celem asystenta AI jest uwolnienie pracowników od żmudnego przeszukiwania dokumentacji. Wirtualny system plików realizuje ten cel efektywniej, zachowując naturalną organizację wiedzy.

Przede wszystkim, system nie wymaga budowania i utrzymywania bazy wektorowej, co upraszcza architekturę i zmniejsza koszty operacyjne. Ponadto, aktualizacja dokumentu jest natychmiastowa — model odczytuje nową wersję pliku przy następnym zapytaniu, bez konieczności reindexacji. Z kolei, w klasycznym RAG każda zmiana wymaga ponownej wektoryzacji i aktualizacji bazy, co wprowadza opóźnienia.

To ogromna różnica w utrzymaniu.

• Zachowanie pełnej struktury katalogów jako nośnika kontekstu
• Eliminacja bazy wektorowej z architektury systemu
• Natychmiastowa aktualizacja bez reindexacji dokumentów
• Lepsza jakość odpowiedzi na pytania o relacje między komponentami
• Mniejsza złożoność operacyjna i niższe koszty utrzymania
• Pełna kontrola nad dostępem do plików na poziomie ścieżek
• Możliwość debugowania ścieżek odczytu plików przez model
• Zgodność z istniejącymi workflow zarządzania dokumentacją

W rezultacie, podejście to lepiej sprawdza się w scenariuszach, gdzie dokumentacja ma wyraźną strukturę hierarchiczną, a odpowiedzi wymagają syntezy informacji z wielu powiązanych ze sobą plików.

Jak wdrożyć wirtualny system plików krok po kroku?

Wdrożenie wirtualnego systemu plików wymaga zaprojektowania warstwy abstrakcji, która udostępnia modelowi językowemu operacje na plikach bez bezpośredniego dostępu do systemu operacyjnego. TTMS AI4Content udowadnia, że lokalne wdrożenie z pełną kontrolą nad infrastrukturą gwarantuje prywatność danych (TTMS, 2025). Gdy testowałem podobną architekturę u siebie, zauważyłem, że kluczowe jest zdefiniowanie jasnych granic działania systemu i określenie, które katalogi są źródłem prawdy.

Otóż, proces wdrożenia można podzielić na kilka etapów. Najpierw definiujemy strukturę katalogów, która będzie dostępna dla modelu, uwzględniając uprawnienia i relacje między plikami. Następnie budujemy warstwę pośrednią, która tłumaczy żądania modelu na operacje odczytu plików. W rezultacie, model nawiguje po dokumentacji, zachowując pełną świadomość hierarchii i kontekstu.

To proste, ale potężne.

• Mapowanie struktury katalogów i określenie źródeł prawdy
• Budowa warstwy abstrakcji z operacjami odczytu i nawigacji
• Definiowanie uprawnień dostępu na poziomie ścieżek
• Integracja z istniejącą infrastrukturą (CRM, helpdesk)
• Konfiguracja modelu językowego do pracy z narzędziami plikowymi
• Testowanie jakości odpowiedzi na pytania wieloplikowe
• Monitorowanie ścieżek odczytu w celu optymalizacji
• Wdrożenie mechanizmów cache’owania dla często odczytywanych plików

Z kolei, każda z tych warstw musi być dokładnie przemyślana. Jak wskazuje praktyka wdrożeniowa opisana na portalu AI W Biznesie, projektując architekturę, definiujemy jasne granice działania: które systemy są źródłem prawdy, jak często aktualizowana jest baza, jakie typy plików są obsługiwane.

Kiedy wirtualny system plików przewyższa klasyczny RAG?

Wirtualny system plików przewyższa klasyczny RAG w scenariuszach wymagających syntezy informacji z wielu powiązanych dokumentów o wyraźnej strukturze hierarchicznej. Jak zauważa Mateusz Konieczny, RAG to funkcja, która łączy możliwości dużych modeli językowych z tradycyjnym wyszukiwaniem plików, ale tradycyjne podejście gubi kontekst relacji. Gdy testowałem oba podejścia na dokumentacji technicznej API, wirtualny system plików dostarczał spójniejsze odpowiedzi.

Przede wszystkim, przewaga pojawia się, gdy dokumentacja jest rozproszona w wielu plikach i katalogach. Na przykład, gdy opis endpointu API znajduje się w jednym katalogu, schemat bazy danych w drugim, a przykłady użycia w trzecim. Model z dostępem do systemu plików potrafi samodzielnie nawigować między tymi źródłami i budować pełny kontekst odpowiedzi.

To rozwiązuje realny problem.

Co więcej, wirtualny system plików sprawdza się lepiej, gdy dokumentacja jest często aktualizowana. Ponieważ nie wymaga reindexacji wektorowej, zmiany w plikach są natychmiast dostępne dla modelu. Z tego powodu, zespoły pracujące nad aktywnie rozwijaną dokumentacją oszczędzają czas i zasoby obliczeniowe.

Jakie są ograniczenia podejścia opartego na plikach?

Podejście oparte na wirtualnym systemie plików ma ograniczenia: wymaga modelu z funkcją wywoływania narzędzi (tool use) i generuje wyższe koszty tokenów przy dużych repozytoriach dokumentacji. Jak zauważa Jan Gulczyński, zanim zaczniesz budować, zastanów się, w jakim kontekście RAG ma przynosić wartość — czy to chatbot dla klientów, generator raportów, czy może asystent do dokumentacji technicznej.

Choć system plików rozwiązuje wiele problemów z kontekstem, nie jest rozwiązaniem uniwersalnym. Dla prostych scenariuszy pytanie-odpowiedź, gdzie użytkownik pyta o konkretny fakt z jednego dokumentu, klasyczny RAG może być bardziej efektywny kosztowo. Ponadto, model musi wykonać wiele kroków pośrednich — nawigacja, odczyt, analiza — co zwiększa latencję odpowiedzi.

Nie wszystko jest idealne.

• Wymaga modelu obsługującego function calling lub tool use
• Wyższe zużycie tokenów przy wielokrotnym odczycie plików
• Zwiększona latencja z powodu wieloetapowej nawigacji
• Mniej efektywny dla prostych zapytań o pojedyncze fakty
• Wymaga dobrze zorganizowanej struktury katalogów
• Potrzebuje mechanizmów cache’owania dla wydajności

Mimo to, dla złożonej dokumentacji technicznej korzyści przewyższają te ograniczenia. Jak opisuje Dokodu w przewodniku po agentach AI, kluczowe jest dopasowanie architektury do konkretnego przypadku użycia — od RAG po lokalne modele.

Jakie narzędzia potrzebujesz do budowy takiego systemu?

Do budowy wirtualnego systemu plików potrzebujesz modelu językowego obsługującego function calling, platformy orkiestracji takiej jak n8n oraz warstwy dostępu do plików z kontrolą uprawnień. Praktyczny przewodnik na UXAIRFORCE opisuje budowę bazy wiedzy RAG z użyciem Pinecone w n8n, ale te same narzędzia orkiestracji sprawdzają się z systemem plików. Przetestowałem n8n jako warstwę pośrednią i potwierdzam jej elastyczność.

Zatem, podstawa to model z możliwością wywoływania funkcji — Claude, GPT-4o czy Gemini. Następnie potrzebujesz platformy, która połączy model z systemem plików. Tu sprawdza się n8n, LangChain lub własne rozwiązanie oparte na API. W rezultacie, model otrzymuje zestaw narzędzi: list_directory, read_file, search_files.

To wystarczy do działania.

Ponadto, warto zwrócić uwagę na mechanizmy cache’owania. Jak opisuje Cognity w przewodniku budowy silnika RAG, efektywność AI zależy od optymalizacji dostępu do danych — to samo dotyczy systemu plików.

Często zadawane pytania

Czy wirtualny system plików całkowicie zastępuje RAG?

Nie w każdym przypadku. TTMS AI4Content wykorzystuje architekturę RAG do analizy wieloformatowych dokumentów biznesowych z lokalnym wdrożeniem (TTMS, 2025) — dla prostych scenariuszy pytanie-odpowiedź RAG pozostaje bardziej efektywny kosztowo.

Jakie modele językowe obsługują function calling potrzebny do nawigacji po plikach?

Claude, GPT-4o i Gemini oferują natywne wsparcie dla function calling. Jak zauważa Botpress, RAG pozwala wykorzystać moc LLM podczas opierania się na własnych plikach i dokumentach — te same modele działają z wirtualnym systemem plików.

Ile kosztuje wdrożenie wirtualnego systemu plików w porównaniu do RAG?

Koszty zależą od objętości dokumentacji i częstotliwości zapytań. TTMS AI4Content oferuje customowy cennik (TTMS, 2025), ale eliminacja bazy wektorowej obniża koszty operacyjne — zacznij od pilotu na jednym katalogu dokumentacji.

Czy podejście oparte na plikach działa z dokumentami w różnych formatach?

Tak, pod warunkiem odpowiedniej warstwy konwersji. Jak opisuje AI W Biznesie, projektując architekturę, definiujemy, jakie typy plików są obsługiwane — system plików wymaga tego samego, ale z pominięciem wektoryzacji.

Podsumowanie

Wirtualny system plików to realna alternatywa dla klasycznego RAG w scenariuszach wymagających syntezy wiedzy z wielu powiązanych plików. Oto kluczowe wnioski z moich testów i analizy dostępnych rozwiązań:

• Zachowanie struktury katalogów jako nośnika kontekstu drastycznie poprawia jakość odpowiedzi na pytania architektoniczne
• Eliminacja bazy wektorowej upraszcza architekturę i przyspiesza aktualizację dokumentacji bez konieczności reindexacji
• Lokalne wdrożenie, jak w TTMS AI4Content, gwarantuje prywatność danych i niezależność od zewnętrznych API
• Podejście wymaga modelu z function calling i dobrze zorganizowanej struktury katalogów
• Nie jest uniwersalne — dla prostych zapytań o pojedyncze fakty RAG pozostaje efektywniejszy kosztowo

Jeśli Twoja organizacja zmaga się z jakością odpowiedzi asystenta AI na pytania dotyczące złożonej dokumentacji technicznej, przetestuj wirtualny system plików. Zacznij od jednego katalogu z dokumentacją API, skonfiguruj model z narzędziami nawigacji i porównaj wyniki z obecnym rozwiązaniem RAG. Odwiedź mój blog gikiewicz.eu, gdzie dzielę się dalszymi praktykami budowania systemów AI.