gik|iewicz

szukaj
Temat: Dlaczego

Lokalny LLM nie jest głupi – to Twój stack go psuje, sprawdź dlaczego

Użytkownicy lokalnych modeli LLM często porzucają je po pierwszych testach, bo model „wydaje się głupi”. Tymczasem problem w większości przypadków leży nie w samych wagach modelu, lecz w całym łańcuchu uruchomieniowym, który zniekształca to, co model faktycznie potrafi. Kwantyzacja, ucięty system prompt, złe parametry samplowania i zbyt mały kontekst potrafią obniżyć jakość odpowiedzi o kilka […]

DuckDB pod maską: architektura, która deklasuje tradycyjne bazy danych

TL;DR: DuckDB osiąga wysoką wydajność w analizie danych dzięki połączeniu wektorowego silnika wykonawczego oraz przetwarzania kolumnowego. Architektura zaprojektowana natywnie dla OLAP pozwala na błyskawiczne odczyty bez narzutu serwerów sieciowych, co doskonale opisuje Jordan Tigani z MotherDuck w kontekście działania agentów AI. DuckDB przetwarza dane nawet kilkadziesiąt razy szybciej niż tradycyjne systemy relacyjne podczas zapytań analitycznych […]