Needle: model 26 mln parametrów przejmuje wywoływanie narzędzi z Gemini
Zespół Needle udowodnił, że wywoływanie narzędzi z Gemini można skompresować do modelu o rozmiarze 26 milionów parametrów. Projekt pokazuje, jak destylacja wiedzy z dużych modeli językowych pozwala tworzyć lekkie rozwiązania gotowe do uruchomienia bezpośrednio na urządzeniach mobilnych. TL;DR: Needle to skompresowany model o wielkości 26 milionów parametrów, który przejmuje funkcję wywoływania narzędzi z Gemini. Zespół […]