Trenowanie modelu LLM o 100 miliardach parametrów na pojedynczym GPU brzmi jak fikcja. Jednak nowe techniki kompresji wag i zarządzania pamięcią sprawiają, że ten scenariusz staje się technicznie wykonalny. MegaTrain obniża barierę wejścia do poziomu pojedynczej karty graficznej. TL;DR: MegaTrain to podejście pozwalające na pełnoprecyzyjne trenowanie modeli LLM powyżej 100 miliardów parametrów na jednym GPU. […]
Gdy testowałem „Turing Complete” — grę, która uczy budowy procesora od bramek logicznych — spędziłem przy niej 40 godzin bez przerwy. Ten projekt zyskał setki komentarzy na Hacker News, a gracze w recenzjach na Steam chwalą go za niezwykłe podejście do edukacji informatycznej. Zamiast czytać podręczniki o architekturze komputera, dosłownie składasz procesor krok po kroku. […]
Apple zatwierdziło sterownik stworzony przez Tiny Corp, który pozwala zewnętrznym kartom graficznym Nvidia działać z komputerami Mac opartymi na architekturze ARM. To historyczny moment. Od lat uważano, że połączenie Nvidia i Apple Silicon jest niemożliwe. TL;DR: Tiny Corp stworzyło sterownik eGPU, który Apple oficjalnie zatwierdziło dla komputerów Mac z procesorami ARM. Rozwiązanie obsługuje karty AMD […]