Najnowszy wpis na blogu
llama.cpp 0.8.0: nowe modele, głos w czasie rzeczywistym i lokalne funkcje AI
llama.cpp 0.8.0 obsługuje architekturę LFM3 i inne architektury modeli, eksperymentalne interfejsy API audio w czasie rzeczywistym, syntezę mowy oraz usprawnienia serwera i zarządzania pamięcią. W tym przewodniku oddzielamy potwierdzone zmiany w wydaniu od ograniczeń wdrożeniowych, a...
Liquid AI LFM3 — wyjaśnienie: czy multimodalny model 2B może działać lokalnie?
LFM3 od Liquid AI to rodzina kompaktowych modeli o otwartych wagach, obsługujących tekst, obraz, dźwięk i różne typy danych. Dowiedz się, co naprawdę oznacza 1 GB pamięci zajmowanej przez model tekstowy 4-bitowy, jak dobrać ilość pamięci...
