Senaste blogginläggen
llama.cpp 0.8.0: Nya modeller, röst i realtid och lokala AI-funktioner
llama.cpp 0.8.0 lägger till LFM3 och andra modellarkitekturer, experimentella API:er för ljud i realtid, TTS-stöd samt förbättringar av servern och minneshanteringen. Den här guiden skiljer verifierade ändringar i versionen från begränsningar vid driftsättning och visar sedan...
Liquid AI LFM3 förklarat: Kan en multimodal modell med 2 miljarder parametrar köras lokalt?
LFM3 från Liquid AI är en familj kompakta text-, bild-, ljud- och omnimodeller med öppna vikter. Ta reda på vad en textmodell på 1 GB med 4-bitarskvantisering egentligen innebär, hur du beräknar RAM-behovet och kör LFM3...
