Jag köpte AI för att spara tid. Sedan började jag hitta sätt att kringgå dess begränsningar.

Klockan 23.47 öppnade jag datorn igen. Mina AI-krediter skulle snart gå ut.

Jag hade ställt tillbaka tandborsten i muggen och kopplat in mobilen. Jag var redo för sängen. Sedan kollade jag användningssidan och såg att ett kreditpaket jag hade betalat för gick ut vid midnatt.

Jag stod där i några sekunder. Jag har redan betalat för dem. Jag kan lika gärna använda dem.

Så jag tog en mapp som jag hade lagt åt sidan till nästa eftermiddag och drog in den i chatten. Den innehöll en bunt projektanteckningar. Allt jag ville ha var en grov disposition. Jag gav mig själv en halvtimme.

Nästa gång jag tittade på klockan var den två på natten.

Nästa dag satte jag mig med kallt kaffe och det faktiska arbete jag hade tänkt göra. Jag återkom hela tiden till samma fråga. Använde jag AI för att spara tid, eller gav jag upp min tid för att kunna använda all AI jag hade betalat för?

Till en början kändes varje prenumeration rimlig

Jag frilansar. Jag bygger webbplatser, skriver offerter och går igenom högarna med material som kunder skickar till mig innan ett projekt drar igång. Snart öppnade jag ett AI-verktyg för alla tre. Det kunde ge mig ett första utkast, hjälpa mig att förstå ett fel eller göra om en halv sida anteckningar till något jag faktiskt kunde arbeta med.

Den första prenumerationen var ett enkelt beslut. Sedan betalade jag för Codex, eftersom jag använde det tillräckligt mycket för att det skulle löna sig. Jag behöll ett annat verktyg för de dagar då jag slog i taket mitt i ett jobb. Det blev också några påfyllningar och en och annan API-faktura.

Jag hade intalat mig att jag skulle hålla hela kostnaden under 200 dollar i månaden. När jag till slut räknade ihop allt hade jag redan överskridit den gränsen.

Jag kunde leva med kostnaden om verktygen hjälpte mig att leverera i tid. Det som störde mig var att betala för allihop och ändå undra om jag skulle kunna bli klar med ett jobb i morgon eftermiddag.

Jag började budgetera promptar som debiterbara timmar

Måndagen gick åt till att sortera kraven. Tisdagen åt att koda. Onsdagen behövde jag hålla lite utrymme för kundändringar. Jag gjorde ett kalkylark med en rad för varje verktyg och kolumner för vad jag hade kvar och när jag trodde att det skulle återställas.

Det såg ut som om jag hade kontroll på läget. I praktiken satte jag mig med en andra omgång beslut innan jag ens kunde öppna arbetet. Skulle jag skicka hela uppdragsbeskrivningen nu? Kunde den här ändringen förbruka resten av min användning? Borde jag spara Codex till den sista genomgången?

En gång delade jag upp ett jobb mellan två verktyg för att få det jag hade kvar att räcka längre. Jag klistrade in uppdragsbeskrivningen igen, förklarade vad jag redan hade testat och tog fram samma diff. När det andra verktyget väl hade kommit ikapp hade jag själv tappat tråden.

En annan gång blev ett svar bara stående där. Jag kunde inte avgöra om jag skulle få ett svar genom att vänta eller om ett nytt försök skulle förbruka mer av det jag hade kvar.

En kund frågade om jag kunde skicka tillbaka en reviderad version samma dag. Jag tittade på återställningstiden i min Codex-användningspanel innan jag skrev: ”Jag ska göra mitt bästa.” Jag kunde förklara en knepig ändring för en kund. Jag hade ingen aning om hur jag skulle förklara att jag kollade en användningsmätare innan jag gav dem en leveranstid.

Till och med en återställning började kännas som en deadline

Jag började kolla efter uppdateringar om återställningen på morgonen, runt lunchtid och en gång till innan jag loggade ut. Någon på X hade fått tillbaka sin användning. Någon annan väntade fortfarande. En gång förklarade Tibo att en ändring av cachningen hade gjort att långa Codex-sessioner förbrukade tillåtna mängder snabbare. Teamet rullade tillbaka ändringen och återställde användningen.

Varje gång min användning återställdes letade jag efter något att göra med den. En gång flyttade jag fram ett helgprojekt till fredagskvällen eftersom jag äntligen kunde köra det. En annan kväll sa jag till familjen att jag skulle komma till middagen efter att jag skickat en sista prompt.

En prompt blev två. Sedan behövde jag kontrollera resultatet. Jag hittade något jag ville ändra, så jag skickade tillbaka det.

När jag kom till bordet var middagen kall. Ingen hade bett mig att jobba sent. Jag hade bara vant mig så mycket vid att hålla koll på mätaren att det kändes som slöseri att lägga undan laptopen medan jag fortfarande hade utrymme kvar.

Jag hade börjat välja jobb utifrån vad som skulle förbruka krediterna

En kväll tittade jag på min att göra-lista och såg något viktigt som jag hade skjutit upp i tre dagar. Jag hade just ägnat två timmar åt att städa upp en bunt material som jag inte behövde förrän senare i veckan. Det var enkelt att låta verktyget ta hand om medan jag hade krediter att använda.

Jag sköt stolen bakåt. Om jag hade ont om användning flyttade jag saker till morgondagen. Om jag fick mer användningstid flyttade jag tillbaka dem till i kväll. Jag hade börjat låta mätaren avgöra vilket jobb som kom först.

Det jag gillade med AI från början var att kunna testa en idé medan den fortfarande var färsk. På sistone har hälften av mina idéer fått samma anteckning bredvid sig. Försök igen efter återställningen.

Jag hittade en annan utgångspunkt i CasaOS-communityn

Jag letade efter ett bättre sätt att organisera projektfiler när jag började läsa trådar om CasaOS och egen drift. Folk körde mindre modeller på sina egna datorer och gav dem en uppgift i taget. Vissa hade filerna och verktygen som bearbetade dem på samma server. Det var då jag började titta på ZimaCube 2.

Jag gick igenom mitt senaste arbete och gjorde en kort lista över sådant jag först skulle prova att göra lokalt.

• Gör en disposition av en mapp med ostrukturerade anteckningar.
• Skriv utkast till svar på de typer av mejl jag besvarar varje vecka.
• Hämta ut några fält från text som jag redan har förberett.
• Skriv ett kort skript som jag själv kan köra och kontrollera.
• Gör ett första utkast till rutintexter.

Var och en av de här uppgifterna låter kanske inte så märkvärdig i sig. Men de dyker upp hela veckan. Och de tog en del av samma kvot som jag ville ha tillgänglig när en knepig ändring i ett kodförråd dök upp.

För första gången behövde jag ta reda på vilken hårdvara jag behövde

Med en prenumeration visste jag var uppgraderingsknappen fanns. Nu försökte jag lista ut hur mycket minne en modell skulle behöva, hur mycket av det som måste få plats i GPU-minnet och om det skulle gå bra att vänta lite längre på ett bakgrundsjobb. Jag började titta på ZimaCube 2-konfigurationerna med konkreta uppgifter i åtanke.

Det tog längre tid att lära mig köra en modell lokalt än att öppna ett konto till. En container startade inte, så jag läste loggarna. En modell gav mig en disposition som jag inte kunde använda, så jag provade med en mindre del av källmaterialet och ändrade vad jag bad den om. Jag stötte fortfarande på jobb som tog lång tid.

Åtminstone hade jag något konkret att utgå från. Använde jag fel modell för uppgiften? Hade jag matat in för mycket på en gång? Hade jag nått en hårdvarubegränsning? Varje svar gav mig en bättre uppfattning om vad jag kunde prova innan jag lade ut mer pengar.

En kväll scrollade jag genom YouTube när jag hittade en video av Zero to MVP. Han körde små modeller på en ZimaCube 2. En modell hämtade text från bilder, och han använde andra för att sammanfatta och översätta. Jag hade lagt all den tiden på att läsa om hårdvara, och här visade någon vilken typ av arbete jag faktiskt kunde tänka mig att utföra på den. Det fick mig att leta efter andra lösningar, bland annat en privat assistent och en NAS som kunde hantera foton och dokument.

Zima-användare säger

Zero to MVP@ZeroToMVP

★★★★★

Små modeller. Vardagligt arbete.

Utforskar kompakta modeller på ZimaCube 2 för OCR, artikelsammanfattningar och filöversättning - så att specifika, återkommande jobb får ett eget lokalt arbetsflöde.

Alpha Nerd Tech@alphanerdtravels

★★★★★

Ett privat moln med ett AI-lager.

Kombinerar Nextcloud och en lokalt värdbaserad Alpha AI-assistent på ZimaCube 2 och samlar projektfiler och en anpassad assistent i en och samma självhanterade miljö.

野市零 / Zero Noichi@zero-onech

★★★★★

Ge lagrad information en ny roll.

Experiment med en AI NAS på ZimaCube 2: fotomärkning, dokumentutvinning och sökning med naturligt språk. Ett pågående kreatörsprojekt där ytterligare finjustering fortfarande ingår i arbetet.

Jag fortsatte med de första jobben som fungerade lokalt

Jag fortsatte att använda molnverktyg för sådant arbete där de gjorde nytta. Om jag var mitt uppe i ett svårt kodningsproblem eller behövde tänka igenom ett rörigt projekt vände jag mig fortfarande till dem.

För anteckningar, textutvinning och en första omskrivning började jag först prova en lokal modell. Jag kontrollerade resultatet mot originalet. Vissa jobb tog längre tid än jag hade väntat mig, och de viktiga krävde fortfarande en noggrann genomläsning. Men när ett jobb kördes helt på min egen hårdvara tog det inte av mitt Codex-utrymme.

Det förändrade lite hur jag började arbeta. Om allt jag ville ha var en disposition från en bunt anteckningar kunde jag öppna mappen och börja där. Jag behövde inte öppna en sida om användning först.

Det som gjorde att det kändes värt det var en helt vanlig avstängning

En kväll blev jag klar med ett förslag och såg att det fortfarande fanns några saker kvar på listan. Jag var trött. De kunde vänta.

Jag sparade filen. Jag stängde laptopen. Det föll mig inte in att kontrollera om något av mina konton hade återställts eller att hitta några anteckningar som jag kunde köra genom ett verktyg innan läggdags.

Jag hade gjort klart det jag tänkt göra. För första gången på ett tag kändes det som ett gott nog skäl att sluta.

Ge det dagliga arbetet en annan plats att köras på

Om du någon gång har öppnat laptopen igen för att användningen kom tillbaka, börja med det du satte dig för att göra den kvällen. Kanske var det en mapp med anteckningar eller en bunt dokument som du kunde gå igenom vid ett och samma tillfälle. Välj en uppgift du gör tillräckligt ofta för att märka när den kan köras lokalt, och behåll molnverktygen som du fortfarande använder när arbetet blir svårare.

• Standard for files and occasional CPU-based AI. Start here if your main job is storing project files and you only want to try small models for tasks like outlines or simple text extraction. Check that the model fits in memory and that CPU speed suits the job.
• Pro för en mer belastad hemmaserver med utrymme att bygga ut. Välj detta om du ska köra flera självhostade appar tillsammans med lagring, eller om du vill välja din egen kompatibla GPU senare. Pro levereras utan dedikerad GPU.
• Creator Pack (SKU ZCU084-R2) för regelbunden lokal AI-användning med GPU. Välj detta om det är viktigt att köra kompatibla modeller på servern från dag ett. Den levereras med ett NVIDIA RTX PRO 2000 med 16 GB VRAM och 64 GB systemminne. Kontrollera att modellen och arbetsbelastningen passar den här konfigurationen.