Ho comprato l’IA per risparmiare tempo. Poi ho iniziato a trovare soluzioni ai suoi limiti.

Alle 23:47 ho riaperto il portatile. I miei crediti IA stavano per scadere.

Avevo rimesso lo spazzolino nel bicchiere e collegato il telefono alla presa. Ero pronto per andare a letto. Poi ho controllato la pagina dei consumi e ho visto che un pacchetto di crediti per cui avevo pagato sarebbe scaduto a mezzanotte.

Sono rimasto lì per qualche secondo. Li ho già pagati. Tanto vale usarli.

Così ho preso una cartella che avevo messo da parte per il pomeriggio successivo e l’ho trascinata nella chat. Conteneva una serie di appunti sul progetto. Volevo solo una scaletta provvisoria. Mi ero dato mezz’ora.

La volta successiva che ho guardato l’orologio, erano le due di notte.

Il giorno dopo mi sono seduto con un caffè ormai freddo e il lavoro vero che avrei dovuto fare. Continuavo a tornare alla stessa domanda. Usavo l’IA per risparmiare tempo o rinunciavo al mio tempo per poter usare tutta l’IA che avevo pagato?

All’inizio, ogni abbonamento aveva senso

Lavoro come freelance. Realizzo siti web, scrivo proposte e riordino le pile di materiale che i clienti mi mandano prima dell’inizio di un progetto. Ben presto ho iniziato ad aprire uno strumento di IA per tutte e tre le cose. Poteva preparare una prima bozza, aiutarmi a capire un errore o trasformare mezza pagina di appunti in qualcosa con cui potessi davvero lavorare.

Il primo abbonamento è stata una scelta facile. Poi ho pagato per Codex, perché lo usavo abbastanza da giustificarne il costo. Ho tenuto anche un altro strumento per i giorni in cui raggiungevo il limite a metà di un lavoro. In più, c’erano qualche ricarica e, ogni tanto, una fattura API.

Mi ero detto che avrei tenuto tutto sotto i 200 $ al mese. Quando finalmente ho fatto i conti, avevo già superato la cifra.

La spesa non mi preoccupava, se gli strumenti mi aiutavano a consegnare in tempo. Quello che mi pesava era pagarli tutti e chiedermi comunque se sarei riuscito a finire un lavoro il pomeriggio dopo.

Ho iniziato a pianificare i prompt come fossero ore fatturabili

Il lunedì era dedicato a organizzare i requisiti. Il martedì a scrivere codice. Il mercoledì doveva lasciare un po’ di spazio alle modifiche del cliente. Ho creato un foglio di calcolo con una riga per ogni strumento e colonne per indicare quanto utilizzo mi restava e quando sarebbe stato ripristinato.

Sembrava che avessi tutto sotto controllo. In pratica, mi ritrovavo a dover prendere altre decisioni prima ancora di poter aprire il lavoro. Dovevo inviare subito tutto il brief? Questa revisione avrebbe consumato il resto del mio utilizzo? Dovevo tenere Codex per l’ultimo passaggio?

Una volta ho suddiviso un lavoro tra due strumenti per far fruttare quello che mi restava. Ho reinserito il brief, ho spiegato cosa avevo già provato e ho aperto la stessa differenza nel codice. Quando il secondo strumento si è aggiornato, avevo perso il filo anch’io.

Un’altra volta, una risposta rimase lì senza arrivare. Non riuscivo a capire se aspettando avrei ottenuto una risposta o se riprovando avrei consumato una parte maggiore di quello che mi restava.

Un cliente mi chiese se potevo consegnargli una revisione entro la giornata. Prima di digitare «Farò del mio meglio», guardai l’orario del ripristino nella mia dashboard di utilizzo di Codex. Potevo spiegare a un cliente una modifica complicata. Non avevo idea di come spiegargli che stavo controllando un contatore di utilizzo prima di dargli una data di consegna.

Anche un ripristino iniziò a sembrare una scadenza

Avevo preso l’abitudine di controllare gli aggiornamenti sui ripristini al mattino, verso pranzo e ancora una volta prima di disconnettermi. Qualcuno su X aveva riottenuto la quota. Qualcun altro era ancora in attesa. Una volta, Tibo spiegò che una modifica al caching aveva fatto consumare più rapidamente la quota durante le sessioni lunghe con Codex. Il team annullò la modifica e ripristinò la quota.

Ogni volta che mi veniva ripristinata la quota, cercavo qualcosa da farci. Una volta anticipai un progetto del fine settimana al venerdì sera perché finalmente potevo eseguirlo. Un’altra sera, dissi alla mia famiglia che sarei arrivato a cena dopo aver inviato un ultimo prompt.

Un prompt ne diventò due. Poi dovetti controllare il risultato. Trovai qualcosa che volevo modificare, così lo rimandai indietro.

Quando arrivai a tavola, la cena era fredda. Nessuno mi aveva chiesto di lavorare fino a tardi. Mi ero solo abituato così tanto a tenere d’occhio il contatore che riporre il portatile quando avevo ancora margine mi sembrava uno spreco.

Avevo iniziato a scegliere le attività in base a quanto avrebbero consumato i crediti

Una sera guardai la mia lista di cose da fare e vidi qualcosa di importante che rimandavo da tre giorni. Avevo appena passato due ore a sistemare una serie di materiali che non mi sarebbero serviti prima di più avanti nella settimana. Era una cosa facile da affidare allo strumento mentre avevo crediti da usare.

Spinsi indietro la sedia. Se stavo esaurendo la quota, rimandavo le cose al giorno dopo. Se me ne veniva assegnata altra, le riportavo a quella sera. Avevo iniziato a lasciare che fosse il contatore a decidere quale attività veniva prima.

Ciò che mi era piaciuto dell’IA fin dall’inizio era la possibilità di provare un’idea finché era ancora fresca. Ultimamente, metà delle mie idee finiva con la stessa nota accanto. Riprova dopo il ripristino.

Nella community di CasaOS ho trovato un punto di partenza diverso

Stavo cercando un modo migliore per organizzare i file di progetto quando mi sono imbattuto in discussioni su CasaOS e sul self-hosting. Le persone eseguivano modelli più piccoli sui propri computer e affidavano loro un compito alla volta. Alcune tenevano i file e gli strumenti usati per elaborarli sullo stesso server. È stato allora che ho iniziato a interessarmi a ZimaCube 2.

Ho ripercorso il mio lavoro recente e fatto una breve lista delle cose che avrei provato prima in locale.

• Trasforma una cartella di appunti disordinati in una scaletta.
• Prepara risposte per le stesse tipologie di email a cui rispondo ogni settimana.
• Estrai alcuni campi da un testo che ho già preparato.
• Prepara una breve procedura che possa eseguire e verificare da solo.
• Fai una prima revisione dei testi di routine.

Presi singolarmente, nessuno di questi compiti sembra granché. Però capitano durante tutta la settimana. E consumavano una parte del limite che volevo tenere a disposizione per quando si presentava una modifica complicata in un repository.

Per la prima volta, dovevo capire quale hardware mi servisse

Con un abbonamento, sapevo dov’era il pulsante per passare a un piano superiore. Ora cercavo di capire quanta memoria servisse a un modello, quanta dovesse trovarsi nella memoria della GPU e se mi andasse bene aspettare un po’ di più per un’attività in background. Ho iniziato a esaminare le configurazioni di ZimaCube 2 pensando ad attività concrete.

Imparare a eseguire un modello in locale ha richiesto più tempo che aprire un altro account. Un container non si avviava, così ho letto i log. Un modello mi ha fornito una scaletta inutilizzabile, quindi ho provato con una porzione più piccola del materiale di partenza e ho cambiato la richiesta. Mi sono comunque imbattuto in attività lente.

Almeno avevo qualcosa di concreto da esaminare. Stavo usando il modello sbagliato per quel compito? Gli avevo dato troppi dati tutti insieme? Avevo raggiunto un limite hardware? Ogni risposta mi dava un’idea più chiara di cosa provare prima di spendere altri soldi.

Una sera stavo scorrendo YouTube quando mi sono imbattuto in un video di Zero to MVP. Usava modelli di piccole dimensioni su uno ZimaCube 2. Uno estraeva testo dalle immagini, mentre altri servivano a riassumere e tradurre. Avevo passato tutto quel tempo a leggere di hardware, ed ecco qualcuno che mostrava un tipo di lavoro che riuscivo davvero a immaginare di farci. Così ho iniziato a cercare altre configurazioni, tra cui un assistente privato e un NAS in grado di lavorare con foto e documenti.

La parola agli utenti Zima

Zero to MVP@ZeroToMVP

★★★★★

Modelli piccoli. Lavori di tutti i giorni.

Esplora modelli compatti su ZimaCube 2 per OCR, riepiloghi di articoli e traduzione di file, assegnando a lavori specifici e ripetibili un flusso di lavoro locale dedicato.

Alpha Nerd Tech@alphanerdtravels

★★★★★

Un cloud privato, con un livello di AI.

Combina Nextcloud e un assistente Alpha AI ospitato in locale su ZimaCube 2, riunendo i file di progetto e un assistente personalizzato in un unico ambiente gestito autonomamente.

野市零 / Zero Noichi@zero-onech

★★★★★

Dai un nuovo ruolo alle informazioni archiviate.

Esperimenti con un NAS AI su ZimaCube 2: etichette per le foto, estrazione di documenti e ricerca in linguaggio naturale. Un progetto creativo in evoluzione, che richiede ancora ulteriori perfezionamenti.

Ho continuato a usare i primi lavori che funzionavano in locale

Ho continuato a usare gli strumenti cloud per i lavori in cui valevano davvero la pena. Se ero alle prese con un problema di programmazione difficile o dovevo ragionare su un progetto complicato, continuavo a ricorrere a loro.

Per gli appunti, l’estrazione del testo e una prima rielaborazione, ho iniziato a provare prima un modello locale. Ho confrontato il risultato con l’originale. Alcuni lavori richiedevano più tempo del previsto e quelli importanti avevano comunque bisogno di una lettura attenta. Ma quando un lavoro veniva svolto interamente sul mio hardware, non consumava la mia quota Codex.

Questo ha cambiato un po’ il modo in cui iniziavo a lavorare. Se volevo solo ricavare una scaletta da una serie di appunti, potevo aprire la cartella e cominciare da lì. Non dovevo prima aprire una pagina sui limiti di utilizzo.

A renderlo soddisfacente è stato un normalissimo spegnimento

Una sera ho finito una proposta e ho visto che c’erano ancora alcune cose nella mia lista. Ero stanco. Potevano aspettare.

Ho salvato il file. Ho chiuso il portatile. Non mi è venuto in mente di controllare se uno dei miei account si fosse resettato o di cercare degli appunti da elaborare con uno strumento prima di andare a dormire.

Avevo finito quello che volevo finire. Per la prima volta dopo un po’, mi è sembrato un buon motivo per fermarmi.

Dai al lavoro di tutti i giorni un posto diverso da cui partire

Se ti è mai capitato di riaprire il laptop perché il tuo utilizzo si era ripreso, inizia da ciò che ti eri seduto a fare quella sera. Magari una cartella di appunti o una serie di documenti da controllare in una sola volta. Scegli un’attività che svolgi abbastanza spesso da accorgerti del vantaggio di eseguirla in locale, e continua a usare gli strumenti cloud a cui ricorri quando il lavoro si fa più complesso.

• Standard for files and occasional CPU-based AI. Start here if your main job is storing project files and you only want to try small models for tasks like outlines or simple text extraction. Check that the model fits in memory and that CPU speed suits the job.
• Pro per un server domestico più impegnativo, con spazio per espandersi. Sceglilo se vuoi eseguire diverse app self-hosted insieme all’archiviazione o se vuoi scegliere in seguito una GPU compatibile. Pro viene fornito senza GPU dedicata.
• Creator Pack (SKU ZCU084-R2) per l’uso regolare dell’IA locale con GPU. Sceglilo se fin dal primo giorno è importante eseguire modelli compatibili sul server. Include una NVIDIA RTX PRO 2000 con 16 GB di VRAM e 64 GB di memoria di sistema. Verifica la compatibilità del modello e del carico di lavoro con questa configurazione.