Kupiłem AI, żeby oszczędzać czas. Potem zacząłem obchodzić jego ograniczenia.

O 23:47 znów otworzyłem laptopa. Moje kredyty AI miały wkrótce wygasnąć.

Odłożyłem szczoteczkę do kubka i podłączyłem telefon do ładowania. Byłem gotowy do snu. Potem sprawdziłem stronę z informacjami o wykorzystaniu i zobaczyłem, że pakiet kredytów, za który zapłaciłem, wygasa o północy.

Stałem tak przez kilka sekund. Już za nie zapłaciłem. Równie dobrze mogę z nich skorzystać.

Wziąłem więc folder, który odłożyłem na następne popołudnie, i przeciągnąłem go do czatu. Był pełen notatek do projektu. Chciałem tylko wstępnego konspektu. Dałem sobie pół godziny.

Kiedy następnym razem spojrzałem na zegarek, była druga w nocy.

Następnego dnia usiadłem do zimnej kawy i właściwej pracy, którą miałem wykonać. Wciąż wracało do mnie to samo pytanie. Czy używałem AI, żeby oszczędzać czas, czy oddawałem swój czas, żeby wykorzystać całe AI, za które zapłaciłem?

Na początku każda subskrypcja miała sens

Pracuję jako freelancer. Tworzę strony internetowe, piszę oferty i przeglądam stosy materiałów, które klienci wysyłają mi przed rozpoczęciem projektu. Wkrótce zaczynałem otwierać narzędzie AI do wszystkich tych zadań. Mogło przygotować wstępny szkic, pomóc mi zrozumieć błąd albo zamienić pół strony notatek w coś, z czym mogłem faktycznie pracować.

Pierwszą subskrypcję łatwo było uzasadnić. Potem zacząłem płacić za Codex, bo korzystałem z niego na tyle często, że było warto. Zostawiłem sobie też inne narzędzie na dni, kiedy w połowie zlecenia dobijałem do limitu. Do tego dochodziło kilka doładowań i okazjonalny rachunek za API.

Wmawiałem sobie, że zmieszczę się w 200 dolarach miesięcznie. Kiedy w końcu wszystko zsumowałem, już przekroczyłem tę kwotę.

Mógłbym pogodzić się z rachunkiem, gdyby narzędzia pomagały mi dostarczać pracę na czas. Najbardziej frustrowało mnie to, że płaciłem za wszystkie, a i tak zastanawiałem się, czy jutro po południu uda mi się skończyć zlecenie.

Zacząłem planować prompty jak godziny rozliczane klientowi

Poniedziałek był na porządkowanie wymagań. Wtorek na kodowanie. W środę musiałem zostawić sobie trochę czasu na zmiany klienta. Przygotowałem arkusz kalkulacyjny z osobnym wierszem dla każdego narzędzia i kolumnami na pozostały limit oraz przewidywany termin jego odnowienia.

Wyglądało na to, że mam wszystko pod kontrolą. W praktyce, zanim mogłem w ogóle zabrać się do pracy, czekała mnie kolejna seria decyzji. Czy mam od razu wysłać cały opis zadania? Czy ta poprawka pochłonie resztę limitu? Czy zostawić Codex na ostatnią rundę?

Kiedyś podzieliłem zadanie między dwa narzędzia, żeby wycisnąć jak najwięcej z tego, co mi zostało. Ponownie wkleiłem opis zadania, wyjaśniłem, co już wypróbowałem, i otworzyłem ten sam diff. Zanim drugie narzędzie nadrobiło zaległości, sam już straciłem wątek.

Innym razem odpowiedź po prostu nie nadchodziła. Nie wiedziałem, czy czekając, dostanę odpowiedź, czy ponowna próba zużyje więcej z tego, co mi zostało.

Klient zapytał, czy mógłbym odesłać poprawioną wersję jeszcze tego samego dnia. Zanim napisałem: „Zrobię, co w mojej mocy”, spojrzałem na godzinę resetu w panelu limitów Codex. Potrafiłem wyjaśnić klientowi zawiłą zmianę. Nie miałem pojęcia, jak wytłumaczyć, że przed podaniem terminu sprawdzam licznik limitu.

Nawet reset zaczął przypominać termin

Wszedłem w nawyk sprawdzania informacji o resetach rano, w porze lunchu i jeszcze raz przed wylogowaniem. Ktoś na X odzyskał limit. Ktoś inny wciąż czekał. Pewnego razu Tibo wyjaśnił, że zmiana w buforowaniu sprawiała, iż długie sesje Codex szybciej zużywały limit. Zespół ją wycofał i zresetował limity.

Gdy tylko znowu dostawałem limit, szukałem czegoś do zrobienia. Raz przesunąłem projekt weekendowy na piątkowy wieczór, bo wreszcie mogłem go uruchomić. Innym razem powiedziałem rodzinie, że przyjdę na kolację, jak tylko wyślę jeszcze jeden prompt.

Jeden prompt zamienił się w dwa. Potem musiałem sprawdzić wynik. Zauważyłem coś, co chciałem zmienić, więc odesłałem go do poprawy.

Kiedy dotarłem do stołu, kolacja była zimna. Nikt nie prosił mnie, żebym pracował do późna. Po prostu tak przywykłem do obserwowania licznika, że odłożenie laptopa, gdy nadal miałem zapas, wydawało mi się marnotrawstwem.

Zacząłem wybierać zadania na podstawie tego, ile limitu mogłyby zużyć

Pewnego wieczoru spojrzałem na listę zadań i zobaczyłem coś ważnego, co odkładałem już od trzech dni. Właśnie spędziłem dwie godziny na porządkowaniu zestawu materiałów, których nie potrzebowałem do końca tygodnia. To było łatwe zadanie do wrzucenia do narzędzia, póki miałem niewykorzystane limity.

Odsunąłem krzesło. Jeśli kończyły mi się limity, przekładałem zadania na jutro. Jeśli dostawałem więcej limitu, przenosiłem je z powrotem na dziś wieczór. Zacząłem pozwalać, by licznik decydował, które zadanie wykonać najpierw.

To, co od początku podobało mi się w AI, to możliwość wypróbowania pomysłu, póki był jeszcze świeży. Ostatnio przy połowie moich pomysłów pojawiała się ta sama notatka. Spróbuj ponownie po resecie.

W społeczności CasaOS znalazłem inny punkt wyjścia

Szukałem lepszego sposobu na organizowanie plików projektowych, gdy trafiłem na wątki o CasaOS i self-hostingu. Ludzie uruchamiali mniejsze modele na własnych komputerach i powierzali im po jednym zadaniu naraz. Niektórzy przechowywali pliki oraz narzędzia do ich przetwarzania na tym samym serwerze. Wtedy zacząłem przyglądać się ZimaCube 2.

Przejrzałem ostatnie zadania i sporządziłem krótką listę rzeczy, które najpierw spróbowałbym robić lokalnie.

• Przekształć folder z luźnymi notatkami w konspekt.
• Przygotuj szkice odpowiedzi na typowe e-maile, na które odpisuję co tydzień.
• Wyodrębnij kilka informacji z przygotowanego już tekstu.
• Przygotuj szkic krótkiego skryptu, który mogę uruchomić i samodzielnie sprawdzić.
• Zrób pierwszy szkic rutynowych tekstów.

Każde z tych zadań z osobna nie wydaje się wielkie. Jednak pojawiają się przez cały tydzień. A do tego zużywały część limitu, który chciałem zachować na wypadek trudnej zmiany w repozytorium.

Po raz pierwszy musiałem ustalić, jakiego sprzętu potrzebuję

Przy subskrypcji wiedziałem, gdzie znaleźć przycisk aktualizacji. Teraz próbowałem ustalić, ile pamięci będzie potrzebował model, jaka jej część musi zmieścić się w pamięci GPU i czy mogę poczekać trochę dłużej na zadanie wykonywane w tle. Zacząłem przeglądać konfiguracje ZimaCube 2, mając na uwadze konkretne zadania.

Nauka lokalnego uruchamiania modelu zajęła mi więcej czasu niż założenie kolejnego konta. Kontener nie chciał się uruchomić, więc przejrzałem logi. Jeden model przygotował konspekt, z którego nie mogłem skorzystać, więc spróbowałem podzielić materiał źródłowy na mniejsze fragmenty i zmieniłem polecenie. Nadal trafiały się zadania, które trwały długo.

Przynajmniej miałem konkretny punkt odniesienia. Czy do tego zadania używałem niewłaściwego modelu? Czy podawałem mu zbyt dużo danych naraz? Czy napotykałem ograniczenia sprzętowe? Każda odpowiedź podpowiadała mi, co wypróbować, zanim wydam więcej pieniędzy.

Pewnego wieczoru przeglądałem YouTube’a, gdy natrafiłem na film od Zero to MVP. Autor uruchamiał małe modele na ZimaCube 2. Jeden wyciągał tekst z obrazów, a innych używał do podsumowywania i tłumaczenia. Spędziłem mnóstwo czasu na czytaniu o sprzęcie, a tu ktoś pokazywał, co naprawdę mógłbym na nim robić. To skłoniło mnie do poszukiwania innych konfiguracji, w tym prywatnego asystenta i NAS-a, który mógłby obsługiwać zdjęcia i dokumenty.

Użytkownik Zima mówi

Zero to MVP@ZeroToMVP

★★★★★

Małe modele. Codzienna praca.

Przedstawia działanie kompaktowych modeli na ZimaCube 2 przy rozpoznawaniu tekstu, streszczaniu artykułów i tłumaczeniu plików — zapewniając konkretne, powtarzalne zadania we własnym lokalnym przepływie pracy.

Alpha Nerd Tech@alphanerdtravels

★★★★★

Prywatna chmura z warstwą AI.

Łączy Nextcloud i lokalnie hostowanego asystenta Alpha AI na ZimaCube 2, umieszczając pliki projektów i spersonalizowanego asystenta w jednym samodzielnie zarządzanym środowisku.

野市零 / Zero Noichi@zero-onech

★★★★★

Nadaj przechowywanym informacjom nową rolę.

Eksperymenty z AI NAS na ZimaCube 2: etykiety zdjęć, wyodrębnianie informacji z dokumentów i wyszukiwanie w języku naturalnym. Rozwijany projekt twórcy, wciąż wymagający dalszego dostrajania.

Zachowałem kilka pierwszych zadań, które działały lokalnie

Nadal korzystałem z narzędzi w chmurze do zadań, do których naprawdę się nadawały. Gdy zagłębiałem się w trudny problem z kodowaniem albo musiałem przeanalizować złożony projekt, wciąż po nie sięgałem.

W przypadku notatek, wyodrębniania tekstu i pierwszej wersji przeredagowanego tekstu zacząłem najpierw wypróbowywać model lokalny. Sprawdzałem wynik z oryginałem. Niektóre zadania trwały dłużej, niż się spodziewałem, a te ważne i tak wymagały uważnego sprawdzenia. Ale gdy zadanie działało w całości na moim własnym sprzęcie, nie pomniejszało mojego limitu Codex.

To zmieniło nieco sposób, w jaki zaczynałem pracę. Jeśli potrzebowałem tylko konspektu na podstawie zestawu notatek, mogłem otworzyć folder i od razu się za to zabrać. Nie musiałem najpierw otwierać strony z informacjami o wykorzystaniu.

To, dzięki czemu miało to sens, było bardzo zwyczajnym zakończeniem pracy

Pewnego wieczoru skończyłem pisać propozycję i zauważyłem, że na mojej liście wciąż zostało kilka rzeczy. Byłem zmęczony. Mogły poczekać.

Zapisałem plik. Zamknąłem laptopa. Nie przyszło mi do głowy, żeby sprawdzać, czy odnowiły się limity na którymś z moich kont, ani szukać notatek, które mógłbym przepuścić przez jakieś narzędzie przed snem.

Zrobiłem to, co zamierzałem. Po raz pierwszy od dłuższego czasu był to wystarczający powód, żeby skończyć.

Przenieś codzienną pracę gdzie indziej

Jeśli zdarzyło Ci się wrócić do laptopa, bo znów pojawił się dostęp do internetu, zacznij od tego, co planowałeś zrobić tego wieczoru. Może chodziło o folder z notatkami albo zestaw dokumentów, które dałoby się sprawdzić za jednym razem. Wybierz zadanie, które wykonujesz na tyle często, by zauważyć, że można je realizować lokalnie, i zachowaj narzędzia chmurowe, do których sięgasz, gdy praca staje się trudniejsza.

• Standard for files and occasional CPU-based AI. Start here if your main job is storing project files and you only want to try small models for tasks like outlines or simple text extraction. Check that the model fits in memory and that CPU speed suits the job.
• Pro do bardziej obciążonego serwera domowego z możliwością rozbudowy. Wybierz ten model, jeśli oprócz pamięci masowej będziesz uruchamiać kilka aplikacji hostowanych samodzielnie lub chcesz później wybrać własną kompatybilną kartę GPU. Pro jest sprzedawany bez dedykowanej karty GPU.
• Creator Pack (SKU ZCU084-R2) do regularnego uruchamiania lokalnych modeli AI z wykorzystaniem GPU. Wybierz ten zestaw, jeśli od pierwszego dnia chcesz uruchamiać kompatybilne modele na serwerze. Zawiera kartę NVIDIA RTX PRO 2000 z 16 GB pamięci VRAM i 64 GB pamięci systemowej. Sprawdź, czy Twoje modele i obciążenia pasują do tej konfiguracji.