시간을 아끼려고 AI를 샀다. 그러다 AI의 한계를 피해 일하기 시작했다.

오후 11시 47분, 나는 노트북을 다시 열었다. AI 크레딧이 곧 만료될 예정이었다.

칫솔을 컵에 다시 꽂고 휴대전화도 충전기에 연결했다. 이제 잘 준비가 끝났다. 그러다 사용량 페이지를 확인하고는, 돈을 내고 산 크레딧 묶음이 자정에 만료된다는 걸 알았다.

나는 몇 초 동안 그 자리에 서 있었다. 이미 돈을 냈잖아. 이왕이면 써야지.

그래서 다음 날 오후에 하려고 한 폴더 하나를 채팅창에 끌어다 놓았다. 프로젝트 메모가 한 묶음 들어 있었다. 대략적인 개요만 있으면 됐다. 시간을 30분으로 정해 뒀다.

다음에 시계를 확인했을 때는 새벽 두 시였다.

다음 날, 식어 버린 커피와 함께 실제로 하려던 일을 앞에 두고 앉았다. 자꾸 같은 질문으로 돌아왔다. AI로 시간을 아끼고 있는 걸까, 아니면 돈을 내고 구독한 AI를 전부 쓰느라 내 시간을 포기하고 있는 걸까?

처음에는 구독마다 다 이유가 있었다

나는 프리랜서다. 웹사이트를 만들고, 제안서를 쓰고, 프로젝트를 시작하기 전에 클라이언트가 보내는 자료 더미를 정리한다. 얼마 지나지 않아 이 세 가지 일에 모두 AI 도구를 열어 쓰게 됐다. 초안을 만들어 주고, 오류를 이해하도록 도와주고, 반 페이지 분량의 메모를 실제로 활용할 수 있는 형태로 정리해 주기도 했다.

첫 구독은 쉽게 결정했다. 그러다 쓸 만큼 충분히 사용하게 되어 Codex에도 돈을 냈다. 작업 중간에 사용 한도에 걸리는 날을 대비해 다른 도구도 계속 구독했다. 크레딧을 몇 번 추가 구매했고, 이따금 API 요금도 나왔다.

한 달 지출을 200달러 아래로 유지하겠다고 스스로 다짐했었다. 마침내 합계를 내 보니 이미 그 금액을 넘긴 뒤였다.

도구가 제시간에 결과물을 내는 데 도움이 된다면 비용은 감당할 수 있었다. 견디기 힘들었던 건 모든 도구에 돈을 내고도 내일 오후에 작업을 끝낼 수 있을지 여전히 걱정해야 한다는 점이었다.

프롬프트를 청구 가능한 작업 시간처럼 예산에 맞추기 시작했다

월요일에는 요구 사항을 정리하고, 화요일에는 코딩하고, 수요일에는 클라이언트의 변경 사항을 반영할 여유를 둬야 했다. 도구마다 한 줄씩 만들고, 남은 사용량과 초기화 예정 시각을 열로 넣은 스프레드시트를 만들었다.

겉으로는 모든 걸 잘 통제하는 것처럼 보였다. 실제로는 작업을 열어 보기도 전에 두 번째로 결정을 내려야 했다. 지금 작업 개요 전체를 보내야 할까? 이번 수정으로 남은 사용량을 다 써버릴까? 마지막 검토를 위해 Codex를 아껴 둬야 할까?

남은 사용량을 최대한 활용하려고 작업을 두 가지 도구에 나눠 맡긴 적이 있다. 작업 개요를 다시 붙여넣고, 이미 무엇을 시도했는지 설명한 뒤, 똑같은 diff를 열었다. 두 번째 도구가 따라잡았을 때쯤엔 나조차 흐름을 놓친 뒤였다.

또 다른 때는 응답이 그대로 멈춰 있었다. 기다리면 답변을 받을 수 있을지, 다시 시도하면 남은 사용량이 더 줄어들지 알 수 없었다.

고객이 당일에 수정본을 받을 수 있냐고 물었다. “최선을 다해 볼게요.”라고 답하기 전에 Codex 사용량 대시보드의 초기화 시간을 확인했다. 고객에게 까다로운 변경 사항을 설명할 수는 있었다. 납품 시간을 알려주기 전에 사용량 표시기를 확인하고 있었다는 사실은 어떻게 설명해야 할지 전혀 몰랐다.

초기화조차 마감처럼 느껴지기 시작했다

아침에, 점심 무렵에, 그리고 로그아웃하기 전에 한 번 더 초기화 업데이트를 확인하는 습관이 생겼다. X에서는 누군가 사용량이 복구됐다고 했다. 다른 누군가는 여전히 기다리고 있었다. 한 번은 Tibo가 설명하기를, 캐싱 변경으로 Codex를 오래 사용하면 허용량이 더 빨리 소진됐다고 했다. 팀은 이를 롤백하고 사용량을 초기화했다.

사용량이 다시 채워질 때마다 쓸 일을 찾곤 했다. 한 번은 주말 프로젝트를 실행할 수 있게 되자 금요일 밤으로 앞당겼다. 또 다른 날 밤에는 프롬프트 하나만 더 보내고 저녁 식사에 가겠다고 가족에게 말했다.

프롬프트 하나가 둘이 됐다. 그러고는 결과를 확인해야 했다. 바꾸고 싶은 부분이 보여서 다시 보냈다.

식탁에 도착했을 땐 저녁이 식어 있었다. 누구도 늦게까지 일하라고 한 적은 없었다. 사용량 표시기를 들여다보는 데 너무 익숙해진 나머지, 여유분이 남아 있는데도 노트북을 덮으면 뭔가를 낭비하는 기분이 들었다.

크레딧을 소진할 만한 일을 기준으로 작업을 고르기 시작했다

어느 날 저녁 할 일 목록을 보다가 사흘째 미루고 있던 중요한 일을 발견했다. 그 주 후반까지 필요하지도 않은 자료 묶음을 정리하는 데 방금 두 시간을 쓴 참이었다. 크레딧이 남아 있을 때 도구에 맡기기 딱 쉬운 일이었다.

의자를 뒤로 밀었다. 사용량이 부족해지면 할 일을 내일로 미뤘다. 사용량이 더 생기면 오늘 밤으로 다시 당겼다. 어떤 일을 먼저 할지 사용량 표시기에 맡기기 시작했다.

처음에 AI가 좋았던 건 아이디어가 아직 생생할 때 바로 시도해 볼 수 있다는 점이었다. 요즘은 아이디어 절반 옆에 같은 메모가 붙어 있었다. 초기화 후에 다시 시도.

CasaOS 커뮤니티에서 다른 출발점을 찾았습니다

프로젝트 파일을 더 잘 정리할 방법을 찾다가 CasaOS와 셀프 호스팅 관련 게시글을 접했습니다. 사람들은 자기 컴퓨터에서 소형 모델을 실행하며 한 번에 한 가지 작업만 맡기고 있었습니다. 파일과 그 파일을 처리하는 도구를 같은 서버에 두는 사람들도 있었습니다. 그때부터 ZimaCube 2를 살펴보기 시작했습니다.

최근 작업을 돌아보며 우선 로컬에서 시도해 볼 만한 일들을 짧게 목록으로 만들었습니다.

• 정리되지 않은 메모 폴더를 개요로 만들기.
• 매주 답하는 비슷한 유형의 이메일에 대한 답장 초안 작성하기.
• 미리 준비해 둔 텍스트에서 몇 가지 항목 추출하기.
• 직접 실행하고 확인할 수 있는 짧은 스크립트 초안 작성하기.
• 일상적인 문구를 1차로 다듬기.

이 작업들 하나하나만 보면 별것 아닌 것 같습니다. 하지만 일주일 내내 반복해서 하게 되죠. 그 때문에 난감한 저장소 변경 작업이 생겼을 때 쓰려고 남겨두고 싶었던 사용량도 일부 차지하고 있었습니다.

처음으로 필요한 하드웨어가 무엇인지 직접 따져봐야 했습니다

구독을 쓸 때는 업그레이드 버튼이 어디 있는지 알고 있었습니다. 이제는 모델에 메모리가 얼마나 필요한지, 그중 얼마나 많은 양이 GPU 메모리에 들어가야 하는지, 백그라운드 작업을 조금 더 기다려도 괜찮을지 알아보려 했습니다. 실제 작업을 염두에 두고 ZimaCube 2 구성을 살펴보기 시작했습니다.

모델을 로컬에서 실행하는 법을 익히는 데는 계정을 하나 더 만드는 것보다 시간이 더 걸렸습니다. 컨테이너가 시작되지 않아 로그를 읽었습니다. 한 모델이 쓸 수 없는 개요를 내놓아서 원본 자료를 더 작은 부분으로 나누고 요청하는 방식도 바꿔 봤습니다. 그래도 작업이 느릴 때가 있었습니다.

적어도 구체적으로 살펴볼 만한 게 생겼습니다. 작업에 맞지 않는 모델을 쓰고 있었던 걸까요? 한 번에 너무 많은 내용을 입력했을까요? 하드웨어 한계에 부딪힌 걸까요? 답을 하나씩 찾아가면서 돈을 더 쓰기 전에 무엇을 시도해 볼지 더 잘 알게 됐습니다.

어느 날 저녁 YouTube를 둘러보다가 Zero to MVP의 영상을 보게 됐습니다. 그는 ZimaCube 2에서 소형 모델을 실행하고 있었습니다. 한 모델은 이미지에서 텍스트를 추출했고, 다른 모델들은 요약과 번역에 사용했습니다. 저는 하드웨어에 관한 글만 한참 읽고 있었는데, 누군가 그걸로 실제로 어떤 일을 할 수 있는지 보여주는 영상을 본 거죠. 그 일을 계기로 다른 구성도 찾아보기 시작했습니다. 개인용 어시스턴트와 사진 및 문서를 다룰 수 있는 NAS도 알아봤습니다.

Zima 사용자의 이야기

Zero to MVP@ZeroToMVP

★★★★★

소형 모델. 일상적인 작업.

ZimaCube 2에서 OCR, 기사 요약, 파일 번역에 소형 모델을 활용하는 방법을 살펴봅니다. 구체적이고 반복적인 작업에 각각 로컬 워크플로를 제공할 수 있습니다.

Alpha Nerd Tech@alphanerdtravels

★★★★★

AI 기능을 더한 프라이빗 클라우드.

ZimaCube 2에 Nextcloud와 로컬 호스팅 Alpha AI 어시스턴트를 결합해 프로젝트 파일과 맞춤형 어시스턴트를 하나의 자체 관리 환경에 통합합니다.

野市零 / Zero Noichi@zero-onech

★★★★★

저장된 정보에 새로운 역할을 부여하세요.

ZimaCube 2의 AI NAS 실험: 사진 라벨링, 문서 추출, 자연어 검색. 계속 발전하는 크리에이터 프로젝트로, 추가 조정도 작업의 일부입니다.

로컬에서 잘 작동한 처음 몇 가지 작업을 계속 사용했다

클라우드 도구는 제 역할을 하는 작업에 계속 사용했다. 어려운 코딩 문제를 깊이 파고들거나 복잡한 프로젝트를 논리적으로 풀어야 할 때는 여전히 클라우드 도구를 찾았다.

노트 정리, 텍스트 추출, 초안 재작성에는 먼저 로컬 모델을 써 보기 시작했다. 결과는 원본과 대조했다. 예상보다 오래 걸리는 작업도 있었고, 중요한 작업은 여전히 꼼꼼히 읽어봐야 했다. 하지만 작업을 전부 내 하드웨어에서 실행하면 Codex 사용량을 소모하지 않았다.

그 일로 작업을 시작하는 방식도 조금 달라졌다. 노트 묶음에서 개요만 뽑으면 된다면 폴더를 열고 바로 시작할 수 있었다. 먼저 사용량 페이지를 열 필요가 없었다.

이 순간이 만족스럽게 느껴진 건 아주 평범하게 작업을 마무리했기 때문이다

어느 저녁, 제안서 작성을 마치고 목록에 몇 가지 일이 남아 있는 걸 봤다. 피곤했다. 나중에 해도 됐다.

파일을 저장하고 노트북을 닫았다. 계정 사용량이 초기화됐는지 확인하거나, 잠들기 전에 도구로 처리할 노트를 찾을 생각은 들지 않았다.

끝내려고 했던 일을 다 끝냈다. 한동안 처음으로, 그것만으로도 멈추기에 충분했다.

일상적인 작업은 다른 곳에서 실행하세요

사용량이 다시 늘어 노트북을 다시 열어 본 적이 있다면, 그날 밤 하려고 앉았던 일부터 시작하세요. 메모 폴더나 한 번에 검토할 수 있는 문서 묶음이었을 수도 있습니다. 로컬에서 실행할 수 있을 때 알아차릴 만큼 자주 하는 작업을 하나 고르고, 더 어려운 작업을 할 때 여전히 찾게 되는 클라우드 도구는 계속 사용하세요.

• 파일 보관 및 가끔씩 CPU 기반 AI를 사용하는 데 적합한 Standard. 주된 용도가 프로젝트 파일 저장이고 개요 작성이나 간단한 텍스트 추출 같은 작업에 소형 모델을 시험해 보고 싶다면 여기서 시작하세요. 모델이 메모리에 들어가는지, CPU 속도가 작업에 적합한지 확인하세요.
• 확장 공간이 필요한 보다 바쁜 홈 서버에 적합한 Pro. 저장 공간과 함께 여러 셀프 호스팅 앱을 실행하거나, 나중에 직접 호환 GPU를 선택하고 싶다면 이 제품을 선택하세요. Pro에는 전용 GPU가 포함되지 않습니다.
• 일상적인 GPU 기반 로컬 AI에 적합한 Creator Pack (SKU ZCU084-R2). 처음부터 서버에서 호환 모델을 실행하는 것이 우선이라면 이 제품을 선택하세요. 16GB VRAM의 NVIDIA RTX PRO 2000과 64GB 시스템 메모리가 포함되어 있습니다. 사용하려는 모델과 작업이 이 구성에 맞는지 확인하세요.