Prijzen van cloud-AI-API's versus lokale AI: wat kost je workload echt?

A cloud API can cost less than owning an inference system for light or irregular work. Local AI becomes financially interesting when a suitable machine handles enough repeatable work to justify its hardware and operating costs. The comparison needs actual model calls, billed tokens, useful output quality and the full local budget. An electricity-only estimate leaves out much of the ownership cost.

Begin met de ZimaSpace AI API-kostencalculator. Deze vergelijkt de officiële tarieven per teksttoken van acht aanbieders en neemt vervolgens de afschrijving op hardware, elektriciteit en onderhoud mee in hetzelfde maandscenario. Gebruik je eigen logboeken en metingen; het uitgewerkte voorbeeld hieronder laat zien waarom de uitkomst kan veranderen afhankelijk van het gekozen eindpunt.

Begin met modelaanroepen en factureerbare tokens

Een verzoek van een eindgebruiker kan meerdere modelaanroepen in gang zetten. Een agent kan plannen, een tool aanroepen, het resultaat lezen, het opnieuw proberen en een definitief antwoord genereren. Elke stap kan invoer- en uitvoertokens toevoegen. Een budget dat alleen is gebaseerd op het uiteindelijke zichtbare antwoord houdt geen rekening met dat werk.

Meet een representatieve taak vanaf de start tot en met het geaccepteerde resultaat. Neem systeeminstructies, gespreksgeschiedenis, opgehaalde documenten en gefactureerde redeneerstappen mee. Gebruik de gebruiksgegevens van de aanbieder in plaats van een schatting op basis van het aantal woorden. Tokenizers verschillen, dus dezelfde tekst leidt niet bij elk model tot hetzelfde factureerbare aantal tokens.

Wat kost hetzelfde tokenbudget bij verschillende aanbieders?

Stel: 30.000 modelaanroepen per maand, elk met 2.000 invoertokens en 500 gefactureerde uitvoertokens. Dat zijn 60 miljoen invoertokens en 15 miljoen uitvoertokens. Dit voorbeeld omvat geen cachetreffers, cachewrites, gratis tegoeden of extra toolkosten. De tarieven zijn gecontroleerd op 30 oktober 2026.

De tabel gebruikt standaardtarieven van de aanbieders, waar vermeld. Het DeepSeek-voorbeeld gebruikt piektarieven; het Qwen-voorbeeld gebruikt de gepubliceerde tarieven voor implementaties in de VS. Gemini 3.8 Flash geldt tegen het gepubliceerde introductietarief tot en met 31 december 2026. Deze modellen verschillen in mogelijkheden, tokenisatie, latentie en functies; de tabel vergelijkt een numeriek tokenbudget.

GPT-6.1 Sol kost bijvoorbeeld 60 × US$2 plus 15 × US$10, oftewel US$270 voor dit tokenscenario. Mistral Small 4 kost US$18 op basis van de vermelde tarieven van US$0.15 voor invoer en US$0.60 voor uitvoer. Dat verschil is de reden waarom je een lokaal budget moet vergelijken met de daadwerkelijke API en de vereisten van de taak, niet met een generieke prijs voor ‘cloud-AI’.

Wat hoort bij de maandelijkse kosten van lokale AI?

Neem het volledige inferentiesysteem: de host, benodigde accelerator, geheugen, opslag en relevante randapparatuur. Schat vervolgens de levensduur, een realistische restwaarde, het elektriciteitsverbruik van het hele systeem en de gebruikskosten. Als je een opslagapparaat en een aparte GPU-host koopt, horen beide in de bijbehorende budgetpost.

Hier is een voorbeeld van een systeembudget, geen productofferte of inferentiebenchmark:

Met deze aannames ligt het lokale budget hoger dan de voorbeelden van US$18 voor Mistral en US$36 voor DeepSeek, dicht bij het voorbeeld van US$48 voor Qwen en lager dan de voorbeelden van US$270. Dat bewijst nog niet dat deze hypothetische machine dezelfde bruikbare resultaten kan leveren. Geheugenvereisten, generatiesnelheid, gelijktijdigheid en aanvaardbare kwaliteit moeten afzonderlijk worden getest.

Waarom caching en lange context de uitkomst veranderen

Een korting op cachelezingen geldt niet voor elk invoertoken. Herhaalde prefixen moeten aan de voorwaarden voldoen en beschikbaar blijven. Voor het initialiseren van de cache kan een eigen tarief gelden, en sommige providers brengen na verloop van tijd kosten in rekening voor opgeslagen tokens in de cache. Voer lezingen en schrijfbewerkingen in de tool in als afzonderlijke aandelen van de invoertokens; voeg niet-gemodelleerde opslag- of servicekosten afzonderlijk toe.

Staffels voor lange context zijn ook afhankelijk van afzonderlijke prompts. De huidige prijzen voor GPT-6.1 Sol veranderen boven 272K invoertokens voor de volledige aanvraag. Claude Haiku 5.5 heeft een andere grens, boven 100K, terwijl de vermelde Grok-modellen bij 200K invoertokens van staffel veranderen, inclusief de grens zelf. Eén gemiddeld bedrag per miljoen zou die voorwaarden verhullen.

De calculator past de actuele staffels per aanvraag toe en houdt rekening met aangekondigde toekomstige prijswijzigingen voor Gemini. De calculator haalt geen actuele offerte op. Controleer de gelinkte officiële bron voor regionale toeslagen, batchopties, cachegeschiktheid en eventuele recentere wijzigingen. Neem zoekopdrachten, bestandsopslag, uitvoering van tools en andere betaalde diensten mee als die deel uitmaken van de workload.

Wanneer Cloud-API's financieel zinvol zijn

• Het gebruik is beperkt of onregelmatig. Betalen per daadwerkelijke aanvraag is mogelijk makkelijker te verantwoorden dan een machine beschikbaar houden tussen incidentele taken door.
• De workload vereist een specifiek gehost model. Test de kwaliteit en het percentage voltooide taken voordat je het vervangt door een kleiner lokaal model.
• De vraag verandert snel. Met een endpoint op basis van verbruik hoef je geen hardware aan te schaffen voor een capaciteitsbehoefte die je nog niet hebt gemeten.

Een nuttige maatstaf is de kosten per geaccepteerde taak. Deel de totale kosten van de workflow door het aantal resultaten dat aan je acceptatiecriteria voldoet, inclusief nieuwe pogingen en beoordelingstijd. Houd latency en betrouwbaarheid apart bij; een lage tokenprijs geeft geen beeld van beide.

Wanneer een lokaal AI-budget nader onderzoek verdient

• Er is stabiel, herhaalbaar werk. Benchmark het daadwerkelijke lokale model voor die taken en registreer het aantal tokens per seconde, de taakvoltooiing en het stroomverbruik.
• Het beoogde model past op de machine. Gewichten, runtime-overhead, contextgeheugen en gelijktijdige sessies nemen allemaal geheugen in beslag.
• Lokale controle heeft praktische waarde. Offline werken, een voorspelbare gegevensstroom of bepaalde bestanden lokaal houden kan naast het budget van belang zijn.

Maak bij bestaande hardware onderscheid tussen de extra contante kosten en de totale eigendomskosten. Door de hardware-uitgave op nul te zetten, kun je een extra gebruiksscenario modelleren voor een machine die je al hebt. Neem voor een langetermijnplan voor eigendom een bedrag op voor vervanging of afschrijving en voor beheer. Onze bespreking van lokale Kimi-hardware en geheugen is een nuttige volgende stap bij het bepalen van de benodigde modelcapaciteit. Dat de gewichten van een model beschikbaar zijn, betekent niet dat een compacte NAS het volledige model op bruikbare snelheid kan uitvoeren.

Voor de terugverdientijd zijn bedrijfskosten en een stabiele workload nodig

De eenvoudige terugverdientijd is de netto hardwarekosten gedeeld door de maandelijkse API-kosten minus de lokale bedrijfskosten. In het API-voorbeeld van US$270 heeft het voorbeeldsysteem maandelijkse bedrijfskosten van US$14.68 vóór afschrijving. US$1,200 gedeeld door US$255.32 is ongeveer 4,7 maanden.

Bij dat resultaat wordt ervan uitgegaan dat het lokale systeem het werk naar behoren kan uitvoeren, de gemodelleerde vraag aanhoudt en de bedrijfskosten gelijk blijven. Als de lokale bedrijfskosten gelijk zijn aan of hoger zijn dan de API-kosten, levert die gebruiksomvang geen positieve terugverdientijd van de hardware op. De vergelijking is een planningsberekening, geen voorspelling van de inferentiecapaciteit of een garantie op besparingen.

Kies een hybride opstelling wanneer de workloads verschillen

Sommige lokale taken kunnen klein en frequent zijn, terwijl incidentele moeilijke taken nog steeds baat hebben bij een gehost endpoint. Modelleer een hybride budget door de eigendomskosten van de lokale oplossing te behouden en de resterende API-aanroepen toe te voegen. Bereken het opnieuw nadat je het daadwerkelijke routerings- en retrygedrag hebt gemeten.

De ZimaCube 2 kan dienen als opslaglocatie voor modelbestanden, documenten voor informatieopvraging, experimentele gegevens en back-ups in een lokale AI-workflow. Bereken de benodigde rekenkracht voor inferentie afzonderlijk op basis van het model en de werklast. Maak vóór aankoop duidelijk welke rol een opslagplatform speelt en wat een compleet systeem voor inferentie kost. Chris’ gemengde x86- en ARM-homelab laat zien hoe betrouwbare back-ups en doorlopende AI-experimenten elk een eigen plek in een lab kunnen innemen.

Veelgestelde vragen

Is een lokale AI-server altijd goedkoper dan een API?

Nee. Een voordelig eindpunt kan bij licht tot gemiddeld gebruik goedkoper zijn. Vergelijk een lokaal model dat aan je behoeften voldoet met de specifieke API die je anders zou gebruiken, op basis van dezelfde criteria voor voltooide taken.

Houdt de calculator rekening met kosten voor cachewrites?

De calculator behandelt cachewrites als een apart aandeel invoertokens wanneer er een geverifieerd tarief is ingevuld. Ontbreekt het tarief voor cachewrites, dan heb je voor dat scenario een offerte nodig. Cacheopslag, tools en andere diensten horen in het veld voor extra maandelijkse kosten.

Zijn de invoergegevens voor lokale hardware en stroomverbruik gebaseerd op gemeten benchmarks?

Nee. Dit zijn aanpasbare voorbeeldwaarden. Gebruik offertes voor de complete computer en metingen van het stroomverbruik aan het stopcontact voor het daadwerkelijke model en de werklast.

Kan ik een cloudchatabonnement gebruiken als API-prijs?

Een abonnement is een ander product. Gebruik de tarieven voor factureerbare API-eindpunten en de gebruikscategorieën die relevant zijn voor je API-account.

Levert hetzelfde aantal tokens dezelfde uitvoerkwaliteit op?

Nee. Tokenisatie en mogelijkheden verschillen. Gebruik de schatting op basis van vaste tokens om budgetten te verkennen en beoordeel daarna echte taken en de kosten per geaccepteerd resultaat.

Waar moet ik beginnen voordat ik hardware koop?

Neem een representatieve steekproef van voltooide taken, verzamel de factureerbare aanroep- en tokengegevens, test indien mogelijk een geschikt lokaal model en vergelijk beide scenario’s in de calculator voor de kosten van AI API’s en lokale AI.

Conclusie

De nuttigste vergelijking is die tussen een specifieke API-workflow en een lokaal systeem dat het werk daadwerkelijk aankan. Tel alle modelaanroepen mee, gebruik de juiste tokencategorieën en houd rekening met hardware, stroomverbruik en onderhoud. Vergelijk de uitkomst vervolgens met de kwaliteit van geaccepteerde taken en de gemeten capaciteit.

Gebruik de calculator om je eigen API- en lokale AI-budgetten te vergelijken, vervang de voorbeeldwaarden door echte metingen en bekijk je keuze opnieuw wanneer de werklast verandert.