Vi har nu gennemgået alt fra VRAM-beregninger til lokal installation og avancerede RAG-systemer. Men før vi slipper tekstmodellerne og bevæger os ind i den kreative verden med billeder, video og musik, skal vi have bundet en sløjfe på økonomien.
Aktuelt i 2026:
AI-boomet og datacentrenes massive opkøb af High-Bandwidth Memory (HBM) og high-end VRAM har skabt en historisk forsyningskrise. Priserne på almindelig DDR5-RAM til pc'er er steget voldsomt (visse moduler er steget med op til 146% i forhold til tidligere hardware-generationer), hvilket gør traditionelle lokale AI-byg dyre.
For at afvikle LLM-modeller (Large Language Models) lokalt er VRAM (eller unified memory) den absolut vigtigste valuta, da modellens vægte skal ligge direkte i hukommelsen for at få brugbare genereringshastigheder (tokens per sekund).
Her er et overblik over hardware-klasserne og markedspriserne for at afvikle LLM-modeller:
Prisoversigt for LLM-hardware
| Hardware-klasse |
Primær målgruppe & Modelstørrelse |
Prisniveau (Estimeret) |
Centrale komponenter |
| Budget / Hobby |
Små modeller (7B–8B som f.eks. Llama 3.1 8B) |
6.000 – 12.000 kr. |
Brugt RTX 3090 (24GB VRAM) eller RTX 4060 Ti (16GB), kombineret med ældre hardware/DDR4. |
| "Entusiast" (The Sweet Spot) |
Mellemstore modeller (13B–32B, samt hårdt kvantiserede 70B) |
20.000 – 35.000 kr. |
Nyere system med RTX 4090 (24GB) eller den nyere RTX 5090 (32GB). Alternativt en Mac Studio. |
| Avanceret Prosumer |
Store modeller (70B+ i god præcision) |
40.000 – 70.000 kr. |
Dual-GPU setup (f.eks. 2x RTX 5090 eller RTX 4090), eller dedikerede AI-appliances som NVIDIA DGX Spark (128GB). |
De 3 dominerende strategier til lokal AI under RAM-krisen
Hukommelseskrisen har skubbet AI-entusiaster og virksomheder i tre forskellige retninger, alt efter budget:
1. Mac Studio (M-serien med Unified Memory) – Den økonomiske redning for store modeller
Da traditionel pc-RAM er ramt af prisstigninger, og grafikkort som RTX 5090 og RTX 4090 handles til voldsomme overpriser (RTX 4090 ligger ofte omkring de 30.000+ kr. alene), har Apple vundet stort på AI-markedet.
- Hvorfor: Mac'ens "Unified Memory" tillader grafikprocessoren at dele systemhukommelsen direkte. En Mac Studio (f.eks. med M3 Ultra eller de nyere M5-modeller) med 128GB eller 192GB delt RAM kan afvikle massive 70B og 120B modeller for en brøkdel af, hvad det koster at bygge et PC-cluster med 4 x Nvidia-grafikkort.
- Ulempe: Hastigheden (tokens/sekund) er markant lavere end på dedikerede NVIDIA RTX-kort, men den kan reelt rumme modellerne uden at løbe tør for hukommelse.
2. NVIDIA RTX 3090 (Brugtmarkedet) – Bedste værdi for pengene
Hvis du vil bygge en dedikeret pc, kigger de fleste væk fra de nyeste komponenter på grund af krisen.
- Hvorfor: Et brugt GeForce RTX 3090 giver dig 24 GB hurtig GDDR6X VRAM. To af disse sat sammen i en computer (48 GB VRAM i alt) koster en brøkdel af ét nyt RTX 5090-kort og kan køre de meget populære 70B-modeller i en kvantiseret udgave (f.eks. Q4_K_M) i fuld hastighed.
3. AI-Appliances (NVIDIA DGX Spark / ASUS Ascent)
NVIDIA har lanceret mindre, dedikerede AI-arbejdsstationer rettet mod det lokale marked for at imødekomme efterspørgslen på "lokal inferens" uden enterprise-datacentre. Enheder som DGX Spark eller ASUS Ascent GX10 leveres med 128GB dedikeret AI-hukommelse og koster omkring 35.000 – 50.000 kr. ($5,000–$7,000), hvilket i det nuværende marked faktisk konkurrerer direkte med at bygge en tilsvarende pc fra bunden.
4. Intel løsningen
Når du rykker en LLM over på en i9-mobil processor med integreret Intel-grafik (Intel Iris Xe eller Intel Arc Graphics på nyere Core Ultra/i9-chips), er flaskehalsen båndbredden på systemets RAM. Men ved at bruge Intels dedikerede optimeringsværktøj, OpenVINO (Open Visual Inference and Neural Network Optimization), kan du aflaste CPU'en og hente markant højere hastigheder ved at loade dele af modellen (eller det hele) over på den integrerede GPU (iGPU).
Med 32 GB system-RAM kan en Mini PC komfortabelt køre modeller op til 14B–20B parametre, forudsat at de er kvantiseret (komprimeret) til 4-bit (INT4) eller 8-bit (INT8) præcision.
Her er en oversigt over, hvilke specifikke modeller du kan køre, og hvordan OpenVINO ændrer ydeevnen:
Understøttede modeller ved OpenVINO iGPU Offloading
| Model |
Størrelse & Kvantisering |
RAM-forbrug |
Oplevet ydeevne (Estimeret) |
Egnethed & Vibe |
| Llama 3.1 8B / Llama 3.2 3B |
INT4 eller INT8 |
~4.5 – 9 GB |
Meget hurtig (20-35+ tokens/sek) |
Det absolutte sweet spot. Kører flydende til daglig brug, kodning og agenter. |
| Phi-3.5 MoE / Mini |
INT4 |
~3.8 – 5 GB |
Hurtig (25+ tokens/sek) |
Microsofts mini-model, som slår langt over sin vægtklasse på logik. |
| Mistral 7B / Gemma 2 9B |
INT4 |
~5.5 – 6.5 GB |
Hurtig (18-25 tokens/sek) |
Fremragende allround-modeller til tekstgenerering og opsummering. |
| Qwen 2.5 14B |
INT4 |
~10 – 11 GB |
Acceptabel (8-12 tokens/sek) |
Den øvre grænse for god iGPU-hastighed. Giver markant bedre sprogforståelse. |
| Command R (35B) / Llama 3.1 70B |
INT4 (Kun CPU/RAM-hybrid) |
~22 – 42 GB |
Ulidelig langsom (<2 tokens/sek) |
Kan lige akkurat loades i 32GB RAM (for 35B), men iGPU'en løber tør for delt hukommelse. |
Sådan fungerer Intel GFX Offloading (OpenVINO) i praksis
Når du bruger standardsoftware som LM Studio (via llama.cpp), kører alt primært på CPU'en. CPU-instruktioner (selv på en kraftig i9) er dårlige til matrix-multiplikation, hvilket ofte resulterer i hakkende tekst (3-6 tokens/sek).
Når du skifter til OpenVINO-backenden (f.eks. via OpenVINO GenAI API eller WebNN i browseren):
- Delt Hukommelse (Unified Memory): Den integrerede Intel-grafik har ikke sin egen VRAM; den stjæler af dine 32 GB RAM. OpenVINO tillader iGPU'en at tilgå modellens vægte i system-RAM'en uden den massive forsinkelse, der normalt er mellem en CPU og et diskret grafikkort.
- XMX / Vector Engines: Hvis din i9 er af nyere dato (Core Ultra / Meteor Lake / Arrow Lake), bruger OpenVINO de indbyggede Intel Xe Matrix Extensions (XMX) eller dedikerede AI-acceleratorer i chippen. Det genopliver ydeevnen fuldstændigt.
- Hvorfor Intel iGPU er hemmeligt god: En mobil i9-processor understøtter ofte DDR5-hukommelse med en båndbredde på omkring 50-80 GB/s. Det er intet sammenlignet med et RTX 4090 (1000 GB/s), men ved at flytte beregningerne til iGPU'ens parallelle kerner udnyttes båndbredden tæt på 100%.
Den nemmeste måde at komme i gang på
Hvis du vil teste det på din Mini PC uden at skulle kode, skal du hente LM Studio eller Ollama og sikre dig, at du vælger OpenVINO/Intel-kompilerede modeller (ofte udgivet på Hugging Face under navne som Llama-3-8B-Instruct-OpenVINO-INT4).
Alternativt har Intel deres eget officielle open-source interface kaldet Intel OpenVINO Notebooks, som er optimeret direkte til at trække maksimalt på i9-hardwaren.
Konklusion: Skal du købe eller leje?
Medmindre du har kritiske behov for datasikkerhed (hvor data skal blive lokalt på din maskine), peger regnestykket i retning af, at det er billigere at leje cloud-GPU'er (f.eks. via tjenester som RunPod eller Vast.ai). Her kan du leje et RTX 4090 eller RTX 5090 for under 4-7 kr. ($0.60 - $1.10) i timen, hvilket betyder, at du skal køre din lokale maskine for fuld hammer i mange tusinde timer for overhovedet at tjene hardwareindkøbet ind i det nuværende marked.
Tjekliste før du svinger dankortet
Inden du trykker "Køb" på DBA eller i en webshop, så tag denne korte tjekliste med i dine overvejelser, så du ikke begår de klassiske begynderfejl:
- Tæl gigabyte på grafikkortet, ikke på computeren: Hvis du køber en PC, så husk, at det er grafikkortets VRAM, der tæller. Hvis en sælger tilbyder dig en computer med "32GB RAM og et RTX 4060 med 8GB VRAM", så er det grafikkortets 8GB, der sætter grænsen for din AI – ikke de 32GB system-RAM.
- Undgå Apples 8GB-fælde: Hvis du køber en Mac, så gå i en stor bue udenom standardmodellerne med 8GB Unified Memory. De er fantastiske til at skrive dokumenter og streame film på, men til lokal AI løber de tør for hukommelse med det samme. 16GB er absolut minimum, 24GB er budget-drømmen.
- Tjek strømforsyningen (Hvis du bygger selv): Hvis du køber et brugt RTX 3090 (24GB) til en stationær PC, skal du sikre dig, at computerens strømforsyning (PSU) er på minimum 750W, helst 850W. Det grafikkort suger meget strøm, når det regner på fuld kraft. En Mac eller Mini-PC bruger til gengæld næsten ingenting.
- Gør plads på harddisken (SSD): AI-modeller fylder en del. En enkelt kvantiseret 8B-model fylder omkring 5 GB, og dertil kommer softwaren og dine RAG-dokumenter. Sørg for, at din computer har en hurtig NVMe SSD med mindst 100-200 GB fri plads til dit nye AI-bibliotek. Kør aldrig AI-modeller fra en gammeldags, mekanisk harddisk (HDD).