Kør din egen AI-kodningsassistent lokalt – Komplet CPU-guide til Qwen2.5-Coder

Vil du have fordelene ved en intelligent AI-makker i din kode-editor, men uden at sende din proprietære kildekode op i skyen? Løsningen er at rulle dit eget setup ud på din egen maskine. Selvom mange tror, at lokal afvikling af store sprogmodeller (LLM'er) kræver et dyrt og strømslugende grafikkort, kan mindre og optimerede modeller i dag køre imponerende effektivt på ren CPU-hardware.

I denne artikel dykker vi ned i, hvordan du forvandler en kraftfuld computer – som en Intel i9-processor med 32 GB RAM – til en privat og lynhurtig kodestation. Vi tager udgangspunkt i Qwen2.5-Coder-14B, som i sin kvantiserede GGUF-version (Q4_K_M eller Q5_K_M) rammer det absolutte sweet spot. Med et RAM-forbrug på blot 9-11 GB leverer denne model en markant dybere kodeforståelse, skarpere fejlfinding og bedre arkitektonisk overblik end de mindre 7B-modeller, uden at din i9-processor taber pusten.

For at bygge bro mellem hardwaren og dine daglige udviklingsopgaver kigger vi nærmere på to af de stærkeste værktøjer i open-source-landskabet: LM Studio og VS Code-udvidelsen Continue.

I guiden herunder får du en komplet, praktisk trin-for-trin opsætning. Du lærer, hvordan du fintuner LM Studio til udelukkende at trække på dine fysiske CPU-kerner, hvordan du integrerer systemet direkte i VS Code via lokale API-kald, og hvordan du programmerer dine egne lyn-kommandoer som /test og /refactor direkte i din konfigurationsfil.

Når du afvikler Qwen2.5-Coder-14B (Q5_K_M) lokalt på din i9 CPU via VS Code og Continue, har du en af verdens absolut bedste open-source modeller til kodning ved hånden. Da modellen er trænet på enorme mængder kildekode, mestrer den alle dine fire fokusområder til punkt og prikke.

Her er en praktisk beskrivelse af, hvordan du bedst udnytter modellen til hvert af dine programmeringsmiljøer, samt specifikke tips til dit CPU-setup.

1. Fullstack webprogrammering (PHP, HTML5, CSS3, JS, Tailwind, React, NodeJS, MariaDB)

Inden for webudvikling udmærker 14B-modellen sig ved at forstå sammenhængen mellem frontend og backend.

• Komponent- og UI-generering (React & Tailwind): Markér et HTML-layout med Ctrl+I og skriv: "/refactor Lav om til en funktionel React-komponent med Tailwind CSS-styling og TypeScript types". Modellen er fænomenal til at generere præcise Tailwind-utility-klasser uden at digte på syntaksen.
• API og Backend (NodeJS & PHP): Du kan bede modellen om at bygge sikre REST-endpoints. Den forstår moderne PHP (f.eks. PHP 8+ med types) og asynkron JavaScript/NodeJS.
• Database-optimering (MariaDB): Brug chatten (Ctrl+Shift+L) til at optimere komplekse SQL-forespørgsler. Qwen er god til at spotte manglende indeks eller omskrive subqueries til performante JOINs.

2. C# programmering (For Windows 11 og Linux Mint)

Qwen2.5-Coder har et stærkt fundament i .NET-økosystemet og forstår fuldt ud cross-platform udvikling med .NET 8 eller nyere.

• Cross-Platform Arkitektur: Brug chatten til at sikre, at din kode kører fejlfrit på både Windows 11 og Linux Mint. Brug prompts som: "Skriv en filhåndteringstjeneste i C#, som automatisk håndterer forskellen på filstier i Windows (\) og Linux (/) ved hjælp af Path.Combine".
• Moderne C#-syntaks: Modellen kender til top-level statements, record-typer og mønstergenkendelse (pattern matching). Den genererer ren, objektorienteret kode, der følger Microsofts officielle retningslinjer.
• XAML og GUI: Hvis du bygger desktop-apps til Windows (WPF/WinUI3) eller cross-platform (AvaloniaUI til Linux Mint), kan Qwen generere både XAML-layoutet og den dertilhørende C# code-behind eller MVVM-viewmodel.

3. Python 3 programmering

Python er et af de sprog, som Qwen-modellerne er allerstærkest til. Den fungerer perfekt til alt fra simple scripts til avancerede dataapplikationer.

• Type Hinting & PEP 8: Qwen skriver som standard meget ren Python-kode. Brug din /doc eller /refactor kommando til automatisk at tilføje type-hints (def min_funktion(data: dict) -> bool:) og sikre, at koden overholder PEP 8-standarden.
• Automatisering og Scripting: Du kan hurtigt bygge scripts til Windows 11 eller Linux Mint til at automatisere filhåndtering, API-skrabning (BeautifulSoup/Requests) eller systemovervågning.

4. C++ programmering (For Arduino IDE)

Selvom du koder til Arduino, kan du med fordel skrive koden i VS Code (f.eks. med Arduino eller PlatformIO udvidelserne) for at udnytte din lokale Qwen-model, og bagefter uploade den via Arduino IDE.

• Hukommelsesoptimering (Hardware-begrænsninger): Microcontainere (som Arduino Uno/Nano eller ESP32) har ekstremt lidt RAM. Qwen2.5-Coder forstår dette, hvis du beder om det. Prompt eksempel: "Skriv en Arduino C++ funktion til at læse en dallas temperatursensor. Optimer koden til minimalt RAM-forbrug, brug F() makroen til strenge, og undgå String-objekter for at forhindre hukommelsesfragmentering".
• Register- og Bit-manipulation: Skal du læse specifikke pins i høj fart eller opsætte interrupts, mestrer Qwen bitwise-operationer (&, |, <<, >>) og registersætning til AVR- og ESP32-arkitekturer.
• Fejlfinding af hardware-logik: Hvis dit loop hænger fast, eller dine sensor-data preller af (bounce), kan du markere koden med Ctrl+I og skrive: "/refactor Tilføj software-debouncing til denne knap-input-funktion".

Sådan skifter du sprogfokus dynamisk

For at få det absolut bedste resultat i hverdagen, kan du udnytte den projektspecifikke .continue/config.json, som vi opsatte tidligere.

Når du hopper fra dit Web-projekt over i dit Arduino-projekt, opretter du blot mappen .continue i Arduino-projektets rod og giver den en lokal system prompt. Det tvinger Qwen til øjeblikkeligt at indstille hjernen på mikrocontrollere og C++, så du ikke spilder dyrebare CPU-tokens på, at den foreslår JavaScript-løsninger.

De tekniske årsager til valget

1. Flaskehalsen brydes: RAM-båndbredde vs. CPU – Når du kører AI-modeller på en CPU, er den største flaskehals RAM-hastigheden. En 14B-model i 4/5-bit fylder kun 9-11 GB. Din i9 CPU kan streame denne datamængde igennem dine RAM-kanaler med en acceptabel svartid. En 32B-model ville fordoble datamængden og gøre det ulideligt langsomt.
2. Perfekt balance i dit 32 GB RAM-budget – Windows 11, VS Code, webbrowsere og udviklingsservere sluger hurtigt 8-12 GB RAM. Modellen bruger 9-11 GB, kontekstvinduet 1-2 GB – i alt 11-13 GB, så du har rigeligt pusterum til resten.
3. "Klogskab per gigabyte" (Intelligens-Sweet-Spot) – 14B-modellen har dybere arkitektonisk forståelse end 7B, men kræver ikke hardwaren til 32B eller 72B.
4. Q4_K_M og Q5_K_M minimerer kvalitetstabet – K-proceduren i GGUF-formatet bruger blandet præcision, så Q5_K_M opfører sig næsten 99% identisk med den fulde model, men fylder meget mindre.

Når du har downloadet din valgte GGUF-model i LM Studio, skal du justere følgende indstillinger i højre sidepanel for at få maksimal fart ud af din i9-processor uden grafikkort:

• Hardware Settings / CPU Threads: Sæt ikke trådede processer (Threads) til dit maksimale antal tråde. Sæt den til antallet af fysiske performance-kerner (P-cores), typisk 8 eller 12 tråde for en i9. For mange tråde giver tråd-konflikter og gør modellen langsommere.
• GPU Offload: Sæt denne til 0, da du kører rent på CPU.
• Context Length (Kontekstvindue): Modellen understøtter op til 128k tokens, men store mængder kontekst i RAM vil sluge din resterende hukommelse og gøre CPU'en ekstremt langsom. Sæt kontekstvinduet til 4.098 eller maksimalt 8.192 tokens i starten.

Her er den direkte trin-for-trin guide til både at installere modellen og forbinde den til VS Code.

Trin 1: Installer Qwen2.5-Coder-14B Q5_K_M i LM Studio

Trin 2: Start den lokale API-server i LM Studio

Trin 3: Forbind til VS Code (via extensionen "Continue")

{
  "models": [
    {
      "title": "LM Studio Qwen 14B",
      "provider": "lmstudio",
      "model": "qwen2.5-coder-14b-instruct"
    }
  ],
  "tabAutocompleteModel": {
    "title": "LM Studio Qwen 14B",
    "provider": "lmstudio",
    "model": "qwen2.5-coder-14b-instruct"
  }
}

I Continue-udvidelsen til VS Code er de vigtigste genvejstaster allerede indbygget som standard. Du kan dog nemt tilpasse dem eller tilføje dine egne, hvis de konflikter med andre programmer på din Windows 11-computer.

De tre vigtigste standardgenveje i Continue

• Ctrl+M (Toggle Sidepanel): Åbner og lukker AI-chatten i venstre side.
• Ctrl+I (Inline Edit): Markér et stykke kode, tryk på genvejen, og skriv direkte i koden, hvad Qwen skal ændre.
• Ctrl+Shift+L (Add to Chat): Markerer den valgte kode og smider den ind i AI-chatten til uddybende spørgsmål.

Sådan ændrer du genvejstasterne i VS Code

• Tryk på Ctrl+K og derefter Ctrl+S (eller klik på tandhjulet i nederste venstre hjørne og vælg Keyboard Shortcuts).
• Skriv continue i søgefeltet.
• Find funktionen (f.eks. "Continue: Toggle Sidebar" eller "Continue: View History").
• Dobbeltklik på kommandoen, tryk på den nye tastekombination, og tryk Enter.

Du kan opsætte dine egne /slash-commands direkte i din config.json fil i Continue. Dette er en ekstremt effektiv måde at genbruge komplekse prompts på.

Trin-for-trin guide til config.json

• Åbn Continue-sidepanelet i VS Code.
• Klik på tandhjuls-ikonet i bunden for at åbne din config.json.
• Find feltet "customCommands": [...]. Hvis det ikke findes, kan du indsætte det i bunden (husk komma).

"customCommands": [
  {
    "name": "test",
    "description": "Generer automatiske unit tests",
    "prompt": "Du er ekspert i softwaretest. Generer omfattende unit tests til den markerede kode ..."
  },
  {
    "name": "doc",
    "description": "Tilføj dokumentation",
    "prompt": "Gennemgå koden og tilføj professionelle kommentarer og docstrings ..."
  },
  {
    "name": "refactor",
    "description": "Optimer koden",
    "prompt": "Analyser koden for code smells og forbedr den ..."
  }
]

Gem filen (Ctrl+S). Brug dine nye genveje i chatten med /test eller direkte i inline edit med /test.

Global systemPrompt til din model

For at få Qwen til altid at følge din personlige kodestil, tilføj en "systemPrompt" i model-objektet. Eksempel:

"systemPrompt": "Du er en elitær softwareudvikler, der altid skriver ren, moderne og optimeret TypeScript- og Next.js-kode. Følg SOLID-principperne. Svar kortfattet på dansk."

I stedet for at ændre din globale config.json hver gang du skifter projekt, understøtter Continue brug af en projektspecifik konfigurationsfil. Opret en mappe .continue i dit projekts rod med en config.json.

{
  "systemPrompt": "I dette projekt koder vi i Python 3.8. Følg PEP 8. Alle funktioner SKAL have Google-style docstrings.",
  "customCommands": [
    {
      "name": "legacytest",
      "description": "Generer unittest-tests",
      "prompt": "Generer en unittest-klasse til den markerede kode."
    }
  ]
}

System Prompt overskrives, og slash-commands tilføjes. Hvis du ikke vil dele dine personlige AI-regler med kolleger, tilføj .continue/ til din .gitignore.

Når du bruger Continue i VS Code, kan du bruge @-kontekstsystemet til automatisk at indlæse filer direkte i prompten til Qwen.

De 3 vigtigste @-genveje

• @Files: Skriv @README.md for at inkludere en specifik fil.
• @Folder: Skriv @components for at inkludere en hel mappe.
• @Codebase: Skriv @Codebase efterfulgt af dit spørgsmål. Continue indekserer projektet og finder de mest relevante filer.

Du kan også automatisere kontekst i slash-commands ved at referere til filer med %reporoot%/sti/til/fil.

.continueignore – undgå unødige filer

Opret en .continueignore-fil i dit projekts rod for at forhindre store mapper som node_modules, .git, logfiler og build-output i at overbelaste din CPU.

node_modules/
bower_components/
env/ venv/ .venv/
dist/ build/ .next/ out/ .nuxt/
*.log logs/
*.tmp *.swp
*.db *.sqlite .cache/ .sass-cache/
.DS_Store Thumbs.db
.continue/

Dette sparer RAM og gør @Codebase-svar markant hurtigere.

Tjek indekseringsstatus

• Visuel indikator: I Continue-panelets nederste venstre hjørne ses et indekseringsikon. Hold musen over for at se status.
• Output-log: Åbn View → Output, vælg "Continue - Codebase Indexer" for at se live-loggen.

For at få lynhurtig tab-autocomplete, brug en lille dedikeret model som Qwen2.5-Coder-1.5B-Instruct (Q8_0 eller Q4_K_M). Den bruger kun 1-2 GB RAM og svarer på under et millisekund.

Download og kør to modeller i LM Studio

• Søg efter Qwen2.5-Coder-1.5B-Instruct-GGUF og download Q8_0.
• I LM Studio's Developer/Server-fane, indlæs både 14B- og 1.5B-modellen samtidig (brug "Load a Multi-Model" eller "+" knappen).

Opdater config.json til autocomplete

"tabAutocompleteModel": {
  "title": "LM Studio Qwen 1.5B Autocomplete",
  "provider": "lmstudio",
  "model": "qwen2.5-coder-1.5b-instruct"
},
"tabAutocompleteOptions": {
  "debounceDelay": 350,
  "maxPromptTokens": 1024
}

Nu vil du se grå, gennemsigtig tekst i editoren – tryk Tab for at acceptere.

Slå autocomplete til/fra

Standardgenvej: Ctrl+Shift+Alt+A. Du kan ændre den i Keyboard Shortcuts (søg efter "Continue: Toggle Tab Autocomplete"). Status ses i VS Code's nederste højre hjørne.

Ekskluder filer fra autocomplete

Tilføj "disableInFiles" i tabAutocompleteOptions for at undgå unødige forslag i f.eks. .json, .log, .csv, .md eller package-lock.json.

"disableInFiles": ["*.json", "*.log", "*.csv", "*.txt", "*.md", "package-lock.json"]

Begræns antal linjer

Tilføj "maxToGenerate": 30 og "stop": ["\n\n\n", "\n\n"] for at forhindre modellen i at generere for meget ad gangen. Dette sparer CPU og giver mere præcise forslag.

"tabAutocompleteOptions": {
  "debounceDelay": 350,
  "maxPromptTokens": 1024,
  "disableInFiles": ["*.json", "*.log", "*.csv"],
  "maxToGenerate": 30,
  "stop": ["\n\n\n", "\n\n"]
}