Open-weight modeller dominerer AI-samtalen lige nu som aldrig før. På r/LocalLLaMA blev der i juli præsenteret en stor arkitektur-survey over 23 modeller mellem 20B og 500B parametre – et tegn på hvor svimlende kataloget er blevet på få måneder.
Samtidig udspiller der sig en helt anden debat om selve princippet bag åbne modeller, efter Anthropics officielle holdning til open weights blev offentliggjort og mødt med både kritik og forsvar i miljøerne.
De to diskussioner hænger sammen på en måde, der sjældent bliver sagt højt: jo flere åbne modeller vi får, desto vigtigere bliver spørgsmålet om hvem der sørger for at de køres ansvarligt.
Model-kortet handler om arkitektur, ikke bare størrelse
Den mest værdifulde pointe fra survey-tråden er egentlig ikke listen over modeller – det er erkendelsen af, at arkitektur betyder mere end parameterantal. En MoE-model med 235B parametre kan have færre aktive parametre end en tæt 30B-model under inferens, hvilket vender op og ned på alt det intuitive ved "størrelse".
Derfor bør et reelt overblik skelne mellem arkitekturtyper frem for bare at sortere efter antal nuller:
| Model | Arkitektur | Størrelse | Omtrentligt VRAM-krav* | Licens |
|---|---|---|---|---|
| Mistral Shieldstral | Dense vision/text classifier | 3B | ~16 GB | Apache 2.0 |
| Gemma 4 9B | Dense tekstgenerering | 9B | ~20 GB | Gemma Terms |
| Gemma 4 27B/31B | Dense tekstgenerering | 27-31B | 60-80 GB | Gemma Terms |
| Kimi K3 | MoE-generering (2,8B aktiv) | ~40-80 GB** | Custom open | |
| Llama 4 Scout | MoE-generering (17B x 16 eksperter) | ~40-80 GB** | Llama 4 license | |
| Llama 4 Maverick | MoE-generering (400B total) | ~200 GB+** | Llama 4 license | |
| Qwen3-235B-A22B | MoE-generering (22B aktiv) | ~80-120 GB** | Qwen license | |
| GLM-5.2 | MoE-generering (744B total, 1M kontekst) | ~200 GB+** | Custom open | |
| DeepSeek-V3.1 | MoE-generering (671B total) | ~200 GB+** | DeepSeek license |
* Omtrentligt VRAM ved FP16/quantization; kontekstlængde og inference-engine påvirker reelt forbrug. ** MoE-modeller loader typisk kun aktive eksperter under inferens; overhead varierer stærkt med implementationen.
En anden pointe fra miljøerne fortjener opmærksomhed: forskellen på ægte åbne modeller og dem der blot kalder sig åbne uden at frigive vægtene – i miljøerne foreslås det at tagge sidstnævnte med [no weights]. Når du vælger en model til self-hosting, er dette den første ting at tjekke: kan du faktisk downloade vægtene?
Fra valg af model til spørgsmålet om ansvar
Det bringer os til den anden debattråd – og her ligger den mest interessante observation gemt i kritikken af Anthropics holdning: man kan erklære sig imod et forbud og samtidig opstille krav, der i praksis gør det umuligt. Den slags regulering bliver hurtigt et de facto-forbud gennem tusind snit snarere end ét dramatisk nej.
Der er også en logisk spænding værd at holde fast i: hvordan forener man en anti-distillation-linje med selv at træne på enorme mængder data? Den slags inkonsistens underminerer tilliden uanset sagens substans.
Men midt i kritikken ligger også en pointe, self-hostere bør tage alvorligt: en åben model har nul indbyggede sikkerhedsmekanismer. Man kan ikke designe misbrug ud af en downloadbar vægtfil – så ansvaret flytter sig uundgåeligt til den part der faktisk deployerer modellen.
Og her bliver hosting-sted pludselig strategisk frem for teknisk: hvis cloud-leverandører potentielt kan tvinges til ikke at tillade visse åbne modeller på deres infrastruktur, så bliver hvor din arbejdsbyrde kører lige så vigtig som hvad den kører på.
Managed self-hosting som mellemvej
Det samler trådene pænt i ét argument:
Open weights giver frihed – men friheden kommer med tre konkrete krav:
- Du skal selv kunne kontrollere hvor modellen kører (jurisdiktion)
- Du skal selv håndtere adgangen til input/output
- Du skal selv bygge guardrails, siden ingen filter følger med
Det er essensen af managed self-hosting hos Liviate Cloud: du beholder ejerskabet over modellen og dens data, mens isolationen, egress-kontrollen og driften ligger i en professionel EU-hosted ramme – så du får åbenhedens frihed uden at arve hele risikoen alene.
To debatter dominerer lige nu: den ene handler om valget af model, den anden om hvorvidt åbenhed overhovedet er sikkert nok. På overfladen har de ikke meget til fælles – men de mødes ét sted: hos den person eller virksomhed, der rent faktisk skal hoste modellen ansvarligt.
Valget af model er kun det første skridt; arkitekturen dikterer den nødvendige hardware, [no weights]-testen sætter rammerne for hvad du reelt kan downloade – og debatten om ansvar definerer hvor sikkert miljøet omkring modellen skal indrettes.