Welches Modell passt zu dir?

DeepSeek V3.2 baut auf der 671B-MoE-Architektur von V3 auf und fügt DeepSeek Sparse Attention (DSA) hinzu, die die Rechenkosten langer Kontexte drastisch reduziert. Das Modell unterstützt einen hybriden Modus (Thinking + Non-Thinking) und erzielt durch ein skaliertes RL-Post-Training mit über 10 % des Pre-Training-Budgets Leistung auf GPT-5-Niveau. Die Speciale-Variante erreicht Gold-Medaille-Niveau bei IMO und IOI 2025. MMMU-Pro nicht anwendbar (Text-only), Wert entspricht MMLU-Pro 85 %.

Empfohlen für Coding-Workflows, komplexe Reasoning-Aufgaben und agentic Tool-Use – kosteneffizientestes Frontier-Modell mit offenem Gewicht.

GLM-5 skaliert von 355B (GLM-4.5) auf 744B Gesamtparameter mit 40B aktiven Parametern und integriert DeepSeek Sparse Attention (DSA) für effizientes Long-Context-Handling bei bis zu 202K Tokens. Das Modell wurde vollständig auf 100.000 Huawei Ascend Chips mit dem MindSpore-Framework trainiert und nutzt ein neuartiges asynchrones RL-Framework namens 'Slime'. Es erreicht 77.8% auf SWE-bench Verified und ist damit das führende Open-Weight-Modell für Software-Engineering-Aufgaben.

Empfohlen für komplexe Software-Engineering-Aufgaben und Long-Horizon-Agentic-Workflows mit Open-Weight-Anforderungen.

gpt-oss-120b ist ein autoregessives MoE-Transformer mit 36 Schichten, alternierenden Sliding-Window- und Full-Attention-Mustern sowie Grouped Query Attention (64Q/8KV). Die MoE-FFN-Gewichte (>90% aller Parameter) werden nativ in MXFP4 gespeichert – daher unterscheiden sich Q4_K_M und Q8_0 kaum in der Dateigröße. Das Modell wurde mit RL auf Basis von o3 und anderen OpenAI-Frontiermodellen trainiert und bietet verstellbare Reasoning-Tiefe sowie vollständige CoT-Ausgabe. Nur Textinput (kein Vision).

Empfohlen für starke Reasoning- und Coding-Aufgaben auf einer einzelnen H100 (80 GB); verstellbare Reasoning-Tiefe (low/medium/high).

gpt-oss-20b teilt dieselbe Architektur wie das 120b-Modell (Sliding-Window + Full-Attention, GQA 64Q/8KV, MXFP4 MoE-FFN), hat aber nur 24 Schichten und 32 statt 128 Experten. Trotz der kleinen Größe übertrifft es o3-mini auf AIME 2024/2025 und HealthBench. Drittanbieter-Evaluierungen zeigen, dass es 120b auf HumanEval und MMLU schlägt. Text-only, keine Bildverarbeitung.

Empfohlen für On-Device-Inferenz und Consumer-Hardware (16 GB); rivalisiert mit o3-mini bei Mathe und Health; übertrifft 120b auf HumanEval.

Kimi K2.5 ist Moonshot AIs Open-Source-Flaggschiff mit 1 Billion Gesamtparametern und nur 32 Milliarden aktiven Parametern pro Token dank eines ultra-sparse MoE mit 384 Experten (top-8 Routing). Multi-Head Latent Attention (MLA) komprimiert den KV-Cache auf rund ein Zehntel des Standardumfangs und ermöglicht so den 256K-Kontextfenster. Der native Vision-Encoder MoonViT (400M Parameter) verarbeitet Bilder und Videos direkt im gemeinsamen Token-Raum. Die Thinking- und Instant-Modi sowie die Agent-Swarm-Funktion (Parallel Agent Reinforcement Learning) machen das Modell sowohl für interaktive als auch vollautomatisierte Multi-Agenten-Pipelines geeignet.

Empfohlen für agentic Workflows mit Agent Swarm (bis zu 100 Sub-Agenten), Coding mit Bild-/Videoinput sowie anspruchsvolle mathematische und wissenschaftliche Reasoning-Aufgaben.

MiMo-V2-Flash kombiniert 309B Gesamtparameter mit nur 15B aktiven Parametern durch 256 Fine-Grained MoE-Experten. Die 5:1-Hybrid-SWA-Architektur mit 128-Token-Fenster reduziert den KV-Cache um ca. 6× gegenüber Full-Attention-Modellen. Trainiert auf 27 Billionen Tokens mit FP8-Präzision und nativem MTP (Multi-Token Prediction), erreicht es bis zu 120+ tok/s API-Durchsatz. Die Post-Training-Pipeline nutzt Multi-Teacher On-Policy Distillation (MOPD) und Large-Scale Agentic RL für Frontier-Reasoning bei bestem Preis-Leistungs-Verhältnis.

Empfohlen für schnelle Reasoning- und Coding-Workflows mit sehr geringen API-Kosten ($0.10/$0.30 per 1M) – ideal für latenzempfindliche Agentic-Systeme.

MiniMax-M2.5 ist das bisher leistungsfähigste Modell der M2-Serie und wurde intensiv mit Reinforcement Learning in über 200.000 realen Umgebungen trainiert. Es erzielt 80,2 % auf SWE-Bench Verified und konkurriert damit mit führenden proprietären Modellen. Das MoE-Design mit 256 Experten (8 aktiv) und Lightning Attention ermöglicht 100 Tokens/s zu einem Bruchteil der Kosten vergleichbarer Modelle. Die Gewichte sind vollständig Open-Source und für lokales Deployment mit vLLM oder SGLang optimiert.

Empfohlen für komplexe Coding-Agenten, SWE-Bench-nahe Aufgaben und autonome Office-Workflows – mit exzellentem Preis-Leistungs-Verhältnis.

Nemotron 3 Nano nutzt eine Hybrid-Architektur aus Mamba-2 State-Space-Modellen, Mixture-of-Experts FFN-Schichten und klassischen GQA-Attention-Layern im Verhältnis 23:23:6. Nur die 6 Attention-Layer bauen einen KV-Cache auf, weshalb die effektive Cache-Größe viel kleiner ist als die Formel suggeriert – damit wird der 1M-Token-Kontext praktisch handhabbar. Das granulare MoE aktiviert 6 aus 128 Experten (+1 shared expert) pro Token. Trainiert mit 25T Tokens; post-trainiert mit GRPO und RLHF; bietet konfigurierbares Reasoning-Budget. Nicht Apache-2.0: NVIDIA Nemotron Open Model License (kommerziell nutzbar, aber mit Einschränkungen). Kein Multimodal-Support.

Empfohlen für Edge-Deployment und Single-GPU Szenarien mit langen Kontexten (bis 1M Token); 3.3x höherer Durchsatz als Qwen3-30B bei gleicher oder besserer Genauigkeit. Reasoning-Modus ein/ausschaltbar.

Nemotron 3 Super führt LatentMoE ein: Tokens werden in einen kleineren latenten Raum projiziert, bevor 22 aus 512 Experten aktiviert werden – das entspricht 4x mehr Experten bei gleichem Rechenaufwand wie ein Standard-MoE. Zusätzlich nutzt das Modell Multi-Token Prediction (MTP)-Heads als integrierten Speculative-Decoder (~97% Akzeptanzrate für 2 Draft-Tokens). Als erstes Nemotron-Modell wird es nativ in NVFP4 vortrainiert (nicht nur post-quantisiert), was die BF16-Qualität bei 1/4 der Gewichtsgröße erhält. Die Hybrid-Architektur (Mehrheit Mamba-2 + selektive Attention-Layer) macht 1M-Token-Kontext praktikabel. Nicht Apache-2.0: NVIDIA Nemotron Open Model License. Kein Multimodal-Support.

Empfohlen für komplexe Multi-Agent-Systeme und Agentic-Coding-Tasks (SWE-bench 60.5%). Benötigt 8×H100 im BF16-Modus; läuft als NVFP4 auf einer B200 (192 GB) oder DGX Spark. 2.2x schneller als gpt-oss-120b.

Qwen3.5-122B-A10B nutzt 48 Hybrid-Schichten (Gated DeltaNet + MoE) mit 256 Experten und 8+1 aktiven Experten je Token. Es führt die mittlere Modellreihe bei BrowseComp (63.8), Terminal-Bench 2 (49.4) und BFCL-V4 (72.2) an. Native Vision-Integration erlaubt Text-, Bild- und Videoverarbeitung.

Empfohlen für produktive Multi-GPU-Deployments, insbesondere für agentic Workflows und Function Calling (BFCL-V4: 72.2).

Qwen3.5-27B ist das einzige Dense-Modell der mittleren Serie und aktiviert alle 27B Parameter je Forward Pass. Mit 64 Hybrid-Layern (Gated DeltaNet + FFN, 3:1) erzielt es 72.4 auf SWE-bench Verified – auf Augenhöhe mit GPT-5 mini. Das Modell unterstützt 201 Sprachen, native Vision-Eingabe und 262K Kontext.

Empfohlen für Single-GPU-Nutzer (24 GB VRAM) die maximale Reasoning-Dichte und SWE-bench-Stärke bei 27B Parametern suchen.

Qwen3.5-35B-A3B aktiviert mit 3B Parametern nur 8.6% der Gesamtkapazität je Token und übertrifft dennoch das frühere 235B-Flagship-Modell auf mehreren Benchmarks. Die 40-Schichten-Hybrid-Architektur (Gated DeltaNet + MoE, 256 Experten) ermöglicht sehr hohen Durchsatz bei minimaler Latenz. Läuft nativ auf Mac M-Chips mit 22 GB unified Memory.

Empfohlen für schnelle Inferenz auf Consumer-Hardware (ab 8 GB VRAM) mit frontier-naher Qualität dank MoE-Effizienz.

Qwen3.5-397B-A17B kombiniert Gated Delta Networks mit Sparse MoE und aktiviert pro Token nur 17B der 397B Gesamtparameter. Das Modell unterstützt nativ Text, Bild und Video durch Early-Fusion-Training. Mit 512 Experten, 10+1 aktivierten und 262K nativem Kontextfenster (erweiterbar auf 1M via YaRN) ist es für agentic Workflows mit Denk- und Nicht-Denk-Modus optimiert.

Empfohlen für frontier-nahe Reasoning- und Coding-Aufgaben mit Multi-Modal-Anforderungen auf Mehrmehrfach-GPU-Hardware.

Step-3.5-Flash ist StepFuns stärkstes Open-Source-Modell und kombiniert 196B Gesamtparameter mit nur 11B aktiven Parametern durch 288 Fine-Grained MoE-Experten. Die 3:1 SWA/Full-Attention-Hybridarchitektur und MTP-3 (Multi-Token Prediction) ermöglichen 100–350 tok/s Durchsatz – schneller als die meisten proprietären Frontiermodelle. Mit 97.3% auf AIME 2025 und 86.4% auf LiveCodeBench-V6 liefert es SOTA-Mathematik- und Codingleistung bei Apache-2.0-Lizenz.

Empfohlen für Hochgeschwindigkeits-Agentic-Workflows, Coding-Agenten und kosteneffiziente Reasoning-Tasks mit exzellenter AIME/IMO-Leistung.