Zuerst entscheiden: lokal, gehostet oder API?
Ein gehosteter Dienst ist der einfachste Einstieg, doch Gratisquoten, Modelle und Bedingungen ändern sich häufig. Vor einer Abhängigkeit den aktuellen Tarif prüfen. Downloadbare Gewichte können lizenzkostenfrei sein, benötigen aber passende Hardware, Speicher, Energie und Konfigurationszeit.
Lokale Ausführung kann mehr Kontrolle über den Datenweg bieten, ist aber keine automatische Datenschutzgarantie. Laufzeit, Oberfläche und externe Verbindungen prüfen. Bei einer API Preise, Aufbewahrung, kommerzielle Bedingungen, Verarbeitungsort und Limits vergleichen. Offene Gewichte machen den Hostingdienst nicht kostenlos.
Ein praktischer Weg zur Modellauswahl
Mit Aufgabe und Einsatzort beginnen. Die Hardwareklasse ist eine Prüfung, keine Leistungsnote; Lizenz und Dienstbedingungen bleiben zu klären.
Einsatzfall
Chat, Coding, Dokumente oder mehrsprachige Tests auswählen.
Zugangsweg
Lokale Gewichte, kostenloses Hosted-Kontingent oder kostenpflichtige API wählen.
Hardwareklasse
Variante, Quantisierung, Kontext und Laufzeit auf dem Zielgerät prüfen.
Lizenz und Daten
Checkpoint-Bedingungen und Verarbeitung von Prompts und Dateien prüfen.
Vergleichstest
Einige Optionen mit denselben Beispielen vergleichen und Gesamtkosten bewerten.
Für einen Laptop mit begrenzten Ressourcen
Mit einem zum eigenen Gerät passenden Modell und einer etablierten Laufzeit beginnen und Speicherbedarf sowie Geschwindigkeit messen. Qwen3.8-27B ist ein Checkpoint mit 27 Milliarden Parametern; die offizielle Modellkarte nennt rund 55,6 GB Dateien. Für einen gewöhnlichen Laptop ist er daher keine leichte Wahl. Gemma bietet unterschiedliche Varianten. Quantisierung und Kontext beeinflussen den Bedarf zusätzlich.
Wenn der Rechner langsam ist, zunächst den Kontext verkleinern oder ein kleineres Modell testen, bevor neue Hardware gekauft wird. Eine langsame Antwort kann für gelegentliche Zusammenfassungen genügen, aber nicht für interaktives Coding. Eine für alle Chips, Betriebssysteme und Laufzeiten passende Konfiguration gibt es nicht.
Vergleich als Ausgangspunkt für einen Test
| Option | Zugang und Lizenz | Lokal? | Kann passen, wenn |
|---|---|---|---|
| Gemma 4 | Gewichte downloadbar; Apache 2.0 für genannte Releases | Ja, Bedarf variiert | Ein lokaler Test mit permissiver Lizenz gesucht wird |
| Qwen3.8-27B | Apache 2.0 für diesen Checkpoint | Möglich; geeignete Hardware erforderlich | Mehrsprachige Tests auf geeigneter Hardware geplant sind |
| Mistral Small 4 | Apache-2.0-Gewichte; gehostete API kann kostenpflichtig sein | Möglich, vollständiges Modell benötigt viel Infrastruktur | Multimodale Tests mit vorhandener Infrastruktur geplant sind |
| Llama 4 | Meta Community License | Ja, innerhalb der Bedingungen | Spezifische Vertragsbedingungen geprüft werden können |
„Kostenlos“ bezieht sich hier vor allem auf downloadbare Gewichte, nicht Hardware, Energie oder Hosting. Keine Rangliste und kein Benchmark.
Für Coding, Sprachen und Dokumente
Für Coding ein codeorientiertes Modell mit einem allgemeinen Modell an echten Aufgaben vergleichen: Repository erklären, eine begrenzte Änderung vorschlagen und fehlgeschlagene Tests untersuchen. Mistral Small 4 nennt Coding und Schlussfolgern als Einsätze; Qwen und Gemma decken verschiedene Arbeitsabläufe ab. Herstellerangaben bestimmen nicht, welches Modell im eigenen Stack am genauesten ist.
Für Sprachen und Dokumente Beispiele in den verwendeten Formaten vorbereiten und PDF- oder Bildunterstützung prüfen. Bei langen Dokumenten Kontextgrenzen und mögliches Abschneiden kontrollieren. Zitate und Auslassungen bewerten, nicht nur flüssige Formulierungen.
Ohne Ranglisten auswählen
Das Kriterium festlegen: Kosten, lokale Ausführung, Geschwindigkeit, Sprache, kommerzielle Lizenz oder Qualität für eine konkrete Aufgabe. Zwei oder drei Optionen mit denselben Eingaben testen und Korrektheit, Prüfzeit, Latenz und Gesamtkosten messen. Ein synthetischer Benchmark ersetzt keinen Praxistest.
Modell-ID, Lizenz und Prüfdatum dokumentieren. Releases, Gratisquoten und Anforderungen verändern sich. Für kommerzielle Nutzung sowohl Checkpoint- als auch Servicebedingungen vor der Integration prüfen.
Quellen und weiterführende Informationen
Einen sachlichen Fehler melden oder eine Quelle vorschlagen? Redaktion kontaktieren.
