Prima decisione: locale, hosted o API?
Un servizio hosted è il punto di partenza più semplice, ma quote gratuite, modelli e condizioni cambiano spesso. Controllare il piano corrente prima di farvi affidamento. I pesi scaricabili possono non avere un costo di licenza, ma richiedono hardware compatibile, spazio, energia e configurazione.
L’esecuzione locale può offrire più controllo sul percorso dei dati, non una garanzia automatica di privacy: verificare runtime, interfaccia e connessioni esterne. Per un’API, confrontare prezzo, retention, termini commerciali, area di trattamento e limiti. Pesi aperti non rendono gratuito il servizio che li ospita.
Un percorso pratico per scegliere il modello
Partire dall’attività e dal luogo di esecuzione. La classe hardware è una verifica, non un punteggio; occorre comunque controllare licenza e condizioni del servizio.
Caso d’uso
Scegliere chat, coding, documenti o prove multilingue.
Modalità di accesso
Decidere tra pesi locali, piano hosted gratuito o API a pagamento.
Classe hardware
Verificare variante, quantizzazione, contesto e runtime sul dispositivo.
Licenza e dati
Controllare i termini del checkpoint e dove vengono elaborati prompt e file.
Prova comparabile
Confrontare alcune opzioni sugli stessi esempi e valutare il costo complessivo.
Per un laptop con risorse limitate
Partire da una variante adatta al proprio hardware e da un runtime noto, poi misurare memoria e velocità sul dispositivo. Qwen3.8-27B è un checkpoint da 27 miliardi di parametri e la scheda ufficiale indica circa 55,6 GB di file: non è una scelta leggera per un laptop comune. Gemma propone varianti diverse. Quantizzazione e contesto caricato incidono ulteriormente sulle risorse.
Se il dispositivo è lento, ridurre il contesto o provare un modello più piccolo prima di acquistare hardware. Una risposta lenta può andare bene per riassunti occasionali ma non per coding interattivo. Non esiste una configurazione valida per ogni chip, sistema operativo e runtime.
Confronto per orientare una prova
| Opzione | Accesso e licenza | Locale? | Può essere adatta quando |
|---|---|---|---|
| Gemma 4 | Pesi scaricabili; Apache 2.0 per le release citate | Sì, requisiti variabili | Si cerca una prova locale con licenza permissiva |
| Qwen3.8-27B | Apache 2.0 per questo checkpoint | Possibile; richiede hardware adeguato | Si può testare un modello multilingue su hardware adatto |
| Mistral Small 4 | Pesi Apache 2.0; API hosted può essere a pagamento | Possibile, con risorse importanti per il modello completo | Si dispone di infrastruttura per prove multimodali |
| Llama 4 | Licenza comunitaria Meta | Sì, nel rispetto dei termini | Si possono valutare condizioni specifiche |
“Gratuito” qui riguarda soprattutto pesi scaricabili, non hardware, energia o servizio hosted. Non è un benchmark né una classifica.
Per coding, lingue e documenti
Per il coding, confrontare un modello orientato al codice con uno generalista su compiti reali: spiegazione del repository, modifica circoscritta e diagnosi di test. Mistral Small 4 dichiara usi per coding e ragionamento; Qwen e Gemma offrono modelli per diversi workflow. Le descrizioni del produttore non stabiliscono quale sia più accurato sul proprio stack.
Per lingue e documenti, preparare esempi nei formati effettivi e verificare il supporto a PDF e immagini. Per testi lunghi, controllare il limite di contesto della versione e se parti dei file vengono escluse. Valutare citazioni e omissioni, non solo la fluidità.
Scegliere senza inseguire classifiche
Definire il criterio: costo, esecuzione locale, velocità, lingua, licenza commerciale o qualità su un’attività. Provare due o tre opzioni sugli stessi input e misurare correttezza, tempo di revisione, latenza e costo complessivo. Un benchmark sintetico non sostituisce una prova sul lavoro reale.
Registrare model ID, licenza e data del controllo. Release, quote gratuite e requisiti cambiano. Per un uso commerciale, verificare i termini sia del checkpoint sia del servizio prima dell’integrazione.
Fonti e approfondimenti
Vuoi segnalare un errore o suggerire una fonte? Contatta la redazione.
