Il consorzio tedesco per l’AI rilascia Soofi S, un modello aperto da 30B che guida i benchmark in inglese e tedesco

Un consorzio di ricerca tedesco coordinato dal KI Bundesverband (German AI Association) ha rilasciato Soofi S 30B-A3B, un modello linguistico open source addestrato interamente sull’Industrial AI Cloud di Deutsche Telekom a Monaco. Secondo il suo rapporto di preaddestramento, il modello ottiene i punteggi più alti nei benchmark in inglese e tedesco tra i modelli completamente aperti, superando precedenti leader come OLMo 3 32B dell’Allen Institute for AI e Apertus 70B di ETH Zurich ed EPFL.

Il modello utilizza un’architettura ibrida efficiente in termini di risorse che attiva solo 3.2 dei suoi 31.6 miliardi di parametri per token generato, mantenendo la velocità di elaborazione quasi costante anche con input molto lunghi. Una scelta deliberata di concentrarsi sui dati di addestramento in tedesco, che arrivano fino al 15.3 percento del mix di addestramento nella seconda fase, offre a Soofi S un forte vantaggio nei compiti in lingua tedesca pur mantenendo prestazioni competitive in inglese. Questa combinazione affronta una lacuna ricorrente nei progetti europei di AI: eguagliare le prestazioni internazionali dei modelli open-weight documentando al tempo stesso metodi di addestramento, infrastruttura e fonti dei dati in modo sufficientemente dettagliato da consentire verifiche esterne.

Incidente di contaminazione divulgato nel rapporto aggiornato (24 luglio 2026)

Il 24 luglio 2026, il consorzio ha pubblicato la versione 3.0 del suo rapporto di preaddestramento e ha documentato un incidente di contaminazione dei dati scoperto dalla community nei dati di addestramento resi pubblici dopo il rilascio iniziale. Il problema ha interessato il dataset QA-base, che avrebbe dovuto contenere solo split di addestramento riformulati provenienti da 25 benchmark standard: domande di esercitazione pensate per insegnare al modello i formati dei test, non le domande effettive dei test.

Tuttavia, il dataset includeva anche domande riformulate dal set di test del benchmark scientifico GPQA, inclusa la variante GPQA Diamond, sia in inglese sia in tedesco tradotto automaticamente. Il rapporto riconduce la causa principale a una particolarità strutturale di GPQA su Hugging Face: il benchmark non ha un set di addestramento separato e tutto il suo materiale di test si trova sotto l’etichetta predefinita "train." Poiché la pipeline dei dati selezionava i contenuti in base ai nomi degli split, il set di test è stato inavvertitamente mescolato alle domande di esercitazione.

Un audit completo avviato dalla scoperta ha individuato altri tre benchmark con lo stesso schema di etichettatura — TruthfulQA, BLiMP e Inverse Scaling — anche se nessuno di questi viene usato nella valutazione di Soofi-S. In risposta, il consorzio ha rimosso completamente GPQA dalla suite di valutazione e ha ricalcolato i risultati complessivi per tutti i 16 modelli confrontati. Secondo gli autori, l’ordine della classifica è rimasto invariato.

È significativo che nessuno abbia rilevato il problema durante l’addestramento. Il modello è effettivamente migliorato in modo costante nei compiti GPQA interessati, passando da 32.3 a 43.4 punti, ma quel guadagno rientrava nell’intervallo normale ed era indistinguibile dai progressi su altri test: non c’è stato alcun picco improvviso che potesse fungere da segnale di allarme. D’ora in avanti, il team verifica automaticamente tutti i dati di addestramento rispetto alle domande di test, invece di fare affidamento su etichette di split potenzialmente fuorvianti.

Nicolas Flores Herr di Fraunhofer IAIS, partecipante al progetto, ha indicato l’incidente come una prova del funzionamento dell’approccio aperto, osservando che la community ha potuto identificare il problema solo perché i dati erano disponibili pubblicamente. Il team ha reso disponibili circa 152,000 risultati individuali per la verifica. Una valutazione separata condotta dal partner del consorzio Ellamind, usando dati di test propri deliberatamente trattenuti che il modello certamente non aveva incontrato durante l’addestramento, ha confermato i risultati. Il consorzio afferma che la parte interessata rappresenta solo una frazione minima del corpus totale.

Le varianti instruct e reasoning sottoposte a fine-tuning sono attualmente in beta testing e dovrebbero essere distribuite con una licenza permissiva nelle prossime settimane. Il modello più grande Soofi L è già in fase di addestramento.

Risposta alle accuse di overtraining (15 luglio 2026)

Dopo il lancio, alcuni critici hanno sostenuto che Soofi S fosse fortemente "overtrained" secondo gli standard delle classiche leggi di scaling Chinchilla, pubblicate da Google DeepMind nel 2022. Queste leggi descrivono come bilanciare dimensione del modello e dati di addestramento a parità di budget computazionale, individuando un punto ottimale di circa 20 token per parametro.

Soofi S supera ampiamente quel rapporto. Con circa 27 trilioni di token e 30 miliardi di parametri, il rapporto arriva a diverse centinaia a uno. Considerando solo i 3.2 miliardi di parametri attivi per token, il rapporto sale a diverse migliaia a uno.

Michael Fromm, parte della leadership tecnica del progetto, ha respinto la critica, sostenendo che quelle regole non si trasferiscono direttamente alle architetture Mixture-of-Experts (MoE). "There's new research showing that the old scaling laws from dense models no longer apply to MoE architectures," ha detto Fromm. Ha spiegato che i singoli esperti traggono beneficio dal vedere ripetutamente gli stessi documenti, quindi dati duplicati in un dataset ampio e di alta qualità pongono meno problemi rispetto ai modelli densi. Come termine di confronto, Fromm ha osservato che Nvidia ha addestrato i propri modelli su fino a 25 trilioni di token.

Un’architettura snella progettata per contesti lunghi

Soofi S è un modello mixture-of-experts con 31.6 miliardi di parametri totali, ma ne attiva solo circa 3.2 miliardi per token generato. Questo porta il suo costo computazionale più vicino a quello di un modello da 3B che a quello di un modello convenzionale da 30B. Il consorzio ha adottato senza modifiche l’architettura di Nemotron 3 Nano di Nvidia, un design ibrido che combina layer Mamba-2 con layer di attenzione standard.

La differenza cruciale rispetto ai transformer tipici riguarda il comportamento della memoria. Nei modelli convenzionali, la cache KV che memorizza i token precedenti per il calcolo dell’attenzione cresce linearmente con la lunghezza del contesto, diventando un collo di bottiglia con input lunghi e molte richieste parallele. Solo 6 dei 52 layer di Soofi S mantengono una cache di questo tipo.

Il vantaggio pratico è evidente nel throughput di generazione. Con una lunghezza di contesto di 40,000 token e 32 richieste parallele, Soofi S genera circa otto volte più token al secondo per GPU rispetto ai modelli densi nella fascia da 14 a 24 miliardi di parametri. Mentre il throughput dei modelli convenzionali cala in modo significativo al crescere del contesto, Soofi S rimane quasi piatto da 4,000 a 256,000 token. L’unico modello che mostra un comportamento simile nelle misurazioni è Qwen3.5 35B-A3B di Alibaba, che usa anch’esso un’architettura ibrida.

Un mix di addestramento costruito intorno al tedesco

Il consorzio ha elaborato circa 27 trilioni di token in tre fasi. Nella prima fase, il modello ha appreso le basi linguistiche da circa 20 trilioni di token provenienti da un ampio mix di testi web, codice, matematica e contenuti specifici di dominio. È seguita una seconda fase con circa 6 trilioni di token da fonti di qualità superiore, pensata per affinare gli schemi appresi in precedenza. Una terza fase più breve ha esteso la finestra di contesto addestrando il modello su documenti molto lunghi, fino a un milione di token.

L’enfasi deliberata sul tedesco è centrale nel progetto. Nella prima fase, il tedesco costituisce il 7.2 percento del mix di addestramento; nella seconda fase, la quota sale al 15.3 percento. Per confronto, nella ricetta di riferimento Nemotron di Nvidia, tutte le lingue non inglesi combinate rappresentano solo circa il 5 percento. Per le imprese e gli utenti del settore pubblico di lingua tedesca, questo equilibrio dei dati è rilevante perché molti flussi di lavoro tecnici, legali, amministrativi e di assistenza clienti dipendono da un linguaggio di dominio non adeguatamente rappresentato nei corpora centrati sull’inglese.

Per le fonti dei dati, il consorzio ha combinato testo web tedesco da HPLT, il corpus German Commons con licenza aperta, porzioni tedesche di FinePDFs e FineWiki, e il corpus Genios con licenza commerciale, che contiene 193 milioni di articoli di giornale da 916 pubblicazioni tedesche. Testi tedeschi tradotti automaticamente e generati sinteticamente completano il mix.

Risultati dei benchmark in tedesco, inglese e codice

Nelle valutazioni rispetto ad altri 16 modelli aperti, Soofi S guida tutti i modelli completamente aperti nei punteggi aggregati sia per il tedesco sia per l’inglese, secondo il rapporto. Rispetto a ogni baseline europea sovrana, il modello risulta avanti in tutti i benchmark tedeschi della suite, talvolta con margini a doppia cifra.

Nei benchmark di codice, Soofi S ottiene il 73.8 percento su HumanEval, 70.2 su MBPP e 84.2 sulla variante tedesca di MBPP: i migliori risultati tra i pari open source. Su INCLUDE-DE, un test per la conoscenza regionale specifica della Germania, Soofi S è al primo posto ex aequo con il più grande Qwen3.5 35B-A3B a 61.2 punti. Rispetto alla baseline Nemotron, la ricetta di dati in tedesco ha migliorato la competenza linguistica di 15.1 punti e il test scientifico GPQA-Diamond di 9.6 punti, senza sacrificare le prestazioni in inglese.

Soofi S ha prestazioni inferiori in alcune aree. Nella matematica competitiva in tedesco, ottiene 56 punti su Minerva MATH-DE, ben dietro Qwen3.5 35B-A3B (76.5) e Gemma 3 27B (65.6). Rimane indietro anche nel recupero fattuale aperto in NaturalQuestions, probabilmente a causa dei soli 3 miliardi di parametri attivi, che possono immagazzinare meno conoscenza del mondo rispetto a un modello denso da 27B.

Il test di contesto lungo RULER ha evidenziato una debolezza specifica: quando il modello deve estrarre parole che compaiono frequentemente da un testo lungo, il tasso di successo di Soofi S scende a circa il 3 percento oltre i 32,000 token di contesto, mentre il modello Nemotron comparabile riesce ancora a raggiungere il 60-64 percento. Gli autori attribuiscono questo risultato al fatto che i loro dati di addestramento per contesti lunghi contengono molti documenti lunghi, ma mancano di dati sintetici progettati specificamente per compiti di estrazione. Nei restanti dodici compiti RULER, i due modelli hanno prestazioni comparabili.

Infrastruttura sovrana e apertura documentata

L’addestramento si è svolto tra marzo e maggio su un massimo di 512 GPU Nvidia B200 presso l’Industrial AI Cloud di Deutsche Telekom a Monaco, per un totale di circa 253,000 ore-GPU. Secondo il rapporto, la struttura funziona interamente con energia rinnovabile, è raffreddata con acqua del canale Eisbach e convoglia il calore di scarto nel vicino quartiere Tucherpark. Soofi S è stato tra i primi grandi addestramenti eseguiti su questa infrastruttura.

Il consorzio dietro Soofi comprende istituzioni di ricerca e aziende tedesche, coordinate dalla German AI Association e finanziate dal Ministero federale tedesco per l’Economia e l’Energia nell’ambito del programma europeo IPCEI-CIS. Tra i partecipanti figurano gli istituti Fraunhofer IAIS e IIS, il German Research Center for Artificial Intelligence (DFKI), TU Darmstadt, l’Università di Würzburg, il L3S Research Center, la Berlin University of Applied Sciences e le aziende di AI Ellamind e Merantix Momentum. L’obiettivo del progetto è costruire una famiglia europea aperta di modelli AI in grado di funzionare su infrastruttura sovrana e di essere testata in applicazioni industriali.

I ricercatori stanno rilasciando i pesi del modello insieme a checkpoint intermedi selezionati, il codice completo di addestramento e valutazione e un inventario dettagliato dei dati che elenca conteggi grezzi dei token, numeri di epoca e contributi effettivi per fonte. Sono documentate anche le fonti esaminate ma escluse. Secondo il team, ciò significa che Soofi S soddisfa la Open Source AI Definition 1.0 della Open Source Initiative.

Una proposta più rigorosa per una definizione europea di dati aperti, che richiederebbe che ogni singolo token di addestramento sia liberamente distribuibile, non è soddisfatta a causa della quota dell’1.3 percento di dati Genios coperti da licenza commerciale. Il rapporto afferma che circa il 99 percento del mix di addestramento può essere ricostruito in modo indipendente. La licenza esatta per il rilascio del modello non è ancora stata finalizzata.

Come scrive il responsabile tecnico Michael Fromm, Soofi S si colloca tra progetti europei di sovranità ampiamente multilingui come EuroLLM o Teuken, che coprono molte lingue, e i modelli internazionali open-weight con le prestazioni più elevate. Secondo il sito del progetto, il consorzio sta cercando partner industriali per la fase successiva, per testare il modello in applicazioni che coinvolgono documenti tecnici, generazione di codice e sistemi basati su agenti.