☰ Sommario
DiffusionGemma è il nuovo protagonista dell’appuntamento settimanale con RTX AI Garage. Il modello open sviluppato da Google DeepMind introduce un approccio innovativo alla generazione del linguaggio e può già sfruttare l’accelerazione delle piattaforme NVIDIA, dalle GPU GeForce RTX e NVIDIA RTX PRO fino a DGX Spark, DGX Station e NVIDIA H100.
La novità più interessante riguarda il modo in cui DiffusionGemma genera testo. A differenza dei tradizionali modelli linguistici autoregressivi, che producono un token alla volta, il nuovo modello utilizza un processo di denoising capace di generare testo in parallelo.
Questo approccio consente di ottenere un’inferenza fino a quattro volte più veloce rispetto a modelli equivalenti, aprendo la strada a nuove possibilità per sviluppatori, creator e aziende interessate a eseguire modelli AI avanzati anche in locale.
Generazione parallela fino a 256 token
Tra i punti di forza di DiffusionGemma troviamo la capacità di generare fino a 256 token in parallelo, con prestazioni particolarmente elevate sulle piattaforme NVIDIA.
Secondo quanto comunicato, il modello può raggiungere velocità fino a 1.000 token al secondo su una singola GPU NVIDIA H100 e circa 150 token al secondo su DGX Spark, mantenendo prestazioni ottimizzate anche su DGX Station e sistemi RTX.
Si tratta di numeri importanti, soprattutto per applicazioni che richiedono risposte rapide, generazione continua di testo o interazioni più fluide con agenti AI locali.
Basato su Gemma 4 e pensato per applicazioni multimodali
DiffusionGemma è basato su Gemma 4 e supporta input testuali e visivi, ampliando così il raggio d’azione del modello oltre la semplice generazione di testo.
Il supporto a finestre di contesto fino a 256.000 token consente inoltre di gestire quantità molto ampie di informazioni, rendendo il modello adatto a scenari più complessi, dall’analisi di documenti estesi fino alla costruzione di applicazioni AI multimodali e agentiche.
Questa combinazione di velocità, ampiezza del contesto e supporto multimodale rende DiffusionGemma una proposta particolarmente interessante per chi lavora su strumenti AI avanzati, assistenti locali e flussi di lavoro automatizzati.
Un modello open eseguibile anche in locale
Uno degli aspetti più importanti di DiffusionGemma è la sua natura open. Il modello viene distribuito con licenza Apache 2.0 ed è già supportato da strumenti ampiamente utilizzati dalla community, tra cui Hugging Face Transformers, vLLM e Unsloth.
Questo significa che gli sviluppatori possono eseguire il modello localmente, senza dipendere necessariamente dal cloud e senza sostenere costi per token.
Per gli ambienti enterprise, DiffusionGemma è disponibile anche tramite NVIDIA NIM, con accesso API per la prototipazione attraverso build.nvidia.com.
NVIDIA RTX e AI locale sempre più centrali
L’arrivo di DiffusionGemma conferma il ruolo sempre più centrale delle piattaforme NVIDIA nell’evoluzione dell’intelligenza artificiale locale.
Con il supporto alle GPU GeForce RTX, NVIDIA RTX PRO, DGX Spark, DGX Station e H100, il nuovo modello di Google DeepMind punta a rendere più accessibili scenari AI avanzati, combinando prestazioni elevate, flessibilità e maggiore controllo da parte degli sviluppatori.
RTX AI Garage continua così a raccontare un ecosistema in rapida trasformazione, dove l’intelligenza artificiale non vive più soltanto nel cloud, ma diventa sempre più vicina al dispositivo, alla postazione di lavoro e alle esigenze quotidiane di chi crea, sperimenta e sviluppa.
