Stability AI ha annunciato la collaborazione con NVIDIA per il lancio del microservizio Stable Diffusion 3.5 NIM, che – sottolinea l’azienda – abilita significativi miglioramenti prestazionali e una distribuzione semplificata in ambito enterprise per i modelli di generazione di immagini più avanzati.
Il microservizio SD3.5 NIM supporta Stable Diffusion 3.5 Large, con una compatibilità estesa ai modelli che sarà resa disponibile nelle future release, spiega Stability AI.
Stable Diffusion 3.5 NIM abilita una generazione di immagini più rapida, rendendo possibili flussi di lavoro complessi che prima risultavano meno praticabili.
Inoltre, fornisce un modo più veloce e semplice per distribuire i modelli Stable Diffusion in ambito enterprise.
Un NIM – dichiara Stability AI – offre un approccio semplificato e ottimizzato per eseguire inferenza AI confezionando inference engine, API e configurazioni dei modelli in container sicuri e portabili. In pratica si tratta di un package preconfigurato e pronto per l’impiego in ambito enterprise, che elimina la complessità di configurare e ottimizzare da zero i modelli AI.
Secondo Stability AI, Stable Diffusion 3.5 NIM garantisce miglioramenti di performance che aumentano l’efficienza e facilitano la distribuzione per le aziende:
Miglioramenti di velocità: incremento prestazionale di 1,8x rispetto a PyTorch, con test su GPU NVIDIA H100 che mostrano una generazione ottimizzata con TensorRT a 3.700ms, contro i 6.800ms registrati con PyTorch standard su SD3.5 Large.
Deployment consolidato: SD3.5 NIM supporta il modello SD3.5 Large con Depth e Canny ControlNets in un unico container. Questo significa che, invece di dover effettuare deployment separati per ciascun modello, gli utenti hanno a disposizione tutte le versioni integrate in un unico package.
Il microservizio SD3.5 NIM supporta GPU Ada e Blackwell enterprise e per data center.
Queste diverse ottimizzazioni consentono cicli di iterazione più rapidi, elaborazioni batch più ampie e workflow complessi che in precedenza erano limitati dalle capacità hardware.
I guadagni in termini di efficienza sono particolarmente rilevanti per i workflow avanzati, come l’esecuzione simultanea di più modelli, afferma Stability AI. I miglioramenti prestazionali rendono tali workflow multi-model molto più accessibili, aprendo nuove possibilità per gli utenti avanzati e semplificando lo scaling rapido quando si utilizzano deployment cloud.
Stable Diffusion 3.5 NIM è disponibile su build.nvidia.com. Gli utenti possono scaricare i pesi del modello Stable Diffusion 3.5 direttamente da Hugging Face.
Per le organizzazioni più piccole e per i ricercatori, i modelli ottimizzati sono disponibili per uso commerciale e non commerciale sotto la Stability AI Community License.
Per le aziende con un fatturato annuo superiore a 1 milione di dollari, è possibile contattare Stability AI per discutere l’Enterprise Licensing, con supporto all’implementazione, opzioni di personalizzazione e servizi professionali dedicati. Maggiori informazioni sulle soluzioni per la personalizzazione dei modelli e dei workflow per casi d’uso specifici sono disponibili su Stability AI Solutions.
