Il nuovo Developer Toolkit introduce ottimizzazione e implementazione semplificate di modelli sulle piattaforme IA NVIDIA, da PC a data center
NVIDIA ha da poco presentato NVIDIA AI Workbench, un toolkit unificato e di facile utilizzo che consente agli sviluppatori di creare, testare e personalizzare rapidamente modelli di intelligenza artificiale generativa preaddestrati su un PC o una workstation, quindi scalarli praticamente su qualsiasi data center, cloud pubblico o NVIDIA DGX Cloud.
AI Workbench elimina la complessità di iniziare con un progetto AI aziendale. Accessibile tramite un’interfaccia semplificata in esecuzione su un sistema locale, consente agli sviluppatori di personalizzare i modelli da repository popolari come Hugging Face, GitHub e NVIDIA NGC utilizzando dati personalizzati. I modelli possono quindi essere condivisi facilmente su più piattaforme.
Una nuova era per gli sviluppatori di intelligenza artificiale
Sebbene siano ora disponibili centinaia di migliaia di modelli preaddestrati, personalizzarli con i numerosi strumenti open source può richiedere la ricerca in più repository online per il framework, gli strumenti e i contenitori giusti e l’impiego delle competenze giuste per personalizzare un modello per un caso d’uso specifico .
Con NVIDIA AI Workbench, gli sviluppatori possono personalizzare ed eseguire l’IA generativa in pochi clic. Il sistema consente loro di riunire tutti i modelli, i framework, i kit di sviluppo software e le librerie di livello aziendale necessari dai repository open source e dalla piattaforma NVIDIA AI in un toolkit di sviluppo unificato.
I principali fornitori di infrastrutture AI, tra cui Dell Technologies, Hewlett Packard Enterprise, HP Inc., Lambda, Lenovo e Supermicro, stanno adottando AI Workbench per la sua capacità di potenziare la loro ultima generazione di workstation desktop multi-GPU, workstation mobili di fascia alta e postazioni di lavoro virtuali.
Gli sviluppatori con un PC o una workstation NVIDIA RTX basati su Windows o Linux saranno anche in grado di avviare, testare e mettere a punto progetti di intelligenza artificiale generativa di livello aziendale sui loro sistemi RTX locali e accedere facilmente alle risorse del data center e del cloud computing per scalare quando necessario.
Il nuovo software NVIDIA AI Enterprise 4.0 migliora l’implementazione dell’IA
Per accelerare ulteriormente l’adozione dell’IA generativa, NVIDIA ha annunciato l’ultima versione della sua piattaforma software aziendale, NVIDIA AI Enterprise 4.0. Fornisce alle aziende gli strumenti necessari per adottare l’IA generativa, offrendo al contempo la sicurezza e la stabilità delle API necessarie per distribuzioni di produzione affidabili.
Il software e gli strumenti appena supportati in NVIDIA AI Enterprise che aiutano a semplificare l’implementazione dell’IA generativa includono:
- NVIDIA NeMo, un framework cloud-native per creare, personalizzare e distribuire modelli di linguaggi di grandi dimensioni. Con NeMo, NVIDIA AI Enterprise fornisce supporto end-to-end per la creazione e la personalizzazione delle applicazioni LLM.
- NVIDIA Triton Management Service, che aiuta ad automatizzare e ottimizzare le distribuzioni di produzione. Consente alle aziende di distribuire automaticamente più istanze di NVIDIA Triton Inference Server in Kubernetes con orchestrazione del modello per un funzionamento efficiente dell’IA scalabile.
- Il software di gestione dei cluster NVIDIA Base Command Manager Essentials, che aiuta le aziende a massimizzare le prestazioni e l’utilizzo dei server IA in data center, ambienti multi-cloud e cloud ibridi.
Il software NVIDIA AI Enterprise, che consente agli utenti di creare ed eseguire soluzioni basate su NVIDIA AI nel cloud, nel data center e nell’edge, è certificato per l’esecuzione su sistemi NVIDIA-Certified Systems™ mainstream, sistemi NVIDIA DGX, tutte le principali piattaforme cloud e la nuova NVIDIA RTX annunciata postazioni di lavoro.
Le principali società di software ServiceNow e Snowflake, nonché il fornitore di infrastrutture Dell Technologies, che offre soluzioni di intelligenza artificiale Dell, hanno recentemente annunciato che stanno collaborando con NVIDIA per abilitare nuove soluzioni e servizi di intelligenza artificiale generativa sulle loro piattaforme. L’integrazione di NVIDIA AI Enterprise 4.0 e NVIDIA NeMo fornisce una base per l’IA generativa pronta per la produzione per i clienti.
NVIDIA AI Enterprise 4.0 sarà integrata nei marketplace dei partner, tra cui AWS Marketplace, Google Cloud e Microsoft Azure, nonché attraverso il partner cloud di NVIDIA Oracle Cloud Infrastructure.
Inoltre, i fornitori di MLOps, tra cui Azure Machine Learning, ClearML, Domino Data Lab, Run:AI e Weights & Biases, stanno aggiungendo una perfetta integrazione con la piattaforma NVIDIA AI per semplificare lo sviluppo di modelli di AI generativa di livello produttivo.
AI Workbench sarà presto disponibile in accesso anticipato. E’ possibile iscriversi per ricevere una notifica non appena possibile.
(fonte: Nvidia)
Join our groups on Telegram…
Luigi_Morelli
Definire ciò che si è non risulta mai semplice o intuitivo, in specie quando nella vita si cerca costantemente di migliorarsi, di crescere tanto professionalmente quanto emotivamente. Lavoro per contribuire al mutamento dei settori cardine della computer science e per offrire sintesi ragionate e consulenza ad aziende e pubblicazioni ICT, ma anche perche’ ciò che riesco a portare a termine mi dà soddisfazione, piacere. Così come mi piace suonare (sax, tastiere, chitarra), cantare, scrivere (ho pubblicato 350 articoli scientfici e 3 libri sinora, ma non ho concluso ciò che ho da dire), leggere, Adoro la matematica, la logica, la filosofia, la scienza e la tecnologia, ed inseguo quel concetto di homo novus rinascimentale, cercando di completare quelle sezioni della mia vita che ancora appaiono poco ricche.