Un supercomputer AI Grace Blackwell sulla scrivania

AI Grace Blackwell

Basato sul superchip NVIDIA GB10 Grace Blackwell, Project DIGITS offre un petaflop di prestazioni AI in un fattore di forma molto compatto.

Grazie allo stack software NVIDIA AI preinstallato e a 128 GB di memoria, gli sviluppatori possono creare prototipi, perfezionare e dedurre modelli di intelligenza artificiale di grandi dimensioni, fino a 200 miliardi di parametri, in locale e distribuirli senza problemi nel data center o nel cloud.

La scorsa settimana NVIDIA ha presentato  NVIDIA Project DIGITS, un supercomputer AI personale che fornisce ai ricercatori AI, agli scienziati dei dati e agli studenti di tutto il mondo l’accesso alla potenza della piattaforma NVIDIA Grace Blackwell.

Project DIGITS presenta il nuovo NVIDIA GB10 Grace Blackwell Superchip, che offre un petaflop di prestazioni di elaborazione AI per la prototipazione, la messa a punto e l’esecuzione di grandi modelli AI.

Con Project DIGITS, gli utenti possono sviluppare ed eseguire inferenze su modelli utilizzando il proprio sistema desktop, quindi distribuire senza problemi i modelli su infrastrutture cloud o data center accelerate.

GB10 Superchip fornisce un petaflop di prestazioni AI a basso consumo

GB10 Superchip è un sistema su chip (SoC) basato sull’architettura NVIDIA Grace Blackwell e fornisce fino a 1 petaflop di prestazioni AI con precisione FP4.

GB10 è dotato di una GPU NVIDIA Blackwell con core CUDA® di ultima generazione e Tensor Core di quinta generazione, collegati tramite interconnessione chip-to-chip NVLink-C2C a una CPU NVIDIA Grace ad alte prestazioni, che include 20 core a basso consumo realizzati con l’architettura Arm. MediaTek, leader di mercato nei design SoC basati su Arm, ha collaborato alla progettazione di GB10, contribuendo alla sua migliore efficienza energetica, prestazioni e connettività della categoria.

GB10 Superchip consente a Project DIGITS di fornire prestazioni potenti utilizzando una semplice presa elettrica standard. Ogni Project DIGITS è dotato di 128 GB di memoria unificata e coerente e fino a 4 TB di storage NVMe. Con il supercomputer, gli sviluppatori possono eseguire modelli di linguaggio di grandi dimensioni fino a 200 miliardi di parametri per potenziare l’innovazione dell’intelligenza artificiale. Inoltre, utilizzando la rete NVIDIA ConnectX, due supercomputer AI di Project DIGITS possono essere collegati per eseguire modelli fino a 405 miliardi di parametri.

Grace Blackwell AI Supercomputing a portata di mano

Con l’architettura Grace Blackwell, aziende e ricercatori possono prototipare, mettere a punto e testare modelli su sistemi Project DIGITS locali che eseguono NVIDIA DGX OS basato su Linux, quindi distribuirli senza problemi su NVIDIA DGX Cloud, istanze cloud accelerate o infrastruttura di data center.

Ciò consente agli sviluppatori di prototipare l’intelligenza artificiale su Project DIGITS e quindi scalare su cloud o infrastruttura di data center, utilizzando la stessa architettura Grace Blackwell e la piattaforma software NVIDIA AI Enterprise.

Grace Blackwell AI

Gli utenti di Project DIGITS possono accedere a un’ampia libreria di software AI NVIDIA per la sperimentazione e la prototipazione, inclusi kit di sviluppo software, strumenti di orchestrazione, framework e modelli disponibili nel catalogo NVIDIA NGC e sul portale NVIDIA Developer. Gli sviluppatori possono perfezionare i modelli con il framework NVIDIA NeMo, accelerare la data science con le librerie NVIDIA RAPIDS ed eseguire framework comuni come PyTorch, Python e Jupyter notebook.

Per creare applicazioni AI via agent, gli utenti possono anche sfruttare i microservizi NVIDIA Blueprints e NVIDIA NIM, disponibili per ricerca, sviluppo e test tramite l’NVIDIA Developer Program. Quando le applicazioni AI sono pronte per passare dagli ambienti di sperimentazione a quelli di produzione, la licenza NVIDIA AI Enterprise fornisce sicurezza di livello aziendale, supporto e release di prodotto del software NVIDIA AI.

Disponibilità

Project DIGITS sarà disponibile a maggio da NVIDIA e dai principali partner, a partire da $ 3.000.

(fonte: NvidiaNews)

 

Iscriviti ai nostri gruppi Telegram

Link utili

Seguici per non perdere le prossime novità!

 

Definire ciò che si è non risulta mai semplice o intuitivo, in specie quando nella vita si cerca costantemente di migliorarsi, di crescere tanto professionalmente quanto emotivamente. Lavoro per contribuire al mutamento dei settori cardine della computer science e per offrire sintesi ragionate e consulenza ad aziende e pubblicazioni ICT, ma anche perche’ ciò che riesco a portare a termine mi dà soddisfazione, piacere. Così come mi piace suonare (sax, tastiere, chitarra), cantare, scrivere (ho pubblicato 350 articoli scientfici e 3 libri sinora, ma non ho concluso ciò che ho da dire), leggere, Adoro la matematica, la logica, la filosofia, la scienza e la tecnologia, ed inseguo quel concetto di homo novus rinascimentale, cercando di completare quelle sezioni della mia vita che ancora appaiono poco ricche.

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.