Basato sul superchip NVIDIA GB10 Grace Blackwell, Project DIGITS offre un petaflop di prestazioni AI in un fattore di forma molto compatto.
Grazie allo stack software NVIDIA AI preinstallato e a 128 GB di memoria, gli sviluppatori possono creare prototipi, perfezionare e dedurre modelli di intelligenza artificiale di grandi dimensioni, fino a 200 miliardi di parametri, in locale e distribuirli senza problemi nel data center o nel cloud.
La scorsa settimana NVIDIA ha presentato NVIDIA Project DIGITS, un supercomputer AI personale che fornisce ai ricercatori AI, agli scienziati dei dati e agli studenti di tutto il mondo l’accesso alla potenza della piattaforma NVIDIA Grace Blackwell.
Project DIGITS presenta il nuovo NVIDIA GB10 Grace Blackwell Superchip, che offre un petaflop di prestazioni di elaborazione AI per la prototipazione, la messa a punto e l’esecuzione di grandi modelli AI.
Con Project DIGITS, gli utenti possono sviluppare ed eseguire inferenze su modelli utilizzando il proprio sistema desktop, quindi distribuire senza problemi i modelli su infrastrutture cloud o data center accelerate.
GB10 Superchip fornisce un petaflop di prestazioni AI a basso consumo
GB10 Superchip è un sistema su chip (SoC) basato sull’architettura NVIDIA Grace Blackwell e fornisce fino a 1 petaflop di prestazioni AI con precisione FP4.
GB10 è dotato di una GPU NVIDIA Blackwell con core CUDA® di ultima generazione e Tensor Core di quinta generazione, collegati tramite interconnessione chip-to-chip NVLink-C2C a una CPU NVIDIA Grace ad alte prestazioni, che include 20 core a basso consumo realizzati con l’architettura Arm. MediaTek, leader di mercato nei design SoC basati su Arm, ha collaborato alla progettazione di GB10, contribuendo alla sua migliore efficienza energetica, prestazioni e connettività della categoria.
GB10 Superchip consente a Project DIGITS di fornire prestazioni potenti utilizzando una semplice presa elettrica standard. Ogni Project DIGITS è dotato di 128 GB di memoria unificata e coerente e fino a 4 TB di storage NVMe. Con il supercomputer, gli sviluppatori possono eseguire modelli di linguaggio di grandi dimensioni fino a 200 miliardi di parametri per potenziare l’innovazione dell’intelligenza artificiale. Inoltre, utilizzando la rete NVIDIA ConnectX, due supercomputer AI di Project DIGITS possono essere collegati per eseguire modelli fino a 405 miliardi di parametri.
Grace Blackwell AI Supercomputing a portata di mano
Con l’architettura Grace Blackwell, aziende e ricercatori possono prototipare, mettere a punto e testare modelli su sistemi Project DIGITS locali che eseguono NVIDIA DGX OS basato su Linux, quindi distribuirli senza problemi su NVIDIA DGX Cloud, istanze cloud accelerate o infrastruttura di data center.
Ciò consente agli sviluppatori di prototipare l’intelligenza artificiale su Project DIGITS e quindi scalare su cloud o infrastruttura di data center, utilizzando la stessa architettura Grace Blackwell e la piattaforma software NVIDIA AI Enterprise.
Gli utenti di Project DIGITS possono accedere a un’ampia libreria di software AI NVIDIA per la sperimentazione e la prototipazione, inclusi kit di sviluppo software, strumenti di orchestrazione, framework e modelli disponibili nel catalogo NVIDIA NGC e sul portale NVIDIA Developer. Gli sviluppatori possono perfezionare i modelli con il framework NVIDIA NeMo, accelerare la data science con le librerie NVIDIA RAPIDS ed eseguire framework comuni come PyTorch, Python e Jupyter notebook.
Per creare applicazioni AI via agent, gli utenti possono anche sfruttare i microservizi NVIDIA Blueprints e NVIDIA NIM, disponibili per ricerca, sviluppo e test tramite l’NVIDIA Developer Program. Quando le applicazioni AI sono pronte per passare dagli ambienti di sperimentazione a quelli di produzione, la licenza NVIDIA AI Enterprise fornisce sicurezza di livello aziendale, supporto e release di prodotto del software NVIDIA AI.
Disponibilità
Project DIGITS sarà disponibile a maggio da NVIDIA e dai principali partner, a partire da $ 3.000.
(fonte: NvidiaNews)
Iscriviti ai nostri gruppi Telegram
Link utili
- Arduino UNO R3
- Elegoo UNO R3
- Arduino Starter Kit per principianti
- Elegoo Advanced Starter Kit
- Arduino Nano
- Raspberry PI 5
- Raspberry PI 400
- Raspberry PI Pico
- Programmiamo il Pico