Nvidia TAO Toolkit 3.0-21-11 è un sistema di sviluppo per Python basato su TensorRT 8.0 ed è completamente compatibile con DeepStream 6.0.
NVIDIA TAO Toolkit è un pacchetto Python che consente ai clienti NVIDIA di ottimizzare i modelli preaddestrati con i dati del cliente ed esportarli per l’inferenza basata su TensorRT tramite un dispositivo edge. Il sistema prevede estensioni che consentiranno di sviluppare tanto nel settore della Conversational AI quanto nel settore della Vision AI.
L’ultima versione di NVIDIA TAO Toolkit è ora disponibile per il download. NVIDIA TAO Toolkit è una versione basata su notebook CLI e Jupyter del framework di adattamento del modello AI di NVIDIA TAO. Ciò significa che è possibile addestrare, adattare e ottimizzare i modelli preaddestrati dal catalogo NGC per il proprio caso d’uso in una frazione del tempo, senza competenze di intelligenza artificiale o grandi set di dati di addestramento.
Caratteristiche
- Pipeline di formazione per il modello di riconoscimento dell’azione 2D e 3D
- Personalizza la voce dell’IA con il nuovissimo supporto per la formazione dalla sintesi vocale
- Miglioramento dell’utilizzo della GPU durante l’addestramento per la maggior parte delle reti
- Supporto per nuove reti di CV – EfficientDet e YoloV4-Tiny
- Modello PeopleNet nuovo e migliorato che aumenta la precisione su oggetti di grandi dimensioni e persone con le mani estese
Specifiche tecniche
- Risorse TAO:
- Esempi di notebook Jupyter che mostrano il flusso di lavoro end-to-end per i seguenti modelli
- AzioneRecognitionNet
- EfficientDet
- Sintesi vocale utilizzando FastPitch e HiFiGAN
- Esempi di notebook Jupyter che mostrano il flusso di lavoro end-to-end per i seguenti modelli
- TAO CV:
- Modelli preaddestrati per diverse architetture pubbliche e applicazioni di riferimento che servono casi d’uso di classificazione, rilevamento e segmentazione di oggetti relativi alla visione artificiale.
- Supporto per i modelli di rilevamento di oggetti YOLOv4-tiny ed EfficienetDet.
- Supporto per la potatura dei modelli EfficientDet
- Nuovi modelli preaddestrati rilasciati su NGC
- PeopleNet versione 2.5
- AzioneRecognitionNet
- Utility di conversione per generare motori TensorRT ottimizzati per dispositivi specifici
- Jetson JP4.6
- x86 + dGPU – TensorRT 8.0.1.6 con CUDA 11.4
- AI Conversazionale TAO:
- Supporto per l’addestramento da zero del modello FastPitch e HiFiGAN
- Aggiunta di nuovi codificatori per le attività di elaborazione del linguaggio naturale
- DistillBERT
- BioMegatron-BERT
Prerequisiti
La configurazione di sistema minima consigliataper ottenere livelli accettabili di performance nel training con il TAO Toolkit ed i modelli a:
- 32 GB system RAM
- 32 GB of GPU RAM
- 8 core CPU
- 1 NVIDIA GPU
- 100 GB of SSD space
TAO Toolkit viene supportato su GPU di classe A100, V100 ed RTX 30×0.
Nota di compatibilità: Se stai utilizzando una versione precedente di DeepStream, dovrai esportare i modelli TAO utilizzando la versione 3.0-21-08. Per distribuire i tuoi modelli TAO da 3.0-21-08 a DeepStream 6.0, dovrai esportare utilizzando TAO Toolkit 3.0-21-11. Ulteriori informazioni sull’interoperabilità sono disponibili nella sezione Integrazione in DeepStream della documentazione di TAO Toolkit.
Join our groups onTelegram…
Luigi_Morelli
Definire ciò che si è non risulta mai semplice o intuitivo, in specie quando nella vita si cerca costantemente di migliorarsi, di crescere tanto professionalmente quanto emotivamente. Lavoro per contribuire al mutamento dei settori cardine della computer science e per offrire sintesi ragionate e consulenza ad aziende e pubblicazioni ICT, ma anche perche’ ciò che riesco a portare a termine mi dà soddisfazione, piacere. Così come mi piace suonare (sax, tastiere, chitarra), cantare, scrivere (ho pubblicato 350 articoli scientfici e 3 libri sinora, ma non ho concluso ciò che ho da dire), leggere, Adoro la matematica, la logica, la filosofia, la scienza e la tecnologia, ed inseguo quel concetto di homo novus rinascimentale, cercando di completare quelle sezioni della mia vita che ancora appaiono poco ricche.