Come iniziare con NVIDIA NeMo
Utilizzare gli strumenti e le tecnologie giuste per portare i modelli di IA generativa dallo sviluppo alla produzione.
Il viaggio dai modelli di IA alle intuizioni di IA generativa
Scopri la piattaforma aziendale completa per l'IA generativa.
1. Prova i modelli IA.
Modelli di IA generativa di grado produttivo ottimizzati per l'esperienza
Inizia a creare dei prototipi con i principali modelli di IA generativa open source e costruiti da NVIDIA, ottimizzati per prestazioni ed efficienza elevate. I modelli IA del catalogo API NVIDIA possono essere implementati utilizzando i microservizi NVIDIA NIM™ e personalizzati con NeMo.
2. Estrai gli strumenti e i microservizi di NeMo.
Personalizza con i microservizi e il framework NeMo
3. Inizia a creare le tue soluzioni di IA.
A tutta velocità verso l'IA generativa con NVIDIA Blueprints
NVIDIA Blueprints sono flussi di lavoro di riferimento completi creati con le librerie, gli SDK e i microservizi di NVIDIA AI e Omniverse™. Ogni blueprint include codice di riferimento, strumenti di distribuzione, guide per la personalizzazione e un'architettura di riferimento, per accelerare la distribuzione di soluzioni di IA come agenti IA e digital twin, dal prototipo alla produzione.
4. Esegui in produzione.
Distribuzione in produzione con NVIDIA AI Enterprise
NVIDIA AI Enterprise è la piattaforma software end-to-end che porta l'IA generativa in ogni azienda, fornendo il runtime più veloce ed efficiente per i modelli di base dell'IA generativa. Include NeMo e NVIDIA NIM per ottimizzare l'adozione con sicurezza, stabilità, gestibilità e supporto.
Richiedi una licenza gratuita di 90 giorni per accedere oggi stesso alle soluzioni di IA generativa e al supporto aziendale.
Risorse
Domande frequenti
NVIDIA NeMo è un framework end-to-end cloud-native e un set di microservizi per creare, personalizzare e distribuire modelli di IA generativa ovunque. Include la gestione dei dati su larga scala, l'addestramento accelerato con tecniche di personalizzazione avanzate, il guardrailing e l’inferenza ottimizzata, offrendo alle imprese un modo semplice, conveniente e veloce per adottare l’IA generativa.
NeMo è disponibile come parte di NVIDIA AI Enterprise. Tutte le informazioni sui prezzi e sulle licenze sono disponibili qui.
NeMo può essere utilizzato per personalizzare i modelli linguistici di grandi dimensioni (LLM), i modelli linguistici visivi (VLM), il riconoscimento vocale automatico (ASR) e i modelli di sintesi vocale (TTS).
I clienti possono ottenere il supporto NVIDIA Business-Standard tramite un abbonamento NVIDIA AI Enterprise, che include NeMo. Il supporto NVIDIA Business-Standard offre accordi di livello di servizio, accesso agli esperti NVIDIA e supporto a lungo termine per le implementazioni on-premise e cloud.
NVIDIA AI Enterprise include il supporto NVIDIA Business-Standard. Per ulteriori servizi e supporto disponibili, come il supporto NVIDIA Business-Critical, un account manager tecnico, formazione e servizi professionali, consulta la Guida al supporto e ai servizi NVIDIA Enterprise.
NeMo Curator è un microservizio scalabile di gestione dei dati che consente agli sviluppatori di ordinare i set di dati multilingue di trilioni di token per il pre-addestramento di LLM. Consiste in un insieme di moduli Python espressi come API che utilizzano Dask, cuDF, cuGraph e Pytorch per scalare le attività di gestione dei dati, come il download dei dati, l'estrazione del testo, la pulizia, il filtraggio, la deduplicazione esatta/sfocata e la classificazione del testo a migliaia di core di calcolo.
NeMo Guardrails è un microservizio per garantire l'appropriatezza e la sicurezza nelle applicazioni intelligenti con modelli linguistici di grandi dimensioni. Tutela le organizzazioni che supervisionano i sistemi LLM.
NeMo Guardrails consente agli sviluppatori di impostare tre tipi di confini:
- I guardrail degli argomenti impediscono alle app di sconfinare in aree indesiderate. Ad esempio, impediscono agli assistenti del servizio clienti di rispondere alle domande sul meteo.
- I guardrail di sicurezza garantiscono che le app rispondano con informazioni accurate e appropriate. Possono filtrare il linguaggio indesiderato e fare in modo che i riferimenti derivino solo da fonti credibili.
- I guardrail di sicurezza garantiscono che le app si connettano solo ad applicazioni esterne di terze parti note per essere sicure.
Con NeMo Retriever, una raccolta di microservizi di IA generativa creati con NVIDIA NIM, le aziende possono connettere senza problemi modelli personalizzati a diversi dati aziendali per fornire risposte estremamente precise. NeMo Retriever fornisce un recupero delle informazioni di prim'ordine, con la latenza più bassa, il throughput più elevato e la massima privacy dei dati, consentendo alle organizzazioni di utilizzare meglio i propri dati e generare informazioni aziendali in tempo reale. NeMo Retriever migliora le applicazioni IA con capacità di generazione aumentata di recupero di livello aziendale, collegandole ai dati aziendali ovunque si trovino.
NVIDIA NIM, parte di NVIDIA AI Enterprise, è un runtime di facile utilizzo progettato per accelerare la distribuzione di IA generativa nelle aziende. Questo microservizio versatile supporta un ampio spettro di modelli di intelligenza artificiale, dai modelli di community open source ai modelli NVIDIA AI Foundation, oltre a quelli di IA personalizzati su misura. Creato sulle solide fondamenta dei motori di inferenza, è progettato per facilitare al massimo l'inferenza IA su larga scala, garantendo che le applicazioni IA possano essere distribuite su cloud, data center e workstation.
NeMo Evaluator è un microservizio progettato per la valutazione rapida e affidabile di LLM e RAG personalizzati. Si estende a diversi benchmark con metriche predefinite, tra cui valutazioni umane e tecniche LLMs-as-a-judge. È possibile implementare simultaneamente più processi di valutazione su Kubernetes su piattaforme cloud o data center preferiti tramite chiamate API, consentendo risultati aggregati efficienti.
NeMo Customizer è un microservizio scalabile ad alte prestazioni che semplifica la messa a punto e l'allineamento di LLM per casi d'uso specifici per dominio.
La generazione aumentata di recupero è una tecnica che consente agli LLM di creare risposte dalle informazioni più recenti collegandole alla knowledge base dell'azienda. NeMo opera con vari strumenti di terze parti e della community, tra cui Milvus, Llama Index e LangChain, per estrarre frammenti di informazioni pertinenti dal database vettoriale e fornirli all'LLM per generare risposte in linguaggio naturale. Visita la pagina Chatbot IA che usano flussi di lavoro RAG per iniziare a creare chatbot IA di qualità di produzione in grado di rispondere con precisione alle domande sui dati aziendali.
NVIDIA offre flussi di lavoro IA, esempi di riferimento nativi cloud e pronti all'uso che illustrano come i framework NVIDIA AI possono essere usati per creare soluzioni IA. Con modelli pre-addestrati, pipeline di addestramento e inferenza, Jupyter Notebooks e grafici Helm, i flussi di lavoro dell'IA accelerano il percorso verso la fornitura di soluzioni IA.
Crea rapidamente le tue soluzioni di IA generativa con questi flussi di lavoro completi:
NVIDIA Blueprints sono flussi di lavoro di riferimento completi creati con le librerie, gli SDK e i microservizi di NVIDIA AI e Omniverse. Ogni blueprint include codice di riferimento, strumenti di distribuzione, guide per la personalizzazione e un'architettura di riferimento, per accelerare la distribuzione di soluzioni di IA come agenti IA e digital twin, dal prototipo alla produzione.
NVIDIA AI Enterprise è una piattaforma software end-to-end cloud-native che accelera le pipeline di scienza dei dati e semplifica lo sviluppo e la distribuzione di applicazioni IA di livello produttivo, tra cui IA generativa, computer vision, IA vocale e altro ancora. Include i migliori strumenti di sviluppo della categoria, framework, modelli pre-addestrati, microservizi per i professionisti dell'IA e funzionalità di gestione affidabili per i professionisti IT per garantire prestazioni, stabilità delle API e sicurezza.
Il catalogo delle API NVIDIA fornisce modelli di IA generativa pronti per la produzione e un runtime di inferenza continuamente ottimizzato, disponibili come microservizi NVIDIA NIM per essere facilmente distribuiti con strumenti standardizzati su qualsiasi sistema accelerato da GPU.
Aggiornati sulle ultime novità di IA generativa di NVIDIA.