Panoramica Prezzi Domande frequenti Clienti

Accelera lo sviluppo dell'IA generativa con Amazon SageMaker AI e MLflow

Gestisci in modo efficiente il ciclo di vita del machine learning e dell'IA generativa su vasta scala utilizzando MLflow 3.0

Inizia a usare MLflow su SageMaker

Perché usare Amazon SageMaker con MLFlow?

Amazon SageMaker offre una funzionalità MLFlow gestita per il machine learning (ML) e la sperimentazione di IA generativa. Questa funzionalità consente ai data scientist di utilizzare facilmente MLFlow su SageMaker per il training, la registrazione e l'implementazione dei modelli. Gli amministratori possono configurare rapidamente su AWS ambienti MLFlow sicuri e scalabili. I data scientist e gli sviluppatori di ML possono monitorare in modo efficiente gli esperimenti di ML e trovare il modello giusto per un problema aziendale.

Vantaggi di Amazon SageMaker AI con MLflow 3.0

Sperimenta in modo efficiente con i modelli di fondazione (FM)

I data scientist possono utilizzare MLFlow per tenere traccia di tutte le metriche generate durante la messa a punto di un modello di base, valutare il modello, testare il modello con dati di esempio, confrontare i risultati di ciascun modello fianco a fianco sull'interfaccia utente MLFlow e registrare il modello giusto per il loro caso d'uso. Una volta registrato il modello, gli ingegneri ML possono implementare il modello nell'inferenza di SageMaker.

Zero manutenzione dell'infrastruttura

Non è necessario gestire alcuna infrastruttura necessaria per ospitare MLFlow. I data scientist possono utilizzare tutte le funzionalità open source di MLFlow senza che gli amministratori si preoccupino del sovraccarico dell'infrastruttura. Ciò consente di risparmiare tempo e costi durante la configurazione degli ambienti di data science. MLFlow è integrato con Amazon Identity and Access Management (IAM), che consente di configurare il controllo degli accessi basato sui ruoli (RBAC) per i server di tracciamento MLFlow.

Transizione senza soluzione di continuità dalla sperimentazione del modello alla produzione

I modelli registrati in MLFlow verranno automaticamente registrati nel registro dei modelli Amazon SageMaker con una scheda modello Amazon SageMaker associata. Ciò consente ai data scientist di trasferire i loro modelli agli ingegneri ML per l'implementazione della produzione senza cambiare contesto. Gli ingegneri ML possono implementare modelli da MLFlow agli endpoint SageMaker senza creare container personalizzati o riconfezionare gli artefatti del modello MLFlow.

Innova con la community open source

Man mano che il progetto MLflow si evolve, i clienti di SageMaker AI beneficeranno dell'innovazione open source della comunità MLflow e della gestione dell'infrastruttura fornita da AWS.

Funzionalità di tracciamento avanzate

Le funzionalità di tracciamento su MLflow 3.0 completamente gestito consentono ai clienti di registrare input, output e metadati in ogni fase dello sviluppo dell'IA generativa, per aiutare i team a identificare rapidamente l'origine di bug o comportamenti imprevisti. Conservando i record di ogni modello e la versione dell'applicazione, MLflow 3.0 completamente gestito offre la tracciabilità per collegare le risposte IA ai loro componenti d'origine, così gli sviluppatori potranno tracciare rapidamente un problema direttamente nel codice, nei dati o nei parametri specifici che lo hanno generato.

Tieni traccia degli esperimenti da qualsiasi luogo

Gli esperimenti di ML vengono eseguiti in ambienti diversi, tra cui notebook locali, IDE, codice di formazione basato su cloud o IDE gestiti in Amazon SageMaker Studio. Con SageMaker AI e MLflow, puoi utilizzare il tuo ambiente preferito per addestrare modelli, tenere traccia dei tuoi esperimenti in MLflow e avviare direttamente l'interfaccia utente MLflow o tramite SageMaker Studio per l'analisi.

Accelerazione dello sviluppo dell'IA generativa con MLflow 3.0

La creazione di modelli di base è un processo iterativo che prevede centinaia di iterazioni di formazione per trovare l'algoritmo, l'architettura e i parametri migliori per una precisione ottimale del modello. Con MLflow 3.0 completamente gestito puoi tenere traccia degli esperimenti di IA generativa, valutare le prestazioni dei modelli e ottenere informazioni più approfondite sul comportamento dei modelli e delle applicazioni di IA dalla sperimentazione alla produzione. Con una sola interfaccia, puoi visualizzare lo stato di avanzamento dei job di addestramento, collaborare con i colleghi durante la sperimentazione e mantenere il controllo della versione per ogni modello e applicazione. MLflow 3.0 offre anche funzionalità di tracciamento avanzate che registrano gli input, gli output e i metadati in ogni fase dello sviluppo dell'IA generativa, così puoi di identificare rapidamente l'origine di bug o comportamenti imprevisti.

Accelerazione dello sviluppo dell'IA generativa con MLflow

Gestisci a livello centrale i metadati degli esperimenti di ML

Valuta gli esperimenti

L'individuazione del modello migliore da più iterazioni richiede l'analisi e il confronto delle prestazioni del modello. MLFlow offre visualizzazioni come grafici a dispersione, grafici a barre e istogrammi per confrontare le iterazioni di training. Inoltre, MLFlow consente la valutazione di modelli di distorsione ed equità.

Gestione centralizzata dei modelli MLFlow

Molti team utilizzano spesso MLFlow per gestire i propri esperimenti e solo alcuni modelli diventano candidati alla produzione. Le organizzazioni hanno bisogno di un modo semplice per tenere traccia di tutti i modelli candidati per prendere decisioni informate su quali modelli procedere alla produzione. MLFlow si integra perfettamente con il registro dei modelli SageMaker, consentendo alle organizzazioni di vedere i propri modelli registrati in MLFlow apparire automaticamente nel registro dei modelli SageMaker, completo di una scheda modello SageMaker per la governance. Questa integrazione consente ai data scientist e agli ingegneri ML di utilizzare strumenti distinti per le rispettive attività: MLFlow per la sperimentazione e il registro dei modelli SageMaker per la gestione del ciclo di vita della produzione con una gamma completa di modelli.

Distribuisci i modelli MLFlow sugli endpoint SageMaker

L'implementazione di modelli da MLFlow a SageMaker endpoints è semplice ed elimina la necessità di creare container personalizzati per l'archiviazione dei modelli. Questa integrazione consente ai clienti di sfruttare i container di inferenza ottimizzati di SageMaker mantenendo l'esperienza intuitiva di MLFlow per il log e la registrazione dei modelli.