L'ottimizzazione del rendimento del modello ML su diversi dispositivi mobili può essere complicata.
I test manuali sono lenti, costosi e spesso inaccessibili alla maggior parte degli sviluppatori,
inducendo incertezze sulle prestazioni dei modelli reali. Google AI Edge Portal risolve il problema consentendo il benchmarking dei modelli LiteRT su una vasta gamma di dispositivi mobili, aiutando gli sviluppatori a trovare le configurazioni migliori per il deployment di modelli di ML su larga scala.
Ottimizzazione del deployment di ML mobile
Semplifica e accelera i cicli di test nel diverso panorama hardware:
valuta facilmente il rendimento del modello su centinaia di
dispositivi mobili rappresentativi in pochi minuti.
Garantisci in modo proattivo la qualità del modello e identifica in anticipo i problemi: individua
variazioni o regressioni delle prestazioni specifiche dell'hardware (ad esempio su determinati
chipset o dispositivi con limitazioni di memoria) prima del deployment.
Abbassa i costi di test dei dispositivi e accedi all'hardware più recente: esegui test su una flotta eterogenea e in continua crescita di dispositivi fisici (attualmente oltre 100 modelli di dispositivi di vari OEM Android) senza le spese e la complessità della gestione del tuo laboratorio.
Sfrutta la potenza dell'analisi dei dati e della business intelligence: Google AI
Edge Portal fornisce dati e confronti approfonditi sul rendimento, fornendo la
business intelligence necessaria per ottimizzare in modo sicuro il modello
e convalidare l'idoneità al deployment.
Benchmark di esempio:
In che modo Google AI Edge Portal ti aiuta a eseguire il benchmarking dei tuoi modelli LiteRT
Carica e configura: carica il file del modello tramite l'interfaccia utente o indicalo nel
tuo bucket Google Cloud Storage.
Seleziona gli acceleratori: specifica i test su CPU o GPU (con fallback automatico su CPU). Il supporto dell'NPU è previsto per le release future.
Seleziona dispositivi: scegli i dispositivi di destinazione dal nostro ampio pool utilizzando i filtri (livello del dispositivo, brand, chipset, RAM) o seleziona elenchi selezionati con comode scorciatoie.
Crea un nuovo job di benchmark su più di 100 dispositivi. (Nota: la GIF è accelerata e modificata per brevità)
Da qui, invia il job e attendi il completamento. Quando è tutto pronto, esplora i risultati nella dashboard interattiva:
Confronta le configurazioni: visualizza rapidamente le differenze tra le metriche sul rendimento (ad es. la latenza media, la memoria di picco) quando utilizzi acceleratori diversi su tutti i dispositivi testati.
Analisi dell'impatto dei dispositivi: scopri il rendimento di una configurazione del modello specifica nell'intervallo di dispositivi selezionati. Utilizza istogrammi e diagrammi a dispersione per identificare rapidamente le variazioni di prestazioni legate alle caratteristiche del dispositivo.
Metriche dettagliate: accedi a una tabella dettagliata e ordinabile che mostra metriche specifiche (tempo di inizializzazione, latenza di inferenza, utilizzo della memoria) per ogni singolo dispositivo, oltre alle relative specifiche hardware.
Visualizza i risultati del benchmark nella dashboard interattiva. (Nota: la GIF è accelerata e modificata per brevità)
Partecipa all'anteprima privata di Google AI Edge Portal
Google AI Edge Portal è disponibile in anteprima privata per i clienti Google Cloud inclusi nella lista consentita. Durante questo periodo di anteprima privata, l'accesso viene fornito senza costi, in base ai termini dell'anteprima.
Questa anteprima è ideale per gli sviluppatori e i team che creano applicazioni ML mobile con LiteRT e che hanno bisogno di dati di benchmarking affidabili su diversi hardware Android e sono disposti a fornire feedback per contribuire a definire il futuro del prodotto. Per richiedere l'accesso, compila il nostro modulo di registrazione qui per esprimere il tuo interesse. L'accesso viene concesso tramite la lista consentita.
[[["Facile da capire","easyToUnderstand","thumb-up"],["Il problema è stato risolto","solvedMyProblem","thumb-up"],["Altra","otherUp","thumb-up"]],[["Mancano le informazioni di cui ho bisogno","missingTheInformationINeed","thumb-down"],["Troppo complicato/troppi passaggi","tooComplicatedTooManySteps","thumb-down"],["Obsoleti","outOfDate","thumb-down"],["Problema di traduzione","translationIssue","thumb-down"],["Problema relativo a esempi/codice","samplesCodeIssue","thumb-down"],["Altra","otherDown","thumb-down"]],["Ultimo aggiornamento 2025-06-17 UTC."],[],[],null,["| **Note:** Google AI Edge Portal is in Private Preview and supports .litert models on GPU \\& CPU at this time. Complete our [sign-up form](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header) to request access.\n\n**AI Edge's Google Cloud solution for testing and benchmarking on-device machine learning (ML) at scale.**\n\n[Sign Up](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header)\n\nOptimizing ML model performance across diverse mobile devices can be challenging.\nManual testing is slow, costly, and often inaccessible to most developers,\nleading to uncertainties in real-world model performance. Google AI Edge\nPortal solves this by **enabling LiteRT model benchmarking across a wide-range\nof mobile devices**, helping developers find the best configurations for\nlarge-scale ML model deployment.\n\nOptimizing mobile ML deployment\n\n- **Simplify \\& accelerate testing cycles across the diverse hardware landscape**:\n Effortlessly assess model performance across hundreds of\n representative mobile devices in minutes.\n\n- **Proactively assure model quality \\& identify issues early**: Pinpoint\n hardware-specific performance variations or regressions (like on particular\n chipsets or memory-constrained devices) before deployment.\n\n- **Lower device testing cost \\& access latest hardware**: Test on diverse and\n continually growing fleet of physical devices (currently 100+ device models\n from various Android OEMs) without the expense and complexity of maintaining\n your own lab.\n\n- **Unlock powerful, data-driven decisions \\& business intelligence**: Google AI\n Edge Portal delivers rich performance data and comparisons, providing the\n crucial business intelligence needed to confidently guide model optimization\n and validate deployment readiness.\n\nExample benchmark:\n\n\u003cbr /\u003e\n\nHow Google AI Edge Portal helps you benchmark your LiteRT models\n\n1. **Upload \\& configure**: Upload your model file via the UI or point to it in your\n Google Cloud Storage bucket.\n\n2. **Select accelerators**: Specify testing against CPU or GPU (with automatic CPU\n fallback). NPU support is planned for future releases.\n\n3. **Select devices**: Choose target devices from our diverse pool using filters\n (device tier, brand, chipset, RAM) or select curated lists with convenient\n shortcuts.\n\n\u003cbr /\u003e\n\n\n*Create a New Benchmark Job on 100+ Devices. (Note: GIF is accelerated and edited for brevity)*\n\nFrom there, submit your job and await completion. Once ready, explore the\nresults in the Interactive Dashboard:\n\n- **Compare configurations**: Quickly visualize how performance metrics (e.g.,\n average latency, peak memory) differ when using different accelerators across\n all tested devices.\n\n- **Analyze device impact**: See how a specific model configuration performs across\n the range of selected devices. Use histograms and scatter plots to quickly\n identify performance variations tied to device characteristics.\n\n- **Detailed metrics**: Access a detailed, sortable table showing specific metrics\n (initialization time, inference latency, memory usage) for each individual\n device, alongside its hardware specifications.\n\n\u003cbr /\u003e\n\n\n*View Benchmark Results on the interactive Dashboard. (Note: GIF is accelerated and edited for brevity)*\n\nJoin the Google AI Edge Portal private preview\n\nGoogle AI Edge Portal is available in private preview for allowlisted Google\nCloud customers. During this private preview period, access is provided at no\ncharge, subject to the preview terms.\n\nThis preview is ideal for developers and teams building mobile ML applications\nwith LiteRT who need reliable benchmarking data across diverse Android hardware\nand are willing to provide feedback to help shape the product's future. To\nrequest access, complete our [sign-up form here](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header)\nto express interest. Access is granted via allowlisting."]]
