Optymalizacja skuteczności modelu ML na różnych urządzeniach mobilnych może być trudna.
Ręczne testowanie jest powolne, kosztowne i często niedostępne dla większości deweloperów, co prowadzi do niepewności co do wydajności modelu w rzeczywistych warunkach. Google AI Edge Portal rozwiązuje ten problem, umożliwiając porównywanie modeli LiteRT na wielu urządzeniach mobilnych, co pomaga deweloperom znaleźć najlepsze konfiguracje do wdrażania modeli systemów uczących się na dużą skalę.
Optymalizowanie wdrażania ML na urządzeniach mobilnych
Uprość i przyspiesz cykle testowania na różnych platformach sprzętowych: w kilka minut możesz bez wysiłku ocenić skuteczność modelu na setkach reprezentatywnych urządzeń mobilnych.
Proaktywnie zapewniaj jakość modelu i wcześnie wykryj problemy: przed wdrożeniem określ różnice w wydajności lub regresję związaną ze sprzętem (np. w przypadku konkretnych chipsetów lub urządzeń z ograniczoną pamięcią).
Niższe koszty testowania urządzeń i dostęp do najnowszego sprzętu: testowanie na różnorodnych i stale powiększających się grupach urządzeń fizycznych (obecnie ponad 100 modeli urządzeń od różnych producentów OEM Androida) bez kosztów i złożoności związanych z utrzymaniem własnego laboratorium.
Podejmowanie trafnych decyzji na podstawie danych i analizowanie informacji biznesowych: Portal Google AI Edge udostępnia bogate dane o wydajności i porównania, zapewniając niezbędne informacje biznesowe, które ułatwiają optymalizację modelu i sprawdzanie gotowości do wdrożenia.
Przykładowy punkt odniesienia:
Jak Google AI Edge Portal pomaga porównywać modele LiteRT
Przesyłanie i konfigurowanie: możesz przesłać plik modelu za pomocą interfejsu użytkownika lub wskazać go w zasobniku Google Cloud Storage.
Wybierz akceleratory: określ, czy testy mają być przeprowadzane na procesorze CPU czy GPU (z automatycznym substytutem procesora CPU). Obsługa NPU jest planowana na przyszłe wersje.
Wybierz urządzenia: wybierz urządzenia docelowe z różnorodnego zbioru za pomocą filtrów (poziom urządzenia, marka, chipset, pamięć RAM) lub wybierz zweryfikowane listy za pomocą wygodnych skrótów.
Utwórz nowe zadanie testu porównawczego na ponad 100 urządzeniach. (Uwaga: GIF jest przyspieszony i zmontowany w celu skrócenia)
Następnie prześlij zadanie i poczekaj na jego zakończenie. Gdy wszystko będzie gotowe, sprawdź wyniki w interaktywnym panelu:
Porównaj konfiguracje: szybko porównaj, jak dane dotyczące wydajności (np. średnie opóźnienie, szczytowa pamięć) różnią się w przypadku różnych akceleratorów na wszystkich testowanych urządzeniach.
Analiza wpływu urządzenia: możesz sprawdzić, jak działa dana konfiguracja modelu na różnych urządzeniach. Korzystaj z histogramów i wykresów rozrzutu, aby szybko identyfikować różnice w wydajności związane z cechami urządzenia.
Szczegółowe dane: możesz wyświetlić szczegółową, możliwą do posortowania tabelę z konkretnymi danymi (czas inicjalizacji, opóźnienie wnioskowania, wykorzystanie pamięci) dla każdego urządzenia wraz ze specyfikacją sprzętową.
Wyniki testu porównawczego możesz wyświetlić w interaktywnym panelu. Uwaga: plik GIF jest akcelerowany i edytowany, aby był zwięzły.
Dołącz do prywatnej wersji testowej portalu Google AI Edge
Google AI Edge Portal jest dostępny w ramach prywatnej wersji testowej dla klientów Google Cloud, którzy zostali dodani do listy dozwolonych. W tym okresie dostęp do usługi jest bezpłatny, zgodnie z warunkami wersji testowej.
Ta wersja jest idealna dla programistów i zespołów tworzących aplikacje mobilne z LiteRT, którzy potrzebują wiarygodnych danych porównawczych na różnych urządzeniach z Androidem i chcą przekazywać opinie, aby pomóc w kształtowaniu przyszłości tego narzędzia. Aby poprosić o dostęp, wypełnij formularz rejestracji i wyrazić zainteresowanie. Dostęp jest przyznawany za pomocą listy dozwolonych.
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2025-06-17 UTC."],[],[],null,["| **Note:** Google AI Edge Portal is in Private Preview and supports .litert models on GPU \\& CPU at this time. Complete our [sign-up form](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header) to request access.\n\n**AI Edge's Google Cloud solution for testing and benchmarking on-device machine learning (ML) at scale.**\n\n[Sign Up](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header)\n\nOptimizing ML model performance across diverse mobile devices can be challenging.\nManual testing is slow, costly, and often inaccessible to most developers,\nleading to uncertainties in real-world model performance. Google AI Edge\nPortal solves this by **enabling LiteRT model benchmarking across a wide-range\nof mobile devices**, helping developers find the best configurations for\nlarge-scale ML model deployment.\n\nOptimizing mobile ML deployment\n\n- **Simplify \\& accelerate testing cycles across the diverse hardware landscape**:\n Effortlessly assess model performance across hundreds of\n representative mobile devices in minutes.\n\n- **Proactively assure model quality \\& identify issues early**: Pinpoint\n hardware-specific performance variations or regressions (like on particular\n chipsets or memory-constrained devices) before deployment.\n\n- **Lower device testing cost \\& access latest hardware**: Test on diverse and\n continually growing fleet of physical devices (currently 100+ device models\n from various Android OEMs) without the expense and complexity of maintaining\n your own lab.\n\n- **Unlock powerful, data-driven decisions \\& business intelligence**: Google AI\n Edge Portal delivers rich performance data and comparisons, providing the\n crucial business intelligence needed to confidently guide model optimization\n and validate deployment readiness.\n\nExample benchmark:\n\n\u003cbr /\u003e\n\nHow Google AI Edge Portal helps you benchmark your LiteRT models\n\n1. **Upload \\& configure**: Upload your model file via the UI or point to it in your\n Google Cloud Storage bucket.\n\n2. **Select accelerators**: Specify testing against CPU or GPU (with automatic CPU\n fallback). NPU support is planned for future releases.\n\n3. **Select devices**: Choose target devices from our diverse pool using filters\n (device tier, brand, chipset, RAM) or select curated lists with convenient\n shortcuts.\n\n\u003cbr /\u003e\n\n\n*Create a New Benchmark Job on 100+ Devices. (Note: GIF is accelerated and edited for brevity)*\n\nFrom there, submit your job and await completion. Once ready, explore the\nresults in the Interactive Dashboard:\n\n- **Compare configurations**: Quickly visualize how performance metrics (e.g.,\n average latency, peak memory) differ when using different accelerators across\n all tested devices.\n\n- **Analyze device impact**: See how a specific model configuration performs across\n the range of selected devices. Use histograms and scatter plots to quickly\n identify performance variations tied to device characteristics.\n\n- **Detailed metrics**: Access a detailed, sortable table showing specific metrics\n (initialization time, inference latency, memory usage) for each individual\n device, alongside its hardware specifications.\n\n\u003cbr /\u003e\n\n\n*View Benchmark Results on the interactive Dashboard. (Note: GIF is accelerated and edited for brevity)*\n\nJoin the Google AI Edge Portal private preview\n\nGoogle AI Edge Portal is available in private preview for allowlisted Google\nCloud customers. During this private preview period, access is provided at no\ncharge, subject to the preview terms.\n\nThis preview is ideal for developers and teams building mobile ML applications\nwith LiteRT who need reliable benchmarking data across diverse Android hardware\nand are willing to provide feedback to help shape the product's future. To\nrequest access, complete our [sign-up form here](https://docs.google.com/forms/d/e/1FAIpQLSfTcGPycQve8TLAsfH46pBlXBZe9FrgJAClwbF7DeL1LgVn4Q/viewform?usp=header)\nto express interest. Access is granted via allowlisting."]]
