Google AI Edge 门户

AI Edge 的 Google Cloud 解决方案，用于大规模测试和对设备端机器学习 (ML) 进行基准测试。

优化各种移动设备上的机器学习模型性能可能具有挑战性。手动测试速度缓慢、费用高昂，而且大多数开发者通常无法进行此类测试，这导致实际模型性能存在不确定性。Google AI Edge 门户通过在各种移动设备上实现 LiteRT 模型基准测试来解决此问题，帮助开发者找到适合大规模机器学习模型部署的最佳配置。

优化移动设备机器学习部署

简化并加快在多样化硬件环境中的测试周期：只需几分钟，即可轻松评估数百部代表性移动设备上的模型性能。
主动确保模型质量并尽早发现问题：在部署之前，找出硬件专用性能差异或回归问题（例如在特定芯片组或内存受限设备上）。
降低设备测试成本并使用最新的硬件：在不断扩大的多样化实体设备（目前有来自各种 Android OEM 的 100 多款设备型号）上进行测试，无需维护自己的实验室，从而避免高昂的费用和复杂的流程。
释放数据驱动的强大决策和商务智能：Google AI Edge 门户提供丰富的效果数据和比较，提供有助于自信地指导模型优化和验证部署准备情况的重要商务智能。

基准测试示例：

Google AI Edge 门户如何帮助您对 LiteRT 模型进行基准测试

上传和配置：通过界面上传模型文件，或指向 Google Cloud Storage 存储分区中的模型文件。
选择加速器：指定针对 CPU 或 GPU 进行测试（自动回退到 CPU）。我们计划在未来的版本中支持 NPU。
选择设备：使用过滤条件（设备层级、品牌、芯片组、RAM）从我们的多样化设备池中选择目标设备，或使用便捷的快捷方式选择精选列表。

在 100 多部设备上创建新的基准测试作业。（注意：为简洁起见，GIF 已加速并经过编辑）

然后，提交作业并等待作业完成。准备就绪后，在交互式信息中心探索结果：

比较配置：快速直观地了解在所有测试设备上使用不同加速器时性能指标（例如平均延迟时间、峰值内存）的差异。
分析设备影响：了解特定模型配置在所选设备范围内的表现。使用直方图和散点图快速找出与设备特性相关的性能差异。
详细指标：访问可排序的详细表格，其中显示了每部设备的具体指标（初始化时间、推理延迟时间、内存用量）及其硬件规格。

在交互式信息中心查看基准测试结果。（注意：为简洁起见，GIF 已加速并经过编辑）

加入 Google AI Edge 门户非公开预览版计划

Google AI Edge 门户现已面向列入许可名单的 Google Cloud 客户推出非公开预览版。在此非公开预览版期间，我们将免费提供访问权限，但需遵守预览版条款。

此预览版非常适合使用 LiteRT 构建移动机器学习应用的开发者和团队，他们需要获得各种 Android 硬件上的可靠基准测试数据，并且愿意提供反馈来帮助我们完善产品。如需申请访问权限，请点击此处填写我们的注册表单，表达您的意向。通过许可名单授予访问权限。