UL Procyon™AI推理基准
使用NNAPI测试AI性能和质量
机器学习正在推动移动应用程序中令人兴奋的新功能。许多设备现在都有专门的硬件来加速设备上推断所需的计算密集型操作。Android神经网络API (NNAPI)为机器学习框架提供了一个基础层,用于访问设备中专用的人工智能处理硬件。
UL Procyon AI推理基准测试使用NNAPI测量Android设备的AI性能。基准分数反映了设备上的速度和准确性。通过Procyon AI推理基准测试,您不仅可以测量Android设备中专用AI处理硬件的性能,还可以验证NNAPI实现质量。
该基准测试使用一系列流行的、最先进的神经网络运行在设备上,以执行常见的机器视觉任务。基准测试通过NNAPI在设备专用的人工智能处理硬件上运行。基准测试还直接在GPU和/或CPU上运行每个测试,以进行比较。
立即购买特征
- 基于常用机器视觉任务的测试,使用最先进的神经网络。
- 测量推理性能和输出质量。
- 比较NNAPI,CPU和GPU性能。
- 验证NNAPI实现和兼容性。
- 优化硬件加速器的驱动程序。
- 比较浮点优化和整数优化模型的性能。
- 易于设置和在设备上或通过ADB使用。
NNAPI性能和质量
使用UL Procyon AI推理基准,您可以测量专用AI处理硬件的性能,并通过基于常见机器视觉任务的测试来验证NNAPI实现质量。
专为专业人士而设计
我们为工程团队创建了UL Procyon AI推理基准,这些团队需要独立的、标准化的工具来评估NNAPI实现和专用移动硬件的总体AI性能。
快速和容易使用
基准测试很容易安装和运行,不需要复杂的配置。在设备上或通过ADB运行基准测试。查看基准分数,图表和排名在应用程序或导出详细的结果文件进一步分析。
以行业专业知识开发
UL Procyon基米乐体育平台提现正规吗准是为工业,企业和新闻使用测试和专为专业用户创建的测试和功能而设计的。通过UL基准开发计划(BDP)设计和开发了AI推理基准。BDP是一个UL倡议,旨在通过与方案成员密切合作工作来创建相关和公正的基准。米乐体育平台提现正规吗
神经网络模型
MobileNet V3
MobileNet V3是专门为移动设备创建的紧凑视觉识别模型。基准测试使用MobileNet V3来标识图像的主题,将图像作为输入,并输出图像中内容的概率列表。该基准测试使用了MobileNet V3的大型简化变体。
《盗梦空间》V4
Inception V4是用于图像分类任务的最先进模型。专为准确性而设计,它是一个比MobileNet更广泛更深的模型。基准测试使用Inception V4来识别图像的主题,以图像为输入,并输出图像中识别的内容的概率列表。
SSDLite MobileNet V3
SSDLite是一个对象检测模型,旨在在图像中的对象周围生成边界框。SSDLite使用MobileNet进行特征提取,以便在移动设备上启用实时对象检测。在基准测试中,SSDLite的Float版本使用小型Modiver MobileNet V3变体。整数版本使用MobileNet V3的EdgePu变体。
DeepLab V3
DeepLab是一种图像分割模型,旨在将属于同一对象类的图像像素聚类。语义图像分割在图像的每个区域标记一类目标。该基准测试使用MobileNet V2进行特征提取,与大型模型相比,在质量上几乎没有差异,从而实现快速推断。
自定义有线电视新闻网
基准测试包括一个基于AlexNet架构的自定义卷积神经网络(CNN)。它的设计是为了测试基本CNN操作的性能,并在随机生成的训练数据上进行训练。它包含两个卷积层,后面是Max Pooling和Dropout层,以及一个完全连接的层。
整数和浮动模型
基准测试包括每个模型的浮点和整数优化版本。每种型号轮流在设备中所有兼容的硬件上运行。如果支持NNAPI,基准测试将使用设备专用的ai处理硬件。浮动模型使用NNAPI或直接在CPU或GPU上运行。整数模型使用NNAPI或直接在CPU上运行。
结果和见解
基准
得分
测试设备和处理器,用整数和浮点模型比较性能和质量。
性能
图表
每个模型的图表显示了使用NNAPI和任何其他可用处理器的推断时间。
硬件
监控
请参阅基准运行期间温度,电池充电水平和内存使用更改。
模型
输出
检查每个模型的输出,以确保加速器返回正确的结果。
设备
排名
了解您的设备如何与应用程序绩效排名列表中的其他模型进行比较。
最低系统要求
OS. | Android 10 |
---|---|
存储 | 400 MB的自由空间 |
语言
- 英语