关键词:
图像分类
任务调度
移动端
低功耗
摘要:
近年来,深度学习在图像识别领域迅猛发展,针对不同应用需求的卷积神经网络(Convolutional Neural Network,CNN)层出不穷。随着移动系统性能的迅速提升,移动用户期望更低响应延迟的图像识别应用。而由于网络状态的不稳定性及网络带宽的限制,简单的将CNN模型部署在云端的计算模式无法保证移动用户体验期望,同时,受限于移动端有限的资源,移动设备也无法满足CNN模型对计算、存储及电量资源的需求。因此,亟须设计一种新的计算模式,使得基于卷积神经网络模型的图像分类任务能够满足用户对快速响应、低能耗及高准确率的期望。本文从CNN模型的能效和分类特点出发,对CNN模型在移动端的部署及图像分类任务的调度进行研究,主要工作如下:1.针对不稳定的网络状态环境导致深度学习模型推理延迟过高的问题,本文面向智能移动终端本地执行图像分类任务的场景,结合不同卷积神经网络模型的分类特点,提出了自适应CNN模型选择策略。该策略首先分析不同模型对图像的分类结果,输入贪心算法构建基于能效的图像分类模型序列,然后将预分类算法进行排列组合形成多种备选分类方案,最后为序列中的每个图像分类模型构建与之对应的预分类模型,并选择性能最优的预分类方案。该策略为不同的图像选择最适合的图像分类模型,实验结果表明,相比于单独使用Inception4,本文提出的自适应模型选择策略推理时间降低15.8%,能耗降低71%,准确率提升7.6%。2.针对在移动端本地执行图像分类任务的延迟高、能耗高问题,结合边缘计算的架构,提出基于边缘服务器的图像识别任务调度策略。首先根据图像在不同卷积神经网络模型和不同设备上的推理时间及能耗,分别在移动端和边缘服务器端部署了轻量级的模型和高准确率的模型。然后根据图像特征对图像识别任务进行调度。该策略将更适合应用于轻量级模型的简单图像分配给本地部署的模型执行推理,将更适合应用于高性能模型的复杂图像分配给边缘服务器端部署的模型执行推理。实验结果显示,相比于在智能移动端本地执行图像分类任务,基于边缘服务器的图像识别任务调度策略的分类准确率提升3.1%,推理时间降低91.6%,能耗降低了92.5%。