针对根据动态需求动态缩放模型时,压缩后模型的在线缩放会丢失结构信息、权重的在线演化容易造成权重的灾难性干扰的问题,AdaSpring框架提出一种运行时动态自演化模型压缩框架,能够根据动态的终端资源情境(电量、存储等平台资源),无需重训练地对深度学习模型进行在线压缩策略选择和部署,实现精度与模型能耗(计算强度等)的实时调衡,最终以达到物联网终端资源的最优利用和形成更健壮的移动感知应用。
AdaSpring算法基于Python 3.6+、tensorflow1.14等依赖库开发。算法输入为移动平台的动态情境(电量、存储资源、其它任务请求等),输出为最适应于当前情境的模型压缩策略选择和压缩后的深度学习模型。该算法支持在CiFar-10、CiFar-100、ImageNet等数据集上的深度学习模型自适应压缩,该算法支持Raspberry Pi 4B、Jetson Nano、PC等平台。在代码的实现过程中,AdaSpring算法参考了One-Shot Architecture Search、FEMOSAA等第三方资源实现。
算法名称 | 情境自适应和运行时自演化的移动端深度模型压缩 (Context-aware and Self-evolutionary Deep Model Compression for Continuously Running Mobile Applications, AdaSpring) |
算法接口 | python adaspring.py --config_file spring_config.yaml |
输入 | 移动平台的动态情境(电量、存储资源、其它任务请求等) |
输出 | 最适应于当前情境的模型压缩策略选择和深度模型部署 |
支持数据集 | CIFAR-10、CIFAR-100、ImageNet |
适用平台 | Raspberry Pi 4B、Jetson Nano、PC |
依赖库 | Python 3.6+、tensorflow1.14 |
参考资源 | One-Shot Architecture Search、FEMOSAA |
gitlab链接:AdaSpring · GitLab (crowdhmt.com)
文章链接:[1] Liu
S, Guo B, Ma K, et al. AdaSpring:
Context-adaptive and Runtime-evolutionary Deep Model Compression for Mobile
Applications[J]. Proceedings of the ACM on Interactive, Mobile, Wearable and
Ubiquitous Technologies, 2021, 5(1): 1-22.
如果觉得我的文章对您有用,请随意打赏。你的支持将鼓励我继续创作!