平台相关的资源预测对边端协同深度计算中的模分区与资源分配十分重要,而实际测量将耗能耗时,不利于高效、快速的边端协同计算过程。因此,作者团队提出基于pytorch框架的模型资源预测器,旨在通过计算卷积神经网络中单个卷积层或者多个层的理论乘积运算的数量来预测模型的计算量与计算参数量。同时可以计算参数的数量,并为用户输出给定网络的每层计算成本。
该预测器基于Python3.6+环境下的pytorch及torchvision开发,输入为模型类型及模型层数(如,AlexNet 13),预测器支持对AlexNet、ResNet、VGG等典型深度卷积网络的资源预测,预测器输出则为模型各层的FLOPS计算量、模型各层运行时间、模型间通讯量。特别注明,在代码的实现过程中,预测器参考了OpCounter及Flops-counter第三方开源代码实现。
算法名称 | 基于pytorch框架的模型资源预测器 |
算法接口 | python classification.py –model name |
输入 | 模型类型、模型层数 |
输出 | 模型层FLOPS计算量、模型层运行时间、模型间通讯量 |
支持模型 | Alexnet、ResNet、VGG等 |
依赖库 | Python 3.6+、pytorch、torchvision |
参考资源 | OpCounter、Flops-counter |
如果觉得我的文章对您有用,请随意打赏。你的支持将鼓励我继续创作!