flask发送pytorch模型

**简介** 在利用flask框架传输pytorch模型时,由于模型参数过于庞大,采用序列化-反序列化的形式进行传输会有着极大的时间开销,如序列化一个ResNet-18模型会花费近10s的时间。而以文件形式...

简介

在利用flask框架传输pytorch模型时,由于模型参数过于庞大,采用序列化-反序列化的形式进行传输会有着极大的时间开销,如序列化一个ResNet-18模型会花费近10s的时间。而以文件形式发送,发送模型的相关信息会变得较为麻烦,因此借助Python的pickle模块直接将Python字典转换为字节流进行发送。

功能

向flask接口发送pytorch模型

代码

import pickle
def send_model():
    net = torch.load("model_path")
send_data = {
        "net":net,
        "model_name":name
        "model_size":size
    }
    
    send_data = pickle.dumps(send_data)
    url = "http://{:s}:{:s}/server/test_url".format(
        SERVER_IP,SERVER_PORT)
    
    requests.post(url=url,data=send_data)

联系

lxcwuwang365@163.com

  • 发表于 2023-02-13 16:37
  • 阅读 ( 1219 )

你可能感兴趣的文章

相关问题

0 条评论

请先 登录 后评论
雾望
雾望

5 篇文章

作家榜 »

  1. Panda-admin 37 文章
  2. 解弘艺 17 文章
  3. 高曾谊 16 文章
  4. 旺仔牛奶opo 15 文章
  5. 胡中天 14 文章
  6. LH 14 文章
  7. 罗柏荣 13 文章
  8. 林晨 12 文章