程序问答   发布时间:2022-06-01  发布网站:大佬教程  code.js-code.com
大佬教程收集整理的这篇文章主要介绍了如何为预训练模型应用烧瓶缓存?大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。

如何解决如何为预训练模型应用烧瓶缓存??

开发过程中遇到如何为预训练模型应用烧瓶缓存?的问题如何解决?下面主要结合日常开发的经验,给出你关于如何为预训练模型应用烧瓶缓存?的解决方法建议,希望对你解决如何为预训练模型应用烧瓶缓存?有所启发或帮助;

我有一个flask_restful API。我将结构分为几个部分,例如:

    app:
     -API.py
     -resources
       --resource1.py
       --resource2.py

resource1 文件的结构如下:

class Func(Resource):
    def __init__(self):
        model = some_module.from_pretrained("xyz")
        model.eval()
        model.to(self.device)
        self.model = model
    def post(self):
        #taking some input to be eavaluated
        output = fun1(self.model,input//) //fun1 is already defined function 
        return processed output

API 文件是这样的:

#importing requirements
app = Flask(__name__)
API = API(app)
cache.init_app(app)
API.add_resource(Func,'/output')
if __name__ == "__main__":
    app.run(port='5000',deBUG = True)

我想为模型使用缓存。我关注了几篇文章,但我无法正确实现它,所以如果有人能给出解决方案,那将会很有帮助。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

大佬总结

以上是大佬教程为你收集整理的如何为预训练模型应用烧瓶缓存?全部内容,希望文章能够帮你解决如何为预训练模型应用烧瓶缓存?所遇到的程序开发问题。

如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。
标签: