我的无服务器 Transformers 情感分析部署之旅:从 Google Cloud 到 Cloud Run
社区成员 Maxence Dominici 将 Transformers 情感分析 pipeline 部署到 Google Cloud,最终方案基于 DistilBERT base uncased finetuned SST-2 模型,用 PyTorch 加载,通过 Flask 提供 GET 接口并打包为 Docker 镜像运行在 Cloud Run 上。
社区成员 Maxence Dominici 将 Transformers 情感分析 pipeline 部署到 Google Cloud,最终方案基于 DistilBERT base uncased finetuned SST-2 模型,用 PyTorch 加载,通过 Flask 提供 GET 接口并打包为 Docker 镜像运行在 Cloud Run 上。
HF Mirror 与 PyTorch/XLA 团队合作,将 Cloud TPU 训练支持集成进 HF Mirror 库,用户可在保持原有 Trainer 接口不变的情况下把模型跑在 Cloud TPU 上。