BentoML

BentoML是一个开源的AI模型服务框架，简化了机器学习模型的打包、部署和管理流程。支持多种机器学习框架，提供统一的API接口、性能优化、自动扩缩等功能，可以轻松将模型从实验室部署到生产环境。