zenartsky
本站致力于IT相关技术的分享
  文章分类
数据工程 2 DevOps 3 数据工程与存储 2 云原生 4 架构设计 2 MLOps 2 基础设施 1 分布式系统 3 分布式架构 2 架构与设计 2 后端架构 5 可观测性 1
构建从Keras模型训练到Pinecone向量索引更新的全自动化CI/CD工作流 构建从Keras模型训练到Pinecone向量索引更新的全自动化CI/CD工作流
模型和它所驱动的向量索引之间的数据一致性，是所有向量搜索应用稳定性的基石。在我的团队接手一个图像检索项目初期，这个流程是完全手动的：算法工程师在本地用Jupyter Notebook训练或微调一个Keras模型，手动运行脚本生成图像向量，然
2023-10-27 MLOps
向量 Pinecone CircleCI Keras CI/CD 自动化
结合Packer与etcd构建可动态配置的PyTorch推理服务架构 结合Packer与etcd构建可动态配置的PyTorch推理服务架构
为多租户场景提供PyTorch模型推理服务时，一个棘手的矛盾在于基础设施的稳定性和模型迭代的敏捷性。使用Packer构建包含模型、依赖和代码的不可变镜像（Immutable Image）是保证环境一致性、简化部署和回滚的黄金标准。然而，这种
2023-10-27 MLOps
Packer etcd PyTorch MLOps Infrastructure