（11553期）senior-ml-engineer – 生产级 MLOps 与 LLM 工程化实践

生产级 MLOps 与 LLM 工程化实践 基于生产级最佳实践的 ML 工程指南，涵盖 MLOps 全生命周期与 LLM 集成，助力构建高可靠、可观测的 AI 系统。 使用说明 该技能提供了一套完整的生产级机器学习工程化方案，涵盖从模型部署到持续监控的全生命周期管理。 核心用法：主要功能模块包括：1）标准化模型部署工作流，支持 ONNX、TorchScript 等格式导出，配合 Docker 容器化与渐进式发布（Canary）；2）MLOps 管道搭建，集成特征存储（Feast）、实验追踪（MLflow）与自动重训练机制；3）LLM 集成工作流，提供供应商抽象层、重试退避策略与成本追踪；4）RAG 系统实现，包含向量数据库选型、文档分块策略与混合检索；5）模型监控体系，支持漂移检测（PSI/KS 检验）、延迟追踪与 A/B 测试指标对比。 显著优点：首先，内容高度实用且贴近工业实践，提供了具体的代码模板（如 Dockerfile、Kubernetes 配置）和可量化的验收标准（p95 延迟 < 100ms）。其次，技术栈覆盖全面，从传统 ML（PyTorch/TensorFlow）到现代 LLM（LangChain/LlamaIndex）均有涉及，且包含成本管理对比表，有助于技术决策。第三，安全性设计良好，脚本仅生成配置模板而不执行高危操作。 潜在缺点或局限性：作为 T3 级个人来源项目，代码的持续维护与社区支持存在不确定性，企业使用时需自行审查更新。其次，内容偏向"参考指南"性质，实际脚本功能相对基础，复杂企业环境（如多租户、合规审计）需二次开发。此外，LLM 成本数据时效性有限，市场价格变动频繁。 适合的目标群体：主要面向中级至高级 ML 工程师、MLOps 架构师及技术团队负责人。适合需要快速搭建生产级 ML 基础设施的初创公司，或希望统一团队工程实践标准的大型企业技术部门。 使用该技能可能存在的常规风险：性能风险方面，示例中的 FastAPI 配置可能不适用于超高并发场景，需根据实际负载调整。依赖风险方面，Feast、MLflow 等工具的版本迭代可能导致配置兼容性问题。运维风险方面，自动重训练触发器若配置不当可能导致不必要的计算资源浪费。安全配置方面，尽管脚本本身安全，但生成的 Kubernetes 配置若直接用于生产而未经网络策略审查，可能暴露服务端点。 原始说明 ML engineering skill for productionizing models, building MLOps pipelines, and integrating LLMs. Covers model deployment, feature stores, drift monitoring, RAG systems, and cost optimization.