大模型应用研发工程师
1.5-3万元/月
更新 2025-12-26 14:18:00
浏览 186
职位详情
大模型算法
1-3年
RAGFlow · LangChain · Python & PyTorch · Dify / Flowise · Milvus · 大模型推理 · Agent · Prompt 工程
岗位职责
1.大模型应用二次开发与参数优化:基于LangChain/LlamaIndex/Dify/Haystack/RAGFlow/Flowise等开源平台进行定制化开发与深度调参,实现个性化文档解析模块、向量索引机制、Agent工具集成、Prompt架构设计、重排序模型配置及权限控制逻辑等功能。
2.大模型推理引擎部署与性能优化:结合pytorch、vllm、sglang等开源工具,根据客户硬件环境调整推理参数,提升系统响应效率与资源利用率。
3.私有化端到端部署与项目交付:依托K8S完成大模型应用的定制化构建,并完成在客户现场的全流程部署与上线支持。
4.系统维护与持续迭代:承担系统上线后的版本更新、问题排查与技术支持,输出运维文档、故障处理流程及培训资料。
任职要求
1.计算机类专业本科及以上学历,具备2年以上AI工程实施或私有化项目交付经验。
2.精通至少2项以下框架并拥有实际部署与二次开发经历:LangChain/LlamaIndex/Dify/Haystack/RAGFlow/FastGPT/Flowise
3.掌握至少一种主流大模型推理方案,如hf原生/vllm/sglang,了解其底层推理并行技术原理。
4.熟练掌握Python&PyTorch,具备扎实的工程实现能力;可使用C++/CUDA或Golang开发高性能计算组件或辅助服务。
5.熟悉向量数据库(Milvus、Weaviate、PGVector、OpenSearch-k-NN)的高可用架构部署、性能调优及数据迁移策略;
6.具备强烈的技术探索意愿,良好的表达与协作能力,对新技术保持敏感度,能快速融入新场景;拥有较强的逻辑分析、沟通协调、抗压调节与情绪管理能力。
1.大模型应用二次开发与参数优化:基于LangChain/LlamaIndex/Dify/Haystack/RAGFlow/Flowise等开源平台进行定制化开发与深度调参,实现个性化文档解析模块、向量索引机制、Agent工具集成、Prompt架构设计、重排序模型配置及权限控制逻辑等功能。
2.大模型推理引擎部署与性能优化:结合pytorch、vllm、sglang等开源工具,根据客户硬件环境调整推理参数,提升系统响应效率与资源利用率。
3.私有化端到端部署与项目交付:依托K8S完成大模型应用的定制化构建,并完成在客户现场的全流程部署与上线支持。
4.系统维护与持续迭代:承担系统上线后的版本更新、问题排查与技术支持,输出运维文档、故障处理流程及培训资料。
任职要求
1.计算机类专业本科及以上学历,具备2年以上AI工程实施或私有化项目交付经验。
2.精通至少2项以下框架并拥有实际部署与二次开发经历:LangChain/LlamaIndex/Dify/Haystack/RAGFlow/FastGPT/Flowise
3.掌握至少一种主流大模型推理方案,如hf原生/vllm/sglang,了解其底层推理并行技术原理。
4.熟练掌握Python&PyTorch,具备扎实的工程实现能力;可使用C++/CUDA或Golang开发高性能计算组件或辅助服务。
5.熟悉向量数据库(Milvus、Weaviate、PGVector、OpenSearch-k-NN)的高可用架构部署、性能调优及数据迁移策略;
6.具备强烈的技术探索意愿,良好的表达与协作能力,对新技术保持敏感度,能快速融入新场景;拥有较强的逻辑分析、沟通协调、抗压调节与情绪管理能力。
相似职位
很抱歉,暂无相似职位!