后端工程师
Backend Engineer
美国 · 门洛帕克 · 远程 · 全职
薪资未说明
AI 摘要
公司介绍
Menlo开发的Jan是开源AI助手,作为ChatGPT的离线替代方案,支持本地运行开源模型或连接GPT、Claims等前沿模型,秉持AI应开放、私密、可控的理念。
岗位概述
你将负责从零构建企业级LLM网关Jan Router,负责架构设计、首次生产部署,打造兼具正确性与性能的计费级代理,同时参与Jan Agent的开发,对接路由、计量与控制逻辑,与前沿研究团队协作,以敏捷方式推进AI服务落地。
工作内容
- 构建统一的OpenAI兼容API网关
- 负责提供商路由与可靠性(负载均衡、故障转移等)
- 开发正确的计费与计量系统
- 实现组织级控制(API密钥、配额、RBAC等)
- 处理流处理与性能优化
- 对接Jan Agent的模型与工具调用
- 权衡速度与正确性,优先保障核心业务正确性
任职要求
- 以代理原生方式工作,并行运行多个代理
- 熟悉LLM API系统与相关基础设施
- 有从零到生产部署的能力
- 开放务实,能权衡速度与正确性
- 具备代码审查与防护机制的自律性
加分项
- 有处理真实流量的生产后端服务开发经验
- 有支付、计费或计量系统开发经验
- 熟悉高吞吐量代理、网关与流处理
- 掌握PostgreSQL、Redis等数据存储
- 熟悉Jan.ai生态或其他OSS LLM工具
薪酬福利
- 负责端到端真实产品
- 与前沿研究团队协作
- 以敏捷方式推进项目
- 打造行业领先的代理原生后端架构
注册后可直接申请、打开原始页面并收藏岗位
免费注册本页不是 Menlo 的官方页面。岗位信息由程序从雇主的官方招聘页面或招聘网站的公开接口汇集,来源见右侧;傅通自业与该雇主没有委托关系,未核验其营业资质。中文标题与摘要由 AI 生成,以原文为准;申请请前往来源页面,平台不向求职者收取任何费用。 排序与展示规则
原文节选
About Jan Jan is an open source AI assistant built by Menlo. It began as a private, offline alternative to ChatGPT and has grown into a general purpose agent that runs open models locally on your own hardware, or connects to frontier models like GPT, Claude, and Gemini when you want them. Give Jan…
免费注册以上摘要与要点由 AI 生成,可能有误,请以原文为准。
来源方或用人单位如需删除、更正岗位信息,请发邮件至 contact@fintegrity.cn,我们将在 24 小时内处理。
