作为平台 AI 基础设施与算力调度的“交通指挥官”,你将主导 AI 模型中转站及 Multi-LLM 聚合平台的整体规划与矩阵演进。该岗位直接面对多模型适配、高并发流量调度、金融级Token计费等高壁垒场景。你将拥有极高的架构设计自主权,与顶尖的算法专家、基础架构(Infra)工程师和数据科学家协同攻坚,亲手打造一个高可用、低延迟、具备强商业化变现能力的全球化 AI 路由中台。
【你会做什么】
多模型聚合与标准化(Multi-LLM Hub):负责海量通用大模型(如 OpenAI, Anthropic, DeepSeek 等)的标准化接入、适配与封装,统一输出高兼容性的标准化 API 接口,彻底解决多模型版本兼容与调用不一致痛点。
智能流量调度(Smart Routing & High Availability):设计并持续迭代 AI 流量路由策略,主导智能路由、动态负载均衡(Load Balancing)、并发限流(Rate Limiting)、模型降级与故障熔断机制的设计,保障平台在极端高并发下的绝对稳定性。
商业化中台与权限管控(Token Metering & Monetization):构建企业级 AI 权限体系、多租户账号体系、调用配额管理以及精细化的 Token 计费账单(Metering & Billing)、日志审计与风控防刷系统,支撑 B 端企业与 C 端用户的大规模商业化接入。
JobsRadar wurde für echte Menschen gebaut, die eine schwere Zeit bei der Jobsuche haben — nicht für automatisierte Anfragen. Sie klicken viel zu schnell und sind jetzt vorübergehend blockiert.
Kommen Sie später wieder. Wenn Sie wirklich auf Jobsuche sind, stehen wir hinter Ihnen — verhalten Sie sich einfach wie ein Mensch.
Cookies & analytics
This site uses cookies from third-party services to deliver its features and to analyze traffic.
Catch your next role the second it’s posted.
Create a free account and we’ll watch the boards for you — the instant a job matches your search, it lands in your inbox or Telegram. No digging, no refreshing.
🔔Instant alerts — by email & Telegram the moment a match goes live
🎯Saved searches — your filters, watched around the clock
🌍Worldwide reach — apply from anywhere, before the crowd
Tritt unserem Telegram-Kanal bei für das, was dir hilft, die Stelle zu bekommen — Gehaltsbenchmarks, den wöchentlichen Marktpuls und neue Feature-Drops. Kein Spam, nur Signal.
💰Gehaltseinblicke — echte Mediane nach Rolle, Fähigkeit & Standort
📊Wöchentlicher Marktpuls — was weltweit eingestellt wird
🆕Als Erstes erfahren — neue Funktionen & Tipps zu weltweiter Remote-Arbeit