DoorDash团队分享GenAI平台建设历程:平台从服务机器学习工程师转向面向全体员工,推出LLM Gateway统一模型接入、路由、成本归因和可观测性,并逐步自研开放权重模型以降低成本。随着智能体兴起,平台从MCP Gateway扩展为Agent Gateway,提供身份认证、授权、限流、工具注册和多协议支持。目前已服务5000多名内部用户,接入50多个MCP服务器,日工具调用量达30万,并实现数百万美元年度化节省。
来源:InfoQ
本站内容来自 Telegram 频道,实时更新
订阅频道