author: Mastra
source: https://mastra.ai/ai-gateway
tags: [ai, gateway, llm, memory, model-routing, observability, saas]
rating: ⭐⭐⭐⭐☆ (4/5)
Mastra AI Gateway — 带观察记忆的托管 AI 网关
一句话版本
Mastra 的托管 AI 网关——一个 API 端点连 300+ 模型,同时自带"观察记忆"系统:俩后台 Agent 盯着你的对话,自动压缩成紧凑的观察记录,省 token 省延迟还不丢上下文。
基本信息
- 产品: Mastra Gateway
- 公司: Mastra(知名 TypeScript AI 框架开发商)
- 定位: 托管 AI 网关 + 记忆服务
- 定价: Starter $0 / Teams $250/月 / Enterprise 自定义
- 模型: 300+(OpenAI、Anthropic、Google、Meta、Mistral 等)
- 客户案例: Replit Agent 3、SoftBank、Sanity、Marsh
核心功能
1. 观察记忆(Observational Memory)
这是 Mastra Gateway 的核心差异化功能:
- 跑两个后台 Agent:Observer(观察者)和 Reflector(反射器)
- Observer 监视对话,生成密集的观察记录
- Reflector 定期反思,进一步压缩
- 5~40x 压缩率,可配置压缩强度
- 提示缓存友好:观察记录逐次追加,prompt prefix 保持稳定可缓存
- 对话越长,节省越多
2. 统一模型路由
- 一个端点访问 300+ 模型
- 自动故障转移(跨 Provider)
- BYOK:用自己的 API Key
- 透明定价:token 不加价,按底层 Provider 实际价格计费
3. 平台功能
- 100K Memory Tokens(Starter 免费)
- 250MB~1GB 检索存储
- 15天~6个月会话保留
- Dashboard 查看花费明细
定价
| 套餐 | 月费 | Memory Tokens | 存储 | 会话保留 |
|---|---|---|---|---|
| Starter | $0 | 100K | 250MB | 15天 |
| Teams | $250 | 1M | 1GB | 6个月 |
| Enterprise | 自定义 | 自定义 | 自定义 | 自定义 |
竞品对比
| 特性 | Mastra Gateway | OpenRouter | LiteLLM | Cloudflare AI Gateway |
|---|---|---|---|---|
| 记忆系统 | ✅ 观察记忆 | ❌ | ❌ | ❌ |
| 模型数量 | 300+ | 300+ | 300+ | 多种 |
| 透明定价 | ✅ 无加价 | ❌ 有加价 | 自托管 | 按量 |
| BYOK | ✅ | ✅ | ✅ | ❌ |
| 自托管 | ❌ | ❌ | ✅ | ❌ |
| 开源 | ❌ (Mastra 框架开源) | ❌ | ✅ | ❌ |
评分:⭐⭐⭐⭐☆ (4/5)
- 记忆功能: ⭐⭐⭐⭐⭐ — 观察记忆设计独特,5~40x 压缩很实用
- 易用性: ⭐⭐⭐⭐ — 改 base URL 就能用,接入成本低
- 定价: ⭐⭐⭐⭐ — Starter 免费,Teams $250 合理,但记忆 token 限制需注意
- 成熟度: ⭐⭐⭐⭐ — 有 Replit/SoftBank 等大客户,但产品较新
与 lossless-claw 的关联
Mastra 的"观察记忆"和 lossless-claw 的理念有相似之处:
- 两者都在做上下文压缩
- lossless-claw 走 DAG 摘要 + grep 可回溯
- Mastra 走 Observer/Reflector Agent 自动观察
- 思路互补——lossless-claw 保证不丢原始信息,Mastra 侧重主动记忆管理