Spring AI: Java 生态的 AI 工程框架

> 一句话版本：Spring AI 是 Spring 官方出品的 AI 开发框架，让 Java 开发者不用碰 Python 就能构建 AI 应用。像 LangChain 的 Java 版本，但深度融入 Spring Boot 4 和 MCP 协议——相当于用「写 Spring Boot 的方式」对接 LLM、向量数据库和 Agent 工作流。

• 来源: GitHub - spring-projects/spring-ai
• 日期: 2026-05-28
• 标签: #Java #Spring #AI #MCP #LLM #Agent

什么是 Spring AI？

Spring AI 是 VMware / Broadcom 官方出品的 AI 工程框架，归属 Spring 项目家族，定位对标 Python 生态的 LangChain 和 LlamaIndex。

> "下一个浪潮的生成式 AI 应用不会只有 Python 开发者才能做。"

核心思路：把 Spring 生态的设计哲学（可移植性、模块化、依赖注入、POJO 构建块）应用到 AI 领域。

版本快照

核心能力全景

1. 模型接入 (Portable API)

一套 API 抽象，对接所有主流模型提供商，支持同步/流式：

支持 GPT-5 等最新模型，以及 DeepSeek、智谱（ZhiPu）、千帆（QianFan）等中国模型。

2. ChatClient API

Fluid API 设计，类似 WebClient / RestClient：

ChatClient chatClient = ChatClient.builder(chatModel).build();

String response = chatClient.prompt()
    .user("用中文解释什么是 MCP")
    .call()
    .content();

3. Structured Output

AI 模型输出直接映射到 POJO，自动处理 JSON Schema 生成和参数编组：

record Actor(String name, int age) {}

Actor actor = chatClient.prompt()
    .user("生成一个电影角色")
    .call()
    .entity(Actor.class);

4. Tools / Function Calling

允许模型在需要时调用客户端工具和函数，获取实时信息或执行操作。

5. Advisors API

Spring AI 的组合式中间件架构——在 AI 交互管道中做切面增强。类似 AOP 但针对 AI：

• Chat Memory — 对话记忆
• RAG — 检索增强生成
• Recursive Advisors (2.0 新特性) — 实现迭代工具调用、自动验证重试、持续质量评估

- 可用于构建类似 MemGPT 或 Claude Code 的 Agent 系统

6. RAG (检索增强生成)

完整的 ETL Pipeline + Vector Store + 查询集成：

// ETL Pipeline: 文档 → 分块 → 嵌入 → 存入向量库
vectorStore.write(
    documentReader.read()
        .stream()
        .map(documentSplitter::split)
        .flatMap(List::stream)
        .map(tokenizer::encode)
        .toList()
);

7. Vector Database 支持

18+ 向量数据库：

Apache Cassandra, Azure Cosmos DB, Chroma, Couchbase, Elasticsearch, GemFire, MariaDB, Milvus, MongoDB Atlas, Neo4j, OpenSearch, Oracle, PGVector, Pinecone, Qdrant, Redis, SAP Hana, Typesense, Weaviate

统一的 metadata filter API（类 SQL 语法）。

8. MCP (Model Context Protocol) — 2.0 的重点

MCP 支持已从社区合并到 Spring AI 核心：

• MCP 注解 — @McpTool 声明式定义
• MCP 安全 — 企业级认证和合规
• 双角色: 一个 Spring Boot 应用可以同时作为 MCP Client（连接外部 MCP 服务器）和 MCP Server（暴露业务逻辑）
• 传输层: Streamable HTTP（现代默认）、SSE（向后兼容）

9. Agentic 能力 (Spring I/O 2026 路线图)

来自 Broadcom 团队（Mark Pollack, Christian Tzolov, Dariusz Jędrzejczyk）的 Spring I/O 2026 演讲：

• Recursive Advisors — 受控迭代框架，一个 agent 的核心是上下文编排器
• ACP (Agent Client Protocol) — 标准化 client→agent 通信（Gemini CLI 已支持）
• A2A (Agent-to-Agent) — 直接 agent 协作
• 目标是构建生产级的 Agent 系统，包括编码 Agent（类似 Claude Code）

10. 可观测性 (Observability)

AI 操作的全链路监控 — 跟踪 token 使用、模型调用延迟、向量搜索质量等。

Spring Boot 4 的底层加持 (2025.11)

Spring AI 2.0 构建在 Spring Boot 4 之上：

与同类框架对比

跟我们项目的关系

Jay 关注的重点:

1. MCP 支持 — Spring AI 的 MCP 集成是官方级别的。如果 Jay 在构建 MCP 生态相关工具，Spring AI 的 MCP Server/Client 实现值得参考甚至复用

2. DeepSeek / 智谱 / 千帆 支持 — 中国企业做 AI 应用时，这些国产模型的支持是 LangChain 没有的优势

3. Spring Boot 4 + AI 的成熟度 — 如果想在 Java 项目中集成 AI 能力（RAG、Agent、MCP），Spring AI 是目前最成熟的生产级选择

4. Agent 架构参考 — Recursive Advisors 的设计思路与 OpenClaw 的 Advisors API 有相似的组合模式

评分