Spring AI
初探Spring AI
Java 大模型应用核心能力
14 篇 · 约 51 分钟Java中大模型调用的多种方式
我们要讲的是基于Java的大模型应用开发，那么就需要介绍下在java中怎么和大模型交互。 坐稳扶好，正式开始进入代码部分了。(注意， 我们的项目JDK要求最低是JDK17，建议用JDK 21） 在前面介绍百炼的时候，我们讲过，可以通…
基于SSE实现大模型流式输出
上一节我们介绍用HTTP Client方式调用大模型的时候，提到了说页面返回比较慢，是因为我们没有做流式输出。 所谓流式输出，其实就是不需要等全部内容都返回后一起展示出来，而是可以在过程中一部分一部分的展示出来。现在主流的AI对话工…
LLM应用开发框架：LangChain
LangChain 是一个非常知名的开源框架，他的主要作用是简化基于大型语言模型构建应用程序的过程。它提供了一套模块化、可组合的工具和抽象，帮助开发者将 LLM 与外部数据源、记忆机制、工具调用等能力结合起来，从而构建更强大、更智能…
接入Spring AI 与Spring AI Alibaba
前面在介绍百炼的时候，我们讲过可以通过curl发起一个http请求完成的百炼上面的模型的调用。我们这里主要是想把百炼通过springboot的方式同时接入Spring AI Alibaba和Spring AI。 使用Spring A…
开发必备的Spring AI核心概念
我们要用Spring AI，最重要的功能就是我们要用大模型，所以模型（Model）肯定是Spring AI中最最最核心的一个概念了。 在Spring AI中支持很多模型，根据模型的功能分成了"Chat Model"、"Embeddi…
Spring AI 核心特性：提示词工程
前面我们有一整个章节专门给大家介绍了提示词工程，那么，在Spring AI中如何利用这些提示词的技巧呢？ 系统提示词和用户提示词 首先，Spring AI遵循了Open AI的规范，提示词分为系统提示词和用户提示词。分别是syste…
Spring AI 核心特性：流式输出
前面讲过不用Sping AI，在Java中做流式输出的方案，主要是基于SSE，之前讲Spring AI的例子的时候，其实也提到过。 比如ChatModel中通过stream方法可以做流式输出，是因为他实现了StreamingChat…
Spring AI 核心特性：提示词模板管理
提示词模板 PromptTemplate，有一个默认渲染器（TemplateRenderer）——StTemplateRenderer，这个st其实是StringTemplate。他的实现的功能就是如果你传入请给我推荐几个关于{to…
Spring AI 核心特性：结构化输出
什么是结构化输出 当我们在做大模型相关的对话的时候，模型的回答格式是不固定的，如果是人看的话，都是可以看懂的，但是如果我们靠代码来处理这些结果的话就比较费劲了。所以，在大模型应用开发中，结构化输出至关重要。 所谓结构化输出，就是让大…
Spring AI 核心特性：对话记忆
AI的对话记忆指的是AI在单次对话或跨对话中，记住并利用之前交互信息的能力。这就像你和一个人聊天，如果他只能记住你刚才说的最后一句话，那对话将无法进行。因此，记忆是实现连贯、智能对话的基石。 AI发展到今天，记忆能力已经很丰富了，现…
Spring AI 记忆管理技术：持久化记忆
在Spring AI中，我们最熟悉的就是MessageWindowChatMemory ，它默认是一个基于内存的短期记忆实现，它维护最多指定最大大小（默认值：20 条消息）的消息窗口。 当消息数量超过此限制时，较旧的消息会被逐出。这…
Spring AI 核心特性：Advisor
Spring AI 中提供了一个灵活且强大的方式，可以用于拦截、修改和增强 Spring 应用中的 AI 交互功能，那就是Advisor，通过利用Advisor，开发者可以创建更复杂、可重用且易于维护的 AI 组件。 可以把Advi…
Spring AI 核心特性：调用本地模型
前面我们给大家讲过基于Ollama在本地部署模型，然后也演示了如何通过本地发送请求调用，但是如何在一个Spring应用中调用呢？本文介绍下。 其实Spring AI是有对ollama的支持的，其实就是这个spring ai olla…
Spring AI 2.0.0 更新了啥？
Spring AI 2.0.0 GA 于 2026 年 6 月 12 日正式发布，这是自 1.0 以来最大规模的一次版本升级（但是实际上，相比其他框架，比如agentscope java还是挺落后的）。从底层 SDK 全面切换到官方…