Java的springAI

Ryder 2025-2-27 28 2/27
目前大模型应用开发最常见的框架就是LangChain,然而LangChain是基于Python语言,虽然有LangChain4j,但是对于大量使用Spring生态的应用来说,适配性就稍微差了些。
而Spring公司推出的SpringAI框架,充分利用了Spring框架中AOP、IOC的能力,可以与现有的Java项目无缝融合,非常方便。
当然,SpringAI要求的JDK版本至少是JDK17SpringBoot也必须是3.x的版本才可以,所以如果想要使用SpringAI,必须先升级JDK和SpringBoot版本才行。
如果是比较老的项目,也可以考虑采用LangChain4j,它要求的最低JDK版本为JDK8.
手动部署最简单的方式就是使用Ollama,这是一个帮助你部署和运行大模型的工具。官网如下:Ollama
命令行安装方式如下:
在OllamaSetup.exe所在目录打开cmd命令行,然后命令如下:

OllamaSetup.exe /DIR=你要安装的目录位置

打开所在安装文件夹,输入以下命令即安装:

ollama run deepseek-r1:7b

idea导入springai依赖

ai:
  ollama:
    url: http://localhost:11434
    chat:
      model: deepseek-r1:7b

 

- THE END -

Ryder

5月04日16:16

最后修改:2025年5月4日
0

非特殊说明,本博所有文章均为博主原创。

共有 0 条评论