当前位置:网站首页 > Java基础 > 正文

pytorch模型部署到java(pytorch模型部署到springbootweb)



零基础学习Spring AI Java AI SpringBoot AI调用大模型OpenAi Ollama集成大模型

环境准备

  • jdk17+ 这里自行安装,我安装的jdk21
  • idea
  • Ollama安装,请参考下面链接:

本地部署大模型,不需要GPU就能玩本地模型-亲测成功

Ollama前端页面调用大模型 知识问答 模型切换

创建项目

maven的pom.xml配置

 
  

配置ollama大模型调用api地址

其他配置请看官网说明:https://docs.spring.io/spring-ai/reference/api/chat/ollama-chat.html

 
  

使用流式的方式调用时可能会超时报错:Resolved [org.springframework.web.context.request.async.AsyncRequestTimeoutException]

设置超时时间为300秒

 
  

调用Ollama的API对话

 
  

一次性调用返回效果:
在这里插入图片描述
在这里插入图片描述

流式调用效果:
在这里插入图片描述

到此这篇pytorch模型部署到java(pytorch模型部署到springbootweb)的文章就介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • hook框架是什么(java hook框架)2025-06-21 22:36:04
  • 广度优先搜索java实现(广度优先搜索java实现方法)2025-06-21 22:36:04
  • 将list转为string(将list转为string用,隔开java)2025-06-21 22:36:04
  • java天气预报接口(java获取天气)2025-06-21 22:36:04
  • java的爬虫(java爬虫入门)2025-06-21 22:36:04
  • java爬虫步骤(java爬虫教程)2025-06-21 22:36:04
  • 单向链表反转java实现(单向链表反转java实现头插法)2025-06-21 22:36:04
  • java爬虫步骤(java的爬虫)2025-06-21 22:36:04
  • java调用dll动态库 java接收char*乱码(java 调用dll文件)2025-06-21 22:36:04
  • java 字符串转int(java 字符串转成char)2025-06-21 22:36:04
  • 全屏图片