当前位置:网站首页 > Java基础 > 正文

pytorch模型部署到java(pytorch模型部署到springbootweb)



零基础学习Spring AI Java AI SpringBoot AI调用大模型OpenAi Ollama集成大模型

环境准备

  • jdk17+ 这里自行安装,我安装的jdk21
  • idea
  • Ollama安装,请参考下面链接:

本地部署大模型,不需要GPU就能玩本地模型-亲测成功

Ollama前端页面调用大模型 知识问答 模型切换

创建项目

maven的pom.xml配置

 
  

配置ollama大模型调用api地址

其他配置请看官网说明:https://docs.spring.io/spring-ai/reference/api/chat/ollama-chat.html

 
  

使用流式的方式调用时可能会超时报错:Resolved [org.springframework.web.context.request.async.AsyncRequestTimeoutException]

设置超时时间为300秒

 
  

调用Ollama的API对话

 
  

一次性调用返回效果:
在这里插入图片描述
在这里插入图片描述

流式调用效果:
在这里插入图片描述

到此这篇pytorch模型部署到java(pytorch模型部署到springbootweb)的文章就介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • hook框架是什么(java hook框架)2025-06-21 22:36:04
  • java面试八股文是哪些(java面试八股文汇总)2025-06-21 22:36:04
  • java课程收费网站(免费java培训课程)2025-06-21 22:36:04
  • string转map对象(java string转map对象)2025-06-21 22:36:04
  • Java字符串转时间(java字符串时间格式转换)2025-06-21 22:36:04
  • 单向链表反转java实现(单向链表反转java实现头插法)2025-06-21 22:36:04
  • java 线程内存模型(java线程内存释放)2025-06-21 22:36:04
  • java调用dll动态库(java调用dll动态库 http)2025-06-21 22:36:04
  • java面试必考题(java面试题及答案整理)2025-06-21 22:36:04
  • java基础网站(java入门网站)2025-06-21 22:36:04
  • 全屏图片