当前位置: 首页 > news >正文

springai结合ollama

目录

ollama

介绍

使用

下载:

安装:

点击这个玩意next就行了。

运行

spring ai使用ollama调用本地部署的大模型

加依赖

配置yml

写代码


ollama

介绍

Ø官网:Ollama

ØOllama是一个用于部署和运行各种开源大模型的工具;

Ø它能够帮助用户快速在本地运行各种大模型,极大地简化了大模型在本地运行的过程。

Ø用户通过执行几条命令就能在本地运行开源大模型,如Llama2等;

Ø综上,Ollama是一个大模型部署运行工具,在该工具里面可以部署运行各种大模型,方便开发者在本地搭建一套大模型运行环境;

使用

下载:

Download Ollama on macOS

安装:

点击这个玩意next就行了。

运行

ollama run qwen:0.5b-chat(大模型的名字去ollama官网找:library)

后面这个qwen:0.5b-chat是模型名字,你需要自己去找对应的想用的模型

注意:默认的ollama api会监听11434端口,可以使用命令进行查看(如下)

netstat-ano | findstr 11434

spring ai使用ollama调用本地部署的大模型

加依赖

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId></dependency>

配置yml

因为ollama这个依赖默认用的是minster这个大模型,为了能使用别的大模型,我们可以在配置文件中标明

chat:

​ option:

​ model: xxxxx(模型名字)

其他配置默认的,直接抄就行。

写代码

import jakarta.annotation.Resource;
import org.springframework.ai.ollama.OllamaChatClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;@RestController
public class olllamacoll {@Resourceprivate OllamaChatClient ollamaChatClient;@RequestMapping(value = "/ai/ollama")public Object ollama(@RequestParam(value = "msq") String msq){String called=ollamaChatClient.call(msq);return called;}
}

相关文章:

springai结合ollama

目录 ollama 介绍 使用 下载&#xff1a; 安装&#xff1a; 点击这个玩意next就行了。 运行 spring ai使用ollama调用本地部署的大模型 加依赖 配置yml 写代码 ollama 介绍 官网&#xff1a;Ollama Ollama是一个用于部署和运行各种开源大模型的工具&#xff1b; …...

React第十三节开发中常见问题之(视图更新、事件处理)

一、视图更新有哪些方案&#xff1f; useState用法介绍 1、对于数据变量 正常的增删改查&#xff0c;只会让数据更新&#xff0c;但是不会触发 React 视图的更新&#xff1b; 如&#xff1a; <script lang"jsx">const baseTable [{name:Andy, age: 18, id…...

【Appium报错】安装uiautomator2失败

目录 1、通过nmp安装uiautomator2&#xff1a;失败 2、通过 Appium 的平台直接安装驱动程序 3、通过pip 来安装 uiautomator2 1、通过nmp安装uiautomator2&#xff1a;失败 我先是通过npm安装的uiautomator2&#xff0c;也显示已经安装成功了&#xff1a; npm install -g …...

DataSophon集成CMAK KafkaManager

本次集成基于DDP1.2.1 集成CMAK-3.0.0.6 设计的json和tar包我放网盘了. 通过网盘分享的文件&#xff1a;DDP集成CMAK 链接: https://pan.baidu.com/s/1BR70Ajj9FxvjBlsOX4Ivhw?pwdcpmc 提取码: cpmc CMAK github上提供了zip压缩包.将压缩包解压之后 在根目录下加入启动脚本…...

Ubuntu22.04深度学习环境安装【显卡驱动安装】

前言 使用Windows配置环境失败&#xff0c;其中有一个包只有Linux版本&#xff0c;Windows版本的只有python3.10的&#xff0c;所以直接选用Linux来配置环境&#xff0c;显卡安装比较麻烦&#xff0c;单独出一期。 显卡驱动安装 方法一&#xff1a;在线安装&#xff08;操作…...

21届秋/校招面经

开篇先说一下我自身情况&#xff0c;东南大学本科计算机科学与技术专业毕业&#xff0c;gpa3.2/4.8。零零散散搞过一年多ACM&#xff0c;去年&#xff08;2019&#xff09;在icpc上海站拿了铜之后增加了信心&#xff08;因为当时训练总时间半年不到&#xff09;&#xff0c;于是…...

相机动态/在线标定

图1 图2 基本原理 【原理1】平行线在射影变换后会交于一点。如图所示,A为相机光心,蓝色矩形框为归一化平面,O为平面中心。地面四条黄色直线为平行且等距的车道线。HI交其中两条车道线于H、I, 过G作HI的平行线GM交车道线于M。HI、GM在归一化平面上的投影分别为JK、PN,二者会…...

MySQL 8.0 新特性汇总

文章目录 前言1. 运维管理 1.1 可持久化变量1.2 管理员端口1.3 资源组1.4 数据库粒度只读1.5 show processlist 实现方式1.6 加速索引创建速度1.7 控制连接的内存使用量1.8 克隆插件1.9 mysqldump 新增参数1.10 慢日志增强1.11 快速加列1.12 InnoDB 隐藏主键1.13 Redo 配置1.14…...

Resnet C ++ 部署 tensort 部署(四)

Resnet C 部署 pytorch功能测试&#xff08;一&#xff09; Resnet C 部署 模型训练&#xff08;二&#xff09; Resnet C 部署 模型测试&转 onnx&#xff08;三&#xff09; Resnet C 部署 tensort 部署&#xff08;四&#xff09; 之后&#xff0c;开始onnx 转trt 部…...

《Java核心技术I》对并发散列映射的批操作

对并发散列映射的批操作 Java API提供了批处理&#xff0c;计时其他线程处理映射&#xff0c;这些操作也能安全的执行。 3种不同操作&#xff1a; search(搜索)&#xff0c;为每个键或值应用一个函数&#xff0c;直到函数生成一个非null的结果&#xff0c;然后搜索终止&…...

记录一次使用git无权限的问题排查

正常的配置了公私钥之后&#xff0c;在gitlab中也存储了配对的公钥&#xff0c;但当使用git clone 时&#xff0c;总是报无权限 由于在这台机器中添加了多个公私钥&#xff0c;有点复杂&#xff0c;我们可以使用命令 ssh -vvvT 调试一下 ssh -vvvT yourGitlabAddr...

appium学习之二:adb命令

1、查看设备 adb devices 2、连接 adb connect IP:端口 3、安装 adb install xxx.apk 4、卸载 adb uninstall 【包名】 5、把对应目录下的1.txt文件传到手机sdcard下 adb push 1.txt /sdcard 6、进入对应的设备里 adb shell 7、切入sdcard目录 cd /sdcard 8、ls 查…...

Linux Vi/Vim使用 ⑥

掌握 CentOS 7 下的 Vi/Vim 编辑器&#xff1a;从安装到精通 在 CentOS 7 系统的日常运维、编程开发以及各类文本处理场景中&#xff0c;Vi/Vim 编辑器都是不可或缺的得力工具。它以轻量、高效、功能强大著称&#xff0c;虽然初次上手有一定学习门槛&#xff0c;但掌握之后便能…...

JCR一区牛顿-拉夫逊优化算法+分解对比!VMD-NRBO-Transformer-BiLSTM多变量时序光伏功率预测

JCR一区牛顿-拉夫逊优化算法分解对比&#xff01;VMD-NRBO-Transformer-BiLSTM多变量时序光伏功率预测 目录 JCR一区牛顿-拉夫逊优化算法分解对比&#xff01;VMD-NRBO-Transformer-BiLSTM多变量时序光伏功率预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.中科院…...

easyExcel实现表头批注

背景&#xff1a; 网上大部分都不能直接使用&#xff0c;为此总结一个方便入手且可用的工具&#xff0c;用自定义注解实现 依赖包&#xff1a; <dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>…...

Pytest测试用例使用小结

基础使用 Pytest 测试用例实现代码 import pytest from server.service import Servicepytest.fixture def service():return Service(logger)class TestService:classmethoddef setup_class(cls):"""初始化设置一次:return:"""logger.info(&q…...

LeetCode题练习与总结:132 模式--456

一、题目描述 给你一个整数数组 nums &#xff0c;数组中共有 n 个整数。132 模式的子序列 由三个整数 nums[i]、nums[j] 和 nums[k] 组成&#xff0c;并同时满足&#xff1a;i < j < k 和 nums[i] < nums[k] < nums[j] 。 如果 nums 中存在 132 模式的子序列 &a…...

IdentityServer4框架、ASP.NET core Identity

OAuth2.0 IdentityServer4 官网 中文官网 ASP.NET Core Identity提供了一个用来管理和存储用户账户的框架. IdentityServer4是基于ASP.NET Core实现的认证和授权框架&#xff0c;是对OpenID Connect和OAuth 2.0协议的实现。 IdentityServer是一个中间件,它可以添加符合OpenID…...

【分子材料发现】——GAP:催化过程中吸附构型的多模态语言和图学习(数据集处理详解)(二)

Multimodal Language and Graph Learning of Adsorption Configuration in Catalysis https://arxiv.org/abs/2401.07408Paper Data: https://doi.org/10.6084/m9.figshare.27208356.v2 1 Dataset CatBERTa训练的文本字符串输入来源于Open Catalyst 2020 &#xff08;OC20…...

SpringBoot开发过程中经常遇到问题解决方案分享

目录 1. Spring Boot应用启动缓慢 2. 数据库连接池配置问题 3. Spring Boot应用无法连接外部服务 4. 配置文件读取不生效 5. Spring Boot应用的日志输出不完整 6. Spring Boot中的Transactional事务管理问题 1. Spring Boot应用启动缓慢 问题原因&#xff1a; Spring Boo…...

Prometheus监控主机,Grafana成图

全部使用官方 GitHub 源的部署方案&#xff0c;下载链接来自官方&#xff0c;无需镜像。 官方下载地址汇总 组件 官方下载地址 Node Exporter https://github.com/prometheus/node_exporter/releases/download/v1.8.2/node_exporter-1.8.2.linux-amd64.tar.gz Prometheus https…...

保险科技前端开源方案Insura:动态表单与保费试算核心实现

1. 项目概述&#xff1a;一个面向保险行业的开源前端解决方案最近在梳理一些开源项目时&#xff0c;发现了一个挺有意思的仓库&#xff1a;Rashed-ux920/insura。从名字上拆解&#xff0c;“insura”显然是“Insurance”&#xff08;保险&#xff09;的缩写&#xff0c;而作者“…...

智慧交通系统安全漏洞深度解析:从明文传输到固件攻击的防御启示

1. 项目概述&#xff1a;一次对智慧交通“神经末梢”的深度安全审视2014年的DEF CON黑客大会&#xff0c;向来是安全研究的风向标。那一年&#xff0c;IOActive的首席技术官Cesar Cerrudo在台上展示的&#xff0c;不是某个炫酷的软件漏洞&#xff0c;而是一个关于我们每天经过的…...

【ROS进阶-1】从零构建自定义消息:实战配置与编译全解析

1. 为什么需要自定义ROS消息 在ROS开发中&#xff0c;消息是节点间通信的基础载体。虽然ROS已经提供了丰富的标准消息类型&#xff0c;比如std_msgs、geometry_msgs等&#xff0c;但在实际项目中&#xff0c;我们经常会遇到标准消息无法满足需求的情况。就像在C编程中&#xff…...

CANN/asc-devkit向量最小值函数

asc_min 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言&#xff0c;原生支持C和C标准规范&#xff0c;主要由类库和语言扩展层构成&#xff0c;提供多层级API&#xff0c;满足多维场景算子开发诉求。 项目地址: https://gitcode.com/ca…...

ThunderAI:用大语言模型插件打造智能邮件工作流

1. 项目概述&#xff1a;当AI助手遇见邮件客户端 如果你和我一样&#xff0c;每天要在Thunderbird里处理几十甚至上百封邮件&#xff0c;那你肯定也经历过那种“邮件疲劳”——写回复时词穷、面对长篇大论需要快速提炼要点、或者想给邮件分个类却懒得手动打标签。传统的邮件客…...

互联网大厂 Java 求职者面试:深入探讨 Spring Boot 和微服务架构

互联网大厂 Java 求职者面试&#xff1a;深入探讨 Spring Boot 和微服务架构在某家互联网大厂&#xff0c;燕双非已经坐在了面试官的面前&#xff0c;周围的空气中弥漫着紧张的气息。面试官是一位严肃认真的技术专家&#xff0c;而燕双非则是一位略显搞笑的程序员。接下来&…...

2025届学术党必备的十大降重复率助手横评

Ai论文网站排名&#xff08;开题报告、文献综述、降aigc率、降重综合对比&#xff09; TOP1. 千笔AI TOP2. aipasspaper TOP3. 清北论文 TOP4. 豆包 TOP5. kimi TOP6. deepseek 为了降低AIGC检测率&#xff0c;要从文本特征方面着手。其一&#xff0c;要避开程式化的句式…...

基于Vue.js与AI对话的智能思维导图生成器开发实践

1. 项目概述&#xff1a;一个能“对话”的思维导图生成器最近在整理项目文档和梳理学习笔记时&#xff0c;我总感觉传统的思维导图工具少了点什么。要么是手动拖拽节点太繁琐&#xff0c;打断了思考的连贯性&#xff1b;要么是生成的导图结构僵化&#xff0c;难以体现思考的动态…...

临近毕业答辩,有哪些真正好用的答辩PPT 生成软件能救急?

毕业答辩进入倒计时&#xff0c;论文刚定稿&#xff0c;却要熬夜做 PPT、理逻辑、排版式&#xff0c;一不小心就熬到凌晨&#xff0c;还容易出现内容跑偏、格式混乱、重点不突出等问题。其实&#xff0c;选对 AI PPT 生成工具&#xff0c;能帮你10 分钟搞定答辩 PPT&#xff0c…...