当前位置: 首页 > news >正文

springai结合ollama

目录

ollama

介绍

使用

下载:

安装:

点击这个玩意next就行了。

运行

spring ai使用ollama调用本地部署的大模型

加依赖

配置yml

写代码


ollama

介绍

Ø官网:Ollama

ØOllama是一个用于部署和运行各种开源大模型的工具;

Ø它能够帮助用户快速在本地运行各种大模型,极大地简化了大模型在本地运行的过程。

Ø用户通过执行几条命令就能在本地运行开源大模型,如Llama2等;

Ø综上,Ollama是一个大模型部署运行工具,在该工具里面可以部署运行各种大模型,方便开发者在本地搭建一套大模型运行环境;

使用

下载:

Download Ollama on macOS

安装:

点击这个玩意next就行了。

运行

ollama run qwen:0.5b-chat(大模型的名字去ollama官网找:library)

后面这个qwen:0.5b-chat是模型名字,你需要自己去找对应的想用的模型

注意:默认的ollama api会监听11434端口,可以使用命令进行查看(如下)

netstat-ano | findstr 11434

spring ai使用ollama调用本地部署的大模型

加依赖

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId></dependency>

配置yml

因为ollama这个依赖默认用的是minster这个大模型,为了能使用别的大模型,我们可以在配置文件中标明

chat:

​ option:

​ model: xxxxx(模型名字)

其他配置默认的,直接抄就行。

写代码

import jakarta.annotation.Resource;
import org.springframework.ai.ollama.OllamaChatClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;@RestController
public class olllamacoll {@Resourceprivate OllamaChatClient ollamaChatClient;@RequestMapping(value = "/ai/ollama")public Object ollama(@RequestParam(value = "msq") String msq){String called=ollamaChatClient.call(msq);return called;}
}

相关文章:

springai结合ollama

目录 ollama 介绍 使用 下载&#xff1a; 安装&#xff1a; 点击这个玩意next就行了。 运行 spring ai使用ollama调用本地部署的大模型 加依赖 配置yml 写代码 ollama 介绍 官网&#xff1a;Ollama Ollama是一个用于部署和运行各种开源大模型的工具&#xff1b; …...

React第十三节开发中常见问题之(视图更新、事件处理)

一、视图更新有哪些方案&#xff1f; useState用法介绍 1、对于数据变量 正常的增删改查&#xff0c;只会让数据更新&#xff0c;但是不会触发 React 视图的更新&#xff1b; 如&#xff1a; <script lang"jsx">const baseTable [{name:Andy, age: 18, id…...

【Appium报错】安装uiautomator2失败

目录 1、通过nmp安装uiautomator2&#xff1a;失败 2、通过 Appium 的平台直接安装驱动程序 3、通过pip 来安装 uiautomator2 1、通过nmp安装uiautomator2&#xff1a;失败 我先是通过npm安装的uiautomator2&#xff0c;也显示已经安装成功了&#xff1a; npm install -g …...

DataSophon集成CMAK KafkaManager

本次集成基于DDP1.2.1 集成CMAK-3.0.0.6 设计的json和tar包我放网盘了. 通过网盘分享的文件&#xff1a;DDP集成CMAK 链接: https://pan.baidu.com/s/1BR70Ajj9FxvjBlsOX4Ivhw?pwdcpmc 提取码: cpmc CMAK github上提供了zip压缩包.将压缩包解压之后 在根目录下加入启动脚本…...

Ubuntu22.04深度学习环境安装【显卡驱动安装】

前言 使用Windows配置环境失败&#xff0c;其中有一个包只有Linux版本&#xff0c;Windows版本的只有python3.10的&#xff0c;所以直接选用Linux来配置环境&#xff0c;显卡安装比较麻烦&#xff0c;单独出一期。 显卡驱动安装 方法一&#xff1a;在线安装&#xff08;操作…...

21届秋/校招面经

开篇先说一下我自身情况&#xff0c;东南大学本科计算机科学与技术专业毕业&#xff0c;gpa3.2/4.8。零零散散搞过一年多ACM&#xff0c;去年&#xff08;2019&#xff09;在icpc上海站拿了铜之后增加了信心&#xff08;因为当时训练总时间半年不到&#xff09;&#xff0c;于是…...

相机动态/在线标定

图1 图2 基本原理 【原理1】平行线在射影变换后会交于一点。如图所示,A为相机光心,蓝色矩形框为归一化平面,O为平面中心。地面四条黄色直线为平行且等距的车道线。HI交其中两条车道线于H、I, 过G作HI的平行线GM交车道线于M。HI、GM在归一化平面上的投影分别为JK、PN,二者会…...

MySQL 8.0 新特性汇总

文章目录 前言1. 运维管理 1.1 可持久化变量1.2 管理员端口1.3 资源组1.4 数据库粒度只读1.5 show processlist 实现方式1.6 加速索引创建速度1.7 控制连接的内存使用量1.8 克隆插件1.9 mysqldump 新增参数1.10 慢日志增强1.11 快速加列1.12 InnoDB 隐藏主键1.13 Redo 配置1.14…...

Resnet C ++ 部署 tensort 部署(四)

Resnet C 部署 pytorch功能测试&#xff08;一&#xff09; Resnet C 部署 模型训练&#xff08;二&#xff09; Resnet C 部署 模型测试&转 onnx&#xff08;三&#xff09; Resnet C 部署 tensort 部署&#xff08;四&#xff09; 之后&#xff0c;开始onnx 转trt 部…...

《Java核心技术I》对并发散列映射的批操作

对并发散列映射的批操作 Java API提供了批处理&#xff0c;计时其他线程处理映射&#xff0c;这些操作也能安全的执行。 3种不同操作&#xff1a; search(搜索)&#xff0c;为每个键或值应用一个函数&#xff0c;直到函数生成一个非null的结果&#xff0c;然后搜索终止&…...

记录一次使用git无权限的问题排查

正常的配置了公私钥之后&#xff0c;在gitlab中也存储了配对的公钥&#xff0c;但当使用git clone 时&#xff0c;总是报无权限 由于在这台机器中添加了多个公私钥&#xff0c;有点复杂&#xff0c;我们可以使用命令 ssh -vvvT 调试一下 ssh -vvvT yourGitlabAddr...

appium学习之二:adb命令

1、查看设备 adb devices 2、连接 adb connect IP:端口 3、安装 adb install xxx.apk 4、卸载 adb uninstall 【包名】 5、把对应目录下的1.txt文件传到手机sdcard下 adb push 1.txt /sdcard 6、进入对应的设备里 adb shell 7、切入sdcard目录 cd /sdcard 8、ls 查…...

Linux Vi/Vim使用 ⑥

掌握 CentOS 7 下的 Vi/Vim 编辑器&#xff1a;从安装到精通 在 CentOS 7 系统的日常运维、编程开发以及各类文本处理场景中&#xff0c;Vi/Vim 编辑器都是不可或缺的得力工具。它以轻量、高效、功能强大著称&#xff0c;虽然初次上手有一定学习门槛&#xff0c;但掌握之后便能…...

JCR一区牛顿-拉夫逊优化算法+分解对比!VMD-NRBO-Transformer-BiLSTM多变量时序光伏功率预测

JCR一区牛顿-拉夫逊优化算法分解对比&#xff01;VMD-NRBO-Transformer-BiLSTM多变量时序光伏功率预测 目录 JCR一区牛顿-拉夫逊优化算法分解对比&#xff01;VMD-NRBO-Transformer-BiLSTM多变量时序光伏功率预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.中科院…...

easyExcel实现表头批注

背景&#xff1a; 网上大部分都不能直接使用&#xff0c;为此总结一个方便入手且可用的工具&#xff0c;用自定义注解实现 依赖包&#xff1a; <dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>…...

Pytest测试用例使用小结

基础使用 Pytest 测试用例实现代码 import pytest from server.service import Servicepytest.fixture def service():return Service(logger)class TestService:classmethoddef setup_class(cls):"""初始化设置一次:return:"""logger.info(&q…...

LeetCode题练习与总结:132 模式--456

一、题目描述 给你一个整数数组 nums &#xff0c;数组中共有 n 个整数。132 模式的子序列 由三个整数 nums[i]、nums[j] 和 nums[k] 组成&#xff0c;并同时满足&#xff1a;i < j < k 和 nums[i] < nums[k] < nums[j] 。 如果 nums 中存在 132 模式的子序列 &a…...

IdentityServer4框架、ASP.NET core Identity

OAuth2.0 IdentityServer4 官网 中文官网 ASP.NET Core Identity提供了一个用来管理和存储用户账户的框架. IdentityServer4是基于ASP.NET Core实现的认证和授权框架&#xff0c;是对OpenID Connect和OAuth 2.0协议的实现。 IdentityServer是一个中间件,它可以添加符合OpenID…...

【分子材料发现】——GAP:催化过程中吸附构型的多模态语言和图学习(数据集处理详解)(二)

Multimodal Language and Graph Learning of Adsorption Configuration in Catalysis https://arxiv.org/abs/2401.07408Paper Data: https://doi.org/10.6084/m9.figshare.27208356.v2 1 Dataset CatBERTa训练的文本字符串输入来源于Open Catalyst 2020 &#xff08;OC20…...

SpringBoot开发过程中经常遇到问题解决方案分享

目录 1. Spring Boot应用启动缓慢 2. 数据库连接池配置问题 3. Spring Boot应用无法连接外部服务 4. 配置文件读取不生效 5. Spring Boot应用的日志输出不完整 6. Spring Boot中的Transactional事务管理问题 1. Spring Boot应用启动缓慢 问题原因&#xff1a; Spring Boo…...

基于STM32HAL库的平衡小车设计(二)--CubeMX配置说明

项目开源链接 本项目资料完全开源。资料包获取方式&#xff1a; github &#xff1a; https://github.com/snqx-lqh/ProjectReleasePage gitee(国内镜像) &#xff1a;https://gitee.com/snqx-lqh/ProjectOpenSourceReleasePage。 项目属于 32 的编号 B005 &#xff0c;在发…...

指标漂移、用户冷启动、LLM幻觉干扰——大模型A/B测试三大盲区全解析,SITS大会实证数据支撑

更多请点击&#xff1a; https://intelliparadigm.com 第一章&#xff1a;指标漂移、用户冷启动、LLM幻觉干扰——大模型A/B测试三大盲区全解析&#xff0c;SITS大会实证数据支撑 在2024年SITS&#xff08;Scalable Intelligence Testing Summit&#xff09;大会上&#xff0c…...

芯粒技术:从封装协同到UCIe标准,破解芯片设计新范式

1. 芯片设计范式的演进&#xff1a;从单片到芯粒在半导体行业摸爬滚打了十几年&#xff0c;亲眼见证了芯片设计从追求单一巨无霸的“单片系统”&#xff08;SoC&#xff09;时代&#xff0c;逐渐转向一个更灵活、也更复杂的“乐高积木”时代。这个转变的核心&#xff0c;就是芯…...

CANN/ops-nn动态量化RMS归一化融合算子

aclnnAddRmsNormDynamicQuantV2 【免费下载链接】ops-nn 本项目是CANN提供的神经网络类计算算子库&#xff0c;实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-nn &#x1f4c4; 查看源码 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DT√A…...

从零到一:树莓派Python实战DHT11温湿度传感器数据采集与解析

1. 硬件准备与环境搭建 第一次玩树莓派配传感器的新手朋友&#xff0c;千万别被那些专业术语吓到。我刚开始接触DHT11温湿度模块时&#xff0c;连杜邦线怎么插都手抖。其实需要的材料特别简单&#xff1a;一块树莓派&#xff08;3B或4B都行&#xff09;、DHT11模块&#xff08;…...

超算联盟抗疫:430Petaflops算力如何加速病毒研究与药物发现

1. 项目概述&#xff1a;当超级计算遇上全球危机2020年初&#xff0c;一场突如其来的公共卫生危机席卷全球&#xff0c;科研界面临着一个前所未有的挑战&#xff1a;如何以最快的速度理解一种全新的病毒&#xff0c;并找到遏制其传播的方法&#xff1f;传统的药物研发和流行病学…...

Godot 4项目模板实战:模块化架构与工程化开发指南

1. 项目概述与核心价值最近在社区里看到不少朋友对 Godot 引擎跃跃欲试&#xff0c;但往往卡在第一步&#xff1a;如何快速搭建一个结构清晰、易于维护的初始项目&#xff1f;很多新手会直接从官方文档的“Hello World”开始&#xff0c;但随着功能增加&#xff0c;代码很快就变…...

Redis模糊查询实战:从keys到scan的演进与避坑指南

1. Redis模糊查询的生死抉择&#xff1a;keys命令的血泪教训 那天凌晨三点&#xff0c;我被急促的电话铃声惊醒。线上订单系统突然卡死&#xff0c;监控大屏一片飘红。登录服务器后用redis-cli --latency检测&#xff0c;发现Redis响应时间高达2000ms&#xff01;紧急排查后发现…...

Node js 服务端应用如何集成 Taotoken 实现多模型对话

&#x1f680; 告别海外账号与网络限制&#xff01;稳定直连全球优质大模型&#xff0c;限时半价接入中。 &#x1f449; 点击领取海量免费额度 Node.js 服务端应用如何集成 Taotoken 实现多模型对话 在构建需要智能对话能力的 Node.js 后端服务时&#xff0c;开发者常常面临两…...

独立开发者工具箱:2026年全栈与AI应用高效开发技术栈指南

1. 项目概述与核心价值作为一名在独立开发领域摸爬滚打了十多年的老兵&#xff0c;我深知一个道理&#xff1a;工具选型&#xff0c;是决定项目成败的第一道分水岭。你花在纠结技术栈、寻找合适API、调试部署环境上的每一分钟&#xff0c;都是从产品核心价值中偷走的时间。今天…...