当前位置： 首页 > news >正文

Ollama 在本地快速启动并执行LLM【大语言模型】

news 2025/6/28 17:43:29

文章目录

  • 1. 什么是Ollama?
    • 1.1. SDK库
    • 1.2. 提供的api服务
    • 1.3. [支持的LLM](https://ollama.com/library)
  • 2. 如何安装
    • 2.1.下载docker镜像
    • 2.2. 启动docker容器
  • 3. 如何使用？
    • 3.1. 如何加载模型
    • 3.2. 使用 Ollama CLI 进行推理
    • 3.3. 使用 Ollama API 进行推理
  • 参考

1. 什么是Ollama?

相关文章：

Ollama 在本地快速启动并执行LLM【大语言模型】

文章目录 1. 什么是Ollama?1.1. SDK库1.2. 提供的api服务1.3. [支持的LLM](https://ollama.com/library)2. 如何安装2.1.下载docker镜像2.2. 启动docker容器3. 如何使用？3.1. 如何加载模型3.2. 使用 Ollama CLI 进行推理3.3. 使用 Ollama API 进行推理参考1. 什么是Ollama?...

编程日记 2024/3/23 20:38:07

ubuntu : 无法修正错误，因为您要求某些软件包保持现状，就是它们破坏了软件包间的依赖关系。

往后看，90%能解决你的问题 原文链接：学一下 (suxueit.com) 我相信很多人刚使用ubuntu都遇到过这个问题，如果没有遇到，可能是你运气好使用了正确的软件源 libprotobuf-dev : 依赖: zlib1g-dev 但是它将不会被安装 zlib1g-dev : 依…...

编程日记 2024/3/23 20:37:06

瑞芯微RK3576|触觉智能：开启科技新篇章

更多产品详情可关注深圳触觉智能官网！ “瑞芯微，创新不止步！”——全新芯片RK3576即将震撼登场。指引科技风潮，创造未来无限可能！这款芯片在瑞芯微不断创新和突破的道路上，不仅是对过往成就的完美延续&…...

编程日记 2024/3/23 20:36:04

Visual Studio 2013 - 清理

Visual Studio 2013 - 清理 1. 清理1.1. 工程清理1.2. 解决方案清理 References 1. 清理 Debug Release 1.1. 工程清理 (right mouse click on the project) -> 清理 1.2. 解决方案清理 (right mouse click on the solution) -> 清理解决方案 References [1] Yongq…...

编程日记 2024/3/23 20:30:59

1、初识JVM

一、JVM是什么？ JVM的英文全称是 Java Virtual Machine，其中文译名为Java虚拟机。它在本质上就是是一个运行在计算机上的程序，他的职责是运行Java字节码文件。 JVM执行流程如下 二、JVM有哪些功能？ 2.1 解释和运行 对字节码文…...

编程日记 2024/3/23 20:29:58

JavaScript 权威指南第七版（GPT 重译）（七）

第十六章：用 Node 进行服务器端 JavaScript Node 是 JavaScript 与底层操作系统的绑定，使得编写 JavaScript 程序读写文件、执行子进程和在网络上通信成为可能。这使得 Node 作为以下用途变得有用： 现代替代 shell 脚本的方式，不…...

编程日记 2024/3/23 20:28:57

从零开始搭建游戏服务器 第四节 MongoDB引入并实现注册登录

目录 前言正文添加依赖安装MongoDB添加MongoDB相关配置创建MongoContext类尝试初始化DB连接实现注册功能测试注册功能实现登录逻辑测试登录流程 结语下节预告 前言 游戏服务器中, 很重要的一点就是如何保存玩家的游戏数据. 当一个服务端架构趋于稳定且功能全面, 开发者会发现服…...

编程日记 2024/3/23 20:26:55

【Unity】宏定义Scripting Define Symbols

1.宏的用处 我们在使用Unity开发的时候，经常需要根据不同环境执行不同的代码 比如安卓手机和苹果手机获取路径代码 这个时候，宏就派上用场了。 代码示例： //获取路径public string GtePath(){//不同平台，取不同的存储路径string…...

编程日记 2024/3/23 20:22:50

算法 之 排序算法

🎉欢迎大家观看AUGENSTERN_dc的文章(o゜▽゜)o☆✨✨ 🎉感谢各位读者在百忙之中抽出时间来垂阅我的文章，我会尽我所能向的大家分享我的知识和经验📖 🎉希望我们在一篇篇的文章中能够共同进步！！&…...

编程日记 2024/3/23 20:20:48

Prism：打造WPF项目的MVVM之选，简化开发流程、提高可维护性

概述：探索WPF开发新境界，借助Prism MVVM库，实现模块化、可维护的项目。强大的命令系统、松耦合通信、内置导航，让您的开发更高效、更流畅 在WPF开发中，一个优秀的MVVM库是Prism。以下是Prism的优点以及基本应用示例&a…...

编程日记 2024/3/23 20:18:45

Springboot+vue的四川美食分享网站+数据库+报告+免费远程调试

项目介绍: Springbootvue的四川美食分享网站。Javaee项目，springboot vue前后端分离项目 本文设计了一个基于Springbootvue的前后端分离的四川美食分享网站，采用M（model）V（view）C（controller&am…...

编程日记 2024/3/23 20:17:44

温湿度项目V1.0——原理图设计

工程 首先要有安装好的Altium Designer软件。新建工程，添加sch、pcb文件；新建原理图库和PCB库。画原理图之前应该要有自己的原理库，可以从自己的原理图库中拖元器件到原理图中。那么就要先画原理图库的元器件，再画该元器件的封装…...

编程日记 2024/3/23 20:16:43

H5 与 App、网页之间的通信

前言 本文整理工作中 H5 嵌入 Android、iOS 与 PC 网页后，如何与各端通信。（提供 H5 端的代码） 环境判断 const ua navigator.userAgent.toLowerCase()const isAndroid /android/i.test(ua)const isIos /iphone|ipod|ios/i.test(ua)cons…...

编程日记 2024/3/23 20:10:37

亚马逊云科技：企业如何开启生成式AI之旅？

如果要评选最近两年全球科技行业最热门的细分领域，那么生成式AI绝对会以遥遥领先的票数成为当仁不让的冠军。 然而眼见生成式AI发展得如火如荼，越来越多的企业却陷入了深深的焦虑：应该如何开启生成式AI之旅？又该怎样搭建大模型&am…...

编程日记 2024/3/23 20:09:36

AMPQ和rabbitMQ

RabbitMQ 的 Channel、Connection、Queue 和 Exchange 都是按照 AMQP（Advanced Message Queuing Protocol）标准实现的。 AMPQ的网络部分 AMQP没有使用HTTP，使用TCP自己实现了应用层协议。 AMQP实现了自己特有的网络帧格式。 一个Connection…...

编程日记 2024/3/23 20:08:35

在存在代理的主机上，为docker容器配置代理

1、配置Firefox的代理 (只配置域名或者ip，前面不加http://) 2、为容器中的Git配置代理 git config --global http.proxy http://qingteng:8080 3、Git下载时忽略证书校验 env GIT_SSL_NO_VERIFYtrue git clone https://github.com/nginx/nginx.git 4、docker的…...

编程日记 2024/3/23 20:07:34

备考ICA----Istio实验4---使用 Istio 进行金丝雀部署

备考ICA----Istio实验4—使用 Istio 进行金丝雀部署 上一个实验已经通过DestinationRule实现了部分金丝雀部署的功能,这个实验会更完整的模拟展示一个环境由v1慢慢过渡到v2版本的金丝雀发布. 1. 环境清理 kubectl delete gw/helloworld-gateway vs/helloworld dr/helloworld…...

编程日记 2024/3/23 20:05:32

LeetCode-热题100：39.组合总和

题目描述 给你一个 无重复元素 的整数数组 candidates 和一个目标整数 target ，找出 candidates 中可以使数字和为目标数 target 的 所有 不同组合 ，并以列表形式返回。你可以按 任意顺序 返回这些组合。 candidates 中的 同一个 数字可以 无限制重复被…...

编程日记 2024/3/23 20:01:28

演讲嘉宾公布 | 智能家居与会议系统专题论坛将于3月28日举办

一、智能家居与会议系统专题论坛 智能家居通过集成先进的技术和设备，为人们提供了更安全、舒适、高效、便捷且多彩的生活体验。智能会议系统它通过先进的技术手段，提高了会议效率，降低了沟通成本，提升了参会者的会议体验。对于现代…...

编程日记 2024/3/23 19:59:27

Unity发布webgl之后打开PDF文件，不使用js，不和浏览器交互

创建一个按钮，然后点击就会打开 在webgl下要使用这样的路径拼接，不然就会报错。 btnBook.onClick.AddListener(() >{var uri new System.Uri(Path.Combine(Application.streamingAssetsPath "/Books", "文档.pdf"));Debug.Log…...

编程日记 2024/3/23 19:58:25

日语AI面试高效通关秘籍：专业解读与青柚面试智能助攻

在如今就业市场竞争日益激烈的背景下，越来越多的求职者将目光投向了日本及中日双语岗位。但是，一场日语面试往往让许多人感到步履维艰。你是否也曾因为面试官抛出的“刁钻问题”而心生畏惧？面对生疏的日语交流环境，即便提前恶补了…...

编程新知 2025/6/27 10:56:47

C++：std::is_convertible

C++标志库中提供is_convertible，可以测试一种类型是否可以转换为另一只类型： template <class From, class To> struct is_convertible; 使用举例： #include <iostream> #include <string>using namespace std;struct A { }; struct B : A { };int main…...

编程新知 2025/6/11 15:23:57

MFC内存泄露

1、泄露代码示例 void X::SetApplicationBtn() {CMFCRibbonApplicationButton* pBtn GetApplicationButton();// 获取 Ribbon Bar 指针// 创建自定义按钮CCustomRibbonAppButton* pCustomButton new CCustomRibbonAppButton();pCustomButton->SetImage(IDB_BITMAP_Jdp26)…...

编程新知 2025/6/28 14:31:27

是否存在路径（FIFOBB算法）

题目描述 一个具有 n 个顶点e条边的无向图&#xff0c;该图顶点的编号依次为0到n-1且不存在顶点与自身相连的边。请使用FIFOBB算法编写程序&#xff0c;确定是否存在从顶点 source到顶点 destination的路径。 输入 第一行两个整数&#xff0c;分别表示n 和 e 的值&#xff08;1…...

编程新知 2025/6/27 23:47:31

项目部署到Linux上时遇到的错误（Redis，MySQL，无法正确连接，地址占用问题）

Redis无法正确连接 在运行jar包时出现了这样的错误 查询得知问题核心在于Redis连接失败&#xff0c;具体原因是客户端发送了密码认证请求&#xff0c;但Redis服务器未设置密码 1.为Redis设置密码&#xff08;匹配客户端配置&#xff09; 步骤&#xff1a; 1&#xff09;.修…...

编程新知 2025/6/26 10:08:29

ip子接口配置及删除

配置永久生效的子接口&#xff0c;2个IP 都可以登录你这一台服务器。重启不失效。 永久的 [应用] vi /etc/sysconfig/network-scripts/ifcfg-eth0修改文件内内容 TYPE"Ethernet" BOOTPROTO"none" NAME"eth0" DEVICE"eth0" ONBOOT&q…...

编程新知 2025/6/17 13:09:39

AI病理诊断七剑下天山，医疗未来触手可及

一、病理诊断困局&#xff1a;刀尖上的医学艺术 1.1 金标准背后的隐痛 病理诊断被誉为"诊断的诊断"&#xff0c;医生需通过显微镜观察组织切片&#xff0c;在细胞迷宫中捕捉癌变信号。某省病理质控报告显示&#xff0c;基层医院误诊率达12%-15%&#xff0c;专家会诊…...

编程新知 2025/6/21 11:59:00

Java数值运算常见陷阱与规避方法

整数除法中的舍入问题 问题现象 当开发者预期进行浮点除法却误用整数除法时，会出现小数部分被截断的情况。典型错误模式如下： void process(int value) {double half = value / 2; // 整数除法导致截断// 使用half变量 }此时...

编程新知 2025/6/19 6:03:59

[ACTF2020 新生赛]Include 1(php://filter伪协议)

题目 做法 启动靶机&#xff0c;点进去 点进去 查看URL&#xff0c;有 ?fileflag.php说明存在文件包含&#xff0c;原理是php://filter 协议 当它与包含函数结合时&#xff0c;php://filter流会被当作php文件执行。 用php://filter加编码&#xff0c;能让PHP把文件内容…...

编程新知 2025/6/21 18:04:05

在树莓派上添加音频输入设备的几种方法

在树莓派上添加音频输入设备可以通过以下步骤完成&#xff0c;具体方法取决于设备类型&#xff08;如USB麦克风、3.5mm接口麦克风或HDMI音频输入&#xff09;。以下是详细指南&#xff1a; 1. 连接音频输入设备 USB麦克风/声卡&#xff1a;直接插入树莓派的USB接口。3.5mm麦克…...

编程新知 2025/6/21 0:21:17