当前位置： 首页 > news >正文

Ollama 在本地快速启动并执行LLM【大语言模型】

news 2025/9/21 11:58:34

文章目录

  • 1. 什么是Ollama?
    • 1.1. SDK库
    • 1.2. 提供的api服务
    • 1.3. [支持的LLM](https://ollama.com/library)
  • 2. 如何安装
    • 2.1.下载docker镜像
    • 2.2. 启动docker容器
  • 3. 如何使用？
    • 3.1. 如何加载模型
    • 3.2. 使用 Ollama CLI 进行推理
    • 3.3. 使用 Ollama API 进行推理
  • 参考

1. 什么是Ollama?

相关文章：

Ollama 在本地快速启动并执行LLM【大语言模型】

文章目录 1. 什么是Ollama?1.1. SDK库1.2. 提供的api服务1.3. [支持的LLM](https://ollama.com/library)2. 如何安装2.1.下载docker镜像2.2. 启动docker容器3. 如何使用？3.1. 如何加载模型3.2. 使用 Ollama CLI 进行推理3.3. 使用 Ollama API 进行推理参考1. 什么是Ollama?...

编程日记 2024/3/23 20:38:07

ubuntu : 无法修正错误，因为您要求某些软件包保持现状，就是它们破坏了软件包间的依赖关系。

往后看，90%能解决你的问题 原文链接：学一下 (suxueit.com) 我相信很多人刚使用ubuntu都遇到过这个问题，如果没有遇到，可能是你运气好使用了正确的软件源 libprotobuf-dev : 依赖: zlib1g-dev 但是它将不会被安装 zlib1g-dev : 依…...

编程日记 2024/3/23 20:37:06

瑞芯微RK3576|触觉智能：开启科技新篇章

更多产品详情可关注深圳触觉智能官网！ “瑞芯微，创新不止步！”——全新芯片RK3576即将震撼登场。指引科技风潮，创造未来无限可能！这款芯片在瑞芯微不断创新和突破的道路上，不仅是对过往成就的完美延续&…...

编程日记 2024/3/23 20:36:04

Visual Studio 2013 - 清理

Visual Studio 2013 - 清理 1. 清理1.1. 工程清理1.2. 解决方案清理 References 1. 清理 Debug Release 1.1. 工程清理 (right mouse click on the project) -> 清理 1.2. 解决方案清理 (right mouse click on the solution) -> 清理解决方案 References [1] Yongq…...

编程日记 2024/3/23 20:30:59

1、初识JVM

一、JVM是什么？ JVM的英文全称是 Java Virtual Machine，其中文译名为Java虚拟机。它在本质上就是是一个运行在计算机上的程序，他的职责是运行Java字节码文件。 JVM执行流程如下 二、JVM有哪些功能？ 2.1 解释和运行 对字节码文…...

编程日记 2024/3/23 20:29:58

JavaScript 权威指南第七版（GPT 重译）（七）

第十六章：用 Node 进行服务器端 JavaScript Node 是 JavaScript 与底层操作系统的绑定，使得编写 JavaScript 程序读写文件、执行子进程和在网络上通信成为可能。这使得 Node 作为以下用途变得有用： 现代替代 shell 脚本的方式，不…...

编程日记 2024/3/23 20:28:57

从零开始搭建游戏服务器 第四节 MongoDB引入并实现注册登录

目录 前言正文添加依赖安装MongoDB添加MongoDB相关配置创建MongoContext类尝试初始化DB连接实现注册功能测试注册功能实现登录逻辑测试登录流程 结语下节预告 前言 游戏服务器中, 很重要的一点就是如何保存玩家的游戏数据. 当一个服务端架构趋于稳定且功能全面, 开发者会发现服…...

编程日记 2024/3/23 20:26:55

【Unity】宏定义Scripting Define Symbols

1.宏的用处 我们在使用Unity开发的时候，经常需要根据不同环境执行不同的代码 比如安卓手机和苹果手机获取路径代码 这个时候，宏就派上用场了。 代码示例： //获取路径public string GtePath(){//不同平台，取不同的存储路径string…...

编程日记 2024/3/23 20:22:50

算法 之 排序算法

🎉欢迎大家观看AUGENSTERN_dc的文章(o゜▽゜)o☆✨✨ 🎉感谢各位读者在百忙之中抽出时间来垂阅我的文章，我会尽我所能向的大家分享我的知识和经验📖 🎉希望我们在一篇篇的文章中能够共同进步！！&…...

编程日记 2024/3/23 20:20:48

Prism：打造WPF项目的MVVM之选，简化开发流程、提高可维护性

概述：探索WPF开发新境界，借助Prism MVVM库，实现模块化、可维护的项目。强大的命令系统、松耦合通信、内置导航，让您的开发更高效、更流畅 在WPF开发中，一个优秀的MVVM库是Prism。以下是Prism的优点以及基本应用示例&a…...

编程日记 2024/3/23 20:18:45

Springboot+vue的四川美食分享网站+数据库+报告+免费远程调试

项目介绍: Springbootvue的四川美食分享网站。Javaee项目，springboot vue前后端分离项目 本文设计了一个基于Springbootvue的前后端分离的四川美食分享网站，采用M（model）V（view）C（controller&am…...

编程日记 2024/3/23 20:17:44

温湿度项目V1.0——原理图设计

工程 首先要有安装好的Altium Designer软件。新建工程，添加sch、pcb文件；新建原理图库和PCB库。画原理图之前应该要有自己的原理库，可以从自己的原理图库中拖元器件到原理图中。那么就要先画原理图库的元器件，再画该元器件的封装…...

编程日记 2024/3/23 20:16:43

H5 与 App、网页之间的通信

前言 本文整理工作中 H5 嵌入 Android、iOS 与 PC 网页后，如何与各端通信。（提供 H5 端的代码） 环境判断 const ua navigator.userAgent.toLowerCase()const isAndroid /android/i.test(ua)const isIos /iphone|ipod|ios/i.test(ua)cons…...

编程日记 2024/3/23 20:10:37

亚马逊云科技：企业如何开启生成式AI之旅？

如果要评选最近两年全球科技行业最热门的细分领域，那么生成式AI绝对会以遥遥领先的票数成为当仁不让的冠军。 然而眼见生成式AI发展得如火如荼，越来越多的企业却陷入了深深的焦虑：应该如何开启生成式AI之旅？又该怎样搭建大模型&am…...

编程日记 2024/3/23 20:09:36

AMPQ和rabbitMQ

RabbitMQ 的 Channel、Connection、Queue 和 Exchange 都是按照 AMQP（Advanced Message Queuing Protocol）标准实现的。 AMPQ的网络部分 AMQP没有使用HTTP，使用TCP自己实现了应用层协议。 AMQP实现了自己特有的网络帧格式。 一个Connection…...

编程日记 2024/3/23 20:08:35

在存在代理的主机上，为docker容器配置代理

1、配置Firefox的代理 (只配置域名或者ip，前面不加http://) 2、为容器中的Git配置代理 git config --global http.proxy http://qingteng:8080 3、Git下载时忽略证书校验 env GIT_SSL_NO_VERIFYtrue git clone https://github.com/nginx/nginx.git 4、docker的…...

编程日记 2024/3/23 20:07:34

备考ICA----Istio实验4---使用 Istio 进行金丝雀部署

备考ICA----Istio实验4—使用 Istio 进行金丝雀部署 上一个实验已经通过DestinationRule实现了部分金丝雀部署的功能,这个实验会更完整的模拟展示一个环境由v1慢慢过渡到v2版本的金丝雀发布. 1. 环境清理 kubectl delete gw/helloworld-gateway vs/helloworld dr/helloworld…...

编程日记 2024/3/23 20:05:32

LeetCode-热题100：39.组合总和

题目描述 给你一个 无重复元素 的整数数组 candidates 和一个目标整数 target ，找出 candidates 中可以使数字和为目标数 target 的 所有 不同组合 ，并以列表形式返回。你可以按 任意顺序 返回这些组合。 candidates 中的 同一个 数字可以 无限制重复被…...

编程日记 2024/3/23 20:01:28

演讲嘉宾公布 | 智能家居与会议系统专题论坛将于3月28日举办

一、智能家居与会议系统专题论坛 智能家居通过集成先进的技术和设备，为人们提供了更安全、舒适、高效、便捷且多彩的生活体验。智能会议系统它通过先进的技术手段，提高了会议效率，降低了沟通成本，提升了参会者的会议体验。对于现代…...

编程日记 2024/3/23 19:59:27

Unity发布webgl之后打开PDF文件，不使用js，不和浏览器交互

创建一个按钮，然后点击就会打开 在webgl下要使用这样的路径拼接，不然就会报错。 btnBook.onClick.AddListener(() >{var uri new System.Uri(Path.Combine(Application.streamingAssetsPath "/Books", "文档.pdf"));Debug.Log…...

编程日记 2024/3/23 19:58:25

idea大量爆红问题解决

问题描述 在学习和工作中，idea是程序员不可缺少的一个工具，但是突然在有些时候就会出现大量爆红的问题，发现无法跳转，无论是关机重启或者是替换root都无法解决 就是如上所展示的问题，但是程序依然可以启动。 问题解决…...

编程新知 2025/9/19 5:44:53

HTML 语义化

目录 HTML 语义化HTML5 新特性HTML 语义化的好处语义化标签的使用场景最佳实践 HTML 语义化 HTML5 新特性 标准答案&#xff1a; 语义化标签&#xff1a; <header>&#xff1a;页头<nav>&#xff1a;导航<main>&#xff1a;主要内容<article>&#x…...

编程新知 2025/8/7 7:40:03

C++初阶-list的底层

目录 1.std::list实现的所有代码 2.list的简单介绍 2.1实现list的类 2.2_list_iterator的实现 2.2.1_list_iterator实现的原因和好处 2.2.2_list_iterator实现 2.3_list_node的实现 2.3.1. 避免递归的模板依赖 2.3.2. 内存布局一致性 2.3.3. 类型安全的替代方案 2.3.…...

编程新知 2025/9/16 18:47:23

工业安全零事故的智能守护者：一体化AI智能安防平台

前言&#xff1a; 通过AI视觉技术&#xff0c;为船厂提供全面的安全监控解决方案&#xff0c;涵盖交通违规检测、起重机轨道安全、非法入侵检测、盗窃防范、安全规范执行监控等多个方面&#xff0c;能够实现对应负责人反馈机制&#xff0c;并最终实现数据的统计报表。提升船厂…...

编程新知 2025/9/21 3:05:29

java调用dll出现unsatisfiedLinkError以及JNA和JNI的区别

UnsatisfiedLinkError 在对接硬件设备中&#xff0c;我们会遇到使用 java 调用 dll文件 的情况&#xff0c;此时大概率出现UnsatisfiedLinkError链接错误&#xff0c;原因可能有如下几种 类名错误包名错误方法名参数错误使用 JNI 协议调用&#xff0c;结果 dll 未实现 JNI 协…...

编程新知 2025/8/21 6:35:28

从深圳崛起的“机器之眼”：赴港乐动机器人的万亿赛道赶考路

进入2025年以来&#xff0c;尽管围绕人形机器人、具身智能等机器人赛道的质疑声不断&#xff0c;但全球市场热度依然高涨&#xff0c;入局者持续增加。 以国内市场为例&#xff0c;天眼查专业版数据显示&#xff0c;截至5月底&#xff0c;我国现存在业、存续状态的机器人相关企…...

编程新知 2025/9/9 14:55:19

Linux-07 ubuntu 的 chrome 启动不了

文章目录 问题原因解决步骤一、卸载旧版chrome二、重新安装chorme三、启动不了&#xff0c;报错如下四、启动不了&#xff0c;解决如下 总结 问题原因 在应用中可以看到chrome&#xff0c;但是打不开(说明&#xff1a;原来的ubuntu系统出问题了&#xff0c;这个是备用的硬盘&a…...

编程新知 2025/9/18 13:37:30

GitHub 趋势日报 (2025年06月08日)

&#x1f4ca; 由 TrendForge 系统生成 | &#x1f310; https://trendforge.devlive.org/ &#x1f310; 本日报中的项目描述已自动翻译为中文 &#x1f4c8; 今日获星趋势图 今日获星趋势图 884 cognee 566 dify 414 HumanSystemOptimization 414 omni-tools 321 note-gen …...

编程新知 2025/9/15 5:01:55

数据库分批入库

今天在工作中&#xff0c;遇到一个问题&#xff0c;就是分批查询的时候&#xff0c;由于批次过大导致出现了一些问题&#xff0c;一下是问题描述和解决方案&#xff1a; 示例&#xff1a; // 假设已有数据列表 dataList 和 PreparedStatement pstmt int batchSize 1000; // …...

编程新知 2025/7/18 1:50:27

UR 协作机器人「三剑客」：精密轻量担当（UR7e）、全能协作主力（UR12e）、重型任务专家（UR15）

UR协作机器人正以其卓越性能在现代制造业自动化中扮演重要角色。UR7e、UR12e和UR15通过创新技术和精准设计满足了不同行业的多样化需求。其中&#xff0c;UR15以其速度、精度及人工智能准备能力成为自动化领域的重要突破。UR7e和UR12e则在负载规格和市场定位上不断优化&#xf…...

编程新知 2025/9/19 7:31:10