当前位置：首页 > news >正文

Ollama：本地运行大模型【含UI界面】

news 2025/11/8 19:28:10

文章目录

Ollama 简介
安装 ollama
- Windows 安装
- Docker 安装
- 其它平台安装
支持的模型
- 模型清单
- 模型参数与运行内存
快速启动 llama 模型
- llama 模型介绍
- 运行 llama3.1 模型
- 通过 HTTP API 访问
ollama 命令
- 语法
- 常用示例
- 特别示例
自定义模型
- 创建 Modelfile
- 创建模型并运行
集成 Web 页面
- Open WebUI 简介
- Open WebUI Docker 安装
参考

Ollama 简介

🚀 官网：https://ollama.com/

👉 github：https://github.com/ollama/ollama 最新版本：v0.3.9 发布于 2024/09/01

✅ 简介：一个先进的 AI 工具，运行用户在本地电脑上设置和运行大语言模型。

本地运行大语言模型，支持多种大语言模型
支持使用 Modelfile 自定义大模型【类似于 Dockerfile】
提供 HTTP API 支持【类似于命令行的功能】
多平台兼容性：Windows、Linux、macOS、Docker
支持 AMD、NVIDIA 显卡

安装 ollama

ollama 支持在 Windows (preview)、Linux、macOS、Docker

Ollama：本地运行大模型【含UI界面】

文章目录 Ollama 简介安装 ollamaWindows 安装Docker 安装其它平台安装支持的模型模型清单模型参数与运行内存快速启动 llama 模型llama 模型介绍运行 llama3.1 模型通过 HTTP API 访问ollama 命令语法常用示例特别示例自定义模型创建 Modelfile创建模型并运行集成 Web 页面Ope…...

编程日记 2024/9/24 19:25:31

【论文阅读】Grounding Language with Visual Affordances over Unstructured Data

Abstract 最近的研究表明，大型语言模型（llms）可以应用于将自然语言应用于各种各样的机器人技能。然而，在实践中，学习多任务、语言条件机器人技能通常需要大规模的数据收集和频繁的人为干预来重置环境或帮助纠正当前的…...

编程日记 2024/9/24 19:24:30

目标检测：滑块验证

最近在做一些爬虫相关的任务，有时候在登录时候需要去做滑块验证，刚好自己是做AI这一块得，就想着使用目标检测去做检测，然后绕过滑块。...

编程日记 2024/9/24 19:22:27

Unreal Engine 5 C++: 编辑器工具编写入门01（中文解释）

目录准备工作 1.创建插件 2.修改插件设置快速资产操作（quick asset action) 自定义编辑器功能 0.创建编辑器button，测试debug message功能大致流程详细步骤 1.ctrlF5 launch editor 2.创建新的cpp class，derived from AssetAction…...

编程日记 2024/9/24 19:21:24

力扣上刷题之C语言实现-Day2

一. 简介本文记录一下，力扣C语言逻辑题。主要涉及数组方面的知识。二. 涉及数组的 C语言逻辑题 1. 两数之和给你一个下标从 1 开始的整数数组 numbers ，该数组已按非递减顺序排列 ，请你从数组中找出满足相加之和等于目标数 target…...

编程日记 2024/9/24 19:20:23

Visual Studio 2022 - QT 环境中文字符乱码问题

Visual Studio 2022 - QT 环境中文字符乱码问题一、Visual Studio 2022 - Qt 环境在 QT 中使用中文字符串常会出现乱码现象，如下：以下提供了几个解决方法，仅供参考 QString str "百香果真是一直可爱的小猫咪"; qDebug() <…...

编程日记 2024/9/24 19:18:21

获得ASPICE认证需要满足哪些条件？

要获得ASPICE认证，需要满足以下条件： ( 要明确的是：在ASPICE行业中专业来说，ASPICE项目是没有认证，而只有评估。不过，为了方便沟通，人们常将这一评估过程称为认证。） 一、基础条件…...

编程日记 2024/9/24 19:15:17

鸿蒙_异步详解

参考详细链接： 鸿蒙HarmonyOS异步并发开发指南...

编程日记 2024/9/24 19:14:15

linux日志查询搜索view

view 命令实际上是 vim 编辑器的一个只读模式。当你使用 view 打开一个文件时，实际上是在用 vim 查看该文件，只是不能编辑内容。因此，view 下的搜索操作与 vim 类似。以下是如何在 view 模式下进行搜索： 启动 view 并打开文件&a…...

编程日记 2024/9/24 19:09:10

性能测试工具——JMeter

目录一、JMeter介绍 1、下载安装JMeter 2、打开JMeter 方式一： 方式二： 3、JMeter基础设置 4、JMeter基本使用流程 （1）启动JMeter （2）在测试计划下添加线程组 （3）在 “线…...

编程日记 2024/9/24 19:08:08

1.《DevOps》系列K8S部署CICD流水线之部署K8S集群~version1.28.2

架构服务器IP服务名称硬件配置192.168.1.100k8s-master8核、16G、120G192.168.1.101k8s-node18核、16G、120G192.168.1.102k8s-node28核、16G、120G192.168.1.103nfs2核、4G、500G 操作系统：Rocky9.3 后续通过K8S部署GitLab、Harbor、Jenkins 一、环境准备关…...

编程日记 2024/9/24 19:07:07

c/c++八股文

c基础一、指针和引用的区别定义方式: 指针是通过 * 操作符定义的变量,用于存储另一个变量的地址。例如: int* p &x;引用是通过 & 操作符定义的别名,直接引用另一个变量。例如: int& r x; 内存占用: 指针是一个独立的变量,占用一定的内存空间。引用不是独立的…...

编程日记 2024/9/24 19:04:03

Docker配置代理解决pull超时问题

操作系统: CentOS Linux 8 Docker版本: 26.1.3 前置：你需拥有🐱 1. 配置 proxy.conf 1.1 创建配置文件目录创建 docker.service.d，进入到 docker.service.d 中打开 proxy.conf (没有文件打开会自动创建)。注意：每个人的路径可…...

编程日记 2024/9/24 19:02:00

ECharts的特点

ECharts是一款基于JavaScript的数据可视化图表库，由百度团队开源，并于2018年初捐赠给Apache基金会，成为ASF孵化级项目。ECharts提供了直观、生动、可交互、可个性化定制的数据可视化图表，广泛应用于数据分析和展示领域。以下是关于…...

编程日记 2024/9/24 19:00:59

JVM OutOfMemoryError 与 StackOverflowError 异常

目录前言堆溢出虚拟机栈和本地方法栈溢出方法区溢出前言 JVM规范中规定, 除了程序计数器之外, 其他的运行时数据区域, 例如堆栈, 方法区, 都会出现OutOfMemoryError异常. 那么到底是怎么样的代码, 才会引起堆溢出, 栈溢出, 或者是方法区的溢出呢? 如果遇到了又该如何…...

编程日记 2024/9/24 18:58:57

linux防火墙学习

Linux 防火墙配置（iptables和firewalld） Linux 防火墙配置（iptables和firewalld）_iptables配置文件位置-CSDN博客 Linux查看防火墙状态及开启关闭命令_linux 查看防火墙-CSDN博客...

编程日记 2024/9/24 18:57:56

Java面试篇基础部分- Java中的阻塞队列

首先队列是一种前进后出的操作结构，也就是说它只允许从队列前端进入，从队列后端退出。这个前端和后端看个人如何理解，也就是通常所说的入队和出队，队头和队尾。阻塞队列和一般队列的不同就在于阻塞队列是可以阻塞的，这里所说的并不是说队列中间或者队头队尾被拦截了，而是…...

编程日记 2024/9/24 18:56:53

Go语言并发编程之Channels详解

并发编程是Go语言的一大特色，而channel（通道）则是Go语言中用于实现并发的核心工具之一。它源于CSP（Communicating Sequential Processes）的概念，旨在让多个goroutine之间能够高效地进行通信和同步。本文将深入探讨channel的用法、原理和最佳实践，通过丰富的示例代码和详…...

编程日记 2024/9/24 18:55:51

【Java集合】LinkedList

概要 LinkedList是用链表结构存储数据的，很适合数据的动态插入和删除，随机访问速度比较慢。另外，他还提供了 List 接口中没有定义的方法，专门用于操作表头和表尾元素，可以当作堆栈、队列和双向队列使用。链表链表是…...

编程日记 2024/9/24 18:46:40

大模型之基准测试集(Benchmark)-给通义千问2.0做测评的10个权威测基准测评集

引言在去年(2023)云栖大会上，阿里云正式发布千亿级参数大模型通义千问2.0。据现场介绍，在10个权威测评中，通义千问2.0综合性能超过GPT-3.5，正在加速追赶GPT-4。以下是通义千问在MMLU、C-Eval、GSM8K、HumanEval、MATH等10个主流…...

编程日记 2024/9/24 18:45:39

铭豹扩展坞 USB转网口突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别，但在其他电脑上正常工作时，问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤，帮助你快速找到故障原因：背景：一个M-pard（铭豹）扩展坞的网卡突然无法识别了，扩展出来的三个USB接口正常。…...

编程新知 2025/11/6 20:28:02

【HarmonyOS 5.0】DevEco Testing：鸿蒙应用质量保障的终极武器

——全方位测试解决方案与代码实战一、工具定位与核心能力 DevEco Testing是HarmonyOS官方推出的一体化测试平台，覆盖应用全生命周期测试需求，主要提供五大核心能力： 测试类型检测目标关键指标功能体验基…...

编程新知 2025/11/7 20:35:59

SCAU期末笔记 - 数据分析与数据挖掘题库解析

这门怎么题库答案不全啊日来简单学一下子来一、选择题（可多选） 将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务?(C) A. 频繁模式挖掘 B.分类和预测 C.数据预处理 D.数据流挖掘 A. 频繁模式挖掘：专注于发现数据中…...

编程新知 2025/11/7 21:03:30

论文浅尝 | 基于判别指令微调生成式大语言模型的知识图谱补全方法（ISWC2024）

笔记整理：刘治强，浙江大学硕士生，研究方向为知识图谱表示学习，大语言模型论文链接：http://arxiv.org/abs/2407.16127 发表会议：ISWC 2024 1. 动机传统的知识图谱补全（KGC）模型通过…...

编程新知 2025/11/8 7:31:37

OpenLayers 分屏对比(地图联动)

注：当前使用的是 ol 5.3.0 版本，天地图使用的key请到天地图官网申请，并替换为自己的key 地图分屏对比在WebGIS开发中是很常见的功能，和卷帘图层不一样的是，分屏对比是在各个地图中添加相同或者不同的图层进行对比查看。…...

编程新知 2025/9/30 5:23:30

USB Over IP专用硬件的5个特点

USB over IP技术通过将USB协议数据封装在标准TCP/IP网络数据包中，从根本上改变了USB连接。这允许客户端通过局域网或广域网远程访问和控制物理连接到服务器的USB设备（如专用硬件设备），从而消除了直接物理连接的需要。USB over IP的…...

编程新知 2025/11/7 20:30:35

Reasoning over Uncertain Text by Generative Large Language Models

https://ojs.aaai.org/index.php/AAAI/article/view/34674/36829https://ojs.aaai.org/index.php/AAAI/article/view/34674/36829 1. 概述文本中的不确定性在许多语境中传达，从日常对话到特定领域的文档（例如医学文档）（Heritage 2013；Landmark、Gulbrandsen 和 Svenevei…...

编程新知 2025/11/7 20:31:18