Ollama：本地运行大模型【含UI界面】
文章目录
- Ollama 简介
- 安装 ollama
- Windows 安装
- Docker 安装
- 其它平台安装
- 支持的模型
- 模型清单
- 模型参数与运行内存
- 快速启动 llama 模型
- llama 模型介绍
- 运行 llama3.1 模型
- 通过 HTTP API 访问
- ollama 命令
- 语法
- 常用示例
- 特别示例
- 自定义模型
- 创建 Modelfile
- 创建模型并运行
- 集成 Web 页面
- Open WebUI 简介
- Open WebUI Docker 安装
- 参考
Ollama 简介
🚀 官网：https://ollama.com/
👉 github：https://github.com/ollama/ollama 最新版本：v0.3.9 发布于 2024/09/01
✅ 简介：一个先进的 AI 工具，运行用户在本地电脑上设置和运行大语言模型。
- 本地运行大语言模型，支持多种大语言模型
- 支持使用 Modelfile 自定义大模型【类似于 Dockerfile】
- 提供 HTTP API 支持【类似于命令行的功能】
- 多平台兼容性：Windows、Linux、macOS、Docker
- 支持 AMD、NVIDIA 显卡
安装 ollama
ollama 支持在 Windows (preview)、Linux、macOS、Docker
相关文章：
Ollama：本地运行大模型【含UI界面】
文章目录 Ollama 简介安装 ollamaWindows 安装Docker 安装其它平台安装支持的模型模型清单模型参数与运行内存快速启动 llama 模型llama 模型介绍运行 llama3.1 模型通过 HTTP API 访问ollama 命令语法常用示例特别示例自定义模型创建 Modelfile创建模型并运行集成 Web 页面Ope…...
【论文阅读】Grounding Language with Visual Affordances over Unstructured Data
Abstract 最近的研究表明，大型语言模型（llms）可以应用于将自然语言应用于各种各样的机器人技能。然而，在实践中，学习多任务、语言条件机器人技能通常需要大规模的数据收集和频繁的人为干预来重置环境或帮助纠正当前的…...
目标检测：滑块验证
最近在做一些爬虫相关的任务，有时候在登录时候需要去做滑块验证，刚好自己是做AI这一块得，就想着使用目标检测去做检测，然后绕过滑块。...
Unreal Engine 5 C++: 编辑器工具编写入门01（中文解释）
目录 准备工作 1.创建插件 2.修改插件设置 快速资产操作（quick asset action) 自定义编辑器功能 0.创建编辑器button，测试debug message功能 大致流程 详细步骤 1.ctrlF5 launch editor 2.创建新的cpp class，derived from AssetAction…...
力扣上刷题之C语言实现-Day2
一. 简介 本文记录一下，力扣C语言逻辑题。主要涉及 数组方面的知识。 二. 涉及数组的 C语言逻辑题 1. 两数之和 给你一个下标从 1 开始的整数数组 numbers ，该数组已按 非递减顺序排列 ，请你从数组中找出满足相加之和等于目标数 target…...
Visual Studio 2022 - QT 环境中文字符乱码问题
Visual Studio 2022 - QT 环境中文字符乱码问题 一、Visual Studio 2022 - Qt 环境 在 QT 中使用中文字符串常会出现乱码现象，如下：以下提供了几个解决方法，仅供参考 QString str "百香果真是一直可爱的小猫咪"; qDebug() <…...
获得ASPICE认证需要满足哪些条件？
要获得ASPICE认证，需要满足以下条件： ( 要明确的是：在ASPICE行业中专业来说，ASPICE项目是没有认证，而只有评估。不过，为了方便沟通，人们常将这一评估过程称为认证。） 一、基础条件…...
鸿蒙_异步详解
参考详细链接： 鸿蒙HarmonyOS异步并发开发指南...
linux日志查询搜索view
view 命令实际上是 vim 编辑器的一个只读模式。当你使用 view 打开一个文件时，实际上是在用 vim 查看该文件，只是不能编辑内容。因此，view 下的搜索操作与 vim 类似。 以下是如何在 view 模式下进行搜索： 启动 view 并打开文件&a…...
性能测试工具——JMeter
目录 一、JMeter介绍 1、下载安装JMeter 2、打开JMeter 方式一： 方式二： 3、JMeter基础设置 4、JMeter基本使用流程 （1）启动JMeter （2）在测试计划下添加线程组 （3）在 “线…...
1.《DevOps》系列K8S部署CICD流水线之部署K8S集群~version1.28.2
架构 服务器IP服务名称硬件配置192.168.1.100k8s-master8核、16G、120G192.168.1.101k8s-node18核、16G、120G192.168.1.102k8s-node28核、16G、120G192.168.1.103nfs2核、4G、500G 操作系统：Rocky9.3 后续通过K8S部署GitLab、Harbor、Jenkins 一、环境准备 关…...
c/c++八股文
c基础 一、指针和引用的区别 定义方式: 指针是通过 * 操作符定义的变量,用于存储另一个变量的地址。例如: int* p &x;引用是通过 & 操作符定义的别名,直接引用另一个变量。例如: int& r x; 内存占用: 指针是一个独立的变量,占用一定的内存空间。引用不是独立的…...
Docker配置代理解决pull超时问题
操作系统: CentOS Linux 8 Docker版本: 26.1.3 前置：你需拥有🐱 1. 配置 proxy.conf 1.1 创建配置文件目录 创建 docker.service.d，进入到 docker.service.d 中打开 proxy.conf (没有文件打开会自动创建)。 注意：每个人的路径可…...
ECharts的特点
ECharts是一款基于JavaScript的数据可视化图表库，由百度团队开源，并于2018年初捐赠给Apache基金会，成为ASF孵化级项目。ECharts提供了直观、生动、可交互、可个性化定制的数据可视化图表，广泛应用于数据分析和展示领域。以下是关于…...
JVM OutOfMemoryError 与 StackOverflowError 异常
目录 前言 堆溢出 虚拟机栈和本地方法栈溢出 方法区溢出 前言 JVM规范中规定, 除了程序计数器之外, 其他的运行时数据区域, 例如堆栈, 方法区, 都会出现OutOfMemoryError异常. 那么到底是怎么样的代码, 才会引起堆溢出, 栈溢出, 或者是方法区的溢出呢? 如果遇到了又该如何…...
linux防火墙学习
Linux 防火墙配置（iptables和firewalld） Linux 防火墙配置（iptables和firewalld）_iptables配置文件位置-CSDN博客 Linux查看防火墙状态及开启关闭命令_linux 查看防火墙-CSDN博客...
Java面试篇基础部分- Java中的阻塞队列
首先队列是一种前进后出的操作结构，也就是说它只允许从队列前端进入，从队列后端退出。这个前端和后端看个人如何理解，也就是通常所说的入队和出队，队头和队尾。 阻塞队列和一般队列的不同就在于阻塞队列是可以阻塞的，这里所说的并不是说队列中间或者队头队尾被拦截了，而是…...
Go语言并发编程之Channels详解
并发编程是Go语言的一大特色，而channel（通道）则是Go语言中用于实现并发的核心工具之一。它源于CSP（Communicating Sequential Processes）的概念，旨在让多个goroutine之间能够高效地进行通信和同步。本文将深入探讨channel的用法、原理和最佳实践，通过丰富的示例代码和详…...
【Java集合】LinkedList
概要 LinkedList是用链表结构存储数据的，很适合数据的动态插入和删除，随机访问速度比较慢。另外，他还提供了 List 接口中没有定义的方法，专门用于操作表头和表尾元素，可以当作堆栈、队列和双向队列使用。 链表 链表是…...
大模型之基准测试集(Benchmark)-给通义千问2.0做测评的10个权威测基准测评集
引言 在去年(2023)云栖大会上，阿里云正式发布千亿级参数大模型通义千问2.0。据现场介绍，在10个权威测评中，通义千问2.0综合性能超过GPT-3.5，正在加速追赶GPT-4。以下是通义千问在MMLU、C-Eval、GSM8K、HumanEval、MATH等10个主流…...
装饰模式（Decorator Pattern）重构java邮件发奖系统实战
前言 现在我们有个如下的需求，设计一个邮件发奖的小系统， 需求 1.数据验证 → 2. 敏感信息加密 → 3. 日志记录 → 4. 实际发送邮件 装饰器模式（Decorator Pattern）允许向一个现有的对象添加新的功能，同时又不改变其…...
微信小程序之bind和catch
这两个呢，都是绑定事件用的，具体使用有些小区别。 官方文档： 事件冒泡处理不同 bind：绑定的事件会向上冒泡，即触发当前组件的事件后，还会继续触发父组件的相同事件。例如，有一个子视图绑定了b…...
golang循环变量捕获问题
在 Go 语言中，当在循环中启动协程（goroutine）时，如果在协程闭包中直接引用循环变量，可能会遇到一个常见的陷阱 - 循环变量捕获问题。让我详细解释一下： 问题背景 看这个代码片段： fo…...
通过Wrangler CLI在worker中创建数据库和表
官方使用文档：Getting started Cloudflare D1 docs 创建数据库 在命令行中执行完成之后，会在本地和远程创建数据库： npx wranglerlatest d1 create prod-d1-tutorial 在cf中就可以看到数据库： 现在，您的Cloudfla…...
在HarmonyOS ArkTS ArkUI-X 5.0及以上版本中，手势开发全攻略：
在 HarmonyOS 应用开发中，手势交互是连接用户与设备的核心纽带。ArkTS 框架提供了丰富的手势处理能力，既支持点击、长按、拖拽等基础单一手势的精细控制，也能通过多种绑定策略解决父子组件的手势竞争问题。本文将结合官方开发文档，…...
C++中string流知识详解和示例
一、概览与类体系 C 提供三种基于内存字符串的流，定义在 <sstream> 中： std::istringstream：输入流，从已有字符串中读取并解析。std::ostringstream：输出流，向内部缓冲区写入内容，最终取…...
Linux --进程控制
本文从以下五个方面来初步认识进程控制： 目录 进程创建 进程终止 进程等待 进程替换 模拟实现一个微型shell 进程创建 在Linux系统中我们可以在一个进程使用系统调用fork()来创建子进程，创建出来的进程就是子进程，原来的进程为父进程。…...
音视频——I2S 协议详解
I2S 协议详解 I2S (Inter-IC Sound) 协议是一种串行总线协议，专门用于在数字音频设备之间传输数字音频数据。它由飞利浦（Philips）公司开发，以其简单、高效和广泛的兼容性而闻名。 1. 信号线 I2S 协议通常使用三根或四根信号线&a…...
C/C++ 中附加包含目录、附加库目录与附加依赖项详解
在 C/C 编程的编译和链接过程中，附加包含目录、附加库目录和附加依赖项是三个至关重要的设置，它们相互配合，确保程序能够正确引用外部资源并顺利构建。虽然在学习过程中，这些概念容易让人混淆，但深入理解它们的作用和联…...
uniapp手机号一键登录保姆级教程（包含前端和后端）
目录 前置条件创建uniapp项目并关联uniClound云空间开启一键登录模块并开通一键登录服务编写云函数并上传部署获取手机号流程(第一种) 前端直接调用云函数获取手机号（第三种）后台调用云函数获取手机号 错误码常见问题 前置条件 手机安装有sim卡手机开启…...