Ollama：本地运行大模型【含UI界面】
文章目录
- Ollama 简介
- 安装 ollama
- Windows 安装
- Docker 安装
- 其它平台安装
- 支持的模型
- 模型清单
- 模型参数与运行内存
- 快速启动 llama 模型
- llama 模型介绍
- 运行 llama3.1 模型
- 通过 HTTP API 访问
- ollama 命令
- 语法
- 常用示例
- 特别示例
- 自定义模型
- 创建 Modelfile
- 创建模型并运行
- 集成 Web 页面
- Open WebUI 简介
- Open WebUI Docker 安装
- 参考
Ollama 简介
🚀 官网：https://ollama.com/
👉 github：https://github.com/ollama/ollama 最新版本：v0.3.9 发布于 2024/09/01
✅ 简介：一个先进的 AI 工具，运行用户在本地电脑上设置和运行大语言模型。
- 本地运行大语言模型，支持多种大语言模型
- 支持使用 Modelfile 自定义大模型【类似于 Dockerfile】
- 提供 HTTP API 支持【类似于命令行的功能】
- 多平台兼容性：Windows、Linux、macOS、Docker
- 支持 AMD、NVIDIA 显卡
安装 ollama
ollama 支持在 Windows (preview)、Linux、macOS、Docker
相关文章：
Ollama：本地运行大模型【含UI界面】
文章目录 Ollama 简介安装 ollamaWindows 安装Docker 安装其它平台安装支持的模型模型清单模型参数与运行内存快速启动 llama 模型llama 模型介绍运行 llama3.1 模型通过 HTTP API 访问ollama 命令语法常用示例特别示例自定义模型创建 Modelfile创建模型并运行集成 Web 页面Ope…...
【论文阅读】Grounding Language with Visual Affordances over Unstructured Data
Abstract 最近的研究表明，大型语言模型（llms）可以应用于将自然语言应用于各种各样的机器人技能。然而，在实践中，学习多任务、语言条件机器人技能通常需要大规模的数据收集和频繁的人为干预来重置环境或帮助纠正当前的…...
目标检测：滑块验证
最近在做一些爬虫相关的任务，有时候在登录时候需要去做滑块验证，刚好自己是做AI这一块得，就想着使用目标检测去做检测，然后绕过滑块。...
Unreal Engine 5 C++: 编辑器工具编写入门01（中文解释）
目录 准备工作 1.创建插件 2.修改插件设置 快速资产操作（quick asset action) 自定义编辑器功能 0.创建编辑器button，测试debug message功能 大致流程 详细步骤 1.ctrlF5 launch editor 2.创建新的cpp class，derived from AssetAction…...
力扣上刷题之C语言实现-Day2
一. 简介 本文记录一下，力扣C语言逻辑题。主要涉及 数组方面的知识。 二. 涉及数组的 C语言逻辑题 1. 两数之和 给你一个下标从 1 开始的整数数组 numbers ，该数组已按 非递减顺序排列 ，请你从数组中找出满足相加之和等于目标数 target…...
Visual Studio 2022 - QT 环境中文字符乱码问题
Visual Studio 2022 - QT 环境中文字符乱码问题 一、Visual Studio 2022 - Qt 环境 在 QT 中使用中文字符串常会出现乱码现象，如下：以下提供了几个解决方法，仅供参考 QString str "百香果真是一直可爱的小猫咪"; qDebug() <…...
获得ASPICE认证需要满足哪些条件？
要获得ASPICE认证，需要满足以下条件： ( 要明确的是：在ASPICE行业中专业来说，ASPICE项目是没有认证，而只有评估。不过，为了方便沟通，人们常将这一评估过程称为认证。） 一、基础条件…...
鸿蒙_异步详解
参考详细链接： 鸿蒙HarmonyOS异步并发开发指南...
linux日志查询搜索view
view 命令实际上是 vim 编辑器的一个只读模式。当你使用 view 打开一个文件时，实际上是在用 vim 查看该文件，只是不能编辑内容。因此，view 下的搜索操作与 vim 类似。 以下是如何在 view 模式下进行搜索： 启动 view 并打开文件&a…...
性能测试工具——JMeter
目录 一、JMeter介绍 1、下载安装JMeter 2、打开JMeter 方式一： 方式二： 3、JMeter基础设置 4、JMeter基本使用流程 （1）启动JMeter （2）在测试计划下添加线程组 （3）在 “线…...
1.《DevOps》系列K8S部署CICD流水线之部署K8S集群~version1.28.2
架构 服务器IP服务名称硬件配置192.168.1.100k8s-master8核、16G、120G192.168.1.101k8s-node18核、16G、120G192.168.1.102k8s-node28核、16G、120G192.168.1.103nfs2核、4G、500G 操作系统：Rocky9.3 后续通过K8S部署GitLab、Harbor、Jenkins 一、环境准备 关…...
c/c++八股文
c基础 一、指针和引用的区别 定义方式: 指针是通过 * 操作符定义的变量,用于存储另一个变量的地址。例如: int* p &x;引用是通过 & 操作符定义的别名,直接引用另一个变量。例如: int& r x; 内存占用: 指针是一个独立的变量,占用一定的内存空间。引用不是独立的…...
Docker配置代理解决pull超时问题
操作系统: CentOS Linux 8 Docker版本: 26.1.3 前置：你需拥有🐱 1. 配置 proxy.conf 1.1 创建配置文件目录 创建 docker.service.d，进入到 docker.service.d 中打开 proxy.conf (没有文件打开会自动创建)。 注意：每个人的路径可…...
ECharts的特点
ECharts是一款基于JavaScript的数据可视化图表库，由百度团队开源，并于2018年初捐赠给Apache基金会，成为ASF孵化级项目。ECharts提供了直观、生动、可交互、可个性化定制的数据可视化图表，广泛应用于数据分析和展示领域。以下是关于…...
JVM OutOfMemoryError 与 StackOverflowError 异常
目录 前言 堆溢出 虚拟机栈和本地方法栈溢出 方法区溢出 前言 JVM规范中规定, 除了程序计数器之外, 其他的运行时数据区域, 例如堆栈, 方法区, 都会出现OutOfMemoryError异常. 那么到底是怎么样的代码, 才会引起堆溢出, 栈溢出, 或者是方法区的溢出呢? 如果遇到了又该如何…...
linux防火墙学习
Linux 防火墙配置（iptables和firewalld） Linux 防火墙配置（iptables和firewalld）_iptables配置文件位置-CSDN博客 Linux查看防火墙状态及开启关闭命令_linux 查看防火墙-CSDN博客...
Java面试篇基础部分- Java中的阻塞队列
首先队列是一种前进后出的操作结构，也就是说它只允许从队列前端进入，从队列后端退出。这个前端和后端看个人如何理解，也就是通常所说的入队和出队，队头和队尾。 阻塞队列和一般队列的不同就在于阻塞队列是可以阻塞的，这里所说的并不是说队列中间或者队头队尾被拦截了，而是…...
Go语言并发编程之Channels详解
并发编程是Go语言的一大特色，而channel（通道）则是Go语言中用于实现并发的核心工具之一。它源于CSP（Communicating Sequential Processes）的概念，旨在让多个goroutine之间能够高效地进行通信和同步。本文将深入探讨channel的用法、原理和最佳实践，通过丰富的示例代码和详…...
【Java集合】LinkedList
概要 LinkedList是用链表结构存储数据的，很适合数据的动态插入和删除，随机访问速度比较慢。另外，他还提供了 List 接口中没有定义的方法，专门用于操作表头和表尾元素，可以当作堆栈、队列和双向队列使用。 链表 链表是…...
大模型之基准测试集(Benchmark)-给通义千问2.0做测评的10个权威测基准测评集
引言 在去年(2023)云栖大会上，阿里云正式发布千亿级参数大模型通义千问2.0。据现场介绍，在10个权威测评中，通义千问2.0综合性能超过GPT-3.5，正在加速追赶GPT-4。以下是通义千问在MMLU、C-Eval、GSM8K、HumanEval、MATH等10个主流…...
华为云AI开发平台ModelArts
华为云ModelArts：重塑AI开发流程的“智能引擎”与“创新加速器”！ 在人工智能浪潮席卷全球的2025年，企业拥抱AI的意愿空前高涨，但技术门槛高、流程复杂、资源投入巨大的现实，却让许多创新构想止步于实验室。数据科学家…...
生成xcframework
打包 XCFramework 的方法 XCFramework 是苹果推出的一种多平台二进制分发格式，可以包含多个架构和平台的代码。打包 XCFramework 通常用于分发库或框架。 使用 Xcode 命令行工具打包 通过 xcodebuild 命令可以打包 XCFramework。确保项目已经配置好需要支持的平台…...
调用支付宝接口响应40004 SYSTEM_ERROR问题排查
在对接支付宝API的时候，遇到了一些问题，记录一下排查过程。 Body:{"datadigital_fincloud_generalsaas_face_certify_initialize_response":{"msg":"Business Failed","code":"40004","sub_msg…...
CMake基础：构建流程详解
目录 1.CMake构建过程的基本流程 2.CMake构建的具体步骤 2.1.创建构建目录 2.2.使用 CMake 生成构建文件 2.3.编译和构建 2.4.清理构建文件 2.5.重新配置和构建 3.跨平台构建示例 4.工具链与交叉编译 5.CMake构建后的项目结构解析 5.1.CMake构建后的目录结构 5.2.构…...
Robots.txt 文件
什么是robots.txt？ robots.txt 是一个位于网站根目录下的文本文件（如：https://example.com/robots.txt），它用于指导网络爬虫（如搜索引擎的蜘蛛程序）如何抓取该网站的内容。这个文件遵循 Robots…...
AI编程--插件对比分析：CodeRider、GitHub Copilot及其他
AI编程插件对比分析：CodeRider、GitHub Copilot及其他 随着人工智能技术的快速发展，AI编程插件已成为提升开发者生产力的重要工具。CodeRider和GitHub Copilot作为市场上的领先者，分别以其独特的特性和生态系统吸引了大量开发者。本文将从功…...
2025年渗透测试面试题总结-腾讯[实习]科恩实验室-安全工程师（题目+回答）
安全领域各种资源，学习文档，以及工具分享、前沿信息分享、POC、EXP分享。不定期分享各种好玩的项目及好用的工具，欢迎关注。 目录 腾讯[实习]科恩实验室-安全工程师 一、网络与协议 1. TCP三次握手 2. SYN扫描原理 3. HTTPS证书机制 二…...
uniapp手机号一键登录保姆级教程（包含前端和后端）
目录 前置条件创建uniapp项目并关联uniClound云空间开启一键登录模块并开通一键登录服务编写云函数并上传部署获取手机号流程(第一种) 前端直接调用云函数获取手机号（第三种）后台调用云函数获取手机号 错误码常见问题 前置条件 手机安装有sim卡手机开启…...
Webpack性能优化：构建速度与体积优化策略
一、构建速度优化 1、升级Webpack和Node.js 优化效果：Webpack 4比Webpack 3构建时间降低60%-98%。原因： V8引擎优化（for of替代forEach、Map/Set替代Object）。默认使用更快的md4哈希算法。AST直接从Loa…...
软件工程 期末复习
瀑布模型：计划 螺旋模型：风险低 原型模型: 用户反馈 喷泉模型:代码复用 高内聚 低耦合：模块内部功能紧密 模块之间依赖程度小 高内聚：指的是一个模块内部的功能应该紧密相关。换句话说，一个模块应当只实现单一的功能…...