当前位置： 首页 > article >正文

Unity AI-使用Ollama本地大语言模型运行框架运行本地Deepseek等模型实现聊天对话（一）

article 2025/10/12 4:27:12

一、Ollama介绍

官方网页：Ollama官方网址
中文文档参考：Ollama中文文档
相关教程：Ollama教程

Ollama 是一个开源的工具，旨在简化大型语言模型（LLM）在本地计算机上的运行和管理。它允许用户无需复杂的配置即可在本地部署和运行如Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2 和其他模型，适合开发者、研究人员以及对隐私和离线使用有需求的用户。

二、核心功能

  1. 本地运行模型​
    直接在个人电脑或服务器上运行模型，无需依赖云服务，保障数据隐私和离线可用性。
  2. ​多平台支持​
    支持 macOS、Linux、Windows，并提供 Docker 镜像，方便跨平台部署。
  3. ​模型管理​
    通过命令行轻松下载、更新或删除模型（如 ollama run llama2）。
  4. API 集成​
    提供 RESTful API，便于与其他应用（如 Python 脚本、自定义工具）集成。
  5. 多模型支持​
    兼容Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2 等，部分支持自定义模型加载。

三、Ollama安装

1、硬件要求

内存至少 8GB RAM，运行较大模型时推荐 16GB 或更高。部分大模型需显卡加速（如 NVIDIA GPU + CUDA）。

2、下载安装

官网
官方网站下载对应版本。
下载
下载完成后，打开安装程序并按照提示完成安装。
安装完成可以打开命令行管理器（CMD）或Powershell输入下面指令验证安装是否成功

ollama --version

成功

3、运行模型

ollama run llama3.2

执行以上命令如果没有该模型会去下载 llama3.2 模型

ollama run deepseek-r1:7b

如果使用deepseekR1模型将命令替换为deepseek即可,7b是运行的模型大小

支持的模型访问ollama模型
对话
输入内容实现与模型对话（示例为llama3.2模型）

相关文章：

Unity AI-使用Ollama本地大语言模型运行框架运行本地Deepseek等模型实现聊天对话（一）

一、Ollama介绍 官方网页：Ollama官方网址 中文文档参考：Ollama中文文档 相关教程：Ollama教程 Ollama 是一个开源的工具，旨在简化大型语言模型（LLM）在本地计算机上的运行和管理。它允许用户无需复杂的配置…...

编程日记 2025/9/17 6:57:57

terraform使用vault动态管多理云账号AK/SK

为了使用 Terraform 和 HashiCorp Vault 动态管理多个云账号的 Access Key (AK) 和 Secret Key (SK)，可以按照以下步骤实现安全、自动化的凭证管理： 一、架构概述 核心组件： Vault：存储或动态生成云账号的 AK/SK，提供…...

编程日记 2025/8/11 5:52:27

SAP /SDF/SMON配置错误会导致HANA OOM以及Disk Full的情况

一般来说，为了保障每日信息收集，每个企业都会配置/SDF/SMON的监控。这样在出现性能问题时，可以通过收集到的snapshot进行分析检查。如果/SDF/SMON在配置时选取了过多的记录项，或者选择了过低的时间间隔[Interval in seconds],那显…...

编程日记 2025/10/6 8:16:12

CMU和苹果公司合作研究机器人长序列操作任务，提出ManipGen

我们今天来介绍一项完成Long-horizon任务的一项新的技术：ManipGen。 什么叫Long-horizon？就是任务比较长。说到底，也是任务比较复杂。 那么这个技术就给我们提供了一个非常好的解决这类问题的思路，同时，也取得了不错的…...

编程日记 2025/9/17 6:57:50

大模型（LLMs）强化学习—— PPO

一、大语言模型RLHF中的PPO主要分哪些步骤？ 二、举例描述一下 大语言模型的RLHF？ 三、大语言模型RLHF 采样篇 什么是 PPO 中 采样过程？介绍一下 PPO 中 采样策略？PPO 中 采样策略中，如何评估“收益”？ …...

编程日记 2025/9/17 6:57:40

[Python开发] 如何用 VSCode 编写和管理 Python 项目（从 PyCharm 转向）

在 Python 开发领域，PyCharm 一直是广受欢迎的 IDE，但其远程开发功能（如远程 SSH 调试）仅在付费版中提供。为了适应服务器部署需求，很多开发者开始将目光转向更加轻量、灵活且免费扩展能力强的 VSCode。本篇文章将详细介绍，从 PyCharm 转向 VSCode 后，如何高效搭建和管理…...

编程日记 2025/9/16 11:54:24

Maven多模块工程版本管理：flatten-maven-plugin扁平化POM

🧑 博主简介：CSDN博客专家，历代文学网（PC端可以访问：https://literature.sinhy.com/#/?__c1000，移动端可微信小程序搜索“历代文学”）总架构师，15年工作经验，精通Java编…...

编程日记 2025/10/2 19:09:00

视频汇聚平台EasyCVR赋能高清网络摄像机：打造高性价比视频监控系统

在现代视频监控系统中，高清网络摄像机作为核心设备，其性能和配置直接影响监控效果和整体系统的价值。本文将结合EasyCVR视频监控的功能，探讨如何在满足使用需求的同时，优化监控系统的设计，降低项目成本，并提…...

编程日记 2025/9/17 6:57:45

Unity 接入阿里的全模态大模型Qwen2.5-Omni

1 参考 根据B站up主阴沉的怪咖 开源的项目的基础上修改接入 AI二次元老婆开源项目地址(unity-AI-Chat-Toolkit): Github地址：https://github.com/zhangliwei7758/unity-AI-Chat-Toolkit Gitee地址：https://gitee.com/DammonSpace/unity-ai-chat-too…...

编程日记 2025/10/5 19:13:40

Nginx知识点

Nginx发展历史 Nginx 是由俄罗斯程序员 Igor Sysoev 开发的高性能开源 Web 服务器、反向代理服务器和负载均衡器 ，其历史如下： 起源与早期开发（2002 - 2004 年） 2002 年，当时 Igor Sysoev 在为俄罗斯门户网站 Rambl…...

编程日记 2025/10/5 14:36:08

NLP高频面试题（五十五）——DeepSeek系列概览与发展背景

大型模型浪潮背景 近年来，大型语言模型（Large Language Model, LLM）领域发展迅猛，从GPT-3等超大规模模型的崛起到ChatGPT的横空出世，再到GPT-4的问世，模型参数规模和训练数据量呈指数级增长。以GPT-3为例，参数高达1750亿，在570GB文本数据上训练，显示出模型规模、数据…...

编程日记 2025/10/4 20:23:32

详解 Unreal Engine（虚幻引擎）

详解 Unreal Engine（虚幻引擎） Unreal Engine（简称 UE）是由 Epic Games 开发的一款全球领先的实时渲染引擎，自 1998 年随首款游戏《Unreal》问世以来，已发展成为覆盖 游戏开发、影视制作、建筑可视化、汽车…...

编程日记 2025/10/9 20:18:38

Mysql从入门到精通day6————时间和日期函数精讲

关于Mysql的日期和时间计算函数种类非常繁多，此处我们对常用的一些函数的用法通过实例演示让读者体会他们的用法，文章末尾也给出了时间和日期计算的全部函数 函数1：curdate（）和current_date()函数 作用：获取当前日期 select curdate(),current_date();运行效果：...

编程日记 2025/10/4 20:31:12

逻辑漏洞安全

逻辑漏洞是指由于程序逻辑不严导致一些逻辑分支处理错误造成的漏洞。 在实际开发中，因为开发者水平不一没有安全意识，而且业务发展迅速内部测试没有及时到位，所以常常会出现类似的漏洞。 由于开发者/设计者在开发过程中，由于代码…...

编程日记 2025/10/4 20:35:00

Github 热点项目 rowboat 一句话生成多AI智能体！5分钟搭建企业级智能工作流系统

今日高星项目推荐：rowboat凭借1705总星数成为智能协作工具黑马！亮点速递：①自然语言秒变AI流水线——只需告诉它“帮外卖公司处理配送异常”，立刻生成多角色协作方案；②企业工具库即插即用，Python包HTTP接口…...

编程日记 2025/10/4 19:25:34

（26）VTK C++开发示例 ---将点坐标写入PLY文件

文章目录 1. 概述2. CMake链接VTK3. main.cpp文件4. 演示效果 更多精彩内容👉内容导航 👈👉VTK开发 👈 1. 概述 本示例演示了将球体数据写入ply文件，并从ply文件读取显示； PLY 文件（Polygon Fil…...

编程日记 2025/10/5 21:35:04

32BIT的SPI主机控制

SPI传输位数可参数化配置。 SPI_MASTER: timescale 1ns / 1ps module SPI_Master #(parameter CLK_FREQ 50,parameter SPI_CLK 1000,parameter CPOL 0,parameter CPHA 0 )(input clk,input rst_n,input WrRdReq, //读/写数据请求output …...

编程日记 2025/10/5 7:39:15

2025蓝桥省赛c++B组第二场题解

前言 这场的题目非常的简单啊，至于为什么有第二场，因为当时河北正在刮大风被迫停止了QwQ，个人感觉是历年来最简单的一场，如果有什么不足之处，还望补充。 试题 A: 密密摆放 【问题描述】 小蓝有一个大箱子&#xff0…...

编程日记 2025/9/17 6:58:17

vue3 vite打包后动态修改打包后的请求路径，无需打多个包给后端

整体思路和需求 部署多个服务器环境的时候，需要多次打包很麻烦，所以需要打包之后动态的修改 1.创建一个webconfig文件夹 2.在自己封装的接口文件中 判断是否在生产环境，然后将数据保存到vuex 中 代码： // 创建axios服务的函数 …...

编程日记 2025/10/7 2:41:04

Nacos-SpringBoot 配置无法自动刷新问题排查

背景 Nacos SpringBoot版本中，提供了NacosValue注解，支持控制台修改值时，自动刷新，但是今天遇见了无法自动刷新的问题。 环境 SpringBoot 2.2.x nacos-client：2.1.0 nacos-config-spring-boot-starter：0…...

编程日记 2025/9/17 6:58:08

【RabbitMQ消息队列】详解（一）

初识RabbitMQ RabbitMQ 是一个开源的消息代理软件，也被称为消息队列中间件，它遵循 AMQP（高级消息队列协议），并且支持多种其他消息协议。 核心概念 生产者（Producer）：创建消息并将其…...

编程日记 2025/10/7 0:36:32

FFmpeg之三 录制音频并保存， API编解码从理论到实战

在学习FFmpeg的时候，想拿demo来练习，官方虽有示例，但更像是工具演示，新手不好掌握，在网上找不到有文章，能给出完整的示例和关键点的分析说明，一步一个错误，慢慢啃过来的，…...

编程日记 2025/8/8 1:01:00

Kaamel白皮书：2025版COPPA落地实操指南

COPPA简介 《儿童在线隐私保护法案》（COPPA）于1998年在美国颁布，其最初的动因源于人们日益增长的对互联网上收集儿童个人信息的担忧。为了响应这一问题，联邦贸易委员会（FTC）被授权制定并执行相关法规。COP…...

编程日记 2025/7/16 3:45:16

Jenkins Pipeline 构建 CI/CD 流程

文章目录 jenkins 安装jenkins 配置jenkins 快速上手在 jenkins 中创建一个新的 Pipeline 作业配置Pipeline运行 Pipeline 作业 Pipeline概述Declarative PipelineScripted Pipeline jenkins 安装 安装环境： Linux CentOS 10：Linux CentOS9安装配置Jav…...

编程日记 2025/9/17 6:58:01

蓝桥杯 8. 移动距离

移动距离 原题目链接 题目描述 X 星球居民小区的楼房全是一样的，并且按矩阵样式排列。楼房的编号为 1, 2, 3, ⋯⋯。 当排满一行时，从下一行相邻的楼往反方向排号。 例如，当小区排号宽度为 6 时，排列如下： 1 2 …...

编程日记 2025/7/20 8:04:06

AJAX 介绍

一、什么是AJAX ? AJAX 是 异步的 JavaScript 和 XML（Asynchronous JavaScript And XML） 的缩写，是一种实现浏览器与服务器进行数据通信的技术。其核心是通过 XMLHttpRequest 对象在不重新刷新页面的前提下，与服务器交换数据并更…...

编程日记 2025/10/6 16:34:17

硬盘损坏数据恢复后对python程序的影响

最近硬盘突然间坏掉了&#xff0c;让数据商恢复了2个月今天终于拿到了恢复后的数据。 但是一测试问题就来了&#xff1a; PS E:\geosystem> python manage.py runserver 0.0.0.0:5000 Unhandled exception in thread started by <function check_errors.<locals>.…...

编程日记 2025/8/15 5:32:15

promis（resolve，reject）入门级别

JavaScript Promise 的定义 Promise 是一种用于处理异步操作的对象&#xff0c;表示一个可能已经完成或者尚未完成的操作的结果。它的核心作用在于简化复杂的回调嵌套问题&#xff08;即所谓的“回调地狱”&#xff09;&#xff0c;使异步代码更加清晰易读。 Promise 的状态 …...

编程日记 2025/9/25 14:58:19

w~嵌入式C语言~合集6

我自己的原文哦~ https://blog.51cto.com/whaosoft/13870384 一、开源MCU简易数字示波器项目 这是一款采用STC8A8K MCU制造的简单示波器&#xff0c;只有零星组件&#xff0c;易于成型。这些功能可以涵盖简单的测量&#xff1a; 该作品主要的规格如下&#xff1a; 单片机…...

编程日记 2025/10/6 4:51:33

学习海康VisionMaster之路径提取

一&#xff1a;进一步学习了 今天学习下VisionMaster中的路径提取&#xff1a;可在绘制的路径上等间隔取点或查找边缘点 二&#xff1a;开始学习 1&#xff1a;什么是路径提取&#xff1f; 相当于事先指定一段路径&#xff0c;然后在对应的路径上查找边缘&#xff0c;这个也是…...

编程日记 2025/10/5 4:08:34