人工智能_普通服务器CPU_安装清华开源人工智能AI大模型ChatGlm-6B_001---人工智能工作笔记0096
使用centos安装,注意安装之前,保证系统可以联网,然后执行yum update
先去更新一下系统,可以省掉很多麻烦 20240219_150031
这里我们使用centos系统吧,使用习惯了.
ChatGlm首先需要一台个人计算机,或者服务器,
要的算力,训练最多,微调次之,推理需要算力最少
其实很多都支持CPU,但为什么要用GPU,因为CPU,占用内存要32G以上,然后,
CPU回答问题,需要十几分钟或者半个小时才有结果.
ChatGPT的训练一次要1200万美元...成本很高.
如果你想用8G内存,普通电脑安装就算了,装不上的,至少32G内存,才能安装最小的,并且,安装不会顺利可能出现,多次安装不成功的情况,需要多次尝试,所以最好用AI服务器吧,或者租用在线的AI服务器,AI服务器安装版,那个博文里有推荐AI服务器租用.
使用普通CPU,32G安装有个问题,以后回答问题会很慢,大概10到25分钟才能给出回答结果.
使用算力
1.首先说明:GitHub的官网是:
https://github.com/THUDM/ChatGLM-6B从这里可以下载:
这样下载就可以了,这个是算法,代码,并不大,大小只有不到7MB
相关文章：
人工智能_普通服务器CPU_安装清华开源人工智能AI大模型ChatGlm-6B_001---人工智能工作笔记0096
使用centos安装,注意安装之前,保证系统可以联网,然后执行yum update 先去更新一下系统,可以省掉很多麻烦 20240219_150031 这里我们使用centos系统吧,使用习惯了. ChatGlm首先需要一台个人计算机,或者服务器, 要的算力,训练最多,微调次之,推理需要算力最少 其实很多都支持C…...
分层钱包HD钱包
bc1 开头的通常指的是比特币（Bitcoin）的地址，这种格式遵循了比特币改进提案BIP 0173中定义的Bech32编码格式。Bech32地址也被称为"SegWit"地址，它们支持Segregated Witness功能，这是比特币网络为了提高区块链…...
基于python+mysql的宠物领养网站系统
功能介绍 平台采用B/S结构，后端采用主流的Python语言进行开发，前端采用主流的Vue.js进行开发。 整个平台包括前台和后台两个部分。 前台功能包括：首页、宠物详情页、用户中心模块。后台功能包括：总览、领养管理、宠物管理、分类…...
机器学习入门--门控循环单元(GRU)原理与实践
GRU模型 随着深度学习领域的快速发展，循环神经网络（RNN）已成为自然语言处理（NLP）等领域中常用的模型之一。但是，在RNN中，如果时间步数较大，会导致梯度消失或爆炸的问题，…...
GitHub Actions
GitHub Actions GitHub Actions 是 GitHub 提供的一种持续集成（CI）和持续部署（CD）解决方案。它可以让你在 GitHub 仓库中直接自动化、定制化和执行软件开发工作流程。 比如，当有新的推送到仓库或者新的 Pull Request…...
harmony 鸿蒙系统学习 安装ohpm报错 ohpm install failed
一. 安装配置 DevEco Studio 安装包时报错 execute ohpm install failed. Install task failed: ArkTS 3.2.12.5. Install ArkTS dependencies failed. 解决办法 找原因，首先，我的电脑中之前安装过node，也许是因为这个。（其实…...
MySQL Replication
0 序言 MySQL Replication 是 MySQL 中的一个功能，允许从一个 MySQL 数据库服务器（称为主服务器或 master）复制数据和数据库结构到另一个服务器（称为从服务器或 slave）。这种复制是异步的，意味着从服务器不…...
redis分布式锁redisson
文章目录 1. 分布式锁1.1 基本原理和实现方式对比synchronized锁在集群模式下的问题多jvm使用同一个锁监视器分布式锁概念分布式锁须满足的条件分布式锁的实现 1.2 基于Redis的分布式锁获取锁&释放锁操作示例 基于Redis实现分布式锁初级版本ILock接口SimpleRedisLock使用示…...
制作一个简单的html网页
1. 特效按钮 2 可以独立使用的一个页面 3 底部小时钟 <!DOCTYPE html> <html> <head><title>Simple Webpage</title><style>/* 禁止鼠标右键 */body {-webkit-touch-callout: none; /* iOS Safari */-webkit-user-select: none; …...
js filter,every,includes 过滤数组
背景： 页面：在项目中遇到的，前端页面显示为，顶部是下拉搜索条件,下面是一个表格； 数据：接口请求一次性拿到所有：搜索条件里的下拉选项和表格中的数据； 现状：需要前端在搜…...
jenkins自动化部署
Jenkins安装 安装前提条件 yum install java-1.8.0-openjdk* git maven -y 1.下载jenkins wget https://mirrors.tuna.tsinghua.edu.cn/jenkins/redhat/jenkins-2.346-1.1.noarch.rpm --no-check-certificate jenkins的安装路径： /var/lib/jenkins/ …...
【JavaScript】分支语句
目录 一、if语句 二、三元运算符 三、switch语句 JS中分支语句可以分为三种，分别是if语句、三元运算符、switch语句。 一、if语句 let num 10 if (num > 20) {console.log("大于20"); } else if (num < 20) {console.log("小于20");…...
【开源】SpringBoot框架开发农家乐订餐系统
目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 用户2.2 管理员 三、系统展示四、核心代码4.1 查询菜品类型4.2 查询菜品4.3 加购菜品4.4 新增菜品收藏4.5 新增菜品留言 五、免责说明 一、摘要 1.1 项目介绍 基于JAVAVueSpringBootMySQL的农家乐订餐系统，…...
OSQP文档学习
OSQP官方文档 1 QSQP简介 OSQP求解形式为的凸二次规划： x ∈ R n x∈R^n x∈Rn：优化变量 P ∈ S n P∈S^n_ P∈Sn：半正定矩阵 特征 （1）高效：使用了一种自定义的基于ADMM的一阶方法，只需…...
ONLYOFFICE 8.0：引领数字化办公新纪元
目录 前言 软件安装 软件启动 软件新版本特性 个人评价 总结 前言 在当今快节奏的数字化世界中，高效的办公软件已成为企业竞争力的关键因素。ONLYOFFICE，作为全球领先的办公解决方案提供商，始终致力于通过技术创新来优化用户体验。如今…...
「Linux」基础命令
目录结构 Linux只有1个顶级目录，称为“根目录”路径之间的层级关系，使用/来表示，例如：/usr/local/hello.txt 开头的/表示根目录后面的/表示层级关系 命令入门 命令的通用格式：command [ -options ] [ parameter] c…...
三防平板丨平板终端丨加固平板丨户外勘测应用
随着科技的不断发展，现代勘测业也在不断升级。相较于传统的勘测设备，三防平板在户外勘测中有着广泛的应用。那么，三防平板在户外勘测中究竟有哪些优势呢？ 首先，三防平板具备极强的防水、防尘、防摔能力。在野外勘测中&…...
npm ERR! code CERT_HAS_EXPIRED：解决证书过期问题
转载：npm ERR! code CERT_HAS_EXPIRED：解决证书过期问题_npm err! code cert_has_expired npm err! errno cert-CSDN博客 npm config set registry http://registry.cnpmjs.org npm config set registry http://registry.npm.taobao.org...
npm报错之package-lock.json found. 问题和淘宝镜像源过期问题
1、package-lock.json found. 问题的解决 在执行yarn add react-transition-group -S 安装react-transition-group时出现package-lock.json found. Your project contains lock files generated by tools other than Yarn. It is advised not to mix package managers in orde…...
大模型提示学习、Prompting微调知识
为什么需要提示学习？ 提示学习是一种在自然语言处理任务中引入人类编写的提示或示例来辅助模型生成更准确和有意义的输出的技术。以下是一些使用提示学习的原因： 解决模糊性：在某些任务中，输入可能存在歧义或模糊性，通…...
Docker 离线安装指南
参考文章 1、确认操作系统类型及内核版本 Docker依赖于Linux内核的一些特性，不同版本的Docker对内核版本有不同要求。例如，Docker 17.06及之后的版本通常需要Linux内核3.10及以上版本，Docker17.09及更高版本对应Linux内核4.9.x及更高版本。…...
Linux 文件类型，目录与路径，文件与目录管理
文件类型 后面的字符表示文件类型标志 普通文件：-（纯文本文件，二进制文件，数据格式文件） 如文本文件、图片、程序文件等。 目录文件：d（directory） 用来存放其他文件或子目录。 设备…...
Go 语言接口详解
Go 语言接口详解 核心概念 接口定义 在 Go 语言中，接口是一种抽象类型，它定义了一组方法的集合： // 定义接口 type Shape interface {Area() float64Perimeter() float64 } 接口实现 Go 接口的实现是隐式的： // 矩形结构体…...
【单片机期末】单片机系统设计
主要内容：系统状态机，系统时基，系统需求分析，系统构建，系统状态流图 一、题目要求 二、绘制系统状态流图 题目：根据上述描述绘制系统状态流图，注明状态转移条件及方向。 三、利用定时器产生时…...
uniapp微信小程序视频实时流+pc端预览方案
方案类型技术实现是否免费优点缺点适用场景延迟范围开发复杂度WebSocket图片帧定时拍照Base64传输✅ 完全免费无需服务器 纯前端实现高延迟高流量 帧率极低个人demo测试 超低频监控500ms-2s⭐⭐RTMP推流TRTC/即构SDK推流❌ 付费方案 （部分有免费额度&#x…...
Matlab | matlab常用命令总结
常用命令 一、 基础操作与环境二、 矩阵与数组操作（核心）三、 绘图与可视化四、 编程与控制流五、 符号计算 (Symbolic Math Toolbox)六、 文件与数据 I/O七、 常用函数类别重要提示这是一份 MATLAB 常用命令和功能的总结，涵盖了基础操作、矩阵运算、绘图、编程和文件处理等…...
Map相关知识
数据结构 二叉树 二叉树，顾名思义，每个节点最多有两个“叉”，也就是两个子节点，分别是左子 节点和右子节点。不过，二叉树并不要求每个节点都有两个子节点，有的节点只 有左子节点，有的节点只有…...
Spring AI与Spring Modulith核心技术解析
Spring AI核心架构解析 Spring AI（https://spring.io/projects/spring-ai）作为Spring生态中的AI集成框架，其核心设计理念是通过模块化架构降低AI应用的开发复杂度。与Python生态中的LangChain/LlamaIndex等工具类似，但特别为多语…...
C++ Visual Studio 2017厂商给的源码没有.sln文件 易兆微芯片下载工具加开机动画下载。
1.先用Visual Studio 2017打开Yichip YC31xx loader.vcxproj，再用Visual Studio 2022打开。再保侟就有.sln文件了。 易兆微芯片下载工具加开机动画下载 ExtraDownloadFile1Info.\logo.bin|0|0|10D2000|0 MFC应用兼容CMD 在BOOL CYichipYC31xxloaderDlg::OnIni…...
Java多线程实现之Thread类深度解析
Java多线程实现之Thread类深度解析 一、多线程基础概念1.1 什么是线程1.2 多线程的优势1.3 Java多线程模型 二、Thread类的基本结构与构造函数2.1 Thread类的继承关系2.2 构造函数 三、创建和启动线程3.1 继承Thread类创建线程3.2 实现Runnable接口创建线程 四、Thread类的核心…...