人工智能_AI服务器安装清华开源_CHATGLM大语言模型_GLM-6B安装部署_人工智能工作笔记0092
看到的这个开源的大模型,很牛,~关键让我们自己也可以部署体验一把了,虽然不知道具体内部怎么构造的但是,也可以自己使用也挺好.
可以部署在自己的机器上也可以部署在云服务器上.
安装以后,是可以使用python代码进行提问,然后返回结果的,这样就可以实现我们自己的chat应用了,
非常不错.但是毕竟是6B 现在已经是130B了,但是那个模型是不开源的
当然也可以使用我们自己的数据集,让这个算法进行自动学习和微调,然后来做预测,但是
这样的话需要我们自己去整理数据集,这部分需要看相关的部署和微调的教程.
这里对应的是官网地址,部署的云服务器,还有模型
https://chatglm.cn/bloghttps://www.heywhale.com/mw/project/6436d82948f7da1fee2be59e这里也有详细的部署和微调
上面是官网的地址,有blog
可以看到开源的是CHATGLM-6B训练数据有62亿
相关文章：
人工智能_AI服务器安装清华开源_CHATGLM大语言模型_GLM-6B安装部署_人工智能工作笔记0092
看到的这个开源的大模型,很牛,~关键让我们自己也可以部署体验一把了,虽然不知道具体内部怎么构造的但是,也可以自己使用也挺好. 可以部署在自己的机器上也可以部署在云服务器上. 安装以后,是可以使用python代码进行提问,然后返回结果的,这样就可以实现我们自己的chat应用了, …...
用户反馈组件实现（Vue3+ElementPlus）含图片拖拽上传
用户反馈组件实现（Vue3ElementPlus）含图片拖拽上传 1. 页面效果1.1 正常展示1.2 鼠标悬浮1.3 表单 2. 代码部分1.2 html、ts1.2 less部分 3. 编码过程遇到的问题 1. 页面效果 1.1 正常展示 1.2 鼠标悬浮 1.3 表单 2. 代码部分 1.2 html、ts <templ…...
K8S部署nginx并且使用NFS存储数据
安装NFS 在master安装NFS systemctl start nfs-server修改配置 /etc/exports /data *(rw,no_root_squash,no_all_squash,sync)目录为 /data 允许所有地址访问 验证下 [rootmaster nginx]# showmount -e 192.168.57.61 Export list for 192.168.57.61: /data *共享可以正常…...
Homework 3: Higher-Order Functions, Self Reference, Recursion, Tree Recursion
Q1: Compose 编写一个高阶函数composer，它返回两个函数func和func_adder。 func是一个单参数函数，它应用到目前为止已经组合的所有函数。这些函数将首先应用最新的函数（参见doctests和示例）。 func_adder用于向我们的组合添加更多…...
(C++)有效三角形的个数--双指针法
个人主页：Lei宝啊 愿所有美好如期而遇 力扣（LeetCode）官网 - 全球极客挚爱的技术成长平台备战技术面试？力扣提供海量技术面试资源，帮助你高效提升编程技能，轻松拿下世界 IT 名企 Dream Offer。https://le…...
11.30BST理解，AVL树操作，定义；快速幂，二分求矩阵幂（未完）
完全二叉树结点的度可能有1，满二叉树的度只能为0或2 BST构建 BST是左孩子都比根节点小，右孩子都比根节点大 二叉搜索树的插入，删除，调整 平衡树理解 任何一个平衡二叉树，它的中序遍历都是一样的，都是有…...
深入理解Java核心技术：Java工程师的实用干货笔记
💂 个人网站:【 海拥】【神级代码资源网站】【办公神器】🤟 基于Web端打造的：👉轻量化工具创作平台💅 想寻找共同学习交流的小伙伴，请点击【全栈技术交流群】 在Java工程师的职业生涯中，深入理解…...
大学里面转专业介绍
目录 个人情况转专业过程中的经验分享转专业后的学习建议和心态调整转专业后的时间平衡 个人情况 信息科学与工程学院计算机科学与技术专业2019级本科生，曾从物理与微电子科学学院后转入信息科学与技术学院。学习成绩连续三年专业前10% 项目：爬虫项目、…...
MySQL_1. mysql数据库介绍
shell脚本差不多快完结了接下来会为大家更新MySQL系列的相关的基础知识笔记，希望对大家有所帮助，好废话不多说，接下来开始正题！ 1.mysql数据库介绍 mysql 是一款安全、跨平台、高效的，并与 PHP、Java 等主流编程语言…...
TimeGPT：时间序列预测模型实例
时间序列预测领域正在经历一个非常激动人心的时期。在过去的三年里，我们见证了许多重要的贡献，如N-BEATS、N-HiTS、PatchTST和TimesNet等。同时，大型语言模型（LLM）近来在流行度方面取得了很大的成功，例如Ch…...
【JavaEE】多线程 (1)
目录 1. 认识线程（Thread） 1) 线程是什么 2) 为啥要有线程 3) 进程和线程的区别 2.第⼀个多线程程序 3.多线程的其他创建方式 方法二:实现 Runnable 接⼝ 方法三:匿名内部类 方法四:实现Runable, 重写run, 匿名内部类 方法五:使用lambda表达式…...
linux 应用层同步与互斥机制之条件变量
2、条件变量 互斥量防止多个线程同时访问同一共享变量。（我们称为互斥） 有一种情况，多个线程协同工作。一个线程的消费需要等待另一个线程的产出。必须线程B完成了应有的任务，满足了某一个条件，线程A才能继续执行。&…...
3.5毫米音频连接器接线方式
3.5毫米音频连接器接线方式 耳机插头麦克风插头 绘制电路图注意事项 3.5毫米音频连接器分为单声道开关型和无开关型如下图： sleeve（套筒） tip（尖端） ring（环） 耳机插头 麦克风插头 绘制电路图…...
智慧农田可视化大数据综合管理平台方案，EasyCVR助力农业高质量发展
一、背景需求 我国是农业大国，农业耕地面积达到20亿亩。随着物联网、大数据、人工智能等新一代信息技术与农业农村加速融合，以及国家对农业的重视，智慧农业对于我国农业现代化建设和实施乡村振兴战略具有重大引领与推动作用。在传统农田生产…...
python超详细基础文件操作【建议收藏】
文章目录 前言1 文件操作1.1 文件打开与关闭1.1.1 打开文件1.1.2 关闭文件 1.2 访问模式及说明 2 文件读写2.1 写数据（write）2.2 读数据（read）2.3 读数据（readlines）2.3 读数据（readline&#x…...
华为变革进展指数TPM的五个级别：试点级、推行级、功能级、集成级和世界级
华为变革进展指数TPM的五个级别：试点级、推行级、功能级、集成级和世界级 TPM（Transformation Progress Metrics，变革进展指标）用来衡量管理体系在华为的推行程度和推行效果，并找出推行方面的不足与问题，…...
vue el-select多选封装及使用
使用了Element UI库中的el-select和el-option组件来构建多选下拉框。同时，也包含了一个el-input组件用于过滤搜索选择项，以及el-checkbox-group和el-checkbox组件用于显示多选项。 创建组件index.vue (src/common-ui/selectMultiple/index.vue) <tem…...
大模型上下文学习（ICL）训练和推理两个阶段31篇论文
大模型都火了这么久了，想必大家对LLM的上下文学习（In-Context Learning）能力都不陌生吧？ 以防有的同学不太了解，今天我就来简单讲讲。 上下文学习（ICL）是一种依赖于大型语言模型的学习任务方式…...
WordPress（安装比子主题文件）zibll-7.5.1
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言一、新建网站二、配置ssl三.配置伪静态四.上传文件五.添加本地访问前言 提示：这里可以添加本文要记录的大概内容： 首先，我们要先理解什么是授权原理。 原理就是我们大家运营网站，点击授权…...
蓝桥杯 动态规划
01 数字三角形 #include<bits/stdc.h> using namespace std; const int N105; using lllong long; ll a[N][N],dp[N][N]; int main(){int n;cin>>n;for(int i1;i<n;i){for(int j1;j<i;j){cin>>a[i][j];}}for(int i5;i>1;i--){for(int j1;j<i;j){…...
web vue 项目 Docker化部署
Web 项目 Docker 化部署详细教程 目录 Web 项目 Docker 化部署概述Dockerfile 详解 构建阶段生产阶段 构建和运行 Docker 镜像 1. Web 项目 Docker 化部署概述 Docker 化部署的主要步骤分为以下几个阶段： 构建阶段（Build Stage）：…...
大数据学习栈记——Neo4j的安装与使用
本文介绍图数据库Neofj的安装与使用，操作系统：Ubuntu24.04，Neofj版本：2025.04.0。 Apt安装 Neofj可以进行官网安装：Neo4j Deployment Center - Graph Database & Analytics 我这里安装是添加软件源的方法 最新版…...
应用升级/灾备测试时使用guarantee 闪回点迅速回退
1.场景 应用要升级,当升级失败时,数据库回退到升级前. 要测试系统,测试完成后,数据库要回退到测试前。 相对于RMAN恢复需要很长时间， 数据库闪回只需要几分钟。 2.技术实现 数据库设置 2个db_recovery参数 创建guarantee闪回点，不需要开启数据库闪回。…...
SciencePlots——绘制论文中的图片
文章目录 安装一、风格二、1 资源 安装 # 安装最新版 pip install githttps://github.com/garrettj403/SciencePlots.git# 安装稳定版 pip install SciencePlots一、风格 简单好用的深度学习论文绘图专用工具包–Science Plot 二、 1 资源 论文绘图神器来了：一行…...
python/java环境配置
环境变量放一起 python： 1.首先下载Python Python下载地址：Download Python | Python.org downloads ---windows -- 64 2.安装Python 下面两个，然后自定义，全选 可以把前4个选上 3.环境配置 1）搜高级系统设置 2…...
测试markdown--肇兴
day1： 1、去程：7:04 --11:32高铁 高铁右转上售票大厅2楼，穿过候车厅下一楼，上大巴车 ￥10/人 **2、到达：**12点多到达寨子，买门票，美团/抖音：￥78人 3、中饭&a…...
Unit 1 深度强化学习简介
Deep RL Course ——Unit 1 Introduction 从理论和实践层面深入学习深度强化学习。学会使用知名的深度强化学习库，例如 Stable Baselines3、RL Baselines3 Zoo、Sample Factory 和 CleanRL。在独特的环境中训练智能体，比如 SnowballFight、Huggy the Do…...
uniapp中使用aixos 报错
问题： 在uniapp中使用aixos，运行后报如下错误： AxiosError: There is no suitable adapter to dispatch the request since : - adapter xhr is not supported by the environment - adapter http is not available in the build 解决方案&…...
大语言模型（LLM）中的KV缓存压缩与动态稀疏注意力机制设计
随着大语言模型（LLM）参数规模的增长，推理阶段的内存占用和计算复杂度成为核心挑战。传统注意力机制的计算复杂度随序列长度呈二次方增长，而KV缓存的内存消耗可能高达数十GB（例如Llama2-7B处理100K token时需50GB内存&a…...
Reasoning over Uncertain Text by Generative Large Language Models
https://ojs.aaai.org/index.php/AAAI/article/view/34674/36829https://ojs.aaai.org/index.php/AAAI/article/view/34674/36829 1. 概述 文本中的不确定性在许多语境中传达，从日常对话到特定领域的文档（例如医学文档）（Heritage 2013；Landmark、Gulbrandsen 和 Svenevei…...