大模型调试debug记录
环境：Linux , cuda 11.7
- RuntimeError: Distributed package doesn't have NCCL built in
原因：pytorch安装的是cpu版本，需要安装支持gpu版本的
RuntimeError: Distributed package doesn't have NCCL built in - #3 by bdabykov - distributed - PyTorch Forums
2. NotImplementedError: Cannot copy out of meta tensor; no data!
原因：显存不够
相关文章：
大模型调试debug记录
环境：Linux , cuda 11.7 RuntimeError: Distributed package doesnt have NCCL built in 原因：pytorch安装的是cpu版本，需要安装支持gpu版本的 RuntimeError: Distributed package doesnt have NCCL built in - #3 by bdabykov - distrib…...
对话谷歌首席技术官肖恩，搜索引擎的里程碑，来看看搜索引擎界的大哥Algolia的“快、准、狠”突围关键
原创 | 文 BFT机器人 人物背景 Character Background Sean Mullaney是Algolia（端到端人工智能搜索和发现平台）的首席技术官，也是前 Stripe和谷歌高管，拥有扩展工程组织、开发人工智能驱动的搜索和发现工具以及在全球范围内发展A…...
DP读书：鲲鹏处理器 架构与编程（十二）鲲鹏软件实战案例
10min速通了解鲲鹏软件实战案例 云服务器源码移植与编译配置云服务器Porting Advisor代码移植搭建交叉编译环境x86云服务器交叉编译 OpenSSL鲲鹏云服务器上编译 OpenSSL Docker的安装与应用安装DockerDocker运行与验证Docker常用命令卸载Docker安装适配鲲鹏架构的Docker镜像 KV…...
前端 -- 基础 VSCode 工具生成骨架标签新增代码 解释详解
目录 文档类型声明标签 Lang 语言种类 字符集 文档类型声明标签 <!DOCTYPE> 文档类型声明，作用就是告诉浏览器 当前的页面是 使用哪种 HTML 版本 来显示的网页 HTML 版本也很多呀 ，比如 ： HTML5 ,HTML4，XHTML 等…...
爬虫逆向实战（二十三）--某准网数据
一、数据接口分析 主页地址：某准网 1、抓包 通过抓包可以发现数据接口是api_to/search/company_v2.json 2、判断是否有加密参数 请求参数是否加密？ 通过查看“载荷”模块可以发现b参数和kiv参数是加密参数 请求头是否加密？ 无响应是否加…...
ruoyi--数据权限
这篇文章我先和大家分析一下 RuoYi-Vue 脚手架中 DataScope 注解的实现原理，在 TienChin 项目视频中到时候还会有深入讲解。 1. 思路分析 首先我们先来捋一捋这里的权限实现的思路。 DataScope 注解处理的内容叫做数据权限，就是说你这个用户登录后能够…...
快速开发平台是什么？和传统开发平台相比有哪些区别？
本文可以从【快速开发平台的价值、和传统平台的区别、使用感受】三个方面来说明。 首先，我们要清楚快速开发平台是什么： 快速开发平台也称为低代码或无代码平台，旨在通过可视化工具、拖放式界面和预构建组件，使应用程序的开发过…...
Android基于JNI的Java与C++互调
java调用C++: #include <jni.h> //导出c函数格式 extern "C" JNIEXPORT //供JNI调用 JNICALL 函数名格式 Java_包名_类名_函数名(包名.替换为_) Java_com_example_getapplist_MainActivity_stringFromJNI 包名:com_example_getapplist 类名:MainActi…...
【算法与数据结构】513、LeetCode找树左下角的值
文章目录 一、题目二、解法三、完整代码 所有的LeetCode题解索引，可以看这篇文章——【算法和数据结构】LeetCode题解。 一、题目 二、解法 思路分析：这道题用层序遍历来做比较简单，最底层最左边节点就是层序遍历当中最底层元素容器的第一个值…...
React——组件缓存 react-activation
1、安装依赖 npm i -S react-activation 2、包裹根组件 import { AliveScope } from "react-activation"<AliveScope><App /> </AliveScope> 3、缓存组件 import { KeepAlive } from "react-activation"export default () > {co…...
EV代码签名证书是什么？
在数字世界中，很多软件和应用都需要进行代码签名，以确保其来源可靠和安全，EV代码签名证书恰好都能做到，那么EV代码签名证书是什么？它有什么功能特点呢？下面的内容可以给到答案。 EV代码签名证书是什么&…...
融媒行业落地客户旅程编排，详解数字化用户运营实战
移动互联网时代是流量红利的时代，企业常用低成本的方式进行获客，“增长黑客”的概念大范围传播。与此同时，机构媒体受到传播环境的影响，也开始启动全行业的媒体融合转型。在此背景下，2015 年神策数据成立，核…...
PDF制作成翻页电子书
在日常工作中，大部分人使用的都是PDF文档发送给客户，但是PDF文档通常是静态的，缺乏交互性和视觉吸引力。那你有没有想过把它转换成翻页的电子书呢？ 小编将告诉你操作步骤，非常简单 1.搜索FLBOOK在线制作电子杂志平台 …...
多线程
1. 线程池 1.1 线程状态介绍 当线程被创建并启动以后，它既不是一启动就进入了执行状态，也不是一直处于执行状态。线程对象在不同的时期有不同的状态。那么Java中的线程存在哪几种状态呢？Java中的线程 状态被定义在了java.lang.Thread.Stat…...
BingChat与ChatGPT比较，哪个聊天机器人能让你获益更多？
人工智能领域的最新进展为普通人创造新的收入来源提供了更多机会。今年早些时候，微软对OpenAI进行了大量投资。此后，微软在Microsoft Edge浏览器中推出了自家的聊天机器人Bing Chat。 在论坛和社交媒体上，你可以发现这两个AI工具都吸引了很…...
、XML)
Qt读写ini配置文件(QSettings)、XML
1、ini相关的 总结：Qt读写ini配置文件(QSettings) - 布丁Plus - 博客园 (cnblogs.com) Qt读写ini文件（含源码注释）_qt ini文件读写_lw向北.的博客-CSDN博客 2、XML相关的 Qt读写XML文件（含源码注释）_qt写xml_lw向北…...
JVM知识点（二）
1、G1垃圾收集器 -XX:MaxGCPauseMillis10，G1的参数，表示在任意1s时间内，停顿时间不能超过10ms；G1将堆切分成很多小堆区（Region），每一个Region可以是Eden、Survivor或Old区；这些区在…...
代码随想录算法训练营day44 | LeetCode 518. 零钱兑换 II 377. 组合总和 Ⅳ
今晚学习了完全背包的做法，和01背包的差别具体来说就是一个可以重复，一个不可以重复。体现在数组的遍历中来说就是完全背包不能用二维数组做法（因为二维dp数组一定不会重复，但是还没验证过），只能用一维dp数…...
Vue2向Vue3过度核心技术工程化开发和脚手架
目录 1 工程化开发和脚手架1.1 开发Vue的两种方式1.2.脚手架Vue CLI 2 项目目录介绍和运行流程2.1 项目目录介绍2.2 运行流程 3 组件化开发4 根组件 App.vue4.1 根组件介绍4.2 组件是由三部分构成4.3 总结 5 普通组件的注册使用-局部注册5.1 特点：5.2 步骤ÿ…...
Expected all tensors to be on the same device, but found at least two devices
Expected all tensors to be on the same device, but found at least two devices, 原因是计算的过程中，两个不同类型的变量在一起进行运算，即一个变量存储在gpu中，一个变量存储在cpu中，两个变量的存储位置冲突，导致无…...
[特殊字符] 智能合约中的数据是如何在区块链中保持一致的？
🧠 智能合约中的数据是如何在区块链中保持一致的？ 为什么所有区块链节点都能得出相同结果？合约调用这么复杂，状态真能保持一致吗？本篇带你从底层视角理解“状态一致性”的真相。 一、智能合约的数据存储在哪里…...
linux之kylin系统nginx的安装
一、nginx的作用 1.可做高性能的web服务器 直接处理静态资源（HTML/CSS/图片等），响应速度远超传统服务器类似apache支持高并发连接 2.反向代理服务器 隐藏后端服务器IP地址，提高安全性 3.负载均衡服务器 支持多种策略分发流量…...
C++_核心编程_多态案例二-制作饮品
#include <iostream> #include <string> using namespace std;/*制作饮品的大致流程为：煮水 - 冲泡 - 倒入杯中 - 加入辅料 利用多态技术实现本案例，提供抽象制作饮品基类，提供子类制作咖啡和茶叶*//*基类*/ class AbstractDr…...
深入剖析AI大模型：大模型时代的 Prompt 工程全解析
今天聊的内容，我认为是AI开发里面非常重要的内容。它在AI开发里无处不在，当你对 AI 助手说 "用李白的风格写一首关于人工智能的诗"，或者让翻译模型 "将这段合同翻译成商务日语" 时，输入的这句话就是 Prompt。…...
Qt/C++开发监控GB28181系统/取流协议/同时支持udp/tcp被动/tcp主动
一、前言说明 在2011版本的gb28181协议中，拉取视频流只要求udp方式，从2016开始要求新增支持tcp被动和tcp主动两种方式，udp理论上会丢包的，所以实际使用过程可能会出现画面花屏的情况，而tcp肯定不丢包，起码…...
MFC内存泄露
1、泄露代码示例 void X::SetApplicationBtn() {CMFCRibbonApplicationButton* pBtn GetApplicationButton();// 获取 Ribbon Bar 指针// 创建自定义按钮CCustomRibbonAppButton* pCustomButton new CCustomRibbonAppButton();pCustomButton->SetImage(IDB_BITMAP_Jdp26)…...
系统设计 --- MongoDB亿级数据查询优化策略
系统设计 --- MongoDB亿级数据查询分表策略 背景Solution --- 分表 背景 使用audit log实现Audi Trail功能 Audit Trail范围: 六个月数据量: 每秒5-7条audi log，共计7千万 – 1亿条数据需要实现全文检索按照时间倒序因为license问题，不能使用ELK只能使用…...
测试markdown--肇兴
day1： 1、去程：7:04 --11:32高铁 高铁右转上售票大厅2楼，穿过候车厅下一楼，上大巴车 ￥10/人 **2、到达：**12点多到达寨子，买门票，美团/抖音：￥78人 3、中饭&a…...
Robots.txt 文件
什么是robots.txt？ robots.txt 是一个位于网站根目录下的文本文件（如：https://example.com/robots.txt），它用于指导网络爬虫（如搜索引擎的蜘蛛程序）如何抓取该网站的内容。这个文件遵循 Robots…...
【C++从零实现Json-Rpc框架】第六弹 —— 服务端模块划分
一、项目背景回顾 前五弹完成了Json-Rpc协议解析、请求处理、客户端调用等基础模块搭建。 本弹重点聚焦于服务端的模块划分与架构设计，提升代码结构的可维护性与扩展性。 二、服务端模块设计目标 高内聚低耦合：各模块职责清晰，便于独立开发…...