InternVL 微调实践
任务
follow 教学文档和视频使用QLoRA进行微调模型，复现微调效果，并能成功讲出梗图.
复现过程
参考教程部署：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/InternVL/joke_readme.md
训练
合并权重&&模型转换
python3 xtuner/configs/internvl/v1_5/convert_to_official.py xtuner/configs/internvl/v2/internvl_v2_internlm2_2b_qlora_finetune.py /root/InternLM/work_dir/internvl_ft_run_8_filter/iter_1000.pth /root/InternLM/InternVL2-2B/
模型在这
最后效果
相关文章：
InternVL 微调实践
任务 follow 教学文档和视频使用QLoRA进行微调模型，复现微调效果，并能成功讲出梗图. 复现过程 参考教程部署：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/InternVL/joke_readme.md 训练 合并权重&&模型转换 pyth…...
自然语言处理在人工智能领域的发展历程，以及NLP重点模型介绍
大家好，我是微学AI，今天给大家介绍一下自然语言处理在人工智能领域的发展历程，以及NLP重点模型介绍。本文详细介绍了自然语言处理的发展历程，同时深入探讨了各种自然语言处理模型的原理与应用。文章首先回顾了自然语言处理技术的发…...
Replit Agent：AI驱动的全自动化软件开发革命
目录 引言Replit Agent核心功能使用场景与优势最新版本更新处理复杂项目的能力常见问题解决方案支持的编程语言和技术栈与其他AI编程工具的比较结语 引言 在人工智能快速发展的今天，软件开发领域正经历着前所未有的变革。Replit Agent作为AI初创公司Replit推出的…...
SAP调用发起泛微OA流程
SAP调用泛微Servlet接口，发起流程 编写servlet接口，给SAP调用 public class SAPCreateWorkflow extends HttpServlet{private static final long serialVersionUID 1L;public void doPost(HttpServletRequest request, HttpServletResponse response)…...
JAVA毕业设计184—基于Java+Springboot+vue3的企业信用信息管理系统(源代码+数据库)
毕设所有选题： https://blog.csdn.net/2303_76227485/article/details/131104075 基于JavaSpringbootvue3的企业信用信息管理系统(源代码数据库)184 一、系统介绍 本项目前后端分离(可以改为ssm版本)，分为用户、管理员两种角色 1、用户： …...
webshell-HTTP常见特征
一、总体特点 二、蚁剑 数据中可以看到一些明文字符串函数，响应中可以看到响应的明文数据。 ant特征以及对数据base64可以解码 chr类别的会出现大量的chr编码 大量的百分号字符 三、哥斯拉 第一个请求包很大 响应为0 密钥被拆分到数据前后 响应包cookie带…...
docker简单熟悉
Docker 容器和虚拟机区别 Docker容器与虚拟机的主要区别在于虚拟化层次和资源占用： 虚拟化层次：Docker容器在操作系统级别进行虚拟化，共享宿主机的内核；而虚拟机在硬件级别进行虚拟化，每个虚拟机都拥有独立…...
《深海迷航》风灵月影修改器进阶教程：揭秘海底无限奥秘
潜入《深海迷航》那神秘莫测的海底世界，风灵月影修改器将成为你探索未知的得力助手。 遵循以下步骤，解锁无尽资源与生存优势： 1.安装与启动： 确保从安全源下载风灵月影修改器并安装完毕。启动游戏后，随即开启修改器&…...
为什么说函数传递参数最好小于四个
有一个建议说时函数传递参数最好不超过四个，原因有一个是参数太多难以维护，另一个重要的原因就是函数传递小于四个参数时候效率会更高，其实这个说法也不全对，在不同的结构下不太一样，也不一定是4 其实那么下面将探究函…...
三维立体自然资源“一张图”
随着信息技术的发展，自然资源管理迎来了新的机遇与挑战。在众多技术中，“三维立体自然资源‘一张图’”的概念尤为引人注目。它不仅代表了地理信息科学领域的最新成果，也为自然资源的有效管理和可持续利用提供了强有力的支持。本文将探讨这一…...
语言的重定向
输入输出重定向是相当有意思的一门技术，比如有的人每个月的收入自动转10%到支付宝，20%进了老婆的账户。这么有效益的事情，基本所有的操作系统都支持，本质上它不是编程语言特性，编程语言只是为了更方便调用操作系统的重…...
Snap 发布新一代 AR 眼镜，有什么特别之处？
Snap 发布新一代 AR 眼镜，有什么特别之处？ Snap 简介 新一代的 AR 眼镜特点 Snap 简介 Snap 公司成立于 2010 年，2017 年美国东部时间 3 月 2 日上午 11 时许，在纽交所正式挂牌交易，股票代码为 “SNAP”。其旗下的核…...
从填空到生成：GLM的预训练新视界
论文题目：GLM: General Language Model Pretraining with Autoregressive Blank Infilling 论文地址：https://arxiv.org/pdf/2103.10360 今天分享一篇论文GLM，2022年由清华大学、智源研究院、MIT等机构发表在国际会议上。其创新点在于提出了一…...
4. 将pycharm本地项目同步到(Linux)服务器上——深度学习·科研实践·从0到1
目录 前序工作 1. 服务器项目名和本地一致 2. pycharm连接服务器 3. 本地项目对应到服务器项目 4. 简单测试一下同步效果 同步成功 前序工作 在同步到服务器之前，得确保已经完成以下几个前置步骤： 1. 租一个云服务器，可参考：…...
「Python入门」vscode的安装和python插件下载
粗浅之言，如有错误，欢迎指正 文章目录 前言Python安装VSCode介绍VSCode下载安装安装python插件 前言 Python目前的主流编辑器有多个，例如 Sublime Text、VSCode、Pycharm、IDLE(安装python时自带的) 等。个人认为 vscode 虽然在大型项目上有…...
java-netty客户端断线重启
背景 经常会遇到netty客户端，因为网络等多种原因而断线，需要自动重连 核心 就是对连接服务端成功后，对ChannelFuture进行监听，核心代码如下 f b.connect("127.0.0.1", 10004).sync(); // (5)f.addListener(new Chan…...
MySQL的基础用法一
数据库的操作 对库的操作 SQL通用语法规则介绍 创建数据库 使用数据库 查询所有数据库 查询当前数据库 删除数据库 对库中表的操作 创建一个表 查询当前数据库所有表 查询表结构 查询指定表的建表语句 🚘🚘🚘正片开始 SQL通用语…...
Linux：进程地址空间
目录 一、虚拟地址 二、进程地址空间 一、虚拟地址 父进程和子进程之间，代码共享，而数据可能会发生修改，所以当其中一个进程要写入数据时，则发生写时拷贝，各自私有一份。 现在有源文件内容如下所示。 int glob_val …...
数据结构：树、森林
二叉树与树结构差异 树（一般树）：树是一种数据结构，其中每个节点可以有任意数量的子节点（除了根节点和叶子节点外）。因此，一般树的节点在数组中的表示并不是那么直接，特别是当树不是完…...
AI Agent应用出路到底在哪？
1 Agent/Function Call 的定义 Overview of a LLM-powered autonomous agent system： Agent学会调用外部应用程序接口，以获取模型权重中缺失的额外信息（预训练后通常难以更改），包括当前信息、代码执行能力、专有信息源…...
idea大量爆红问题解决
问题描述 在学习和工作中，idea是程序员不可缺少的一个工具，但是突然在有些时候就会出现大量爆红的问题，发现无法跳转，无论是关机重启或者是替换root都无法解决 就是如上所展示的问题，但是程序依然可以启动。 问题解决…...
【ROS】Nav2源码之nav2_behavior_tree-行为树节点列表
1、行为树节点分类 在 Nav2（Navigation2）的行为树框架中，行为树节点插件按照功能分为 Action（动作节点）、Condition（条件节点）、Control（控制节点） 和 Decorator（装饰节点） 四类。 1.1 动作节点 Action 执行具体的机器人操作或任务，直接与硬件、传感器或外部系统…...
DIY｜Mac 搭建 ESP-IDF 开发环境及编译小智 AI
前一阵子在百度 AI 开发者大会上，看到基于小智 AI DIY 玩具的演示，感觉有点意思，想着自己也来试试。 如果只是想烧录现成的固件，乐鑫官方除了提供了 Windows 版本的 Flash 下载工具 之外，还提供了基于网页版的 ESP LA…...
大语言模型（LLM）中的KV缓存压缩与动态稀疏注意力机制设计
随着大语言模型（LLM）参数规模的增长，推理阶段的内存占用和计算复杂度成为核心挑战。传统注意力机制的计算复杂度随序列长度呈二次方增长，而KV缓存的内存消耗可能高达数十GB（例如Llama2-7B处理100K token时需50GB内存&a…...
网站指纹识别
网站指纹识别 网站的最基本组成：服务器（操作系统）、中间件（web容器）、脚本语言、数据厍 为什么要了解这些？举个例子：发现了一个文件读取漏洞，我们需要读/etc/passwd，如…...
机器学习的数学基础：线性模型
线性模型 线性模型的基本形式为： f ( x ) ω T x b f\left(\boldsymbol{x}\right)\boldsymbol{\omega}^\text{T}\boldsymbol{x}b f(x)ωTxb 回归问题 利用最小二乘法，得到 ω \boldsymbol{\omega} ω和 b b b的参数估计$ \boldsymbol{\hat{\omega}}…...
JS红宝书笔记 - 3.3 变量
要定义变量，可以使用var操作符，后跟变量名 ES实现变量初始化，因此可以同时定义变量并设置它的值 使用var操作符定义的变量会成为包含它的函数的局部变量。 在函数内定义变量时省略var操作符，可以创建一个全局变量 如果需要定义…...
文件上传漏洞防御全攻略
要全面防范文件上传漏洞，需构建多层防御体系，结合技术验证、存储隔离与权限控制： 🔒 一、基础防护层 前端校验（仅辅助） 通过JavaScript限制文件后缀名（白名单）和大小，提…...
基于Java项目的Karate API测试
Karate 实现了可以只编写Feature 文件进行测试，但是对于熟悉Java语言的开发或是测试人员，可以通过编程方式集成 Karate 丰富的自动化和数据断言功能。 本篇快速介绍在Java Maven项目中编写和运行测试的示例。 创建Maven项目 最简单的创建项目的方式就是创建一个目录，里面…...
深入理解 C++ 左值右值、std::move 与函数重载中的参数传递
在 C 编程中，左值和右值的概念以及std::move的使用，常常让开发者感到困惑。特别是在函数重载场景下，如何合理利用这些特性来优化代码性能、确保语义正确，更是一个值得深入探讨的话题。 在开始之前，先提出几个问题&…...