本地部署 CogVLM
本地部署 CogVLM
- CogVLM 是什么
- CogVLM Github 地址
- 部署 CogVLM
- 启动 CogVLM
CogVLM 是什么
-
CogVLM 是一个强大的开源视觉语言模型（VLM）。CogVLM-17B 拥有 100 亿视觉参数和 70 亿语言参数。
-
CogVLM-17B 在 10 个经典跨模态基准测试上取得了 SOTA 性能，包括 NoCaps、Flicker30k captioning、RefCOCO、RefCOCO+、RefCOCOg、Visual7W、GQA、ScienceQA、VizWiz VQA 和 TDIUC，而在 VQAv2、OKVQA、TextVQA、COCO captioning 等方面则排名第二，超越或与 PaLI-X 55B 持平。
CogVLM Github 地址
https://github.com/THUDM/CogVLM.git
部署 CogVLM
克隆代码，
git clone https://github.com/THUDM/CogVLM.git; cd CogVLM
创建虚拟环境，
conda create -n cogvlm python=3.11 -y
conda activate cogvlm
安装 PyTorch，
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
conda install -y -c "nvidia/label/cuda-12.1.0" cuda-runtime
安装依赖项，
pip install -r requirements.txt
python -m spacy download en_core_web_sm
启动 CogVLM
python web_demo.py --from_pretrained cogvlm-chat --version chat --english --bf16
未完待续！
相关文章：
本地部署 CogVLM
本地部署 CogVLM CogVLM 是什么CogVLM Github 地址部署 CogVLM启动 CogVLM CogVLM 是什么 CogVLM 是一个强大的开源视觉语言模型（VLM）。CogVLM-17B 拥有 100 亿视觉参数和 70 亿语言参数。 CogVLM-17B 在 10 个经典跨模态基准测试上取得了 SOTA 性能&am…...
bff层解决了什么痛点
bff层 -- 服务于前端的后端 什么是bff？ Backend For Frontend（服务于前端的后端），也就是服务器设计API的时候会考虑前端的使用，并在服务端直接进行业务逻辑的处理，又称为用户体验适配器。BFF只是一种逻辑…...
面试经典150题——Day33
文章目录 一、题目二、题解 一、题目 76. Minimum Window Substring Given two strings s and t of lengths m and n respectively, return the minimum window substring of s such that every character in t (including duplicates) is included in the window. If there …...
再谈Android重要组件——Handler(Native篇)
前言 最近工作比较忙，没怎么记录东西了。Android的Handler重要性不必赘述，之前也写过几篇关于hanlder的文章了： Handler有多深？连环二十七问Android多线程：深入分析 Handler机制源码（二） And…...
Javaweb之javascript的详细解析
JavaScript html完成了架子，css做了美化，但是网页是死的，我们需要给他注入灵魂，所以接下来我们需要学习JavaScript，这门语言会让我们的页面能够和用户进行交互。 1.1 介绍 通过代码/js效果演示提供资料进行效果演示&…...
Linux常用命令——cd命令
在线Linux命令查询工具 cd 切换用户当前工作目录 补充说明 cd命令用来切换工作目录至dirname。 其中dirName表示法可为绝对路径或相对路径。若目录名称省略，则变换至使用者的home directory(也就是刚login时所在的目录)。另外，~也表示为home directo…...
VHDL基础知识笔记(1)
1.实体：其电路意义相当于器件，它相当于电路原理图上的元器件符号。它给出了器件的输入输出引脚。实体又被称为模块。 2.结构体：这个部分会给出实体（或者说模块）的具体实现，指定输入和输出的行为。结构体的…...
volatile-日常使用场景
6.4 如何正确使用volatile 单一赋值可以，但是含复合运算赋值不可以（i之类的） volatile int a 10; volatile boolean flag true; 状态标志，判断业务是否结束 作为一个布尔状态标志，用于指示发生了一个重要的一次…...
策略模式在数据接收和发送场景的应用
在本篇文章中，我们介绍了策略模式，并在数据接收和发送场景中使用了策略模式。 背景 在最近项目中，需要与外部系统进行数据交互，刚开始交互的系统较为单一，刚开始设计方案时打算使用了if else 进行判断： if(…...
学习LevelDB架构的检索技术
目录 一、LevelDB介绍 二、LevelDB优化检索系统关键点分析 三、读写分离设计和内存数据管理 （一）内存数据管理 跳表代替B树 内存数据分为两块：MemTable（可读可写） Immutable MemTable（只读࿰…...
Docker Swarm实现容器的复制均衡及动态管理：详细过程版
Swarm简介 Swarm是一套较为简单的工具，用以管理Docker集群，使得Docker集群暴露给用户时相当于一个虚拟的整体。Swarm使用标准的Docker API接口作为其前端访问入口，换言之，各种形式的Docker Client(dockerclient in go, docker_py…...
Proteus仿真--1602LCD显示仿手机键盘按键字符（仿真文件+程序）
本文主要介绍基于51单片机的1602LCD显示仿手机键盘按键字符（完整仿真源文件及代码见文末链接） 仿真图如下 其中左下角12个按键模拟仿真手机键盘，使用方法同手机键一样，长按自动跳动切换键值，松手后确认选择ÿ…...
Rust语言和curl库编写程序
这是一个使用Rust语言和curl库编写的爬虫程序，用于爬取视频。 use std::env; use std::net::TcpStream; use std::io::{BufReader, BufWriter}; fn main() {// 获取命令行参数let args: Vec<String> env::args().collect();let proxy_host args[1].clon…...
FSDiffReg：心脏图像的特征和分数扩散引导无监督形变图像配准
论文标题： FSDiffReg: Feature-wise and Score-wise Diffusion-guided Unsupervised Deformable Image Registration for Cardiac Images 翻译： FSDiffReg：心脏图像的特征和分数扩散引导无监督形变图像配准 摘要 无监督可变形图像配准是医学…...
音视频技术开发周刊 | 318
每周一期，纵览音视频技术领域的干货。 新闻投稿：contributelivevideostack.com。 日程揭晓！速览深圳站大会专题议程详解 LiveVideoStackCon 2023 音视频技术大会深圳站，保持着往届强大的讲师阵容以及高水准的演讲质量。两天的参会…...
asp.net docker-compose添加sql server
打开docker-compose.yml 添加 sqldata:image: mysql:8.1.0 打开docker-compose.override.yml 添加 sqldata:environment:- MYSQL_ROOT_PASSWORDPasswordports:- "8080:8080"volumes:- killsb-one-sqldata:/etc/mysql/conf.d 在docker里面就有了sql server容器镜像…...
uniapp 微信小程序 uni-file-picker上传图片报错 chooseAndUploadFile
这个问题真的很搞， 原因是微信开发者工具更新了，导致图片上传问题。 解决方法： 将微信开发者工具的基础库改为2.33.0一下即可。 在微信开发者工具详情 - 本地设置中（记得点击‘推送’按钮）：...
《向量数据库指南》——用 Milvus Cloud和 NVIDIA Merlin 搭建高效推荐系统结论
如何搭建一个高效的推荐系统？ 简单来说，现代推荐系统由训练/推理流水线（pipeline）组成，涉及数据获取、数据预处理、模型训练和调整检索、过滤、排名和评分相关的超参数等多个阶段。走遍这些流程之后，推荐系统能够给出高度个性化的推荐结果，从而提升产品的用户体验。 为…...
致：CSGO游戏搬砖人的一封信
最近大家还在坚持操作CSGO游戏搬砖项目不？ 这个项目虽是稳赚项目，但也有行情好和行情不好的时候，平台的大中小各种活动的举办，都会对我们的项目造成一定影响。行情的上下波动势必然会影响卡价的波动，影响选品的快慢&a…...
MuLogin浏览器如何在一台设备上安全登录和管理多个LinkedIn账户？
一、LinkedIn多个账户的用处 LinkedIn作为世界上最大的专业人士社交平台，具有许多有用的功能，对于个人和企业来说都非常重要。以下是多个LinkedIn账户的一些典型用途： 1. 分行业账户：如果您在不同的行业从事职业活动，…...
基于大模型的 UI 自动化系统
基于大模型的 UI 自动化系统 下面是一个完整的 Python 系统，利用大模型实现智能 UI 自动化，结合计算机视觉和自然语言处理技术，实现"看屏操作"的能力。 系统架构设计 #mermaid-svg-2gn2GRvh5WCP2ktF {font-family:"trebuchet ms",verdana,arial,sans-…...
stm32G473的flash模式是单bank还是双bank？
今天突然有人stm32G473的flash模式是单bank还是双bank？由于时间太久，我真忘记了。搜搜发现，还真有人和我一样。见下面的链接：https://shequ.stmicroelectronics.cn/forum.php?modviewthread&tid644563 根据STM32G4系列参考手…...
ffmpeg（四）：滤镜命令
FFmpeg 的滤镜命令是用于音视频处理中的强大工具，可以完成剪裁、缩放、加水印、调色、合成、旋转、模糊、叠加字幕等复杂的操作。其核心语法格式一般如下： ffmpeg -i input.mp4 -vf "滤镜参数" output.mp4或者带音频滤镜： ffmpeg…...
人机融合智能 | “人智交互”跨学科新领域
本文系统地提出基于“以人为中心AI(HCAI)”理念的人-人工智能交互(人智交互)这一跨学科新领域及框架,定义人智交互领域的理念、基本理论和关键问题、方法、开发流程和参与团队等,阐述提出人智交互新领域的意义。然后,提出人智交互研究的三种新范式取向以及它们的意义。最后,总结…...
深度学习水论文：mamba＋图像增强
🧀当前视觉领域对高效长序列建模需求激增，对Mamba图像增强这方向的研究自然也逐渐火热。原因在于其高效长程建模，以及动态计算优势，在图像质量提升和细节恢复方面有难以替代的作用。 🧀因此短时间内，就有不…...
Razor编程中@Html的方法使用大全
文章目录 1. 基础HTML辅助方法1.1 Html.ActionLink()1.2 Html.RouteLink()1.3 Html.Display() / Html.DisplayFor()1.4 Html.Editor() / Html.EditorFor()1.5 Html.Label() / Html.LabelFor()1.6 Html.TextBox() / Html.TextBoxFor() 2. 表单相关辅助方法2.1 Html.BeginForm() …...
算术操作符与类型转换：从基础到精通
目录 前言：从基础到实践——探索运算符与类型转换的奥秘 算术操作符超级详解 算术操作符：、-、*、/、% 赋值操作符：和复合赋值 单⽬操作符：、--、、- 前言：从基础到实践——探索运算符与类型转换的奥秘 在先前的文…...
小智AI+MCP
什么是小智AI和MCP 如果还不清楚的先看往期文章 手搓小智AI聊天机器人 MCP 深度解析：AI 的USB接口 如何使用小智MCP 1.刷支持mcp的小智固件 2.下载官方MCP的示例代码 Github：https://github.com/78/mcp-calculator 安这个步骤执行 其中MCP_ENDPOI…...
接口 RESTful 中的超媒体：REST 架构的灵魂驱动
在 RESTful 架构中，** 超媒体（Hypermedia）** 是一个核心概念，它体现了 REST 的 “表述性状态转移（Representational State Transfer）” 的本质，也是区分 “真 RESTful API” 与 “伪 RESTful AP…...
宠物车载安全座椅市场报告：解读行业趋势与投资前景
一、什么是宠物车载安全座椅？ 宠物车载安全座椅是一种专为宠物设计的车内固定装置，旨在保障宠物在乘车过程中的安全性与舒适性。它通常由高强度材料制成，具备良好的缓冲性能，并可通过安全带或ISOFIX接口固定于车内。 近年来&…...