CogVLM与CogAgent：开源视觉语言模型的新里程碑

引言

随着机器学习的快速发展，视觉语言模型（VLM）的研究取得了显著的进步。今天，我们很高兴介绍两款强大的开源视觉语言模型：CogVLM和CogAgent。这两款模型在图像理解和多轮对话等领域表现出色，为人工智能的发展开辟了新的道路。

CogVLM：强大的开源视觉语言模型

CogVLM是一个强大的开源视觉语言模型。CogVLM-17B拥有100亿的视觉参数和70亿的语言参数，支持490*490分辨率的图像理解和多轮对话。CogVLM-17B在10个经典的跨模态基准测试中取得了最佳性能，包括NoCaps, Flicker30k captioning, RefCOCO, RefCOCO+, RefCOCOg, Visual7W, GQA, ScienceQA, VizWiz VQA和TDIUC，并在VQAv2, OKVQA, TextVQA, COCO字幕等方面排名第二，超越或匹敌PaLI-X 55B。CogVLM还可以和您聊关于图片的话题。

CogVLM的论文：https://arxiv.org/abs/2311.03079

CogAgent：基于CogVLM的视觉语言模型

CogAgent是基于CogVLM改进的开源视觉语言模型。CogAgent-18B拥有110亿的视觉参数和70亿的语言参数，支持1120*1120分辨率的图像理解。在CogVLM的能力之上，CogAgent进一步拥有了图形用户界面（GUI）Agent的能力。

CogAgent在9个经典的跨模态基准测试中实现了最先进的通用性能，包括VQAv2, OK-VQ, TextVQA, ST-VQA, ChartQA, infoVQA, DocVQA, MM-Vet, 和 POPE测试基准。它在如AITW和Mind2Web等GUI操作数据集上显著超越了现有的模型。除了CogVLM已有的所有功能（视觉多轮对话，视觉定位）之外，CogAgent支持更高分辨率的视觉输入和对话式问答，拥有视觉Agent的能力，并通过改进预训练和微调，提高了OCR相关任务的能力。

CogAgent的论文：https://arxiv.org/abs/2312.08914

如何开始使用CogVLM和CogAgent

1. 使用网页演示进行推理：您可以直接访问我们的CogVLM & CogAgent Web Demo进行体验。

2. 自行部署CogVLM / CogAgent：我们提供了详细的部署指南，包括命令行界面和网络演示的部署方式。您可以根据需要选择合适的方式。

3. 微调CogAgent / CogVLM：如果您想在自己的任务中使用CogVLM，我们提供了详细的微调指南，帮助您实现不同的输出风格或领域知识。

4. OpenAI格式：我们提供了与GPT-4V相同的API示例，您可以在openai_demo文件夹中查看。

详细用法请见GitHub页面。

硬件需求

模型推理需要至少1个RTX 3090(24G)显卡，CogAgent需要约12.6GB的显存，CogVLM需要约11GB的显存。如果使用FP16，则需要1个A100(80G)或2个RTX 3090(24G)显卡。微调则需要至少4个A100(80G)显卡，或者8个RTX 3090(24G)显卡。

结语

CogVLM和CogAgent的发布，为视觉语言模型的研究和应用开启了新的篇章。我们期待看到更多的研究者和开发者利用这两款模型，推动人工智能的发展。