当前位置： 首页 > article >正文

vLLM 部署 openai whisper 模型实现语音转文字

article 2026/2/15 13:24:30

vLLM 部署 openai whisper 模型实现语音转文字

  • 1. 安装 vLLM
  • 2. 启动 openai whisper 模型

1. 安装 vLLM

pip install vllm vllm[audio] --pre --extra-index-url https://wheels.vllm.ai/nightly --upgrade

2. 启动 openai whisper 模型

CUDA_VISIBLE_DEVICES=0 \
VLLM_WORKER_MULTIPROC_METHOD=spawn \
TRANSFORMERS_OFFLINE=1 \
HF_DATASETS_OFFLINE=1 \
vllm serve openai/whisper-large-v3-turbo \
--trust-remote-code --served-model-name whisper-3 \
--gpu-memory-utilization 0.6 --tensor-parallel-size 1 \
--port 8000 --api-key sk-123456 \
--task transcription

完结！

相关文章：

vLLM 部署 openai whisper 模型实现语音转文字

vLLM 部署 openai whisper 模型实现语音转文字 1. 安装 vLLM2. 启动 openai whisper 模型 1. 安装 vLLM pip install vllm vllm[audio] --pre --extra-index-url https://wheels.vllm.ai/nightly --upgrade2. 启动 openai whisper 模型 CUDA_VISIBLE_DEVICES0 \ VLLM_WORKER_…...

编程日记 2026/1/26 1:10:41

【Zabbix技术系列文章】第④篇——Zabbix 数据可视化

在当今数字化运维时代，面对海量的监控数据，如何从中快速获取有价值的信息至关重要。Zabbix 的数据可视化功能为我们提供了直观、高效的解决方案，它能将复杂的监控数据转化为清晰易懂的图表和仪表盘，助力运维人员迅速发现问题、分析…...

编程日记 2026/2/13 13:40:01

表格数据导出为Excel

环境及插件配置：（理论上vue2应该也可以使用，没有试验过） "vue": "^3.2.36", "webpack": "^5.94.0", "webpack-cli": "^5.1.4", "file-saver": "^2.…...

编程日记 2026/2/11 9:02:45

Faster-Whisper —— 为语音识别加速的利器

Faster-Whisper —— 为语音识别加速的利器 在语音识别技术迅速发展的今天，OpenAI 的 Whisper 模型因其强大的多语言识别能力和优异的准确率而受到广泛关注。然而，高精度模型往往伴随着高昂的计算开销和较长的推理时间，这对于需要实时或大规…...

编程日记 2026/2/12 1:48:28

SvelteKit 最新中文文档教程（16）—— Service workers

前言 Svelte，一个语法简洁、入门容易，面向未来的前端框架。 从 Svelte 诞生之初，就备受开发者的喜爱，根据统计，从 2019 年到 2024 年，连续 6 年一直是开发者最感兴趣的前端框架 No.1： Svelte …...

编程日记 2026/2/12 1:29:45

Flutter项目之构建打包分析

目录： 1、准备部分2、构建Android包2.1、配置修改部分2.2、编译打包 3、构建ios包3.1、配置修改部分3.2、编译打包 1、准备部分 2、构建Android包 2.1、配置修改部分 2.2、编译打包 执行flutter build apk命令进行打包。 3、构建ios包 3.1、配置修改部分 3.2、编译…...

编程日记 2026/2/11 12:07:21

24、网络编程基础概念

网络编程基础概念 网络结构模式MAC地址IP地址子网掩码端口网络模型协议网络通信的过程（封装与解封装） 网络结构模式 C/S结构，由客户机和服务器两部分组成，如QQ、英雄联盟 B/S结构，通过浏览器与服务器进程交互&#xf…...

编程日记 2026/2/13 13:19:12

Mentalab Explore Pro携手 Wearanize + 数据集，推动睡眠科学研究

在神经科学和睡眠研究的领域，精确监测大脑活动是获取深入见解的关键。传统多导睡眠监测（PSG）设备虽然提供了详尽的数据，但其操作的复杂性和成本限制了其在更广泛场景中的应用。可穿戴技术的兴起提供了一种新的数据收集方式&#x…...

编程日记 2026/2/13 10:43:48

基于 RK3588 的 YOLO 多线程推理多级硬件加速引擎框架设计（代码框架和实现细节）

一、前言 接续上一篇文章，这个部分主要分析代码框架的实现细节和设计理念。 基于RK3588的YOLO多线程推理多级硬件加速引擎框架设计（项目总览和加速效果）-CSDN博客https://blog.csdn.net/plmm__/article/details/146542002?spm1001.2014.300…...

编程日记 2026/2/13 0:43:15

element-ui图片查看器

element-ui图片查看器 调用案例&#xff1a; <el-image-viewerv-if"showViewer":on-close"()>{showViewerfalse}":url-list"imgList" />export default {components: {Banner,el-image-viewer:()>import(element-ui/packages/image/…...

编程日记 2026/2/13 12:47:29

VoIP技术及其与UDP的关系详解

随着互联网的飞速发展&#xff0c;基于IP的语音通信技术&#xff08;Voice over Internet Protocol&#xff0c;简称VoIP&#xff09;已经成为现代通信的重要支柱。从Skype到Zoom&#xff0c;从企业电话系统到智能音箱&#xff0c;VoIP以其低成本、高灵活性和强大的扩展性逐渐取…...

编程日记 2025/12/3 7:41:44

Java中如何保证高并发的数据安全

在Java中保证高并发的数据安全&#xff0c;可以从以下几个方面入手&#xff1a; 1. 锁机制 • synchronized&#xff1a;Java内置的锁机制&#xff0c;用于同步方法或代码块&#xff0c;简单易用&#xff0c;但灵活性较低。 • ReentrantLock&#xff1a;提供了比synchronize…...

编程日记 2026/2/14 16:21:30

DeepSeek原生稀疏注意力（Native Sparse Attention, NSA）算法介绍

李升伟 整理 DeepSeek 提出的原生稀疏注意力&#xff08;Native Sparse Attention, NSA&#xff09;算法是一种创新的注意力机制&#xff0c;旨在解决大语言模型&#xff08;LLM&#xff09;在处理长序列数据时的计算瓶颈问题。NSA 通过结合算法优化和硬件对齐设计&#xff0c…...

编程日记 2025/11/27 2:37:45

Java基础知识总结(1.8)——Java 注解(持续更新)

更新时间&#xff1a;2025-03-31 Web后端专栏&#xff1a;CSDN专栏——理论-Web后端技术博客总目录&#xff1a;计算机技术系列博客——目录页 8.1 注解的概念 8.1.1 定义与作用 Java注解&#xff08;Annotation&#xff09;是Java语言自JDK1.5版本引入的核心特性&#xff0…...

编程日记 2026/2/13 18:05:16

【Yolov8部署】 VS2019+opencv+onnxruntime 环境下部署目标检测模型

文章目录 前言一、导出yolov8模型为onnx文件二、VS2019中环境配置三、源码与实际运行 前言 本文主要研究场景为工业场景下&#xff0c;在工控机与工业相机环境中运行的视觉缺陷检测系统&#xff0c;因此本文主要目的为实现c环境下&#xff0c;将yolov8已训练好的检测模型使用o…...

编程日记 2026/2/12 17:35:40

论文阅读：Dual Anchor Graph Fuzzy Clustering for Multiview Data

论文地址:Dual Anchor Graph Fuzzy Clustering for Multiview Data | IEEE Journals & Magazine | IEEE Xplore 代码地址&#xff1a;https://github.com/BBKing49/DAG_FC 摘要 多视角锚图聚类近年来成为一个重要的研究领域&#xff0c;催生了多个高效的方法。然而&#…...

编程日记 2026/2/12 3:57:37

Lambda 表达式是什么以及如何使用

目录 &#x1f4cc; Kotlin 的 Lambda 表达式详解 &#x1f3af; 什么是 Lambda 表达式&#xff1f; &#x1f525; 1. Lambda 表达式的基本语法 ✅ 示例 1&#xff1a;Lambda 基本写法 ✅ 示例 2&#xff1a;使用 it 关键字&#xff08;单参数简化&#xff09; ✅ 示例 3…...

编程日记 2026/1/25 7:54:06

乐橙R10 AI智能锁：以「技术减法」终结智能家居「参数内卷」

1 行业迷思&#xff1a;当「技术内卷」背离用户真实需求 “三摄猫眼”、“0.3秒人脸解锁”、“DeepSeek大模型”……智能锁行业的营销话术日益浮夸&#xff0c;但用户体验却陷入“功能冗余”与“操作复杂”的泥潭。 一位用户在社交平台直言&#xff1a;“我的智能锁有六个摄像…...

编程日记 2026/2/15 9:14:44

如何使用 FastAPI 构建 MCP 服务器

哎呀&#xff0c;各位算法界的小伙伴们&#xff01;今天咱们要聊聊一个超酷的话题——MCP 协议&#xff01;你可能已经听说了&#xff0c;Anthropic 推出了这个新玩意儿&#xff0c;目的是让 AI 代理和你的应用程序之间的对话变得更顺畅、更清晰。不过别担心&#xff0c;为你的…...

编程日记 2026/2/9 15:13:31

基于Python的Django框架的手机购物商城管理系统

标题:基于Python的Django框架的手机购物商城管理系统 内容:1.摘要 随着互联网的快速发展&#xff0c;手机购物逐渐成为人们日常生活中不可或缺的一部分。本研究的目的是开发一个基于Python的Django框架的手机购物商城管理系统&#xff0c;以提高购物商城的管理效率和用户体验。…...

编程日记 2026/2/14 12:27:20

【UE5.3.2】初学1：适合初学者的入门路线图和建议

3D人物的动作制作 大神分析：3D人物的动作制作通常可以分为以下几个步骤： 角色绑定（Rigging）：将3D人物模型绑定到一个骨骼结构上，使得模型能够进行动画控制。 动画制作（Animation）：通过控制骨骼结构，制作出人物的各种动作，例如走路、跳跃、打斗等。 动画编辑（Ani…...

编程日记 2026/2/15 10:11:25

当 EcuBus-Pro + UTA0401 遇上 NSUC1500

文章目录 1.前言2.EcuBus-Pro简介2.1 官方地址2.2 概览 3.纳芯微NSUC1500简介3.1 NSUC1500概述3.2 产品特性 4.测试环境5.基础功能5.1 数据发送5.2 数据监控 6.自动化功能6.1 脚本创建6.2 脚本编辑6.3 脚本编辑与测试 7.音乐律动7.1 导入例程7.2 效果展示 ECB工程 1.前言 最近…...

编程日记 2026/2/15 2:51:06

qml 中的anchors

理解 QML 中的 anchors&#xff08;锚定&#xff09; 在 QML 中&#xff0c;anchors 是一种强大的布局机制&#xff0c;用于相对于父元素或同级元素定位和调整组件大小。它比简单的 x/y 坐标定位更灵活&#xff0c;能够自动适应不同屏幕尺寸。 基本概念 在你的代码中&#x…...

编程日记 2026/2/14 5:02:24

【FreeRTOS】裸机开发与操作系统区别

&#x1f50e;【博主简介】&#x1f50e; &#x1f3c5;CSDN博客专家 &#x1f3c5;2021年博客之星物联网与嵌入式开发TOP5 &#x1f3c5;2022年博客之星物联网与嵌入式开发TOP4 &#x1f3c5;2021年2022年C站百大博主 &#x1f3c5;华为云开发…...

编程日记 2026/2/10 13:11:31

Deepseek API+Python 测试用例一键生成与导出 V1.0.4 （接口文档生成接口测试用例保姆级教程）

接口文档生成接口测试用例保姆级教程 随着测试需求的复杂性增加，测试用例的设计和生成变得愈发重要。Deepseek API+Python 测试用例生成工具在 V1.0.4 中进行了全方位的优化和功能扩展，特别是对接口测试用例设计的支持和接口文档的智能解析处理。本文将详细介绍 V1.0.4 版本…...

编程日记 2026/2/15 8:03:41

CET-4增量表

CET-4词表-增量表 注&#xff1a; 【1】所谓增量&#xff0c;是相对于高中高考之增量 即&#xff0c;如果你是在读大学生&#xff0c;高中英语单词过关了&#xff0c;准备考CET-4&#xff0c;那么侧重下面的增量词表的学习&#xff0c;也算是一条捷径吧 ^_^ 【2】本结果数据 官…...

编程日记 2026/2/11 5:27:04

DeepSeek详解：探索下一代语言模型

文章目录 前言一、什么是DeepSeek二、DeepSeek核心技术2.1 Transformer架构2.1.1 自注意力机制 (Self-Attention Mechanism)(a) 核心思想(b) 计算过程(c) 代码实现 2.1.2 多头注意力 (Multi-Head Attention)(a) 核心思想(b) 工作原理(c) 数学描述(d) 代码实现 2.1.3 位置编码 (…...

编程日记 2026/2/15 9:31:52

深入解析主线程退出与子线程管理：何时 Join()，何时 Detach()？

在多线程编程中&#xff0c;主线程退出时如何正确管理子线程是一个关键问题。如果子线程没有 Join() 或 Detach()&#xff0c;不同的操作系统会有不同的行为&#xff0c;可能导致内存泄漏、资源竞争、甚至程序崩溃。本文将深入探讨主线程退出时子线程的管理策略&#xff0c;并提…...

编程日记 2026/1/19 12:52:01

AWS API Gateway Canary部署实战：Lambda到ECS的平滑迁移指南

在云原生架构中，如何实现服务平滑迁移是一个常见挑战。本文将详细介绍如何利用AWS API Gateway的Canary部署功能，实现从Lambda函数到ECS服务的无缝迁移，同时保证客户端无感知并提供便捷的回退机制。 一、迁移方案概述 在本方案中，我们将实现以下目标： 将现有Lambda服务平…...

编程日记 2026/2/12 10:17:20

Docker学习--容器操作相关命令--docker export 命令

docker export 命令的作用&#xff1a; 用于将 Docker 容器的文件系统导出为一个 tar 归档文件。主要用于备份或迁移容器的文件系统&#xff0c;而不包括 Docker 镜像的所有层和元数据。 语法&#xff1a; docker export [参数选项] CONTAINER&#xff08;要操作的容器&#x…...

编程日记 2026/2/13 22:29:54