当前位置：首页 > news >正文

TensorRT Triton Inference Server: 版本 error魔术标记不匹配， NGC使用

news 2026/5/11 6:06:31

魔术标记不匹配错误Serialization assertion magicTagRead == kMAGIC_TAG failed.Magic tag does not match

原因：
转换和推理使用的镜像的标签是相同的，但是转换的镜像中pip list得到trt版本为8.6.0，但是推理环境中 root@f2c810ba3976:/# /usr/src/tensorrt/bin/trtexec ，得到trtexec版本为8.5.3
解决
可在官方文档中寻找正确版本的镜像地址https://catalog.ngc.nvidia.com/orgs/nvidia/containers/tritonserver/tags
版本说名如下
https://docs.nvidia.com/deeplearning/triton-inference-server/release-notes/rel-23-04.html#rel-23-04
小版本不一致
The engine plan file is not compatible with this version of TensorRT, expecting library version 8.6.1.2 got 8.6.0.12, please rebuild.
解决： rebuild

pytorch NGC

https://catalog.ngc.nvidia.com/orgs/nvidia/containers/pytorch/tags
sudo docker run -it --shm-size 8gb --rm --gpus=all -p 8603:8000 -v ${PWD}:/test nvcr.io/nvidia/pytorch:23.05-py3 bash

torch NGC

https://catalog.ngc.nvidia.com/orgs/nvidia/containers/torch/tags

cuda NGC

https://catalog.ngc.nvidia.com/orgs/nvidia/containers/cuda/tags

tensorrt NGC

https://catalog.ngc.nvidia.com/orgs/nvidia/containers/tensorrt/tags

TensorRT Triton Inference Server: 版本 error魔术标记不匹配， NGC使用

魔术标记不匹配错误Serialization assertion magicTagRead kMAGIC_TAG failed.Magic tag does not match 原因： 转换和推理使用的镜像的标签是相同的，但是转换的镜像中pip list得到trt版本为8.6.0，但是推理环境中 rootf2c810ba3976:/# /usr/…...

编程日记 2023/6/9 21:41:20

Elasticsearch 文本分析器（下）

字符过滤器注意：字符过滤器用于在将字符流传递给分词器之前对其进行预处理 html_strip HTML元素替换过滤器此过滤器会替换掉HTML标签，且会转换HTML实体如：& 会被替换为 &。 {"tokenizer": "keyword","…...

编程日记 2023/6/9 21:36:19

Git操作方法

目录 Git是什么 Git特点 Git作用 Git原理集中式分布式 Git安装修改语言 Git操作 1.初始化Git仓库 2.提交工作区的内容到版本库 3.查看版本记录 4.版本回退 5.版本前进 Git 命令通用操作工作状态版本回退版本前进远程仓 1.GitHub 2.GitLab 3.码云…...

编程日记 2023/6/9 21:31:18

CorelDRAW矢量绘图2023中文版下载

市面上的矢量绘图工具虽然很多，但权威又专业的却不多，选到不好用的工具，会极大的影响自己创作，CorelDRAW简称cdr，是一款功能强大的矢量图制作软件，一说到矢量图制作，大家都会不由自主地想到cdr。…...

编程日记 2023/6/9 21:26:17

Java-API简析_java.lang.Float类（基于 Latest JDK）（浅析源码）

编程日记 2023/6/9 21:21:16

pycharm的基本使用

废话文学本人记录笔记始终遵循“能动手绝不动脑，能动脑绝不动手”的基本原则。不会的操作，跟着笔记干就完事了，还动啥脑袋？留着脑细胞刷抖音擦边小姐姐他不香吗？ 什么是IDE IDE即【集成开发环境】，Inte…...

编程日记 2023/6/9 21:16:15

为什么要使用微软的 Application Framework？

我是荔园微风，作为一名在IT界整整25年的老兵，今天来看一下我们为什么要使用微软的 Application Framework？ 虽然Application Framework 并不是新观念，它们却在最近数年才成为 PC 平台上软件开发的主流工具。面向对象语言是具体实…...

编程日记 2023/6/9 21:11:14

Python爬虫基础知识点

Python爬虫是使用Python编写的程序，可以自动抓取互联网上的数据。常用的Python爬虫框架包括Scrapy、BeautifulSoup、Requests等。Python爬虫可以应用于众多场合，如大数据分析、信息监测、数据挖掘和机器学习等领域。那么新手应该如何学习python爬虫呢&am…...

编程日记 2023/6/9 21:06:13

K8s运维备忘

1.服务器集群搭建： VagrantFile中加入以下代码，创建3个虚拟机： Vagrant.configure("2") do |config| (1..3).each do |i| config.vm.define "k8s-node#{i}" do |node| # 设置虚拟机的Box …...

编程日记 2023/6/9 21:01:11

激光雷达+rtk+rgb联合使用（4）

因为一直在忙一些乱七八糟的事情，就没顾得上继续写，想着快速收尾算了。前面写到，我在点云的匹配上花了大量的时间，不断的调参数，换方法，一共几百个点云，想着先每50个匹配一次，得到几…...

编程日记 2023/6/9 20:56:10

【K8S系列】快速初始化⼀个最⼩集群

序言走得最慢的人，只要不丧失目标，也比漫无目的地徘徊的人走得快。文章标记颜色说明： 黄色：重要标题红色：用来标记结论绿色：用来标记一级重要蓝色：用来标记二级重要希望这篇文章能让你不仅有…...

编程日记 2023/6/9 20:51:09

Exploit/CVE-2010-0738

打开JBoss的潘多拉魔盒：JBoss高危漏洞分析 *本文中涉及到的相关漏洞已报送厂商并得到修复，本文仅限技术研究与讨论，严禁用于非法用途，否则产生的一切后果自行承担。前言 JBoss是一个基于J2EE的开放源代码应用服务器&#xff0…...

编程日记 2023/6/9 20:46:09

Go单元测试及框架使用

Go自带测试框架单元测试建议Go 语言推荐测试文件和源代码文件放在一块，测试文件以 _test.go 结尾。函数名必须以 Test 开头，后面一般跟待测试的函数名参数为 t *testing.T 简单测试用例定义如下： func TestXXXX(t *testing.T) {// ...}…...

编程日记 2023/6/9 20:41:07

实体类Student类代码如下所示： package com.test.Test11;public class Student implements Comparable<Student>{private int age;private String name;private Double height;public int getAge() {return age;}public void setAge(int age) {this.age age…...

编程日记 2023/6/9 20:36:07

HOOPS助力AVEVA数字化转型：支持多种3D模型格式转换！

行业： 电力和公用事业、化工、造船、能源、采矿业挑战： 创建大规模复杂资产的客户需要汇集多种类型的数据，以支持初始设计和创建强大的数字双胞胎；现有版本的产品只支持半打CAD格式；有限的内部开发资源限制了增加对新…...

编程日记 2023/6/9 20:31:05

(转载)基于遗传模拟退火的聚类算法(matlab实现)

1 理论基础 1.1 模糊聚类分析模糊聚类是目前知识发现以及模式识别等诸多领域中的重要研究分支之一。随着研究范围的拓展，不管是科学研究还是实际应用，都对聚类的结果从多方面提出了更高的要求。模糊C-均值聚类(FCM)是目前比较流行的一种聚类方法。该…...

编程日记 2023/6/9 20:26:05

【C++】struct 和 class 的区别

欢迎来到博主 Apeiron 的博客，祝您旅程愉快。时止则止，时行则行。动静不失其时，其道光明。目录 1、缘起 2、示例代码 3、总结 1、缘起在 C 中，struct 和 class 唯一的区别就在于默认的访问权限不同。区别如下： …...

编程日记 2023/6/9 20:21:04

活动笔记丨物业行业人效提升与灵活用工新路径

近日，盖雅工场成功举办物业行业人效提升专场交流，来自广深地区央企和民营的领先物业企业和现场服务业的多位代表齐聚深圳招商积余大厦，共同研讨行业人效提升的挑战和实践。本次闭门交流会聚焦于人效提升，讨论话题包括各自企业在人…...

编程日记 2023/6/9 20:16:03

学习笔记：吴恩达ChatGPT提示工程

以下为个人笔记，原课程网址Short Courses | Learn Generative AI from DeepLearning.AI 01 Introduction 1.1 基础LLM 输入从前有一只独角兽，输出它和其他独角兽朋友一起住在森林里输入法国的首都在哪？输出法国的首都在哪&#xf…...

编程日记 2023/6/9 20:11:02

POI in Action

POI 组件依赖按需引入对应依赖 (给出官方的指引) 组件作用Maven依赖POIFSOLE2 FilesystempoiHPSFOLE2 Property SetspoiHSSFExcel XLSpoiHSLFPowerPoint PPTpoi-scratchpadHWPFWord DOCpoi-scratchpadHDGFVisio VSDpoi-scratchpadHPBFPublisher PUBpoi-scratchpadHSMFOutloo…...

编程日记 2023/6/9 20:06:01