当前位置: 首页 > news >正文

TDengine 在业务落地与架构改造中的应用实践!

前言

  在物联网和大数据时代,时序数据的管理和分析变得至关重要。TDengine,作为一款专为时序数据设计的开源数据库,以其卓越的存储和查询效率,成为众多企业优化数据架构的优选。本文将分享我将TDengine成功应用于实际业务的经验,以及在架构改造过程中的心得体会。

学习TDengine的途径

  在开始使用TDengine之前,我主要通过以下途径获取学习资源:

  • 官方文档:提供了详尽的安装、配置和查询语法,是快速入门的关键。
  • GitHub社区:阅读源码和参与讨论,让我对TDengine的高级特性和应用场景有了更深的理解。
  • 技术论坛:CSDN、掘金等平台上的实践文章和经验分享,为我提供了宝贵的参考。

  通过这些资源的深入学习,我逐步掌握了TDengine的核心概念和功能,包括超级表的设计、高效的查询机制和集群的部署。

使用TDengine的体验

  在实际使用中,TDengine的以下几个特点给我留下了深刻印象:

  • 超级表:非常适合管理物联网设备数据,通过一个表模板即可高效管理海量设备数据,大大简化了数据表的设计。
  • 查询和聚合:TDengine内置了多种聚合函数,并支持窗口查询,使得复杂的统计分析变得轻松,且查询速度非常快。
  • 轻量级部署:TDengine部署简单,资源占用少,即使在资源受限的环境中也能保持稳定的性能。

  据我们研讨时了解,对于TDengine,它作为一个高性能、分布式、支持 SQL 的时序数据库(Time-series Database),TDengine 的典型适用场景包括但不限于 IoT、工业互联网、车联网、IT 运维、能源、金融证券等领域。需要指出的是,它 是针对时序数据场景设计的专用数据库和专用大数据处理工具,因其充分利用了时序大数据的特点,它无法用来处理网络爬虫、微博、微信、电商、ERP、CRM 等通用型数据。从这些点上,我们选择它学习它并使用它进行落地改造,是非常具有明智的举止。

TDengine在物联网数据中的应用

业务背景

  我们的项目涉及大规模的设备监控和数据采集。随着设备数量和数据量的增长,传统关系型数据库在处理时序数据时的性能瓶颈日益凸显。为了提升系统性能,我们决定引入TDengine。

TDengine的应用

  在新架构中,TDengine帮助我们实现了高效的数据存储和查询:

  • 数据写入:利用TDengine的批量写入接口,我们能够每秒处理数百万条数据,而不会遭遇写入瓶颈。
  • 超级表建模:我们根据设备类型或地理位置,为数千台设备的数据存储需求创建超级表,便于统一管理和查询。
  • 查询与分析:TDengine的窗口函数和内置聚合查询能力,使我们能够在毫秒级时间内完成复杂的设备状态分析和异常检测。

  这些改进显著提升了系统的性能,查询响应时间从秒级缩短到毫秒级,写入性能提高了50%以上。

如下是一张TDengine 在钢铁冶金行业能源管理系统中的应用架构图,大家可以参考看下,受益匪浅。

从传统数据库到TDengine集群的架构改造

架构挑战

  在引入TDengine之前,我们的架构面临以下挑战:

  • 写入瓶颈:随着设备数量和数据量的增加,写入速率成为系统瓶颈。
  • 查询延迟:复杂的聚合查询耗时较长,无法满足实时业务需求。
  • 扩展性受限:传统数据库的单节点架构在高并发读写场景下性能下降,扩展能力有限。

引入TDengine集群后的优化

  为了解决这些问题,我们引入了TDengine的集群架构:

  • 分布式存储与查询:数据分散存储在多个节点上,提高了系统的扩展能力。
  • 高可用性:集群的副本机制确保了数据的高可用性和容错性。
  • 查询性能优化:TDengine的时序数据引擎显著提升了查询性能,尤其是在时间范围查询和聚合分析方面。

  这次架构改造使系统整体性能提高了约30%,数据处理能力大大增强。

如何充分利用TDengine的优势

  在业务建模中,我们充分利用了TDengine的超级表功能:

  • 按设备类型划分超级表:为每种设备类型创建超级表,便于管理和查询。
  • 按区域划分:通过地理区域划分超级表,提高查询效率。
  • 事件日志表与统计表:除了传感器数据,我们还设计了事件日志表记录设备异常,结合TDengine的窗口查询功能,定期生成统计数据。

  这种建模方式不仅提高了数据管理和查询的效率,还优化了系统性能。

如下是TDengine官方总结的角色扮演,相对具有价值借鉴。

  其中对于上图中,官方给出的解答是:左侧是各种数据采集或消息队列,包括 OPC-UA、MQTT、Telegraf、也包括 Kafka,他们的数据将被源源不断的写入到 TDengine。右侧则是可视化、BI 工具、组态软件、应用程序。下侧则是 TDengine 自身提供的命令行程序(CLI)以及可视化管理工具。同时我也把它分享给大家。

总结

  通过引入TDengine,我们成功解决了传统数据库在时序数据存储和查询上的瓶颈,系统性能和可扩展性得到了显著提升。TDengine在海量数据存储、超级表设计、高效查询和集群扩展方面展现了强大的能力。

  未来,我们计划进一步探索TDengine的高级功能,如流数据分析和订阅机制,以持续提升系统的智能化和数据处理能力。


参考链接:

  1. TDengine 官网:https://www.taosdata.com/
  2. TDengine GitHub 社区:https://github.com/taosdata/TDengine

– End

相关文章:

TDengine 在业务落地与架构改造中的应用实践!

前言 在物联网和大数据时代,时序数据的管理和分析变得至关重要。TDengine,作为一款专为时序数据设计的开源数据库,以其卓越的存储和查询效率,成为众多企业优化数据架构的优选。本文将分享我将TDengine成功应用于实际业务的经验&am…...

Python3爬虫教程-HTTP基本原理

HTTP基本原理 1,URL组成部分详解2,HTTP和HTTPS3,HTTP请求过程4,请求(Request)请求方法(Request Method)请求的网址(Request URL)请求头(Request H…...

竹云赋能“中国·贵州”全省统一移动应用平台建设,打造政务服务“新引擎”

近日,2024中国国际大数据产业博览会在贵州贵阳圆满落幕。会上,由贵州省政府办公厅牵头建设的“中国贵州”全省统一移动应用平台正式发布,聚焦民生办事、政务公开、政民互动、扁平高效、数据赋能五大模块,旨在打造公平普惠的服务平…...

【MySQL 04】数据类型

目录 1.数据类型分类 2.数值类型 2.1 tinyint 类型 2.2 bit类型 2.3 float类型 2.4decimal 3.字符串类型 3.1 char类型 3.2 varchar类型 4.日期和时间类型 6. enum和set类型 6.1.enum和set类型简介: 6.2.enum和set的一般使用方法 6.3.用数字的方式…...

夹耳式蓝牙耳机哪个牌子最好,教你如何不踩雷

近年来,夹耳式耳机备受众人喜爱。主要原因在于其不入耳的特性,既能保护听力健康,又能让人享受到极致的音乐体验。久而久之,人们对入耳式耳机反而感到不习惯了。然而,一些想要入手夹耳式耳机的小伙伴却犯了难&#xff0…...

亿发零售云解析:新零售破局与年轻群体消费趋势变化

近年来,随着数字化、智能化的快速发展,“新零售”概念逐渐成为商业领域的热门话题。相比传统零售,新零售通过线上与线下的深度融合,利用大数据、人工智能等技术,赋能消费者与品牌之间的互动。尤其在年轻消费群体中&…...

zabbix“专家坐诊”第257期问答

问题一 Q:zabbix5.0监控项里的键值,怎么设置变量值?{#ABC} {$ABC} 都识别不到变量。 A:可以参考一下这个。 问题二 Q:我想问一下用odbc创建监控项,生成了json格式,如何创建一个触发器去判断里面…...

【代码笔记】

1级 第一课——cout /* C01.L01.程序的基本结构、cout语句 杨彦彬 2024.9.23日作业 &#xff08;2024.9.23做&#xff09; */ //调用头文件 #include<bits/stdc.h> //使用标准名字空间 using namespace std; //代码主体 int main(){//输出数字cout<<25;cout<&…...

CentOS上使用Mosquitto实现Mqtt主题消息发布和订阅mqtt主题消息连同时间戳记录到文件

场景 CentOS上使用rpm离线安装Mosquitto(Linux上Mqtt协议调试工具)附资源下载&#xff1a; CentOS上使用rpm离线安装Mosquitto(Linux上Mqtt协议调试工具)附资源下载-CSDN博客 上面介绍了mosquitto的离线安装。 如果业务场景中需要订阅某mqtt主题的消息并将收到消息的时间以…...

COMTRADE 录波文件 | 可视化工具 | 电能质量查看软件

COMTRADE 录波文件 | 可视化工具 | 电能质量查看软件 主要功能介绍 支持 IEEE Std C37.111-1991/1999/2013 规范。读取 ASCII 或二进制 COMTRADE 文件。查看来自 COMTRADE 配置文件的模拟和数字通道列表。将图表导出为 SVG、BMP、JPEG 和 PNG 图形格式。将显示的观察结果以 C…...

【面试宝典】面试基础指导

目录 &#x1f354; 简历怎么写 &#x1f354; ⾯试前针对项⽬撰写完成项⽬⽂档 &#x1f354; ⾯试前 &#x1f354; ⾯试中 4.1 投递简历当天没有收到⾯试邀约 4.2 讲解项⽬ 4.3 讲解知识 4.4 ⾯试中关于技术选型的演变 &#x1f354; ⾯试后 &#x1f354; 小结 &…...

Linux·权限与工具-git与gdb

1. git工具 git是一款软件&#xff0c;发明它的人同时发明了Linux操作系统&#xff0c;也就是大名鼎鼎的Linus Torvalds 林纳斯托瓦兹。后来人们把git软件包装&#xff0c;产生了github、gitee等平台。 git产生的初衷就是便于进行多人协同管理&#xff0c;同时它还可以用来将本…...

unity 如何 团队协作避免文件冲突?

在Unity团队协作中&#xff0c;避免文件冲突的关键在于版本控制、场景和Prefab的管理、以及沟通。以下是具体方法&#xff1a; 1. 使用版本控制系统 (VCS) Unity支持多个版本控制系统&#xff0c;如Git和Perforce。通过版本控制&#xff0c;每位团队成员可以独立工作&…...

VOC2007 的ImageSets/Main目录下通常有四个文件test.txt val.txt train.txt trainval.txt

在 VOC2007 的ImageSets/Main目录下通常有四个文件&#xff1a; test.txt&#xff1a;这个文件列出了用于测试的图像文件名。这些图像将在评估模型性能等测试阶段被使用。train.txt&#xff1a;此文件包含用于训练的图像文件名。在模型的训练过程中&#xff0c;程序会读取这些图…...

JavaScript中的parseInt(), Number(),+有啥区别?

文章目录 parseInt()Number()一元加号 处理 NaN 的常见方法1. 使用 isNaN() 函数检查值2. 使用 Number.isNaN() 方法3. 提供默认值4. 使用 try...catch 结构5. 使用类型守卫 在JavaScript中&#xff0c;parseInt(), Number(), 和一元加号 都可以用来转换值到数字类型&#xff…...

java核心基础

文章目录 1. Java开发基础1.1 DOS常用命令:&#xff08;以MAC常用命令比较&#xff09;1.2 JVM、JRE、JDK之间的关系1.3 Java开发环境的搭建1.4 Java的注释&#xff0c;标识符、标识符的命名规范1.5 变量和常量的定义及初始化1.6 Java的运算符1.7 三大语句1.8 常用的类1.8.1 ja…...

java 字符串如何通过占位符替换字符串

在Java中&#xff0c;可以使用String.format()方法或者MessageFormat.format()方法来通过占位符替换字符串。 例子1&#xff1a;使用String.format()方法 String str "Hello, %s! Today is %s."; String result String.format(str, "Alice", "Sun…...

OpenHarmony(鸿蒙南向开发)——小型系统内核(LiteOS-A)【LMS调测】

往期知识点记录&#xff1a; 鸿蒙&#xff08;HarmonyOS&#xff09;应用层开发&#xff08;北向&#xff09;知识点汇总 鸿蒙&#xff08;OpenHarmony&#xff09;南向开发保姆级知识点汇总~ 持续更新中…… 基本概念 LMS全称为Lite Memory Sanitizer&#xff0c;是一种实时…...

2024.9.24 数据分析

资料 111个Python数据分析实战项目&#xff0c;代码已跑通&#xff0c;数据可下载_python数据分析项目案例-CSDN博客 【数据挖掘六大项目实战】敢说这是全B站讲的最详细最通俗易懂的数据挖掘教程&#xff01;整整60集&#xff01;学不会来找我&#xff01;-数据挖掘、数据挖掘…...

企业急于采用人工智能,忽视了安全强化

对主要云提供商基础设施上托管的资产的安全分析显示&#xff0c;许多公司为了急于构建和部署 AI 应用程序而打开安全漏洞。常见的发现包括对 AI 相关服务使用默认且可能不安全的设置、部署易受攻击的 AI 软件包以及不遵循安全强化指南。 这项分析由 Orca Security 的研究人员进…...

【深海王国】初中生也能画的电路板?目录合集

Hi٩(๑ ^ o ^ ๑)۶, 各位深海王国的同志们&#xff0c;早上下午晚上凌晨好呀~辛勤工作的你今天也辛苦啦 (o゜▽゜)o☆ 今天大都督为大家带来系列文章《初中生也能画的电路板》&#xff0c;帮你一周内快速入门PCB设计&#xff0c;手把手教你从元器件库添加、电路原理图绘制、…...

Java日期格式化注解@DateTimeFormat和@JsonFormat

DateTimeForma 这个注解主要用于处理从前端传递到后端的日期和时间数据。当你的 Spring 应用程序接收到一个 http请求&#xff0c;并且请求参数包含日期和时间数据时&#xff0c;DateTimeFormat 可以帮助你将这些数据解析为 Java Date 或 LocalDateTime 对象。 JsonFormat 这…...

阿里巴巴中国站商品详情API返回值的国际化支持

阿里巴巴中国站&#xff08;通常指的是1688.com或淘宝、天猫等平台的API&#xff0c;但具体到商品详情API时&#xff0c;由于阿里巴巴的API体系庞大且不断更新&#xff0c;我无法直接提供一个特定于某个版本或接口的完整代码示例。不过&#xff0c;我可以给你一个概念性的指导&…...

TCP/IP - IP

目录 1. IPv4地址1.1. NAT技术2. IPv4数据报3. IP 分片与重组回见TCP/IP IP 网际互连协议(Internet Protocol)根据「IP地址」将数据传输到指定的目标主机,是一种 「不可靠」的 「端到端」的数据包 「传输服务」 所有的 TCP、UDP 及 ICMP 帧都以 IP 数据报格式传输。IP 协议…...

《JKTECH柔性振动盘:原理与多行业应用》东莞市江坤自动化科技有限公司

一、柔性振动盘的原理 柔性振动盘是一种新型的自动化上料设备&#xff0c;它采用先进的音圈电机技术和柔性振动技术&#xff0c;实现了对各种不规则形状、微小尺寸、易损伤零部件的高效上料和分拣。 其工作原理主要包括以下几个方面&#xff1a; 1. 音圈电机驱动 柔性振动盘内部…...

成功使用DDNS动态域名访问我的群晖NAS(TP-link路由器)

当NAS设备部署在动态IP环境中&#xff08;如家庭或小型办公室宽带&#xff09;&#xff0c;远程访问常常受到IP地址频繁变动的困扰。为了解决这一问题&#xff0c;结合神卓互联NAS公网助手提供的DDNS&#xff08;动态域名服务&#xff09;功能&#xff0c;我们可以轻松实现通过…...

MySQL GROUP BY 分区大小写问题解析

在数据库操作中&#xff0c;GROUP BY 是一个常用的SQL语句&#xff0c;用于根据一个或多个列的值对结果集进行分组。然而&#xff0c;在使用MySQL时&#xff0c;你可能会遇到一个常见问题&#xff1a;大小写敏感性。本文将探讨MySQL中GROUP BY的大小写敏感性问题&#xff0c;并…...

jQuery——jQuery的基本使用

1、使用 jQuery 核心函数&#xff1a;$ / jQuery 2、使用 jQuery 核心对象&#xff1a;执行 $&#xff08;&#xff09;返回的对象 3、引入 jQuery 函数库&#xff1a;可以本地引入&#xff08;不用联网&#xff09;&#xff0c;也可以远程引入&#xff08;需联网&#xff09…...

使用vite+react+ts+Ant Design开发后台管理项目(三)

前言 本文将引导开发者从零基础开始&#xff0c;运用vite、react、react-router、react-redux、Ant Design、less、tailwindcss、axios等前沿技术栈&#xff0c;构建一个高效、响应式的后台管理系统。通过详细的步骤和实践指导&#xff0c;文章旨在为开发者揭示如何利用这些技术…...

AUTOSAR_EXP_ARAComAPI的5章笔记(11)

5.4.5 轮询和事件驱动处理模式 接下来&#xff0c;我们探讨服务提供方同时支持事件驱动和轮询行为的情况。从服务实例&#xff08;此处指骨架子类实例&#xff09;的角度来看&#xff0c;服务消费者的请求&#xff08;包括服务方法或字段的 getter/setter 调用&#xff09;可能…...