当前位置: 首页 > news >正文

基于IoTDB 平台的学习和研究

Apache IoTDB(物联网数据库)是一个针对物联网领域的高性能原生数据库,适用于数据管理和分析,并可在边缘计算和云端部署。由于它轻量级的架构、高性能和丰富的功能集,以及与Apache Hadoop、Spark和Flink的深度集成,Apache IoTDB能够满足物联网行业中大规模数据存储、高速数据摄入和复杂数据分析的需求。

原创文字,IoTDB 社区可进行使用与传播基于IoTDB 平台的学习和研究_应用_芯动大师_InfoQ写作社区

一、IoTDB 的介绍

IoTDB (Internet of Things Database) 是由清华大学主导的 Apache 孵化项目,是一款聚焦工业物联网、高性能轻量级的时序数据管理系统,也是一款开源时序数据库,为用户提供数据收集、存储和分析等服务。作为一款时序数据库,IoTDB的相关竞品有 KairosDB,InfluxDB,TimescaleDB等。

IoTDB 提供端云一体化的解决方案,在云端,提供高性能的数据读写以及丰富的查询能力,针对物联网场景定制高效的目录组织结构,并与 Apache Hadoop、Spark、Flink 等大数据系统无缝打通;在边缘端,提供轻量化的 TsFile 管理能力,端上的数据写到本地 TsFile,并提供一定的基础查询能力,同时支持将 TsFile 数据同步到云端。

二、IoTDB的特点

  1. 轻量级架构:IoTDB设计为高效处理物联网设备产生的数据流,其轻量级的架构确保了资源的有效利用和快速响应。

  2. 高性能:针对物联网数据的特性进行了优化,如时间序列数据的快速写入和查询,以及高效的压缩和存储策略。

  3. 丰富的功能集:支持多种数据类型、多种数据压缩算法、数据标签和元数据管理等,满足物联网应用的多样化需求。

  4. 与Hadoop、Spark和Flink的集成:通过与这些大数据处理框架的集成,IoTDB可以无缝地接入到现有的大数据生态系统中,实现数据的实时分析和处理。

  5. 部署灵活:既可以在边缘设备上运行,作为本地数据存储和分析引擎,也可以部署在云端,支持分布式集群架构,实现大规模数据存储和计算。

  6. 安全可靠:提供数据备份和恢复机制,支持数据加密和访问控制,确保数据的安全性和完整性。

  7. 易用性:提供SQL-like的查询语言,方便用户进行数据查询和分析。同时,提供丰富的API和工具,支持多种编程语言和平台。

在物联网工业领域中,Apache IoTDB可以广泛应用于设备监控、能源管理、智能制造、智慧城市等场景,帮助用户实现数据的实时采集、存储、分析和可视化。

三、IoTDB的用法

Apache IoTDB(物联网数据库)是一个针对物联网数据的高性能时序数据库。关于这个平台的用法,以下是我的个人使用体验。

1. 安装与启动

  • 下载与安装:访问官方下载页面(如:https://iotdb.apache.org/Download/)下载适用于您的操作系统的安装包。解压安装包到目标目录。

  • 启动服务:进入sbin目录,使用命令start-cli.bat -h 127.0.0.1 -p 6667 -u root -pw root(Windows)或相应的命令(Linux/Mac)启动IoTDB服务。如果出现查询不到JDK的错误,需要修改start-cli.bat(或相应的脚本文件)中的classpath内容,确保JDK路径正确。

2. Spring Boot整合

  • 导入依赖:在Spring Boot项目的pom.xml文件中添加IoTDB的依赖项,指定合适的版本号。

<dependency>  <groupId>org.apache.iotdb</groupId>  <artifactId>iotdb-session</artifactId>  <version>${iotdb.version}</version>  
</dependency>
  • 配置IoTDB:在application.ymlapplication.properties文件中配置IoTDB的连接信息,如主机地址、端口、用户名、密码等。

iotdb:  host: 127.0.0.1  port: 6667  user: root  password: root  maxSize: 100
  • 整合代码:创建一个配置类,使用@Configuration@ConfigurationProperties注解来加载IoTDB的配置信息,并创建一个SessionPool的Bean供应用使用。

3. 数据查询

  • 最新点查询:IoTDB支持最新点查询,这是一种特殊的查询,用于返回指定时间序列中时间戳最大的数据点。使用SQL语法select last <Path> from <PrefixPath> [whereClause] [ORDER BY TIMESERIES (DESC|ASC)?]进行查询。

4. 运维和监控

  • 查询历史可视化工具:通过IoTDB提供的网页监控工具,可以查看查询历史和SQL执行时间。还可以监控当前主机的内存和CPU使用率。

  • 系统监视器:使用Java的JConsole工具或IoTDB的开放API来监控系统状态,包括CPU占用、内存信息等。通过JMX MBean Monitoring可以监控IoTDB服务进程的文件数量、数据文件大小等。

5. 配置文件

  • 配置文件目录:在IoTDB安装包的conf目录下可以找到配置文件,包括通用配置、ConfigNode配置和DataNode配置。根据业务需求修改配置文件以满足特定需求。

四、IoTDB平台研究体验

1. 介绍

IoTDB(物联网数据库)作为一体化收集、存储、管理与分析物联网时序数据的软件系统,其研究与应用对于工业物联网的发展具有重要意义。在深入研究IoTDB的过程中,我深刻体会到了其在处理时序数据方面的优势与价值。

2. 核心特点

  1. 高性能与轻量级架构:IoTDB采用轻量式架构,具有高性能和丰富的功能。其能够支持每秒每节点写入数百万数据点,并且具备高效的查询性能,使得TB级数据能够实现秒级查询。

  2. 丰富的功能:IoTDB支持数据的增删改查、丰富的聚合函数以及复杂的查询分析一体化。同时,其还支持与Apache Hadoop、Spark等大数据框架的深度集成,满足工业物联网领域的海量数据存储、高速数据读取和复杂数据分析需求。

  3. 低硬件成本的存储解决方案:IoTDB通过高压缩比的磁盘存储技术,实现了低成本的存储方案。例如,对于10亿数据点,其硬盘成本可低于1.4元。

  4. 高吞吐量的读写能力:IoTDB支持百万级低功耗强连接设备数据接入,同时支持智能网联设备数据的高速读写,满足海量数据的处理需求。

  5. 易于使用的接口:IoTDB支持类SQL的数据操作,提供JDBC的编程接口以及完善的导入导出工具,降低了用户的学习门槛。

3. 技术创新

  1. 列式存储与时序索引:IoTDB采用列式存储技术,结合时序索引,支持快速数据过滤、高效聚合查询、降采样查询等典型时序数据查询种类,提高了查询效率。

  2. TsFile存储文件格式:IoTDB针对时间序列优化的紧致列式存储文件格式TsFile,支持有损、无损等多种高效编码及专有压缩算法,实现了数据的高效存储与压缩。

  3. 分布式部署与数据同步:IoTDB支持分布式部署,并具备强大的数据同步能力与简便的数据同步机制,可实现跨平台、跨车间、跨厂的数据协同。

4. 应用价值

IoTDB的研究与应用对于工业物联网的发展具有重要意义。其通过高效的数据存储、管理与查询能力,可助力工业企业实现数字化转型、工业4.0升级,达到降本、增效、提质等目的。同时,IoTDB还可与多种数据分析处理平台对接,支持时序数据单平台采集、存储、计算、管理、应用全流程,为工业物联网的应用落地提供了坚实的基础。

5. 总结

通过对IoTDB的深入研究与实践,我深刻体会到了其在处理时序数据方面的优势与价值。IoTDB以其高性能、轻量级架构、丰富的功能以及易于使用的接口等特点,在工业物联网领域展现出了广阔的应用前景。未来,随着物联网技术的不断发展与普及,IoTDB将发挥更加重要的作用,推动工业物联网的快速发展。

相关文章:

基于IoTDB 平台的学习和研究

Apache IoTDB&#xff08;物联网数据库&#xff09;是一个针对物联网领域的高性能原生数据库&#xff0c;适用于数据管理和分析&#xff0c;并可在边缘计算和云端部署。由于它轻量级的架构、高性能和丰富的功能集&#xff0c;以及与Apache Hadoop、Spark和Flink的深度集成&…...

nessus plugins目录为空的问题

想要避免这种问题&#xff0c;可以将nessus服务设置为手动&#xff0c;并且先停止nessus服务。 批处理脚本&#xff1a; 下面的/~/Nessus/plugin_feed_info.inc替换成你配置好的 plugin_feed_info.inc 所在的路径 service nessusd stop; cp /~/Nessus/plugin_feed_info.inc …...

FDW(Foreign Data Wrapper)

在上一篇博客里&#xff0c;最末尾提到了 FDW。pg 实现了数百个 fdw 插件&#xff0c;用于访问外部数据。 FDW 到底是什么呢&#xff1f; 标准 FDW&#xff08;Foreign Data Wrapper&#xff09;遵循了 SQL/MED 标准&#xff0c;标准全称&#xff1a;ISO/IEC 9075-9 Managem…...

Flutter开发指南

Flutter开发指南&#xff08;Android 开发角度&#xff09; 与Android 的对比 1.Android 的View 与Flutter 的对应关系&#xff1a; a.在android 中&#xff0c;view 是屏幕显示的基础&#xff0c;比如 button&#xff0c;文本&#xff0c;列表&#xff0c;输入框都是 view。…...

SpringCloud学习笔记万字整理(无广版在博客)

在此感谢黑马程序员的SpringCloud课程 所有笔记、生活分享首发于个人博客 想要获得最佳的阅读体验&#xff08;无广告且清爽&#xff09;&#xff0c;请访问本篇笔记 认识微服务 随着互联网行业的发展&#xff0c;对服务的要求也越来越高&#xff0c;服务架构也从单体架构逐渐…...

c++(七)

c&#xff08;七&#xff09; 内联函数内联函数的特点为什么要有内联函数内联函数是如何工作的呢 类型转换异常处理智能指针单例模式懒汉模式饿汉模式 VS中数据库的相关配置 内联函数 修饰类的成员函数&#xff0c;关键字&#xff1a;inline inline 返回值类型 函数名(参数列…...

SQL语言

SQL语言 导航 文章目录 SQL语言导航一、SQL概述SQL 二、数据库定义SQL 数据类型 三、数据操作视图更新 四、SQL的授权五、存储过程六、嵌入式SQL主语言与数据库通信 七、动态SQL 一、SQL概述 SQL 支持三级模式结构 视图->外模式 基本表->模式 存储文件->内模式 二…...

【PPT】修改新建文本框默认字体

【PPT】修改新建文本框默认字体...

智能办公本如何选择

智能办公本如何选择 引言 随着科技的不断发展&#xff0c;智能办公本已成为现代职场人士的重要工具。它们不仅具备传统纸质笔记本的书写体验&#xff0c;还融入了先进的智能技术&#xff0c;让办公变得更加高效便捷。在选择智能办公本时&#xff0c;我们需要关注多个方面&…...

Spark基础:Scala变量与数据类型

在Scala中&#xff0c;变量和数据类型是编程的基础。Scala作为一种强大的静态类型语言&#xff0c;支持多种数据类型&#xff0c;并提供了可变&#xff08;var&#xff09;和不可变&#xff08;val&#xff09;两种类型的变量声明方式。以下是在Scala中变量和数据类型的基础知识…...

php 实现:给图片加文字水印,图片水印,压缩图片

演示环境&#xff1a; 1、windows10 2、phpstudy 3、php7.4 一、案例演示&#xff1a; 二、素材准备 1、准备一张原始图片 2、准备一张水印图片&#xff08;透明底图的最好&#xff09; 3、字体库&#xff08;windows系统自带的字体库&#xff0c;路径在&#xff1a;C:\Window…...

免费实现网站HTTPS访问

HTTPS&#xff08;Hypertext Transfer Protocol Secure&#xff09;是一种基于SSL协议的HTTP安全协议&#xff0c;旨在为客户端&#xff08;浏览器&#xff09;与服务器之间的通信提供加密通道&#xff0c;确保数据在传输过程中的保密性、完整性和身份验证。与传统的HTTP相比&a…...

vue3使用vue3-print-nb打印

打印效果 1.下载插件 Vue2.0版本安装方法 npm install vue-print-nb --saveVue3.0版本安装方法&#xff1a; npm install vue3-print-nb --save2.main.js引入 vue2引入 import Print from vue-print-nb Vue.use(Print)vue3引入 import print from vue3-print-nb // 打印…...

R语言ggplot2包绘制网络地图

重要提示&#xff1a;数据和代码获取&#xff1a;请查看主页个人信息&#xff01;&#xff01;&#xff01; 载入R包 rm(listls()) pacman::p_load(tidyverse,assertthat,igraph,purrr,ggraph,ggmap) 网络节点和边数据 nodes <- read.csv(nodes.csv, row.names 1) edges…...

php获取今天凌晨零点的时间

不废话直接上代码 //使用strtotime $midnightToday strtotime("today midnight"); //输出&#xff1a;1716998400 //如果是明天 $midnightToday 86400 //后天 $midnightToday 86400*2//ORM中比对使用 $row ModelVisit::where(uid,$this->uid)->where(visi…...

CATIA进阶操作——创成式曲面设计入门(1)线架设计,三维点、直线、平面、曲线

目录 引出三维空间点生成三维直线三维平面三维曲线总结异形弹簧新建几何体草图编辑&#xff0c;画一条样条线进行扫掠&#xff0c;圆心和半径画出曲面上的螺旋线再次选择扫掠&#xff0c;圆心和半径 其他自定义信号和槽1.自定义信号2.自定义槽3.建立连接4.进行触发 自定义信号重…...

thinkphp6中怎么查看ThinkPHP版本号

<?php namespace app\controller; use app\BaseController; use think\app; //这句 class Index extends BaseController { public function test() { echo App::VERSION; //还有这句 } }...

第十二章 创建Web客户端

文章目录 第十二章 创建Web客户端SOAP向导的概述使用SOAP向导 第十二章 创建Web客户端 web客户端是访问web服务的软件。web客户端提供了一组代理方法&#xff0c;每个方法对应于web服务的一个方法。代理方法使用与它所对应的web服务方法相同的签名&#xff0c;并在被请求时调用…...

调试记录-RK平台用指令开启ADB功能

需求 嵌入式Linux系统调试过程中&#xff0c;为了方便&#xff0c;我们会借鉴Android调试的方法&#xff0c;在Linux系统添加adb功能&#xff0c;主要功能是通过USB线连接开发板和PC&#xff0c;实现两者之间传输文件&#xff0c;在PC上执行指令操作开发板。 实现 前提&…...

奇安信_NAC终端安全准入系统(相关问题整理)

奇安信终端安全准入系统 ,下称NAC 一、入网控制方式 1.IP流量控制 2.802.1X 准入 需要NAC、交换机、终端 以802.1X 3.DHCP 准入 将NAC作为DHCP服务器&#xff0c;为客户端分配地址&#xff0c;并对分配地址的客户端进行入网管控。 &#xff08;*&#xff09;可选 强制入网…...

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…...

多云管理“拦路虎”:深入解析网络互联、身份同步与成本可视化的技术复杂度​

一、引言&#xff1a;多云环境的技术复杂性本质​​ 企业采用多云策略已从技术选型升维至生存刚需。当业务系统分散部署在多个云平台时&#xff0c;​​基础设施的技术债呈现指数级积累​​。网络连接、身份认证、成本管理这三大核心挑战相互嵌套&#xff1a;跨云网络构建数据…...

JavaSec-RCE

简介 RCE(Remote Code Execution)&#xff0c;可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景&#xff1a;Groovy代码注入 Groovy是一种基于JVM的动态语言&#xff0c;语法简洁&#xff0c;支持闭包、动态类型和Java互操作性&#xff0c…...

使用VSCode开发Django指南

使用VSCode开发Django指南 一、概述 Django 是一个高级 Python 框架&#xff0c;专为快速、安全和可扩展的 Web 开发而设计。Django 包含对 URL 路由、页面模板和数据处理的丰富支持。 本文将创建一个简单的 Django 应用&#xff0c;其中包含三个使用通用基本模板的页面。在此…...

突破不可导策略的训练难题:零阶优化与强化学习的深度嵌合

强化学习&#xff08;Reinforcement Learning, RL&#xff09;是工业领域智能控制的重要方法。它的基本原理是将最优控制问题建模为马尔可夫决策过程&#xff0c;然后使用强化学习的Actor-Critic机制&#xff08;中文译作“知行互动”机制&#xff09;&#xff0c;逐步迭代求解…...

【SpringBoot】100、SpringBoot中使用自定义注解+AOP实现参数自动解密

在实际项目中,用户注册、登录、修改密码等操作,都涉及到参数传输安全问题。所以我们需要在前端对账户、密码等敏感信息加密传输,在后端接收到数据后能自动解密。 1、引入依赖 <dependency><groupId>org.springframework.boot</groupId><artifactId...

《Playwright:微软的自动化测试工具详解》

Playwright 简介:声明内容来自网络&#xff0c;将内容拼接整理出来的文档 Playwright 是微软开发的自动化测试工具&#xff0c;支持 Chrome、Firefox、Safari 等主流浏览器&#xff0c;提供多语言 API&#xff08;Python、JavaScript、Java、.NET&#xff09;。它的特点包括&a…...

UE5 学习系列(三)创建和移动物体

这篇博客是该系列的第三篇&#xff0c;是在之前两篇博客的基础上展开&#xff0c;主要介绍如何在操作界面中创建和拖动物体&#xff0c;这篇博客跟随的视频链接如下&#xff1a; B 站视频&#xff1a;s03-创建和移动物体 如果你不打算开之前的博客并且对UE5 比较熟的话按照以…...

Auto-Coder使用GPT-4o完成:在用TabPFN这个模型构建一个预测未来3天涨跌的分类任务

通过akshare库&#xff0c;获取股票数据&#xff0c;并生成TabPFN这个模型 可以识别、处理的格式&#xff0c;写一个完整的预处理示例&#xff0c;并构建一个预测未来 3 天股价涨跌的分类任务 用TabPFN这个模型构建一个预测未来 3 天股价涨跌的分类任务&#xff0c;进行预测并输…...

postgresql|数据库|只读用户的创建和删除(备忘)

CREATE USER read_only WITH PASSWORD 密码 -- 连接到xxx数据库 \c xxx -- 授予对xxx数据库的只读权限 GRANT CONNECT ON DATABASE xxx TO read_only; GRANT USAGE ON SCHEMA public TO read_only; GRANT SELECT ON ALL TABLES IN SCHEMA public TO read_only; GRANT EXECUTE O…...