当前位置: 首页 > article >正文

保姆级教程:在3台CentOS虚拟机上从零搭建Apache Doris 2.1.6集群(含防火墙、JDK配置)

从零构建Apache Doris 2.1.6分布式集群三节点CentOS实战指南环境准备与系统调优在开始部署Apache Doris集群之前我们需要确保三台CentOS虚拟机处于最佳状态。以下是关键的系统配置步骤关闭防火墙与SELinux执行以下命令永久禁用防火墙和SELinuxsystemctl stop firewalld systemctl disable firewalld sed -i s/SELINUXenforcing/SELINUXdisabled/g /etc/selinux/config setenforce 0优化系统参数编辑/etc/security/limits.conf文件添加以下内容* soft nofile 655360 * hard nofile 655360然后修改/etc/sysctl.confecho vm.max_map_count2000000 /etc/sysctl.conf sysctl -p关闭Swap分区临时和永久关闭Swapswapoff -a sed -ri s/.*swap.*/#/ /etc/fstab提示这些系统级优化对Doris集群的稳定运行至关重要特别是文件描述符限制和内存管理参数。JDK环境配置Apache Doris 2.1.6需要JDK 8运行环境。以下是配置步骤下载并解压JDK 8至/usr/lib/jvm/目录配置环境变量编辑/etc/profile文件export JAVA_HOME/usr/lib/jvm/jdk-8u451 export PATH$JAVA_HOME/bin:$PATH export CLASSPATH.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar使配置生效source /etc/profile验证安装java -version应显示类似输出java version 1.8.0_451 Java(TM) SE Runtime Environment (build 1.8.0_451-b09) Java HotSpot(TM) 64-Bit Server VM (build 25.451-b09, mixed mode)Doris软件部署下载安装包从官网获取稳定版本wget https://doris.apache.org/download解压与目录准备在三台节点上执行tar -zxvf apache-doris-2.1.6-bin-x64.tar.gz -C /export/server/ mv /export/server/apache-doris-2.1.6-bin-x64/ /export/server/doris216创建数据目录mkdir -p /export/doris_data/{storage,doris-meta}FE节点部署与配置主FE节点配置修改fe.conf关键参数priority_networks 192.168.88.0/24 meta_dir /export/doris_data/doris-meta添加环境变量echo export DORIS_HOME/export/server/doris216 /etc/profile echo PATH$PATH:$DORIS_HOME/bin /etc/profile source /etc/profile启动主FE节点/export/server/doris216/fe/bin/start_fe.sh --daemon验证启动状态curl http://127.0.0.1:8030/api/bootstrap成功响应应包含msg:success。Follower/Observer节点部署复制安装文件到其他节点scp -r /export/server/doris216 rootnode2:/export/server/ scp -r /export/server/doris216 rootnode3:/export/server/在MySQL客户端注册新节点ALTER SYSTEM ADD FOLLOWER node2:9010; ALTER SYSTEM ADD OBSERVER node3:9010;启动从节点# node2 (Follower) /export/server/doris216/fe/bin/start_fe.sh --helper node1:9010 --daemon # node3 (Observer) /export/server/doris216/fe/bin/start_fe.sh --helper node1:9010 --daemon检查集群状态SHOW FRONTENDS;应显示三个节点且Alive状态为true。BE节点部署与配置基础配置修改be.conf关键参数storage_root_path /export/doris_data/storage priority_networks 192.168.88.0/24创建存储目录软链接ln -sfn /export/doris_data/storage /export/server/doris216/be/storage节点注册与启动在MySQL客户端注册BE节点ALTER SYSTEM ADD BACKEND node1:9050; ALTER SYSTEM ADD BACKEND node2:9050; ALTER SYSTEM ADD BACKEND node3:9050;启动BE服务/export/server/doris216/be/bin/start_be.sh --daemon验证BE状态SHOW BACKENDS;关键指标检查Alive: trueTabletNum: 应均匀分布Disk使用率: 在合理范围内集群安全与测试密码设置修改默认空密码SET PASSWORD PASSWORD(your_secure_password);功能验证创建测试数据库CREATE DATABASE testdb;建立测试表CREATE TABLE testdb.demo_table ( id INT, name VARCHAR(50), value DECIMAL(10,2) ) DISTRIBUTED BY HASH(id) BUCKETS 32;插入测试数据INSERT INTO testdb.demo_table VALUES (1, Item A, 10.5), (2, Item B, 20.3), (3, Item C, 15.7);查询验证SELECT * FROM testdb.demo_table;常见问题排查问题现象可能原因解决方案FE启动失败端口冲突检查8030/9030端口占用BE无法注册网络不通验证节点间网络连通性查询超时资源不足检查BE节点负载和内存数据不均衡副本设置检查tablet分布和副本数关键日志位置FE日志/export/server/doris216/fe/log/BE日志/export/server/doris216/be/log/性能优化建议内存配置根据服务器内存调整BE的mem_limit参数建议不超过物理内存的80%存储优化考虑使用SSD作为热数据存储storage_root_path/data/ssd,medium:SSD;/data/hdd,medium:HDD查询并行度调整parallel_fragment_exec_instance_num参数提高查询并发能力监控设置建议部署PrometheusGrafana监控集群关键指标FE JVM使用率BE磁盘IO查询延迟日常维护命令集群状态检查SHOW PROC /frontends; SHOW PROC /backends;节点下线操作ALTER SYSTEM DECOMMISSION BACKEND be_host:be_heartbeat_port;元数据备份mysql -uroot -P9030 -h fe_host -e BACKUP SNAPSHOT db_name TO repo_name ON (backend1, backend2)在实际生产环境中建议定期检查集群日志和监控指标特别是在执行重大变更或观察到性能波动时。根据我们的经验合理的硬件配置和参数调优可以使Doris集群性能提升30%以上。

相关文章:

保姆级教程:在3台CentOS虚拟机上从零搭建Apache Doris 2.1.6集群(含防火墙、JDK配置)

从零构建Apache Doris 2.1.6分布式集群:三节点CentOS实战指南 环境准备与系统调优 在开始部署Apache Doris集群之前,我们需要确保三台CentOS虚拟机处于最佳状态。以下是关键的系统配置步骤:关闭防火墙与SELinux 执行以下命令永久禁用防火墙和…...

告别文献管理噩梦:Jasminum如何用3个神技拯救你的中文研究

告别文献管理噩梦:Jasminum如何用3个神技拯救你的中文研究 【免费下载链接】jasminum A Zotero add-on to retrive CNKI meta data. 一个简单的Zotero 插件,用于识别中文元数据 项目地址: https://gitcode.com/gh_mirrors/ja/jasminum 想象一下这…...

全球地理边界数据实战指南:如何高效利用开源GeoJSON数据库构建地图应用

全球地理边界数据实战指南:如何高效利用开源GeoJSON数据库构建地图应用 【免费下载链接】world-geojson GeoJson for all the countries, areas (regions) and some states. 项目地址: https://gitcode.com/gh_mirrors/wo/world-geojson 在当今数据驱动的世界…...

从零开始:用FoxGlove搭建OriginCar实时监控系统(Windows/Ubuntu双平台教程)

从零开始:用FoxGlove搭建OriginCar实时监控系统(Windows/Ubuntu双平台教程) 在智能车开发领域,实时监控系统的重要性不言而喻。无论是调试传感器数据、验证算法效果,还是进行远程控制,一个直观高效的监控平…...

MusePublic惊艳案例:水墨/浮世绘/拜占庭等非西方艺术风格人像生成

MusePublic惊艳案例:水墨/浮世绘/拜占庭等非西方艺术风格人像生成 1. 引言:当AI遇见古典艺术 想象一下,你是一位设计师,正在为一个高端文化项目寻找视觉灵感。项目要求融合东方水墨的意境、日本浮世绘的华丽,或是拜占…...

单片机驱动能力:拉电流与灌电流原理及设计

1. 单片机驱动能力解析:拉电流与灌电流原理及应用1.1 基本概念与定义在嵌入式系统设计中,单片机的驱动能力直接影响着外围电路的正常工作。驱动能力主要通过两种电流模式体现:拉电流(Sourcing Current)和灌电流(Sinking Current)。1.1.1 灌电…...

艾尔登法环性能优化指南:使用Elden Ring FPS Unlock And More解锁帧率、调整视野与宽屏支持

艾尔登法环性能优化指南:使用Elden Ring FPS Unlock And More解锁帧率、调整视野与宽屏支持 【免费下载链接】EldenRingFpsUnlockAndMore A small utility to remove frame rate limit, change FOV, add widescreen support and more for Elden Ring 项目地址: ht…...

Qwen3-Reranker-0.6B入门指南:32K上下文处理长合同/论文PDF重排技巧

Qwen3-Reranker-0.6B入门指南:32K上下文处理长合同/论文PDF重排技巧 1. 什么是Qwen3-Reranker-0.6B Qwen3-Reranker-0.6B是通义千问团队推出的专门用于文本重排序的AI模型,拥有6亿参数和1.2GB的模型大小。这个模型最大的特点是支持32K的超长上下文&…...

Qwen3-VL-8B作品集展示:多场景图文对话效果实测

Qwen3-VL-8B作品集展示:多场景图文对话效果实测 1. 引言:当AI真正"看懂"图片 想象一下这样的场景:你随手拍下路边一家餐厅的菜单,AI不仅能识别文字,还能告诉你"第三道菜的辣椒图标表示辣度"&…...

802.11n频宽模式全解析:HT20和HT40在不同场景下的最佳选择指南

802.11n频宽模式实战指南:HT20与HT40的智能选择策略 无线网络性能优化一直是网络管理员和技术爱好者关注的焦点。在802.11n标准中,HT20和HT40两种频宽模式的选择直接影响着网络吞吐量、覆盖范围和抗干扰能力。本文将深入剖析这两种模式的技术特性&#x…...

Pixel Dimension Fissioner 学术研究辅助:快速生成论文图表与概念示意图

Pixel Dimension Fissioner 学术研究辅助:快速生成论文图表与概念示意图 1. 科研绘图的痛点与解决方案 科研工作者每天都要面对一个共同的挑战:如何高效制作专业、美观的学术图表。传统绘图工具如Photoshop或Illustrator需要大量学习成本,而…...

vLLM-v0.11.0问题排查:GPU显存爆了?看这篇就够了

vLLM-v0.11.0问题排查:GPU显存爆了?看这篇就够了 1. 问题现象与初步诊断 1.1 典型显存溢出表现 当你使用vLLM-v0.11.0运行大模型推理时,可能会遇到以下异常情况: 服务突然崩溃,日志中出现CUDA out of memory错误推…...

RocketMQ 5.3.1生产环境避坑指南:Broker配置优化与Proxy分离部署实战

RocketMQ 5.3.1生产环境避坑指南:Broker配置优化与Proxy分离部署实战 在企业级消息中间件的选型中,RocketMQ凭借其高吞吐、低延迟和金融级可靠性的特点,已成为众多互联网公司和金融机构的核心基础设施。随着5.x版本的发布,Proxy分…...

基于Matlab遗传算法(GA)编写的通用性可读性强的带时间窗车辆路径问题(VRPTW)求解程...

Matlab带时间窗的车辆路径问题 VRPTWGA编写,通用性可读性较好,附带时间窗,车辆载重,同时取配货等现实约束条件最近帮朋友调他的快递配送优化代码,才发现原来天天见的“顺路送件”背后,藏着这么多绕不开的约…...

动漫转真人质量评估|AnythingtoRealCharacters2511 FID/LPIPS指标实测与解读

动漫转真人质量评估|AnythingtoRealCharacters2511 FID/LPIPS指标实测与解读 1. 引言:为什么需要评估动漫转真人质量? 当你看到一张动漫图片变成真人风格的效果时,第一反应是什么?是"哇,好像真人&am…...

易语言DLL注入工具(含完整源码+窗口Hook实战示例)

温馨提示:文末有联系方式产品核心功能概述 本工具是一款采用易语言开发的Windows平台DLL注入解决方案,支持将指定动态链接库注入至目标进程,并对目标窗口实施消息钩取(Hook),实现UI层行为拦截与增强。 内置…...

哔哩哔哩HD2.5.1 | 内置漫游模块,去除广告并解除番剧限制

哔哩哔哩HD是一款专为安卓平板打造的B站客户端,主要提供动画、游戏相关的弹幕视频分享服务。该版本特别之处在于内置漫游模块,可去除广告并解除番剧限制,为用户带来更为纯净的视频观看体验。无论是追新番还是重温经典动画,这款应用…...

Keil开发必备:AStyle代码格式化插件一键配置指南(附最新参数详解)

Keil开发必备:AStyle代码格式化插件一键配置指南(附最新参数详解) 在嵌入式开发领域,代码风格的一致性往往被忽视,却直接影响团队协作效率和代码可维护性。Keil作为嵌入式开发的主流IDE,原生并未提供强大的…...

SAP后台开发必备:这20个事务码能帮你省下50%查表时间(含DBACOCKPIT高阶用法)

SAP后台开发效率革命:20个事务码与DBACOCKPIT高阶实战指南 当系统突然提示"凭证不存在"时,你会不会下意识地打开SE16N输入T_BKPF?当用户抱怨报表运行缓慢时,是否还在用ST05逐个表追踪?作为经历过数百个SAP项…...

5步焕新老Mac:系统兼容性工具让旧设备重获新生

5步焕新老Mac:系统兼容性工具让旧设备重获新生 【免费下载链接】OpenCore-Legacy-Patcher 体验与之前一样的macOS 项目地址: https://gitcode.com/GitHub_Trending/op/OpenCore-Legacy-Patcher 需求分析:老Mac的"系统升级焦虑症" 当你…...

知识图谱落地指南:从技术原理到业务价值变现

知识图谱落地指南:从技术原理到业务价值变现 【免费下载链接】llm-graph-builder Neo4j graph construction from unstructured data 项目地址: https://gitcode.com/GitHub_Trending/ll/llm-graph-builder 在数据驱动决策的时代,企业面临着海量非…...

CF1426E Rock, Paper, Scissors

题意: 两个人玩石头剪刀布。A 出了 a1​ 个石头,a2​ 个剪刀,a3​ 个布。B 出了 b1​ 个石头,b2​ 个剪刀,b3​ 个布。 求 A 最少赢的次数和最多赢的次数。 (题目中还给了一个无用信息 na1​a2​a3​b1​b2​b3​&…...

Kettle转换里SQL步骤优先级太高?手把手教你用‘阻塞数据’控件实现‘先删后插’

Kettle转换中SQL步骤优先级问题深度解析:如何精准控制"先删后插"流程 在ETL开发领域,Kettle(现称Pentaho Data Integration)因其可视化操作和强大功能成为众多数据工程师的首选工具。然而,当开发者从简单的数…...

别再让卡尔曼滤波发散了!用平方根滤波(Potter算法)搞定病态矩阵计算

平方根滤波实战:用Potter算法解决卡尔曼滤波数值发散难题 在自动驾驶车辆的多传感器融合系统中,工程师小王盯着屏幕上突然跳变的定位轨迹皱起了眉头。明明所有硬件都工作正常,为什么滤波后的位置输出会出现这种不合理的突变?类似的…...

别再只用Postman了!手把手教你用Chrome插件Talend API Tester搞定接口测试

浏览器端API测试新选择:Talend API Tester深度评测与实战指南 在当今前后端分离的开发模式下,API测试工具已成为开发者日常工作中不可或缺的利器。虽然Postman凭借其丰富的功能长期占据市场主导地位,但对于追求轻量化、即时可用的开发者而言&…...

Wan2.2-I2V-A14B效果展示:10秒视频中24帧/秒流畅度与运动模糊表现

Wan2.2-I2V-A14B效果展示:10秒视频中24帧/秒流畅度与运动模糊表现 1. 专业级视频生成效果概览 Wan2.2-I2V-A14B文生视频模型在RTX 4090D 24GB显存环境下展现出令人惊艳的视频生成能力。经过深度优化的私有部署镜像,能够稳定输出24帧/秒的高清视频&…...

QML与C++深度交互实战指南

1. 为什么你需要QML与C的深度交互? 如果你刚开始接触Qt Quick开发,可能会觉得QML写界面真爽,声明式语法,动画效果信手拈来。但当你真正开始做一个有点规模的应用时,很快就会遇到瓶颈:复杂的业务逻辑、大量的…...

告别PS!用Windows画图+Python自动化实现图片批量裁剪(附完整脚本)

告别PS!用Windows画图Python自动化实现图片批量裁剪(附完整脚本) 在数字图像处理领域,批量裁剪图片是许多开发者、设计师和研究人员经常遇到的基础需求。传统方法往往依赖Photoshop等专业软件,不仅操作繁琐&#xff0c…...

工业网关Python代码被勒索软件加密后无法恢复?紧急发布:基于Secure Boot+TPM 2.0的网关固件级Python字节码保护框架(v1.0.0 Alpha限免72小时)

第一章:工业网关Python代码勒索攻击的现实困局与固件级防护必要性近年来,大量基于Linux的工业网关设备采用Python脚本实现协议转换、边缘计算与远程管理功能。攻击者利用其开放端口、弱认证及未签名的Python模块加载机制,直接注入恶意pyc字节…...

西门子PLC通讯实战:1200与200smart的Profinet配置详解

1. 硬件准备与基础网络配置 在开始配置之前,我们需要准备好必要的硬件设备。根据我的实际项目经验,建议选择西门子原厂的交换机,比如SCALANCE X系列,这类工业级交换机在稳定性和抗干扰性上表现更出色。我曾经尝试过使用普通商用交…...