【基础篇】第1章 Elasticsearch 引言
1.1 Elasticsearch简介
1.1.1 基本概念
Elasticsearch,一个开源的分布式搜索引擎,以其强大的搜索能力和实时数据分析能力,在大数据时代脱颖而出。它基于Apache Lucene库构建,旨在提供高效、可扩展且易于使用的全文检索解决方案。Elasticsearch不仅仅是一个搜索引擎,更是一个能够处理大量结构化和非结构化数据的平台,支持复杂的搜索请求、数据分析以及可视化展示。
1.1.2 起源与发展
初期发展:
- 基于Lucene:Elasticsearch 最初由 Shay Banon 开发,它建立在 Apache Lucene 库的基础之上。Lucene 是一个高性能、可扩展的信息检索库,提供了全文检索的核心功能。Elasticsearch 通过封装 Lucene 的复杂性,并添加分布式特性,使其更加易于使用和部署。
- 项目启动:Elasticsearch 最早的公开版本发布于 2010 年,迅速因其易用性、分布式特性和实时搜索分析能力受到关注。
- ELK Stack:随着 Elasticsearch 的流行,它与 Logstash(数据收集与处理工具)和 Kibana(数据可视化工具)形成了著名的“ELK Stack”(后更名为Elastic Stack),为用户提供了一整套端到端的数据收集、存储、分析和可视化解决方案。
成长与成熟:
- 社区与生态:随着时间的推移,围绕 Elasticsearch 的开发者和用户社区不断壮大,推动了项目的快速发展和功能完善。社区贡献了众多插件和集成方案,进一步扩展了其应用领域。
- 企业支持与商业化:Elastic N.V.(现为Elastic)公司的成立为 Elasticsearch 提供了商业支持,包括付费的企业版服务、技术支持和培训,促进了其在企业环境中的广泛应用。
- 版本迭代:Elasticsearch 经历了多个重要版本的迭代,每个版本都带来了性能提升、新特性引入和稳定性增强。例如,引入了跨集群复制、机器学习功能、安全性增强、索引生命周期管理等。
当前状况:
- 广泛应用:如今,Elasticsearch 已成为大数据搜索、日志分析、实时监控、商业智能等领域不可或缺的工具。它被广泛应用于各种规模的企业中,从初创公司到大型跨国企业。
- 持续创新:Elasticsearch 保持活跃的开发状态,不断吸收最新的技术和理念,如支持更先进的分析方法、云原生部署选项、增强的AI/ML集成等,以适应不断变化的技术和市场需求。
1.1.3 核心特性
- 分布式架构:Elasticsearch设计为分布式系统,能够跨多个节点存储数据,实现高可用性和水平扩展。
- 实时分析:支持近乎实时的数据索引和搜索,对于需要快速响应的应用场景至关重要。
- 全面的RESTful API:通过HTTP协议和JSON格式,使得与其他系统的集成变得简单快捷。
- 多租户:支持多个用户或应用程序在同一集群中共享资源,而不影响彼此的性能或安全性。
- 丰富的查询语言:提供强大的查询DSL(Domain Specific Language),支持复杂查询需求,如布尔查询、模糊查询、地理位置查询等。
- 数据分析与聚合:利用Aggregations功能,能够对数据进行深度分析,生成统计报表和图表。
1.1.4 应用领域
- 全文搜索:为电商平台、文档管理系统等提供快速、准确的全文检索服务。
- 日志分析:广泛应用于系统日志、应用日志的收集、存储和分析,是ELK(Elasticsearch, Logstash, Kibana)堆栈的核心组件。
- 监控与报警:实时监控应用性能指标,及时发现并预警潜在问题。
- 商业智能:结合Kibana等工具,实现数据可视化,辅助决策制定。
1.2 技术栈概述
1.2.1 Lucene与Elasticsearch的关系
Lucene 是一个高度灵活的开源文本搜索引擎库,由Apache软件基金会开发。它提供了强大的全文检索功能,包括词法分析、索引创建、搜索、排序等核心功能。Lucene本质上是一个工具包,开发者可以利用它来构建自定义的搜索应用,但直接使用Lucene需要处理许多底层细节,比如索引管理、搜索优化、分布式部署等,这在大规模应用中可能会变得相当复杂。
Elasticsearch 则是建立在Lucene之上的一个分布式、实时的搜索和分析引擎。它将Lucene的强大搜索功能与现代信息技术的需求相结合,提供了诸多开箱即用的功能,例如分布式索引和搜索能力、实时数据分析、易于使用的RESTful API、集群管理、自动发现节点、故障转移等企业级特性。简而言之,Elasticsearch对Lucene进行了高级封装,隐藏了复杂的底层细节,使得开发者能够更快速、便捷地构建复杂的应用搜索和数据分析服务。
- 技术基础:Elasticsearch底层依赖于Lucene来实现全文索引和检索的核心功能。
- 功能扩展:Elasticsearch在Lucene的基础上,扩展了许多高级特性和便利性功能,使其更适合现代的、数据密集型的应用场景,尤其是在大数据和云环境中。
- 易用性增强:通过提供直观的API、用户友好的界面和强大的数据管理工具,Elasticsearch降低了使用复杂搜索技术的门槛。
- 应用场景:虽然直接使用Lucene可以高度定制化,但Elasticsearch更适合那些需要快速部署、易于扩展和管理的大型分布式系统。
1.2.2 Java环境配置
由于Elasticsearch是用Java编写的,因此运行Elasticsearch前需确保Java Development Kit (JDK) 已正确安装并配置。推荐使用Oracle JDK或OpenJDK的长期支持版本,至少需要Java 8或更高版本。配置步骤包括下载对应版本的JDK,设置JAVA_HOME环境变量指向JDK的安装目录,并确认java
命令可以在命令行直接执行。
小结
本章作为本书的开篇,旨在为读者构建一个关于Elasticsearch的初步认知框架。通过介绍Elasticsearch的基本概念、发展历程、核心特性和应用领域,读者应能理解为什么Elasticsearch成为现代数据搜索和分析领域的首选工具之一。接下来,《第2章 Elasticsearch安装与配置》将进一步指导读者如何搭建和配置Elasticsearch环境,迈出实战的第一步。
相关文章:
【基础篇】第1章 Elasticsearch 引言
1.1 Elasticsearch简介 1.1.1 基本概念 Elasticsearch,一个开源的分布式搜索引擎,以其强大的搜索能力和实时数据分析能力,在大数据时代脱颖而出。它基于Apache Lucene库构建,旨在提供高效、可扩展且易于使用的全文检索解决方案。…...
在区块链技术广泛应用的情况下,C 语言如何在区块链的底层开发中发挥更有效的作用,提高性能和安全性?
C语言在区块链底层开发中发挥着重要的作用,可以提高性能和安全性。具体可以从以下几个方面进行优化: 性能优化:C语言是一种高效的编程语言,可以直接访问内存和硬件资源。在区块链底层开发中,使用C语言可以更好地利用底…...

量化投资 日周月报 2024-06-28
文章 深度学习在量化交易中的应用:在BigQuant量化交易平台的文章中,探讨了深度学习在量化交易中,特别是在因子挖掘方面的应用。文章提到,随着传统线性模型的潜力逐渐枯竭,非线性模型逐渐成为量化交易的主要探索方向。深度学习因其对非线性关系的拟合能力,在量化交易中展现…...

基于 Paimon 的袋鼠云实时湖仓入湖实战剖析
在当今数据驱动的时代,企业对数据的实施性能力提出了前所未有的高要求。为了应对这一挑战,构建高效、灵活且可扩展的实时湖仓成为数字化转型的关键。本文将深入探讨袋鼠云数栈如何通过三大核心实践——ChunJun 融合 Flink CDC、MySQL 一键入湖至 Paimon …...
IPython相关了解
一、什么是 IPython? 1.1 简单理解 IPython IPython 是一种增强的 Python 交互式解释器,它可以让你更方便地编写、调试和运行 Python 代码。你可以把它想象成一个比普通 Python 解释器更聪明、功能更丰富的工具,非常适合用来进行数据探索、…...

华为面试题及答案——机器学习(二)
21. 如何评价分类模型的优劣? (1)模型性能指标 准确率(Accuracy): 定义:正确分类的样本数与总样本数之比。适用:当各类样本的数量相对均衡时。精确率(Precision): 定义:预测为正类的样本中实际为正类的比例。适用:当关注假阳性错误的成本较高时(例如垃圾邮件检测…...

PlatformIO开发环境
PlatformIO是一个开源的生态系统,用于构建物联网应用,它支持多种微控制器(MCU)和硬件开发板,并且与各种IDE集成良好,如VSCode, Atom等,使得跨平台的固件开发变得更加简单和高效。 ### 平台介绍…...
In install.packages(“devtools“, verbose = TRUE) :
错误于curl::curl_download("https://r-lib.github.io/gert/libgit2-1.1.0.x86_64_legacy-linux.tar.gz", : Timeout was reached: [] Connection timed out after 10004 milliseconds 停止执行 Using PKG_CFLAGS Using PKG_LIBS-lgit2 ----------------------------…...

计算机网络 访问控制列表以及NAT
一、理论知识 1. 单臂路由 单臂路由是一种在路由器上配置多个子接口的方法,每个子接口代表不同的 VLAN,用于在一个物理接口上支持多 VLAN 通信。此方法使得不同 VLAN 之间可以通过路由器进行通信。 2. NAT (网络地址转换) NAT 是一种在私有网络和公共…...
使用Oracle IMP导入数据
使用Oracle IMP导入数据 大家好,我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编,也是冬天不穿秋裤,天冷也要风度的程序猿!今天我们来聊一聊如何使用Oracle的IMP工具来导入数据。 一、什么是Oracle IMP Oracle…...
C++ 100 之 容器插入和删除
vector插入和删除操作 insert(const_iterator pos, int count,ele);//迭代器指向位置pos插入count个元素ele. push_back(ele); //尾部插入元素ele pop_back();//删除最后一个元素 erase(const_iterator start, const_iterator end);//删除迭代器从start到end之间的元素 erase(c…...
提升 Selenium 测试稳定性的秘诀:深入理解等待 API 的使用
目录 为什么需要等待Selenium 等待 API 简介隐式等待显式等待Fluent Wait等待策略的选择示例代码总结 正文 1. 为什么需要等待 在 Web 自动化测试中,等待是一个关键因素。网络应用通常是动态的,页面加载时间、元素的显示时间都可能不同步。直接操作这…...
Python-算法编程100例-滑动窗口(入门级)
题目1:最大连续1的个数(简单) 给定一个二进制数组 nums , 计算其中最大连续 1 的个数。 解答:前缀和双指针 # 给定一个二进制数组 nums , 计算其中最大连续 1 的个数。 from typing import Listclass So…...

ffmpeg使用mjpeg把yuvj420p编码为jpg图像
version #define LIBAVUTIL_VERSION_MAJOR 58 #define LIBAVUTIL_VERSION_MINOR 12 #define LIBAVUTIL_VERSION_MICRO 100 node 不使用AVOutputFormat code void CFfmpegOps::EncodeYUVJ420pToMJPEG(const char* infile, const char* width_str, const char* height_s…...

龙迅#LT6911GXC支持HDMI2.1转MIPI/4PORT LVDS应用功能,分辨率高达8K30HZ/4K120HZ压缩格式。
1. 描述 该LT6911GXC是一款高性能HD-DVI2.1转MIPI或LVDS芯片,适用于VR/显示应用。 HDCP RX作为HDCP中继器的上游,可以与其他芯片的HDCP TX配合实现中继器功能。 对于 HD-DVI2.1 输入,LT6911GXC可以配置为 3/4 通道。 对于MIPI输出,…...
.NET 6.0 Web API项目中实现基于Token的身份验证
本文以一个完整的示例,展示如何在.NET 6.0 Web API项目中实现基于Token的身份验证。这个例子包括了如何创建和验证JWT Token,以及如何在控制器中使用这些Token。 步骤 1: 创建Web API项目 首先,用Visual Studio 2022创建一个基于.NET6.0的 …...
Java常用对象的快速初始化
在Java中,有多种方式来快速初始化各种常用对象,如字符串数组(String[]),集合列表(List),映射表(Map),以及集合(Set)。不同…...
逻辑回归模型模拟实现:从零开始
引言 逻辑回归是一种用于二分类问题的机器学习算法。尽管它的名字中有“回归”,但它实际上是用于分类的。在本文中,我们将通过模拟数据来演示逻辑回归模型的实现。 逻辑回归简介 逻辑回归通过使用逻辑函数(通常是Sigmoid函数)将…...

Docker基本使用和认识
目录 基本使用 镜像仓库 镜像操作 Docker 如何实现镜像 1) namespace 2) cgroup 3) LXC Docker常见的网络类型 bridge网络如何实现 基本使用 镜像仓库 镜像仓库登录 1)docker login 后面不指定IP地址,则默认登录到 docker hub 上 退出 2)docker logo…...

Halcon 文本文件操作,形态学
一文件的读写 *******************************************************向文本文件写入字符串内容*************************************************************read_image (Image, fabrik)threshold (Image, Region, 0, 120)area_center (Region, Area, Row, Column)open_…...

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型
摘要 拍照搜题系统采用“三层管道(多模态 OCR → 语义检索 → 答案渲染)、两级检索(倒排 BM25 向量 HNSW)并以大语言模型兜底”的整体框架: 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后,分别用…...
SciencePlots——绘制论文中的图片
文章目录 安装一、风格二、1 资源 安装 # 安装最新版 pip install githttps://github.com/garrettj403/SciencePlots.git# 安装稳定版 pip install SciencePlots一、风格 简单好用的深度学习论文绘图专用工具包–Science Plot 二、 1 资源 论文绘图神器来了:一行…...

Redis相关知识总结(缓存雪崩,缓存穿透,缓存击穿,Redis实现分布式锁,如何保持数据库和缓存一致)
文章目录 1.什么是Redis?2.为什么要使用redis作为mysql的缓存?3.什么是缓存雪崩、缓存穿透、缓存击穿?3.1缓存雪崩3.1.1 大量缓存同时过期3.1.2 Redis宕机 3.2 缓存击穿3.3 缓存穿透3.4 总结 4. 数据库和缓存如何保持一致性5. Redis实现分布式…...
测试markdown--肇兴
day1: 1、去程:7:04 --11:32高铁 高铁右转上售票大厅2楼,穿过候车厅下一楼,上大巴车 ¥10/人 **2、到达:**12点多到达寨子,买门票,美团/抖音:¥78人 3、中饭&a…...

DBAPI如何优雅的获取单条数据
API如何优雅的获取单条数据 案例一 对于查询类API,查询的是单条数据,比如根据主键ID查询用户信息,sql如下: select id, name, age from user where id #{id}API默认返回的数据格式是多条的,如下: {&qu…...
Axios请求超时重发机制
Axios 超时重新请求实现方案 在 Axios 中实现超时重新请求可以通过以下几种方式: 1. 使用拦截器实现自动重试 import axios from axios;// 创建axios实例 const instance axios.create();// 设置超时时间 instance.defaults.timeout 5000;// 最大重试次数 cons…...
return this;返回的是谁
一个审批系统的示例来演示责任链模式的实现。假设公司需要处理不同金额的采购申请,不同级别的经理有不同的审批权限: // 抽象处理者:审批者 abstract class Approver {protected Approver successor; // 下一个处理者// 设置下一个处理者pub…...

Vue ③-生命周期 || 脚手架
生命周期 思考:什么时候可以发送初始化渲染请求?(越早越好) 什么时候可以开始操作dom?(至少dom得渲染出来) Vue生命周期: 一个Vue实例从 创建 到 销毁 的整个过程。 生命周期四个…...

消息队列系统设计与实践全解析
文章目录 🚀 消息队列系统设计与实践全解析🔍 一、消息队列选型1.1 业务场景匹配矩阵1.2 吞吐量/延迟/可靠性权衡💡 权衡决策框架 1.3 运维复杂度评估🔧 运维成本降低策略 🏗️ 二、典型架构设计2.1 分布式事务最终一致…...
OCR MLLM Evaluation
为什么需要评测体系?——背景与矛盾 能干的事: 看清楚发票、身份证上的字(准确率>90%),速度飞快(眨眼间完成)。干不了的事: 碰到复杂表格(合并单元…...