当前位置：首页 > news >正文

大数据之路读书笔记 Day1

news 2026/2/8 22:56:41

大数据之路读书笔记 Day1

阿里巴巴大数据系统体系架构图

1. 数据采集层

传输：TimeTunnel（TT），支持实时流式计算和时间窗口批量计算
数据同步工具：DataX

2. 数据计算层

元数据模型整合，面向数据发现，数据管理，用于存储、计算和成本管理

3. 数据服务层

OneService

以数据仓库整合计算好的数据作为数据源，通过接口方式提供数据服务，提供简单复杂数据查询（用户画像，用户识别），实时数据推送等服务

4. 数据应用层

搜索、推荐、广告等等

附图：
在这里插入图片描述

点赞关注收藏，获取更多干货知识~

大数据之路读书笔记 Day1

大数据之路读书笔记 Day1 阿里巴巴大数据系统体系架构图 1. 数据采集层 #mermaid-svg-YqqD2w3qV6jc2aGP {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-YqqD2w3qV6jc2aGP .error-icon{fill:#552222;}#mermaid-sv…...

编程日记 2024/6/26 13:54:43

吴恩达揭秘：编程Agent如何革新软件开发行业

作为 AI 领域的杰出人物，吴恩达教授对编程 Agent 的兴起表示了极大的兴趣。他认为，编程 Agent 有潜力通过自动执行繁琐的任务、提高代码质量和加速开发周期来彻底改变软件开发行业。本文将深入探讨吴恩达对编程 Agent 的见解， 多代理系统质…...

编程日记 2024/6/26 13:53:41

Study--Oracle-04-SQL练习

一、SQL语句思维导图二、SQL练习 -- 以employee_id 为排序，列出前5个人 -- FETCH select employee_id,first_name from employees order by employee_id FETCH FIRST 5 rows only; -- 以employee_id 为排序，从第6个人开始到第10个人 -- offset …...

编程日记 2024/6/26 13:52:40

目前音质最好的麦克风是哪款，一文读懂无线麦克风推荐哪些品牌好

在自媒体时代，无线领夹麦克风成为自媒体人不可或缺的助手。它帮助我们在各种环境中保持清晰声音，提升创作效率与作品质量。然而，面对众多无线麦克风产品，挑选一款性价比高、性能卓越的款式却成为难题。今天，我将分享…...

编程日记 2024/6/26 13:51:39

Python笔记异常、模块与包

一、了解异常异常的概念什么是异常当检测到一个错误时，Python解释器就无法继续执行了，反而出现了一些错误的提示，这就是所谓的“异常”，也就是我们常说的BUG。二、异常的捕获 1.知道为什么要捕获异常世界上没有完美的程…...

编程日记 2024/6/26 13:50:37

spark查看日志

Logger 当 Spark 任务已经提交到集群运行后，可以通过以下几种方式查看LoggerFactory输出的日志： Web 界面：在 Spark 任务运行时，可以通过访问 Spark 的 Web UI 来查看日志。通常，可以在浏览器中输入http://<drive…...

编程日记 2024/6/26 13:49:36

【LeetCode】每日一题：LRU缓存

请你设计并实现一个满足 LRU (最近最少使用) 缓存约束的数据结构。实现 LRUCache 类： LRUCache(int capacity) 以正整数作为容量 capacity 初始化 LRU 缓存 int get(int key) 如果关键字 key 存在于缓存中，则返回关键字的值，否则返回 -1 …...

编程日记 2024/6/26 13:48:35

记录一个Xshell使用中Xmanager...X11转发的提示问题

希望文章能给到你启发和灵感～ 如果觉得有帮助的话，点赞关注收藏支持一下博主哦～ 阅读指南一、环境说明1.1 硬件环境1.2 软件环境二、问题和错误三、解决四、理解和延伸一下一、环境说明考虑环境因素，大家适当的对比自己的软硬…...

编程日记 2024/6/26 13:47:33

Mamba 模型

建议观看讲解视频：AI大讲堂：革了Transformer的小命？专业拆解【Mamba模型】_哔哩哔哩_bilibili 1. 论文基本信息 2. 创新点选择性 SSM，和扩展 Mamba 架构，是具有关键属性的完全循环模型，这使得它们适合作…...

编程日记 2024/6/26 13:45:31

30-33、SpringBoot项目部署\属性配置方式\多环境开发（一个文件）\多环境分组（多个文件）

1、打包插件：和springboot的版本保持一致根pom <build><plugins><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</artifactId><version>3.1.3</versi…...

编程日记 2024/6/26 13:44:29

【PyQt5】一文向您详细介绍 setContentsMargins() 的作用

【PyQt5】一文向您详细介绍 setContentsMargins() 的作用下滑即可查看博客内容 🌈 欢迎莅临我的个人主页 👈这里是我静心耕耘深度学习领域、真诚分享知识与智慧的小天地！🎇 🎓 博主简介：985高校的普通…...

编程日记 2024/6/26 13:43:28

分页查询前端对接

文章目录添加角色修改角色当点击修改按钮后,那么就会弹出对话框,所以要设置显示为true点击修改的时候就是要显示对话框制作用户管理页面开发后端接口用户查询前端整合新增接口功能实现修改添加角色首先添加添加表单的组件那么总结一下就是使用组件然后再使用变量接…...

编程日记 2024/6/26 13:42:26

从一万英尺外看libevent（源码刨析）

从一万英尺外看libevent 温馨提示：阅读时间大概二十分钟前言 Libevent是用于编写高速可移植非阻塞IO应用的库，其设计目标是： 可移植性：使用libevent编写的程序应该可以在libevent支持的所有平台上工作。即使没有好的方式进行非…...

编程日记 2024/6/26 13:40:24

Linux部署SVN

一.下载与安装 （1）yum安装 yum install subversion （2）源文件编译安装 ①下载svn源文件 subversion-xxx.tar.gz（subversion 源文件） subversion-deps-xxx.tar.gz（subversion依赖文件&…...

编程日记 2024/6/26 13:39:23

Linux高并发服务器开发（二）系统调用函数

文章目录 1 系统调用2 errno3 虚拟内存空间4 文件描述符5 常用文件IO函数6 阻塞和非阻塞7 lseek 偏移函数8 文件操作函数之stat函数9 文件描述符复制 dup10 fcnlt函数修改文件属性11 目录相关操作12 时间相关函数 1 系统调用根据系统调用，获取驱动信息、CPU的信息…...

编程日记 2024/6/26 13:38:21

rk3568 Android 11在系统怎样执行命令获取SN号

目录 1. 使用ADB（Android Debug Bridge）2. 使用Shell脚本或应用程序3. 使用系统API4. 直接在设备上使用Shell5. getprop使用方法常见属性示例注意事项在瑞芯微RK3568 Android 11系统中执行命令或获取SN号（序列号）通常可以通过几种…...

编程日记 2024/6/26 13:37:20

PostgreSQL 性能优化与调优（六）

1. 索引优化 1.1 创建索引索引可以显著提高查询性能。创建索引的基本语法如下： CREATE INDEX index_name ON table_name (column_name);例如，为 users 表的 username 列创建索引： CREATE INDEX idx_username ON users (username); 1.2 …...

编程日记 2024/6/26 13:35:17

win10 安装openssl并使用openssl创建自签名证书

win10创建自签名证书下载安装配置openssl 下载地址： https://slproweb.com/download/Win64OpenSSL-3_3_1.exe https://slproweb.com/products/Win32OpenSSL.html 完成后安装，一路next，到达选位置的之后选择安装的位置，我这里选…...

编程日记 2024/6/26 13:34:16

【OpenCV 图像处理 Python版】图像处理的基本操作

文章目录 1.图像的 IO 操作1.1 图像读取 imread1.2 图像显示1.2.1 opencv 方式1.2.2 matplotlib 方式 1.3 图像保存 imwrite 2.绘制几何图形1. 绘制直线2. 绘制矩形3. 绘制圆形4. 绘制多边形5. 添加文字 3.获取并修改图像中的像素点3.1 获取像素值3.2 修改像素值3.3 获取和修改…...

编程日记 2024/6/26 13:33:14

HarmonyOS应用开发学习经验

一、HarmonyOS学习官网开发者能力认证 HarmonyOS应用开发者基础认证6月之前的学习资源官网已经关闭过期，大家不要慌，官方更新了最新资源，但是，对于之前没有学习完的学员不友好，存在知识断片的现象，建议官…...

编程日记 2024/6/26 13:30:11

从WWDC看苹果产品发展的规律

WWDC 是苹果公司一年一度面向全球开发者的盛会，其主题演讲展现了苹果在产品设计、技术路线、用户体验和生态系统构建上的核心理念与演进脉络。我们借助 ChatGPT Deep Research 工具，对过去十年 WWDC 主题演讲内容进行了系统化分析，形成了这份…...

编程新知 2026/2/2 21:52:33

模型参数、模型存储精度、参数与显存

模型参数量衡量单位 M：百万（Million） B：十亿（Billion） 1 B 1000 M 1B 1000M 1B1000M 参数存储精度模型参数是固定的，但是一个参数所表示多少字节不一定，需要看这个参数以什么…...

编程新知 2025/12/20 12:32:08

在HarmonyOS ArkTS ArkUI-X 5.0及以上版本中，手势开发全攻略：

在 HarmonyOS 应用开发中，手势交互是连接用户与设备的核心纽带。ArkTS 框架提供了丰富的手势处理能力，既支持点击、长按、拖拽等基础单一手势的精细控制，也能通过多种绑定策略解决父子组件的手势竞争问题。本文将结合官方开发文档&#xff0c…...

编程新知 2025/9/19 4:31:58

抖音增长新引擎：品融电商，一站式全案代运营领跑者

抖音增长新引擎：品融电商，一站式全案代运营领跑者在抖音这个日活超7亿的流量汪洋中，品牌如何破浪前行？自建团队成本高、效果难控；碎片化运营又难成合力——这正是许多企业面临的增长困局。品融电商以「抖音全案代运营…...

编程新知 2026/2/1 5:45:17

2.Vue编写一个app

1.src中重要的组成 1.1main.ts // 引入createApp用于创建应用 import { createApp } from "vue"; // 引用App根组件 import App from ./App.vue;createApp(App).mount(#app)1.2 App.vue 其中要写三种标签 <template>  </template>…...

编程新知 2026/1/31 6:04:01

EtherNet/IP转DeviceNet协议网关详解

一，设备主要功能疆鸿智能JH-DVN-EIP本产品是自主研发的一款EtherNet/IP从站功能的通讯网关。该产品主要功能是连接DeviceNet总线和EtherNet/IP网络，本网关连接到EtherNet/IP总线中做为从站使用，连接到DeviceNet总线中做为从站使用。在自动…...

编程新知 2026/1/31 6:53:51

selenium学习实战【Python爬虫】

selenium学习实战【Python爬虫】文章目录 selenium学习实战【Python爬虫】一、声明二、学习目标三、安装依赖3.1 安装selenium库3.2 安装浏览器驱动3.2.1 查看Edge版本3.2.2 驱动安装四、代码讲解4.1 配置浏览器4.2 加载更多4.3 寻找内容4.4 完整代码五、报告文件爬取5.1 提…...

编程新知 2026/2/4 12:52:32