当前位置：首页 > news >正文

基于Kettle跑批的案例说明

news 文章来源：https://blog.csdn.net/shenliang1985/article/details/129965642 2025/5/11 10:09:59

需求概述

通过动态配置表的方式完成在kettle里动态配置参数，并调用ktr，实现跑批的目的。

问题分析

定义一个ktr读取配置表的信息并将拷贝记录到结果
定义一个ktr从结果里获取记录并设置变量
定义业务ktr（即按照业务需要开发的转换脚本）
定义kjb串联ktr2和ktr3，这里ktr2和ktr3也可以合并成一个ktr。
定义一个外层kjb串联ktr1和kjb4

1 定义配置表ktr

新增转换，拖入表输入、复制结果到记录组件。

定义表输入

表输入内容：该表里里的字段即对于转换的参数。

复制记录到结果

定义设置变量ktr

设置从结果获取记录

转换里拖动从结果获取记录组件，其中的字段名来自上一步的表输入里的字段名。

定义设置变量

定义设置变量组件，字段名来自从结果获取记录组件，并设置变量活动类型为” Valid in the root job”

定义业务指标加工ktr

根据自己业务需要定义口径加工的转换，

定义变量获取kjb

串联起定义设置变量ktr、定义业务指标加工ktr，详细形式见下：

定义外部调用kjb

基本配置

串联起 定义配置表ktr、定义变量获取kjb，详细形式见下：

配置作业里的参数，设置参数能传递。

作业配置

调用关系图详解

详细kjb的调用关系图见下，其中图表里的序号和前文的序号保持一致。

最外层的5定义外部调用kjb中ktr及kjb关系见下：

内部的4定义变量获取kjb:

基于Kettle跑批的案例说明

需求概述通过动态配置表的方式完成在kettle里动态配置参数，并调用ktr，实现跑批的目的。问题分析定义一个ktr读取配置表的信息并将拷贝记录到结果定义一个ktr从结果里获取记录并设置变量定义业务ktr（即按照业务需要开发的…...

编程日记 2023/5/13 4:21:11

2023 最新版网络安全保姆级自学指南

前言如今，组织的信息系统和数据面临着许多威胁。而人们了解网络安全的所有基本要素是应对这些威胁的第一步。网络安全是确保信息完整性、机密性和可用性(ICA)的做法。它代表了应对硬盘故障、断电事故，以及来自黑客或竞争对手攻击等防御和恢复能力。而…...

编程日记 2023/5/25 17:23:13

Chapter9.3：线性系统稳定性分析及综合实例

该系列博客主要讲述Matlab软件在自动控制方面的应用，如无自动控制理论基础，请先学习自动控制系列博文，该系列博客不再详细讲解自动控制理论知识。自动控制理论基础相关链接：https://blog.csdn.net/qq_39032096/category_10287468…...

编程日记 2023/5/25 17:23:52

EXCEL 在复杂查询时摒弃vlookup() sumif() 等公式，而使用数据透视表的初步学习

1 为什么要用数据透视表如果不用，就可能需要写很复杂的，查询公式比如，vlookup各种sumif,sumifs 等等，如果还是多个表进行统计，那写起来更酸爽所以感觉 vlookup sumif,sumifs 更适合，简单情况下的查询&am…...

编程日记 2023/5/16 17:53:58

C 文件读写

C 文件读写本章我们将介绍 C 程序员如何创建、打开、关闭文本文件或二进制文件。一个文件，无论它是文本文件还是二进制文件，都是代表了一系列的字节。C 语言不仅提供了访问顶层的函数，也提供了底层（OS）调用来处理存…...

编程日记 2023/4/26 5:45:24

Linux中实现程序开机自启——将程序配置为系统服务

一、需求说明当我们在Linux系统上安装软件时，希望软件实现开机自启，或程序崩溃后自动重启，提升软件运行的稳定性；而linux系统中的systemd刚好可以满足我们的要求（可将软件注册为系统服务）。二、systemd systemd 是一个 Linux 系统基础组件的集合，提供了一个系统和服务…...

编程日记 2023/5/18 9:46:19

【洛谷刷题】蓝桥杯专题突破-广度优先搜索-bfs（13）

目录写在前面： 题目：P1443 马的遍历 - 洛谷 | 计算机科学教育新生态 (luogu.com.cn) 题目描述： 输入格式： 输出格式： 输入样例： 输出样例： 解题思路： 代码： AC &am…...

编程日记 2023/5/24 3:15:09

【新2023Q2模拟题JAVA】华为OD机试 - 总最快检测效率 or 核酸检测效率

最近更新的博客华为od 2023 | 什么是华为od，od 薪资待遇，od机试题清单华为OD机试真题大全，用 Python 解华为机试题 | 机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南华为od机试，独家整理已参加机试人员的实战技巧本篇题解：报数题目一百个人围成一圈…...

编程日记 2023/5/12 11:42:15

基于主成分分析的混音方法

一、简介： 基于主成分分析的混音方法是一种常见的音频混音技术，它利用主成分分析（PCA）对音频信号进行降维和重构，从而实现混音。二、基本步骤如下： 采集和存储需要混音的音频信号。对音频信号进行主成分…...

编程日记 2023/5/12 11:42:25

Code Two Exchange Crack

CodeTwo Exchange 迁移允许直接从早期版本的 Exchange（从 Exchange 2010 开始）安全、轻松地迁移到 Exchange 2019 和 2016。此服务器应用程序还允许您集中管理来自 Microsoft 365 (Office 365) 的邮箱迁移以及来自基于 IMAP 的电子邮件系统（例…...

编程日记 2023/5/14 9:04:31

jQuery.form.js 详细用法_维护老项目使用

概述 jquery-3.3.1.min.js ： http://jquery.com/download jquery.form.min.js ：http://malsup.com/jquery/form/#tab7 jquery form 是一个表单异步提交的插件，可以很容易提交表单，设置表单提交的参数，并在表单提交前…...

编程日记 2023/5/25 17:24:28

【Java】关于你不知道的Java大整数运算之BigInteger类超级好用！！！

目录一、BigInteger类简单介绍二、BigInteger构造方式 （1）构造方式 （2）输入方式三、BigInteger常见的成员方法 （1）方法介绍 （2）方法使用演示 1.加减乘除余 2.比较 3.绝…...

编程日记 2023/5/25 17:45:24

运维是不是没有出路了？

瑞典马工的《是时候让运维集体下岗了》一出，就让运维人为之一颤，人人自危。文章开篇就提到：明人不说暗话，在云原生和DevOps成熟的今天，运维作为一个岗位和团队已经完成了历史任务，应该退出舞台了…...

编程日记 2023/5/12 11:45:28

【C++笔试强训】第七天

选择题解析：内联函数（inline）一般用于代码较少，代码块里面没有递归且频繁调用的函数，是一种以空间换时间（不是指内存，而是指令变多编译出来的可执行程序会变大）的做法。内联函数在预…...

编程日记 2023/5/16 17:54:58

mysql binlog 一直追加写，磁盘满了怎么办？

文章目录 mysql binlog 清理策略1、设置binlog最大的文件数和文件大小2、定时清理过期binlog文件3、手动清理binlog文件4、禁用或启用binlogmysql binlog用于记录mysql数据库所有变更（数据库的DDL、DML操作）包括用户执行的语句，以及底层引擎所执行的操作的二进制日志，主要用…...

编程日记 2023/4/28 4:09:02

缓存穿透、缓存雪崩、缓存击穿解决方案

什么是缓存缓存就是数据交换的缓冲区（称作Cache）,是存贮数据的临时地方，一般读写性能较高。添加 redis 缓存给店铺类型查询业务添加缓存需求：添加ShopTypeController中的queryTypeList方法，添加查询缓存缓存更新…...

编程日记 2023/5/16 7:03:55

web + servlet + jdbc mysql 实现简单的表单管理界面

目录数据库创建数据库连接servlet创建,这里注意一下我的数据库我自己改了一下名字lhx网页html运行文件目录展示首先我们准备好开发使用的工具以及配置 idea2020 tomcat8.5 创建javaweb参考idea编译Tomcat详细步骤 IDEA通过JDBC连接数据库请参考jdbc连接数据库需要登陆注册界面…...

编程日记 2023/5/25 7:28:48

Maven 国内镜像仓库

镜像仓库目标当我们未定义任何远程仓库时，使用 Maven 更新依赖时，其会去默认远程仓库中拉取，默认远程仓库是国外地址，所以在国内访问特别慢，想提升访问速度，需要将国外地址换成国内地址更换仓库地址的…...

编程日记 2023/5/15 22:29:26

day21 ● 530.二叉搜索树的最小绝对差 ● 501.二叉搜索树中的众数 ● 236. 二叉树的最近公共祖先

二叉搜索树的最小绝对差二叉搜索树（Binary Search Tree，简称 BST）是一种特殊的二叉树，它的每个节点都满足以下条件： 左子树上所有节点的值均小于该节点的值；右子树上所有节点的值均大于该节点的值&#…...

编程日记 2023/4/27 0:08:02

大学计算机(软件类)专业推荐竞赛 / 证书官网及赛事相关信息整理

大学计算机专业(软件)推荐竞赛 / 证书官网及赛事相关信息一、算法类(丰富简历)： 1、ACM国际大学生程序设计竞赛： 官网：https://icpc.global/ 国内：http://icpc.pku.edu.cn/index.htm 报名方式：区域预赛一般每年9-1…...

编程日记 2023/5/13 4:23:04

Metasploit入门到高级【第九章】

预计更新第一章：Metasploit 简介 Metasploit 是什么Metasploit 的历史和发展Metasploit 的组成部分第二章：Kali Linux 入门 Kali Linux 简介Kali Linux 安装和配置常用命令和工具介绍第三章：Metasploit 基础 Metasploit 的基本概念Met…...

编程日记 2023/5/16 17:57:53

JDK之8后: 协程? 虚拟线程!!!

特性官方文档: https://openjdk.org/jeps/436 Java协程近三十年来，Java 开发人员一直依赖线程作为并发服务器应用程序的构建块。每个方法中的每个语句都在线程内执行，并且由于 Java 是多线程的，因此多个执行线程同时发生。线程是Java的并发…...

编程日记 2023/5/24 3:18:04

体验 jeecg官网地址事前准备安装升级 node 和 npm 版本验证安装安装 pnpm clidocker 启动 MySQLdocker 启动 redisgit clone 项目启动JAVA项目 jeecg-boot启动Vue3项目 jeecgboot-vue3官网地址 http://www.jeecg.com/ 事前准备 (1) 为了回避Could not find artifact com.mic…...

编程日记 2023/5/24 3:18:52

投稿指南【NO.13】计算机学会CCF推荐期刊和会议分享（人工智能）

前言国内高等院校研究生及博士毕业条件需要发表高水平期刊或者顶会（清北上交等重点学校毕业要求为至少发一篇顶会），很多同学私信问到一级学会的会议论文怎么找、是什么，比如前段时间放榜的CVPR论文就是人工智能领域的顶会国际会议…...

编程日记 2023/5/12 11:48:39

一份sql笔试

1、 select substr(time,1,10),count(order_id),count(distinct passenger_id) from order where substr(time,1,7)2023-08 group by substr(time,1,10) order by substr(time,1,10);2、 select city_id from (select * from order where substr(time,1,7) 2022-08) t1 left j…...

编程日记 2023/5/12 11:51:12