BI 中的数据仓库，一文通透

一谈到BI总是离不开数据仓库有很多人不太明白数据仓库到底在商业智能BI项目中有什么作用对数据仓库的作用有些争论所以今天来聊聊数据仓库探讨下数据仓库的真正用处。数据仓库数据库类型的选择从技术实现角度上来说我们在通常的商业智能BI项目中数据仓库大多构建在以关系型数据库为代表的数据库上。数据中台的数据仓库在底层是以大数据为基础架构的。商业智能BI - 派可数据商业智能BI可视化分析平台比如大数据的数据仓库Hive就是构建在大数据Hadoop分布式基础架构之上。底层的HDFS分布式文件系统为海量数据提供文件式的存储MapReduce为海量数据提供了计算能力。在Hive数据仓库上可以将Hive SQL转化成MapReduce任务与底层HDFS文件系统进行因映射和数据交互。实现数据仓库的SQL在商业智能BI的数据仓库中通过标准的SQL就可以进行数据的操作数据中台大数据架构Hive数据仓库中是通过Hive SQL进行数据操作。但Hive SQL最初的设计目的就是为了让会SQL但是不会编程MapReduce的人也能使用Hadoop进行数据处理所以在很多语法上不像标准的SQL那么灵活。所以商业智能BI的数据仓库和数据中台数据仓库在技术架构上一个是基于传统关系型数据库来实现一个是基于大数据来实现。操作底层数据的基本SQL有一些语法上的差异但也大同小异。数据仓库的分层实现只要是数据仓库都会对数据进行分层处理和规划比如在商业智能BI的数据仓库中我们讲到要构建ODS层再构建DW里面的Dimension维度和标准的Fact事实层到Data Mart 数据集市层最后面向前端的商业智能BI可视化分析应用。数据中台数据仓库就提到了贴源层、统一数据仓库DW层、TDM、ADS层等等最后也是面向应用端比如商业智能BI可视化分析。数据仓库 - 派可数据商业智能BI可视化分析平台这些分层从本质上有区别吗并没有都是在讲一些概念。比如标签层不就是描述一个对象、一个实体的分析维度属性吗应用数据ADS层不就是我们通常讲到的数据集市层做一些数据的特定加工比如聚合、跨事实的聚合去组装各种分析的基础数据表吗所谓的One ID 打通的不就是在一个或者多个业务流程中通过ID编码将各类数据串联起来做一个ID的对照和映射关系吗本质上都在做什么事情数据的标准化分类、归档将不规范、不规则、不可分析的数据变成一种规范、规则、可分析的数据过程。这就是为什么像商业智能BI数据仓库要进行分层实现。可以这么来说十来年前商业智能BI的数据仓库怎么构建的现在的数据中台数据仓库就是怎么构建的一样的写SQL、做分层、打标签、建模型并没有什么特殊的。数据仓库的本质数据仓库的本质就是完成从面向业务过程数据的组织管理到面向业务分析数据的组织和管理的转变过程也是商业智能BI中数据仓库的主要作用。商业智能BI数据仓库中业务过程数据的组织管理实际上就是由各种业务系统来完成的比如ERP、CRM、OA等各类业务系统他们解决的是基本的业务流程管理。通过数据的录入 Insert、删除Delete、修改 Update、查询 Search 即用户在业务系统操作界面中做的增删改查操作这些操作和业务系统底层的数据库例如MySQL、Oracle、SQL Server 完成了数据的交互数据也沉淀在这些数据库中。商业智能BI数据仓库 - 派可数据商业智能BI可视化分析平台那么把各个业务系统的数据库比做是一个个粮食仓库的话商业智能BI数据仓库就可以简单理解要把各个分散的粮食仓库的粮食搬运到一个更大的粮食仓库来集中管理。不同的独立的粮食仓库中存储的粮食可能不一样有的粮食坏了可能不能吃了那么在汇总到大的粮食仓库过程中就需要把这些坏掉的粮食给去除掉。还有在不同的粮食仓库中可能也存了一些同样的粮食那么在搬运到大的粮食仓库中就需要去做一些归类合并按照更好的一种陈列方式将粮食摆放整齐最后对外支持的时候就从这个大的粮食仓库直接取粮食就可以了。各类粮食都有并且有很好的组织形式。这个存放粮食的大粮仓就是商业智能BI数据仓库。从小的粮食仓库搬运、清洗转换、加载粮食的过程就是ETL过程Extraction 抽取、Transformation 转换、Loading 加载。商业智能BI数据仓库 - 派可数据商业智能BI可视化分析平台所以商业智能BI数据仓库的本质还是一个数据库它将各个异构的数据源数据库的数据给统一管理起来并且完成了质量较差的数据的剔除、格式转换最终按照一种合理的建模方式来完成源数据组织形式的转变以更好的支持到前端的可视化分析。在商业智能BI数据仓库的全周期流程中有的时候可能用普通的汽车搬运粮食有的可能用飞机运粮食有的可能需要每小时运一次有的可能就需要每天运一次或者每月运一次这就是ETL工具的选择和数据抽取调度以及抽取频次的管理。商业智能BI数据仓库 - 派可数据商业智能BI可视化分析平台有的时候粮食比较多一般的粮食仓库容量不够或者要求效率更高就会选择不同的粮食仓库架构来进行管理这就是数据仓库技术框架的选择是选择大数据技术框架还是一般的技术框架就可以满足最终决定了我们要建设这个数据仓库的投入成本。