其他分享
首页 > 其他分享> > Mondrian + Jpivot环境配置和演示

Mondrian + Jpivot环境配置和演示

作者:互联网

本文主要讲解ROLAP,以及ROLAP的实现Mondrian的使用和部署问题。目前网上关于Mondrian部署的帖子较少,连官网也是若干年前的版本,因此,开贴记录一下Mondrian在使用上的一些坑,关心Mondrian的使用请直接移步第二章。

1.OLAP简介

1.1什么是OLAP

OLAP系统,英文为OnLine Analytical Processing,中文为联机分析处理系统,它在数据分析决策方面为用户或“知识工人”提供服务,以不同的格式组织和提供数据,满足不同用户的形形色色的需求。与之相对的为OLTP(Online Transaction Processing,联机事务处理)系统,该系统主要用于单位的大部分日常操作,如购物、库存、制造、银行、工资、注册、记账等。

OLAP和OLTP的主要区别如下:

OLTP和OLAP的主要区别之一在于数据库的选择,由于OLTP系统是面向顾客的、需要并发控制和恢复机制,因此OLTP系统往往采用关系数据库,如MySQL、Oracle数据库等。而OLAP系统一般是只读的、大量历史数据的汇总和聚集,因此OLAP往往使用数据仓库。

宽泛地讲,数据仓库是一种数据库,它与单位的操作数据库分别维护。数据仓库系统允许将各种应用系统集成在一起,为统一的历史数据分析提供坚实的平台,对信息处理提供支持。面向主题的、集成的、时变的、非易失的是数据仓库的主要特征,也是将数据仓库与其他数据存储系统(如关系数据库系统、事务处理系统和文件系统)相区别。

通常,数据仓库采用三层体系结构:

1.2 为什么需要使用分离的数据仓库

分离的主要原因是有助于提高两个系统的性能。操作数据库是为已知的任务和负载设计的。另一方面,数据仓库的查询通常是复杂的,涉及大量数据在汇总级的计算,可能需要特殊的基于多维视图的数据组织、存取方法和实现方法。在操作数据库上处理OLAP查询,可能会大大降低操作任务的性能。此外,操作数据库支持多事务的并发处理,需要并发控制和恢复机制,以确保一致性和事务的鲁棒性。通常,OLAP查询只需要对汇总和聚集数据记录进行只读访问。最后,数据仓库与操作数据库分离是由于这两种系统中数据的结构、内容和用法都不相同。

1.3 OLAP服务器的结构:ROLAP、MOLAP和HOLAP

用于OLAP处理的数据仓库服务器的实现包括了ROLAP(关系OLAP)、MOLAP(多维OLAP)和HOLAP(混合OLAP),ROLAP服务器是一种中间服务器,介于关系的后端服务器和客户前端工具之间,它们使用关系的或扩充关系的DBMS存储并管理数据仓库数据,而OLAP中间件支持其余部分,相应的实现有Mondrian等;MOLAP服务器通过基于数组的多维存储引擎,支持数据的多维视图,它们将多维视图直接映射到数据立方体数组结构。使用数据立方体的优点是能够对预计算的汇总数据快速索引,相应的实现有Cognos,SSAS,Kylin等;HOLAP服务器结合ROLAP和MOLAP技术,得益于ROLAP较大的可伸缩性和MOLAP的快速计算,比如微软的SQL Server2000。它们的区别的表格如下:

名称描述细节数据存储位置聚合后的数据存储位置代表
ROLAP基于关系数据库的OLAP实现关系型数据库关系型数据库Mondrian
MOLAP基于多维数据组织的OLAP实现数据立方体数据立方体Cognos,SSAS,Kylin
HOLAP基于混合数据组织的OLAP实现关系数据库数据立方体SQL Server

个人认为上面的几种方式没有绝对的优劣之分,选择哪种结构还是和具体的应用有关。 

2.Mondrian+JPivot

Mondrian是ROLAP的实现之一,它是搭配构建数据立方体的XML文件,根据访问的MDX语句动态查询数据库,在内存中存储数据立方体,并返回结果,因此,Mondrian对内存的要求较高。

官网地址:https://mondrian.pentaho.com/documentation/olap.php。通过查看官网,你会发现,Mondrian是提供了war包的,然而,官网有关于[安装]的内容应该滞后若干个版本,也就是说,单纯的Mondrian只是提供了jar包,如果想要使用线上展示结果的功能,需要搭配JPivot一起使用,JPivot提供war包,它需要Mondrian的jar包,然后配合jsp代码来实现网页的可视化。有关于Mondrian和JPivot的环境配置,请参考参考文章的第三个Mondrian + JPivot 环境配置。从https://pan.baidu.com/s/1zkSyZJkTGabEFwcfsktDCw 下载 mondrian server.rar , test-mondrian.rar。本小节主要讲解JPivot的粗略的运行方式。

test-mondrian.rar为控制台运行的方式,运行Main.java,输出如下:

Axis #0:
{}
Axis #1:
{[Measures].[Amount]}
Axis #2:
{[AccessTime].[AllTime], [WebsiteNum].[AllSite], [UserIP].[AllIP]}
Row #0: 278

 Main.java中的MDX语句是查询所有访问记录的总次数,查询结果为278。但是控制台查询的弊端在于不够直观,比如MDX语句为:

SELECT {[Measures].[Unit Sales], [Measures].[Store Sales], [Measures].[Profit]} ON COLUMNS,
{descendants([Time].[1997].[Q1])} ON ROWS
FROM [Sales] WHERE [Gender].[F]

 旨在查询1997年第一季度的所有月份,男性的消费记录,输出如下:

Axis #0:
{[Gender].[All Genders].[F]}
Axis #1:
{[Measures].[Unit Sales]}
{[Measures].[Store Sales]}
{[Measures].[Profit]}
Axis #2:
{[Time].[1997].[Q1]}
{[Time].[1997].[Q1].[February]}
...
{[Time].[1997].[Q1].[March].[15].[Sunday]}
Row #0: 32,910
Row #0: 69,798.23
Row #0: $41,976.46
Row #1: 10,266
Row #1: 21,773.93
Row #1: $13,110.09
Row #2: 207
Row #2: 414.6
Row #2: $246.12
Row #3: 207
Row #3: 414.6
Row #3: $246.12
Row #4: 2,871
Row #4: 5,940.83
Row #4: $3,580.08
...
Row #109: 206
Row #109: 405.37
Row #109: $239.28

 那么控制台方式的输出方式的缺点则更加凸显,接下来,则开始讲解JPivot。

参考文章3已经给出了一个简单的demo,该示例为上述输出的jsp版本。接下来主要分析,在jpivot.war的基础上,如何自行添加相关的jsp页面。这里假设tomcat已经处于运行之中,那么输入http://127.0.0.1:8080/jpivot/index.jsp,页面如下:

在上述页面中,AccessInfo为压缩包中的Sample Demo,FoodMart3为第二个MDX语句的输出结果,首先观察index.jsp,该文件在webapps\jpivot文件夹下,打开:

...
<ul>
  <li><a href="testpage.jsp?query=mondrian">Slice and Dice with two hierarchies</a></li>
  <li><a href="testpage.jsp?query=fourhier">...and with four hierachies</a></li>
  <li><a href="test/param3.jsp?query=mondrian">Dynamic parameters with Mondrian</a></li>
  <li><a href="testpage.jsp?query=arrows">Arrows in Cells</a></li>
  <li><a href="testpage.jsp?query=colors">Colors in Cells</a></li>
  <li><a href="testpage.jsp?query=testquery">Test data</a></li>
  <li><a href="testpage.jsp?query=AccessInfo">AccessInfo</a></li>
  <li><a href="testpage.jsp?query=FoodMart3">FoodMart3</a></li>
  <li><a href="test/param1.jsp?query=testquery">Dynamic parameters with test data</a></li>
</ul>
...

 通过对比网页发现,<li><a href="testpage.jsp?query=AccessInfo">AccessInfo</a></li>为入口URL,那么接着打开testpage.jsp,第44行:

<%-- include query and title, so this jsp may be used with different queries --%>
<wcf:include id="include01" httpParam="query" prefix="/WEB-INF/queries/" suffix=".jsp"/>

prefix为前缀,suffix为后缀,再结合传入的query,整合起来就是 /WEB-INF/queries/AccessInfo.jsp,接着打开该文件:

<%@ page import="mondrian.olap.*"%>
<%@ page session="true" contentType="text/html; charset=UTF-8" %>
<%@ taglib uri="http://www.tonbeller.com/jpivot" prefix="jp" %>
<%@ taglib prefix="c" uri="http://java.sun.com/jstl/core" %>
 
<jp:mondrianQuery id="query01" jdbcDriver="com.mysql.jdbc.Driver" jdbcUrl="jdbc:mysql://localhost/jpivot" catalogUri="/WEB-INF/queries/AccessInfo.xml" jdbcUser="jpivot" jdbcPassword="jpivot" connectionPooling="false">
 
select NON EMPTY {[Measures].[Amount]} ON COLUMNS,
    NON EMPTY{([AccessTime].[AllTime], [WebsiteNum].[AllSite], [UserIP].[AllIP]) } ON ROWS
    from [AccessAnalysis]
</jp:mondrianQuery>

 可以发现,该文件就是Main.java文件的jsp实现方式,可视化展示查询结果:

JPivot还提供了诸如下钻、上卷,图表等功能,比如此时点击AllTime可以观察不同时间(注:我个人的数据库中的部分数据存在修改,与db.sql不同):

此时可以把AllTime关闭,点击AllIP可以擦好看不同IP的访问次数:

再点击AllSite,可以查看哪些IP访问了哪些网站:

点击显示图表,默认展示柱状图:

总结:Mondrian+JPivort是比较强大的ROLAP工具,尤其是JPivot可以以可视化的形式展示结果。本示例只是展示了Mondrian的冰山一角。后续我可能会发布一些细节的功能实现,比如以restful的形式提供功能等。

3.参考文章

  1. 浅谈ROLAP、MOLAP和HOLAP区别

  2. OLTP与OLAP的关系是什么?

  3. Mondrian + JPivot 环境配置

  4. 《数据挖掘 概念与技术》

  5. MDX语句(初学者)

标签:演示,Mondrian,数据库,数据仓库,OLTP,OLAP,Jpivot,Row
来源: https://blog.csdn.net/bull521/article/details/115022383