首页 > TAG信息列表 > ds1

数据量达到1000w或以上使用分库分表提升数据库操作性能

数据切分根据其切分类型,可以分为两种方式:垂直(纵向)切分和水平(横向)切分 1.ShardingSphere-Jdbc ShardingSphere-Jdbc定位为轻量级Java框架,在Java的Jdbc层提供的额外服务。它使用客户端直连数据库,以jar包形式提供服务,可理解为增强版的Jdbc驱动,完全兼容Jdbc和各种ORM框架 2、MySQ

探讨 | SpringBoot + MyBatis 多数据源事物问题

这是小小本周的第二篇,本篇将会着重讲解关于SpringBoot + MyBatis 多数据源的事物的问题。 多数据源 此处模拟创建订单和扣减库存。先创建订单表和库存表 CREATE TABLE `t_storage` ( `id` int(11) NOT NULL AUTO_INCREMENT, `commodity_code` varchar(255) DEFAULT NULL, `co

Dateset对象的创建

Dateset对象的创建 环境准备: 打开Hadoop01,Hadoop02,Hadoop03 开启Hadoop环境 start-dfs.sh start-yarn.sh spark的开启 cd /export/servers/spark/ bin/spark-shell --master local[2] 一、 Dateset对象的创建 1.从txt文件创建DataSet val personDs=spark.createDataset

如何将明细数据自动分类生成汇总报表

现有这样的明细数据表   我们希望按照下图的样子统计   按照负责单位分组并进行分组小计。 制作关键点: 1. 根据负责单位分组   2. 计算出分组小计 数据文件: 明细数据.xlsx 制表过程: 1. 启动润乾报表工具 2. 新建空白报表   3. 设置报表的数据集为 文件数据集   打

列名作为分类值时如何画出统计图

一般来说,在报表中设计的统计图要用到两个变量值,一个是分类值,一般是统计中的横轴,还有一个就是系列值,相应的就是统计图中的纵轴。绝大多数情况下,分类值与系列值都是来源于表中的数据,也就是说,统计图是基于数据库表中的记录来设计器的,例如下面这个统计图: 一般会来自于这样的数据: 但

【Spark】(十)详解 Spark DataSet

文章目录一、前言二、创建SparkSession三、DataSet/DataFrame的创建四、DataSet 基础函数五、DataSet 的 Actions 操作六、DataSet 的转化操作七、DataSet 的内置函数八、例子:WordCount 一、前言 Spark的发展史可以简单概括为三个阶段,分别为:RDD、DataFrame 和DataSet。在Spa

Sparksql的介绍以及常见操作

撰写本文的目的:对于sparksql,网上有大量的详细文档,本人针对常用的操作进行一个整理,当然有大多数都是从其他地方搬过来的,包括官方文档以及其他网友的一些分享,一来是通过此次整理加强自己的记忆,二来如果有幸帮到某位网友,那是本人莫大的荣幸,先感谢您的阅读,废话不多说,进入正文:     

分库分表(5) ---SpringBoot + ShardingSphere 实现分库分表

分库分表(5)--- ShardingSphere实现分库分表 有关分库分表前面写了四篇博客: 1、分库分表(1) --- 理论 2、分库分表(2) --- ShardingSphere(理论) 3、分库分表(3) ---SpringBoot + ShardingSphere实现读写分离 4、分库分表(4) ---SpringBoot + ShardingSphere 实现分表 这篇博客