mysql分表和表分区详解
来源:互联网 发布:战龙三国四灵进阶数据 编辑:程序博客网 时间:2024/06/05 08:00
为什么要分表和分区?
日常开发中我们经常会遇到大表的情况,所谓的大表是指存储了百万级乃至千万级条记录的表。这样的表过于庞大,导致数据库在查询和插入的时候耗时太长,性能低下,如果涉及联合查询的情况,性能会更加糟糕。分表和表分区的目的就是减少数据库的负担,提高数据库的效率,通常点来讲就是提高表的增删改查效率。
什么是分表?
分表是将一个大表按照一定的规则分解成多张具有独立存储空间的实体表,我们可以称为子表,每个表都对应三个文件,MYD数据文件,.MYI索引文件,.frm表结构文件。这些子表可以分布在同一块磁盘上,也可以在不同的机器上。app读写的时候根据事先定义好的规则得到对应的子表名,然后去操作它。
什么是分区?
分区和分表相似,都是按照规则分解表。不同在于分表将大表分解为若干个独立的实体表,而分区是将数据分段划分在多个位置存放,可以是同一块磁盘也可以在不同的机器。分区后,表面上还是一张表,但数据散列到多个位置了。app读写的时候操作的还是大表名字,db自动去组织分区的数据。
mysql分表和分区有什么区别呢
1、实现方式上
a)mysql的分表是真正的分表,一张表分成很多表后,每一个小表都是完正的一张表,都对应三个文件,一个.MYD数据文件,.MYI索引文件,.frm表结构文件。代码如下:
简单说明一下,分表呢是利用了merge存储引擎(分表的一种),alluser 是总表,下面有二个分表,user1,user2。他们二个都是独立的表,取数据的时候,我们可以通过总表来取。这里总表是没有.MYD,.MYI这二个 文件的,也就是说,总表他不是一张表,没有数据,数据都放在分表里面。
b)分区不一样,一张大表进行分区后,他还是一张表,不会变成二张表,但是他存放数据的区块变多了。
例如a这张表,分为二个区,p1和p3,本来是三个区,被我删了一个区。我们都知道一张表对应三个文 件.MYD,.MYI,.frm。分区呢根据一定的规则把数据文件和索引文件进行了分割,还多出了一个.par文件,打开.par文件后你可以看出他记录 了,这张表的分区信息,根分表中的.MRG有点像。分区后,还是一张,而不是多张表。
2、数据处理上
a)分表后,数据都是存放在分表里,总表只是一个外壳,存取数据发生在一个一个的分表里面。看下面的例子:
select * from alluser where id='12'表面上看,是对表alluser进行操作的,其实不是的。是对alluser里面的分表进行了操作。
b)分区呢,不存在分表的概念,分区只不过把存放数据的文件分成了许多小块,分区后的表呢,还是一张表。数据处理还是由自己来完成。
3、提高性能上
a)分表后,单表的并发能力提高了,磁盘I/O性能也提高了。并发能力为什么提高了 呢,因为查寻一次所花的时间变短了,如果出现高并发的话,总表可以根据不同的查询,将并发压力分到不同的小表里面。磁盘I/O性能怎么搞高了呢,本来一个 非常大的.MYD文件现在也分摊到各个小表的.MYD中去了。
b)mysql提出了分区的概念,我觉得就想突破磁盘I/O瓶颈,想提高磁盘的读写能力,来增加mysql性能。
在这一点上,分区和分表的测重点不同,分表重点是存取数据时,如何提高mysql并发能力上;而分区呢,如何突破磁盘的读写能力,从而达到提高mysql性能的目的。
4、实现的难易度上
a)分表的方法有很多,用merge来分表,是最简单的一种方式。这种方式根分区难易度差不多,并且对程序代码来说可以做到透明的。如果是用其他分表方式就比分区麻烦了。
b)分区实现是比较简单的,建立分区表,根建平常的表没什么区别,并且对开代码端来说是透明的。
mysql分表和分区有什么联系呢1,都能提高mysql的性高,在高并发状态下都有一个良好的表面。
2,分表和分区不矛盾,可以相互配合的,对于那些大访问量,并且表数据比较多的表,我们可以采取分表和分区结合的方式(如果merge这种分表方式,不能和分区配合的话,可以用其他的分表试),访问量不大,但是表数据很多的表,我们可以采取分区的方式等。
分表的几种方式:
1、mysql集群
它并不是分表,但起到了和分表相同的作用。集群可分担数据库的操作次数,将任务分担到多台数据库上。集群可以读写分离,减少读写压力。从而提升数据库性能。
2、自定义规则分表
大表可以按照业务的规则来分解为多个子表。通常为以下几种类型,也可自己定义规则。
- <span style="font-size:18px">Range(范围)–这种模式允许将数据划分不同范围。例如可以将一个表通过年份划分成若干个分区。
- Hash(哈希)–这中模式允许通过对表的一个或多个列的Hash Key进行计算,最后通过这个Hash码不同数值对应的数据区域进行分区。例如可以建立一个对表主键进行分区的表。
- Key(键值)-上面Hash模式的一种延伸,这里的Hash Key是MySQL<a target="_blank" href="http://www.2cto.com/os/" class="keylink">系统</a>产生的。
- List(预定义列表)–这种模式允许系统通过预定义的列表的值来对数据进行分割。
- Composite(复合模式) –以上模式的组合使用 </span>
下面以Range简单介绍下如何分表(按照年份表)。
假设表结构有4个字段:自增id,姓名,存款金额,存款日期
把存款日期作为规则分表,分别创建几个表
2011年:account_2011
2012年:account_2012
……
2015年:account_2015
app在读写的时候根据日期来查找对应的表名,需要手动来判定。
- <span style="font-size:18px">var getTableName = function() {
- var data = {
- name: 'tom',
- money: 2800.00,
- date: '201410013059'
- };
- var tablename = 'account_';
- var year = parseInt(data.date.substring(0, 4));
- if (year < 2012) {
- tablename += 2011; // account_2011
- } else if (year < 2013) {
- tablename += 2012; // account_2012
- } else if (year < 2014) {
- tablename += 2013; // account_2013
- } else if (year < 2015) {
- tablename += 2014; // account_2014
- } else {
- tablename += 2015; // account_2015
- }
- return tablename;
- }</span>
3、利用merge存储引擎来实现分表
merge分表,分为主表和子表,主表类似于一个壳子,逻辑上封装了子表,实际上数据都是存储在子表中的。
我们可以通过主表插入和查询数据,如果清楚分表规律,也可以直接操作子表。
子表2011年
- <span style="font-size:18px">CREATE TABLE `account_2011` (
- `id` int(11) NOT NULL AUTO_INCREMENT ,
- `name` varchar(50) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT NULL ,
- `money` float NOT NULL ,
- `tradeDate` datetime NOT NULL
- PRIMARY KEY (`id`)
- )
- ENGINE=MyISAM
- DEFAULT CHARACTER SET=utf8 COLLATE=utf8_general_ci
- AUTO_INCREMENT=2
- CHECKSUM=0
- ROW_FORMAT=DYNAMIC
- DELAY_KEY_WRITE=0
- ;</span>
子表2012年
- <span style="font-size:18px">CREATE TABLE `account_2012` (
- `id` int(11) NOT NULL AUTO_INCREMENT ,
- `name` varchar(50) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT NULL ,
- `money` float NOT NULL ,
- `tradeDate` datetime NOT NULL
- PRIMARY KEY (`id`)
- )
- ENGINE=MyISAM
- DEFAULT CHARACTER SET=utf8 COLLATE=utf8_general_ci
- AUTO_INCREMENT=2
- CHECKSUM=0
- ROW_FORMAT=DYNAMIC
- DELAY_KEY_WRITE=0
- ;</span>
主表,所有年
- <span style="font-size:18px">CREATE TABLE `account_all` (
- `id` int(11) NOT NULL AUTO_INCREMENT ,
- `name` varchar(50) CHARACTER SET utf8 COLLATE utf8_general_ci NULL DEFAULT NULL ,
- `money` float NOT NULL ,
- `tradeDate` datetime NOT NULL
- PRIMARY KEY (`id`)
- )
- ENGINE=MRG_MYISAM
- DEFAULT CHARACTER SET=utf8 COLLATE=utf8_general_ci
- UNION=(`account_2011`,`account_2012`)
- INSERT_METHOD=LAST
- ROW_FORMAT=DYNAMIC
- ;
- </span>
创建主表的时候有个INSERT_METHOD,指明插入方式,取值可以是:0 不允许插入;FIRST 插入到UNION中的第一个表; LAST 插入到UNION中的最后一个表。
通过主表查询的时候,相当于将所有子表合在一起查询。这样并不能体现分表的优势,建议还是查询子表。
分区的几种方式
Range:
- <span style="font-size:18px">create table range(
- id int(11),
- money int(11) unsigned not null,
- date datetime
- )partition by range(year(date))(
- partition p2007 values less than (2008),
- partition p2008 values less than (2009),
- partition p2009 values less than (2010)
- partition p2010 values less than maxvalue
- );</span>
List:
- <span style="font-size:18px">create table list(
- a int(11),
- b int(11)
- )(partition by list (b)
- partition p0 values in (1,3,5,7,9),
- partition p1 values in (2,4,6,8,0)
- );</span>
Hash:
- <span style="font-size:18px">create table hash(
- a int(11),
- b datetime
- )partition by hash (YEAR(b)
- partitions 4;</span>
Key:
- <span style="font-size:18px">create table t_key(
- a int(11),
- b datetime)
- partition by key (b)
- partitions 4;</span>
新增分区
- <span style="font-size:18px">ALTER TABLE sale_data
- ADD PARTITION (PARTITION p201010 VALUES LESS THAN (201011));
- </span>
删除分区
--当删除了一个分区,也同时删除了该分区中所有的数据。
ALTER TABLE sale_data DROP PARTITION p201010;
分区的合并
下面的SQL,将p201001 - p201009 合并为3个分区p2010Q1 - p2010Q3
- <span style="font-size:18px">ALTER TABLE sale_data
- REORGANIZE PARTITION p201001,p201002,p201003,
- p201004,p201005,p201006,
- p201007,p201008,p201009 INTO
- (
- PARTITION p2010Q1 VALUES LESS THAN (201004),
- PARTITION p2010Q2 VALUES LESS THAN (201007),
- PARTITION p2010Q3 VALUES LESS THAN (201010)
- );</span>
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- mysql分表和表分区详解
- C#实现类似百度网盘、360云盘在“我的电脑”磁盘驱动器
- Spring源码阅读-BeanFactory子接口ListableBeanFactory
- web前端-HTML 媒体插件 022
- Vuforia 在多次AR场景与非AR场景之间切换时可能会出现黑屏的解决方法
- Android Studio应用打包+代码混淆
- mysql分表和表分区详解
- JQuery时间戳转换普通日期格式
- VS2015编译FFMPEG
- java常用开发工具类大全,涵盖常见工作的问题(超赞)
- 我的生活-蓦然回首智能信息科技平台:高效办公OA,信息共享。专业的桌面信息数据管理软件,互联网信息E时代
- RCC_APB2PeriphResetCmd(0X01FC,DISABLE)
- volatile 关键字
- Android Studio常见问题
- git 误删除以后