当前位置:首页 > 每日看点

Mysql为什么只能支持2000w左右的数据量?

卡卷网2年前 (2025-01-02)每日看点297

MySQL为什么“只能”支持2000w左右的数据量?

首先,这个问题有点冤枉MySQL了。

MySQL根本没跟你说它只能撑到2000w,是你用得不对!这个2000w的“天花板”其实不是MySQL的硬性,而是硬件、数据库设计、以及配置调优没到位,自己给自己挖了坑。

要搞清楚这个问题,我们得从<>存储引擎原理、硬件、MySQL配置几个层面扒一扒。

1.<>+树、16k数据页,这锅不是它的

很多人喜欢拿+树和16K数据页出来背锅,说什么“一个数据页存不下多少条数据,+树层数多了就崩了”。这种说法听着有点意思,但问题是,+树从设计上就支持动态扩展,根本不怕你数据量大。数据多了,它就节点,保证树的层级增长在可控范围内。

<>+树能撑多少数据?

举个例子:

    假设一个数据页是16K,每个索引项占100字节,那一个节点能存大约160条索引。如果是3层+树(根节点-中间节点-叶子节点),第一层指向160个第二层节点,每个第二层节点又指向160个叶子节点。那整个树能存多少条数据?<>160×160×160=4096000条数据。但实际上,<>4层+树能轻松撑到几十亿条数据,根本不是问题。

所以,+树的设计可以随数据量增加自动扩展,性能只会随层级增加稍微有点延迟,但不会突然“”。问题不在它。

[AT大佬写的刷题笔记,让我offer拿到手软](这位AT大佬写的Leetcode刷题笔记,让我offer拿到手软)

2.<>内存才是问题的核心:InnoD的ufferPool

正让人觉得“2000w就顶不住了”的核心,是<>内存缓存不够。InnoD存储引擎通过<>ufferPool来数据的缓存,这个地方的大小直接决定了你查询的效率。

<>ufferPool到底干嘛的?

当你执行查询时:

    MySQL先看<>ufferPool(也就是内存)里有没有你需要的数据页。<>有:直接从内存返回,速度飞快。<>没有:只能从磁盘加载数据页到ufferPool,然后再返回数据。

问题来了:<>内存是有限的,假设你的内存只有8G,而数据总量是100G,ufferPool只能缓存一部分,剩下的查询每次都得访问磁盘。磁盘速度再快,频繁IO也顶不住啊!

<>缓存命中率低,性能自然差

    数据量越大,缓存的命中率就越低。一旦命中率低,你的查询就会频繁触发磁盘IO,读写速度直接掉到地板上。

这就好你脑袋里的短期记忆只能装10条信息,但老板一天给你1000条任务。你不可能每条任务都能记住,只能反复翻任务清单,效率能高才怪。

<>解决方法

    <>加内存!加ufferPool!ufferPool大小可以通过参数innod_uffer_pool_size设置。一般建议设置为总内存的50%-75%,如有32G内存,可以把ufferPool设成24G。<>分区分表,减少单表数据量(后面详细讲)。

3.<>磁盘性能:别再用机械硬盘了!

很多人用MySQL出问题,原因之一是磁盘性能拖后腿。如果你用的是传的机械硬盘(HDD),那随机读写速度慢得让人怀疑人生。在高并发场景下,机械硬盘根本扛不住频繁的IO作。

<>为什么磁盘性能这么重要?

MySQL的数据最终存储在磁盘上,查询的时候如果ufferPool缓存不命中,就得从磁盘加载数据页。如果你的磁盘太慢,那读取速度直接拖垮性能。尤其是+树的索引查找,涉及到多个数据页的加载,每次IO的延迟都会被放大。

<>解决方法

    换成<>SSD或者更高级别的企业级存储(如NVMeSSD)。如果是云,选择高IOPS的存储服务。

一句话,硬件别抠门,省下的预算会让你多加几倍班。

[AT大佬写的刷题笔记,让我offer拿到手软](这位AT大佬写的Leetcode刷题笔记,让我offer拿到手软)

4.<>单表设计问题:2000w的数据压死了一张表

有时候MySQL撑不住,不是数据库的锅,而是<>表设计得太随意。一张表直接存2000w条记录,再加上复杂的查询和写入,表锁、索引膨胀这些问题会一起扑向你。

<>单表的问题

    <>索引太大:MySQL的索引是跟数据一起存放的,2000w条记录的索引文件可能有几十G,索引查找的效率下降。<>写入冲突:高并发写入会导致频繁的锁等待,性能雪崩。

<>解决方法:分区分表

    <>分区表把一张表按照某种规则分成多个分区,如按时间分区。CREATETALEorders(idINTNOTNULL,order_dateDATENOTNULL,PRIMARYKEY(id,order_date))PARTITIONYRANGE(YEAR(order_date))(PARTITIONp2019VALUESLESSTHAN(2020),PARTITIONp2020VALUESLESSTHAN(2021),PARTITIONp2021VALUESLESSTHAN(2022));查询时,MySQL只扫描对应分区,性能大大提升。<>分库分表如果分区表还不够,那就直接把数据拆分到不同的数据库和表里。如把用户ID按哈希值取模拆分成10张表。

5.<>查询优化:索引别乱用

MySQL索引用得好是性能神器,用得不好就是灾难。很多人一上来就随便给表加索引,觉得“多加索引=高性能”,结果不仅没提升性能,反而查询更慢。

<>常见索引问题

    <>过多的单字段索引:每个查询都涉及多个字段,但每个字段的索引是的,MySQL无法充分利用这些索引。<>大字段加索引:如TEXT或LO字段,加了索引反而拖累性能。

<>优化方法

    <>复合索引:将多个查询条件组合成一个索引。CREATEINDEXidx_user_orderONorders(user_id,order_date);<>覆盖索引:查询只返回索引列,避免访问数据页。SELECTuser_id,order_dateFROMordersWHEREuser_id=123;

6.<>MySQL配置调优:用对工具很重要

MySQL默认配置较保守,很多参数需要根据业务场景调整。如:

    <>innod_uffer_pool_size:前面说了,内存大了性能才快。<>innod_log_file_size:增大redolog文件,减少写入时的性能瓶颈。<>query_cache_size:可以缓存少量高频查询结果,减少重复计算。

总结:问题到底在哪?

所谓“2000w数据的”,并不是MySQL自己的硬性,而是以下几个问题的叠加效应:

    <>内存缓存不够,ufferPool装不下那么多数据。<>磁盘性能太差,频繁的磁盘IO成了瓶颈。<>表设计不合理,单表数据量过大导致索引膨胀和写入冲突。<>查询没优化,索引用得乱七八糟。

<>解决方案总结

问题解决方法缓存不足增大ufferPool,提升内存容量磁盘性能差换成SSD,或者使用高IOPS的云存储表数据量过大使用分区表或分库分表查询慢优化索引,使用复合索引和覆盖索引配置不合理调整innod_uffer_pool_size等参数

所以别再吐槽MySQL不行了,只要用对方法,别说2000w数据,2亿都能稳稳扛住!

最近无意间获得一份阿里大佬写的刷题笔记,一下子打通了我的任督二脉,进大厂原来没那么难。

链接:s://pan.aidu/s/1UECE5yuaoTTRpJfi5LU5TQ密码:he

不会有人刷到这里还想白嫖吧?点赞对我的非常重要!在线求赞。加个关注我会非常感激!

@苏三说技术

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/01/6179.html

分享给朋友:

相关文章

为什么说不懂电脑的不要碰AMD?

作为一个资深垃圾佬,说缺点前,先说优点吧AMD CPU(后续简称AU)的优点:处理器对比Intel,三级缓存更大,最明显的感知就是,网游帧数更高(5900X,7900X之类高端型号都是双CCX共享大缓存,反而不如次一点的CPU帧数更高);相…

离线可否搭建 GitLab 环境?

离线可否搭建 GitLab 环境?

背景:为什么要使用GitLab CI/CD? 统一工作流程:GitLab CI/CD 为开发、测试和运维团队提供了一个统一的工作流程。开发人员提交代码后,测试人员可以清楚地看到代码的构建和测试情况,运维人员也可以了解软件的部署进度。例如,在…

电视家停运了,目前有没有免费的电视直播软件?

电视家停运了,目前有没有免费的电视直播软件?

内部消息已经出现电视家5.0版 电视家是会停运的衍生品 这里有2个不停运的直接品 一、电视盒子 二、电视机本身 一、关于电视盒子的故事:电视家刚停运几天之后,我家首次花210块买了一年的电视会员。 88岁的亲爷爷喜欢,虽然看不懂电视剧情,架…

做一名网络工程师是什么体验?

做一名网络工程师是什么体验?

过地铁火车安检时,经常会被要求开包检查。。。同时,电脑包的重量普遍比较高。 除了很多打工人必备的笔记本电脑之外,网络工程师还会随身携带部分工具。。。 01.网线(长度不一定,根据工作要求随时被使用。。。) 02.串口线,type-C转接…

计算机网络的基本原理是什么?

计算机网络的基本原理是什么?

一、计算机网络概述 1.1 计算机网络的分类按照网络的作用范围:广域网(WAN)、城域网(MAN)、局域网(LAN); 按照网络使用者:公用网络、专用网络。 1.2 计算机网络的层次结构 TCP/IP四层模型与OSI体系结构对比:…

阿里云盘是否会取代百度云盘?

最新的情况:感觉阿里云盘已经放弃挣扎了。 1、4年过去了,还有部分格式还没有放开,如压缩包格式,只开放给部分人。其实搞不懂这个有什么好限制的,作为后来者兼同门的夸克,为什么没有这样的限制呢?虽然可以改为自解压或其他格式进行分享,但又不是非选…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。