计算机多媒体毕业设计网站建设,微博大v推广一次多少钱,做汽车团购的网站,加强网站信息建设MySQL代表了开源数据库的快速发展#xff0c;从2004年前后的Wiki、WordPress等轻量级Web 2.0应用起步#xff0c;到2010年阿里巴巴在电商及支付场景大规模使用MySQL数据库#xff0c;再到2012年开始阿里云RDS for MySQL为成千上万家客户提供可靠的关系数据库服务#xff0c…MySQL代表了开源数据库的快速发展从2004年前后的Wiki、WordPress等轻量级Web 2.0应用起步到2010年阿里巴巴在电商及支付场景大规模使用MySQL数据库再到2012年开始阿里云RDS for MySQL为成千上万家客户提供可靠的关系数据库服务积累了来自内外部功能、性能、安全方面的众多需求培养了一支强劲的MySQL研发团队并打造了面向企业场景的AliSQL分支高效演进并稳定地服务着内外部关键业务场景。让我们来一起看一下AliSQL中面向企业场景的设计及功能。1MySQL 80 CompatiableMySQL 80有5个非常好的企业级功能来逐一看一下Atomic DDLMySQL 80去掉了表结构frm文件实现了元数据信息字典化可以保证DDL操作处理或回滚干净避免了表删除不干净的情况。Instant Add Column元数据字典化后向表最后面加列(无默认值)时可以只更改数据字典而不需要更改表数据实现了极快速的加列。Window Function窗口函数可以用来快速实现复杂的报表在许多企业应用场景中都会出现。Temp Engine执行特别复杂的SQL时需要用到内存之外的临时空间以前版本会动态地创建和删除文件而在MySQL 80中使用了集中式的Temp Engine避免不停地创建和删除文件有效降低了文件系统的压力。Hash JoinMySQL 8018中实现了Hash Join可以加快多表(三表)以上关联的SQL性能在企业场景中由于业务逻辑复杂多表关联是常态绝对的企业级功能。我们在2019年推出了基于MySQL 80版本的AliSQL版本远远领先于同行。2、Dynamic Thread Pool企业级场景(包括互联网与非互联网场景)的商业数字化程度越来越高应用场景越来越丰富RDS数据库如何在有限资源(4c/8c规格云上弹性降低企业成本)的情况下提供高质量服务会面临以下挑战如何在有限的资源下支持更多的数据库连接数如何支持更高的短连接能力如何在有限的资源下提高资源的使用效率提升性能如何进行并发控制或隔离保证核心业务逻辑的稳定性Dynamic Thread Pool可以很好地解决上述问题采用Listener Worker机制将所有请求放到Worker队列中由共享的Worker线程来执行不同用户的请求从而不需要每个客户端会话都创建一个后台线程(非Dynamic Thread Pool)来执行请求比如1000个客户端连接发起请求服务器端只需要数十个Worker线程即可而不需要创建1000个线程从而可以在有限资源内创建更多的连接。由于每个连接后面并不对应固定的线程创建新连接时没有线程的操作因此建立新连接的成本大大降低从而可以提供更高和更稳定的连接创建能力。通过控制了有限资源内的线程数减少了线程切换有效降低了SYS CPU的使用提升了CPU的资源使用效率。在高并发的sysbench point select测试中Dynamic Thread Pool可以提升10%左右的性能在低并发时Dynamic Thread Pool可以动态切换回专用模式即每个连接都有专用的Worker对应从而保证高低并发下都有极好的性能。在数据库中有读写操作SQL操作也可以分为简单操作和复杂操作为了防止相互影响Dynamic Thread Pool设计了多个队列按SQL的操作成本将SQL进行分类各自进入不同的队列并在队列上进行并发的控制从而可以隔离不同类型操作的相互影响。比如说核心业务逻辑中都是简单查询新建应用未经评审的复杂SQL就不会影响核心逻辑。Dynamic Thread Pool可以动态启停不需要重启数据库实例。这是AliSQL Dynamic Thread Pool一个非常重大的技术创新与突破。Dynamic Thread Pool已经在RDS 5.6/5.7/8.0版本上线并已经默认开启所有用户和客户都可以受益。TPCC模型最接近企业核心业务场景在1024或2048客户端并发的TPCC测试中Dynamic Thread Pool可以提升50%-100%左右的TpmC并节约10%到20%的CPU资源消耗给阿里云所有客户带来实实在在的技术红利。3、Index Mutex TuningTPCC模型最接近企业核心业务场景对此场景的优化可以让企业应用受益。在TPCC的压力测试中发现Index的锁非常重在节点分裂时会阻塞所有的其他操作。AliSQL对此进行了优化有效地降低了压测过程中索引节点分裂的成本大大地提升了TPCC场景的处理能力。在全内存的测试中单机达到了39W的TpmC相对于原生版本提升35-50%不等(大规格测试5.6提升35%、5.7提升40%、8.0进升45%)。此优化已在RDS 56/57/80上同步优化发布上线。4、TDE SM4RDS 5.6/5.7/8.0都已经全线支持并且支持SM4加密算法可以确保客户数据的安全。5、Performance Insight应用侧的SQL优化对系统及业务的优化至关重要原生的MySQL中缺少行之有效的监控数据AliSQL结合不同数据库的经验并结合内部外部客户的需求在SQL性能这块做了丰富的扩展包含以下五个方面的扩展table_stats记录每个表增删除改查的行数可以快速地了解现有系统中的数据存取行为判断业务的核心表判断哪些表适合来作缓存处理。index_stats记录用到的索引以及索引被使用的频率可以快速地了解索引的使用情况判断哪些索引是多余的判断哪些索引是核心的索引。Performance Point记录了每个SQL的细粒度性能数据包括SQL语句的时间(包括消耗时间、执行时间、Server层MDL锁的时间、事务锁的时间)、SQL IO的信息(包括这条SQL引起的数据读、数据写、日志生成、内存访问、物理读写的量及IO时间)、以及内核层面的锁(包括Mutex、RW Lock)的次数和时间。很容易找到值得优化的SQL语句如果有一定的源代码能力也可以分析和改进MySQL的锁机制。Performance Agent使用内置Daemon程序在同一时间点收集不同唯度(CPU、内存、网络、磁盘IO、Server、InnoDB、Linux Kernel、File System)的关键性能数据每秒收集一次以格式化文本方式在后台记录便于事后进行性能分析同时也是内存表的方式提供访问方便客户直接使用Grafana等工具来展示RDS数据库性能曲线。IO_STATISTICS记录实例级各种不同IO的总量及时间默认每2秒一个值(可配置)可以直接使用Grafana等工具来展示。在仔细分析原生Performance Schema后AliSQL中增加了这些额外的性能相关的数据如实地反映了系统的运行情况方便我们进行事后性能问题诊断也方便了客户进行SQL性能分析也可以让第三方基于这些性能数据来为客户提供更好的性能优化服务。6、Async File Purge在文件系统中删除一个特别大的文件(Drop Table/Partition、Truncate Table/Partition)时可能会锁定整个文件系统导致同一个文件系统上的其他操作无法进行阻塞整个实例。AliSQL中对这种行为进行了优化当接到删除表或分区的操作时会记一个文件异步清理的任务将表或分区的操作先做完然后由后台线程以相对温和的方式进行清理。其原理是将大文件一步一步变小到某个安全大小后才彻底删除文件。7、Slow Log Rotate某些业务场景下会产生大量的慢SQL语句会被记录在慢日志中而原生的MySQL一直使用单个文件机制会一直保持Slow Log文件打开导致文件变得特别大(可高在上百GB)需要在关闭MySQL实例的情况下才能对Slow Log文件进行维护非常地不友好。AliSQL对此作出了改进设计了Slow Log切换机制可以定时或到指定大小后进行切换(切换指令由外部触发)避免需要重启数据库实例来维护Slow Log文件(比如释放Slow Log空间)。其间还修复了以CSV格式存放Slow Log时SQL执行时间范围超过35天(通常是Binlog Dump命令)引起的损坏问题。8、SQL OutlineSQL Hint是非常有效的优化手段AliSQL对SQL Hint做了功能扩展可以在运行过程中将SQL计算中的路径信息用相应的SQL Hint进行持久化保存以保证执行计划的稳定性。可以有效应对以下场景下的SQL执行计划变更数据库版本升级优化器行为会发生变化SQL计算计划可能变好也可能变坏。DDL操作新建索引后会导致原有的SQL执行计划发生变化。统计信息发生变化重新收集或人工设置后SQL执行计划可能发生变化。对于核心业务的SQL应当使用SQL Outline进行固化避免SQL执行计划变坏。AliSQL还提供API进行SQL Hint编辑即可以手工给SQL加一个Hint进行透明的SQL优化可以在无法更改应用程序代码的情况下进行SQL优化。并在此基础上与AliSQL其他的优化功能进行集成比如Statement Queue、Query Cache(研发中)等可以通过在SQL Outline中指定Hint来启用Statement Queeu的并发控制或启用Query Cache实现对应用透明的SQL优化。9、Binlog XA TuningMySQL的逻辑日志(Binlog)给数据订阅带来了极大的便捷性但也给性能带来了负面影响。在服务客户的过程中我们发现企业场景对性能的要求越来越高便对启用Binlog后的事务提交机制进行了重大的技术突破在不影响Binlog的前提下去除了XA机制带来的所有负面性能影响相较于原生的MySQL事务处理性能提升将近一倍。更实现了事务提交的Pipeline机制交由Dynamic Thread Pool的线程去回复用户事务提交结果进一步降底了线程池的线程数提升了系统处理效率。10、DDL Recycle Bin在MySQL中DDL语句是无法回滚的因此Drop/Truncate表或分区的操作会变得极期危险在商业数据库中也是如此。Oracle在10g中加入了回收站的功能可以将Drop/Truncate的表或分区先放到回收站中后续根据空间的使用情况按先进先出的策略自动回收。这样就可以在Drop/Truncate误操作手从回收站中快速恢复数据而不需要进行实例基于时间点的恢复来找回误操作的表AliSQL在8.0上也实现了此回收站功能。AliSQL还有其他的企业级功能例如Sequence引挚、Statement Queue等在这里不一一详细解释。从业务中找需求从技术中找需求从运行维护中找需求从合作伙伴中找需求所有的需求方都是我们的客户一直致力于让AliSQL更加开放更加面向企业级应用。大型企业数据库服务首选专属主机组RDS MySQL服务重磅发布1月9日15:00 — 17:00RDS专属主机组和ECS专有宿主机举办联合发布会点击下方阿里云登录 - 欢迎登录阿里云安全稳定的云计算服务平台立即预约(需登陆阿里云账号哦)
