中国福网客服中心
中国福网客服中心

数据库优化理论

数据库内存结构的优化
数据库内存结构的优化

数据库优化是一项很复杂的工作,因为这最终需要对系统优化的很好理解才行。尽管对系统或应用系统的了解不多的情况下优化效果还不错,但是如果想优化的效果更好,那么就需要对它了解更多才行。

本篇以mysql数据库为参考

 

 

目录

[显示全部]

优化概述编辑本段回目录

让系统运行得快最重要因素是数据库的基本设计。并且还必须清楚系统要用来做什么,以及存在的瓶颈。

最常见的系统瓶颈有以下几种:

磁盘搜索
它慢慢地在磁盘中搜索数据块。对现代磁盘来说,平时的搜索时间基本上小于10毫秒,因此理论上每秒钟可以做100次磁盘搜索。这个时间对于全新的新磁盘来说提高的不多,并且对于只有一个数据表的情况也是如此。加快搜索时间的方法是将数据分开存放到多个磁盘中。

磁盘读/写
当磁盘在正确的位置上时,就需要读取数据。对现代磁盘来说,磁盘吞吐量至少是10-20MB/秒。这比磁盘搜索的优化更容易,因为可以从多个媒介中并行地读取数据

CPU周期
数据存储在主内存中(或者它已经在主内存中了),这就需要处理这些数据以得到想要的结果。

内存带宽
当CPU要将更多的数据存放在CPU缓存中时,主内存的带宽就是瓶颈了。在大多数系统中,这不是常见的瓶颈,不过也是要注意的一个因素。

MySQL设计的局限性编辑本段回目录

当使用MyISAM 存储引擎时,MySQL会使用一个快速数据表锁以允许同时多个读取和一个写入。这种存储引擎的最大问题是发生在一个单一的表上同时做稳定的更新操作及慢速查询。如果这种情况在某个表中存在,可以使用另一种表类型。

MySQL可以同时在事务及非事务表下工作。为了能够平滑的使用非事务表(发生错误时不能回滚),有以下几条规则:

所有的字段都有默认值

如果字段中插入了一个"错误"的值,比如在数字类型字段中插入过大数值,那么MySQL会将该字段值置为"最可能的值"而不是给出一个错误。数字类型的值是0,最小或者最大的可能值。字符串类型,不是空字符串就是字段所能存储的最大长度。

所有的计算表达式都会返回一个值而报告条件错误,例如1/0返回NULL。

这些规则隐含的意思是,不能使用MySQL来检查字段内容。相反地,必须在存储到数据库前在应用程序中来检查。

应用设计的可移植性编辑本段回目录

由于各种不同的数据库实现了各自的SQL标准,这就需要尽量使用可移植的SQL应用。查询和插入操作很容易就能做到可移植,不过由于更多的约束条件的要求就越发困难。想要让一个应用在各种数据库系统上快速运行,就变得更困难了。

为了能让一个复杂的应用做到可移植,就要先看这个应用运行于哪种数据库系统之上,然后看这些数据库系统都支持哪些特性。每个数据库系统都有某些不足。也就是说,由于设计上的一些妥协,导致了性能上的差异

可以用MySQL的crash-me程序来看选定的数据库服务器上可以使用的函数,类型,限制等。crash-me不会检查各种可能存在的特性,不过这仍然是合乎情理的理解,大约做了450次测试。一个crash-me的信息类型的例子就是,它会告诉如果想使用InformixDB2的话,就不能使字段名长度超过18个字符

crash-me程序和MySQL基准使每个准数据库都实现了的。可以通过阅读这些基准程序是怎么写的,自己就大概有怎样做才能让程序独立于各种数据库这方面的想法了。这些程序可以在MySQL源代码的`sql-bench'目录下找到。他们大部分都是用Perl写的,并且使用DBI接口。由于它提供了独立于数据库的各种访问方式,因此用DBI来解决各种移植性的问题。

如果想努力做到独立于数据库,这就需要对各种SQL服务器的瓶颈都有一些很好的想法。
例如:
MySQL对于MyISAM类型的表在检索以及更新记录时非常快,但是在有并发的慢速读取及写入记录时却有一定的问题。
Oracle在访问刚刚被更新的记录时有很大的问题(直到结果被刷新到磁盘中)。
事务数据库一般地在从日志表中生成摘要表这方面的表现不怎么好,因为在这种情况下,行记录锁几乎没用。

为了能让应用程序真正的做到独立于数据库,就必须把操作数据的接口定义的简单且可扩展。由于C++在很多系统上都可以使用,因此使用C++作为数据库的基类结果很合适。

如果使用了某些数据库独有的特定功能(比如REPLACE语句就只在MySQL中独有),这就需要通过编写替代方法来在其他数据库中实现这个功能。尽管这些替代方法可能会比较慢,但是它能让其他数据库实现同样的功能。

在MySQL中,可以在查询语句中使用/*!*/语法来增加MySQL特有的关键字。然而在很多其他数据库中,/**/却被当成了注释(并且被忽略)。

如果有时候更高的性能比数据结果的精确更重要,就像在一些Web应用中那样,这可以使用一个应用层来缓存结果,这可能会有更高的性能。通过让旧数据在一定时间后过期,来合理的更新缓存。这是处理负载高峰期时的一种方法,这种情况下,可以通过加大缓存容量和过期时间直到负载趋于正常。

这种情况下,建表信息中就要包含了初始化缓存的容量以及正常刷新数据表的频率。一个实现应用层缓存的可选方案是使用MySQL的查询缓存(querycache)。启用查询缓存后,数据库就会根据一些详情来决定哪些结果可以被重用。它大大简化了应用程序。

都用MySQL来做什么编辑本段回目录

在MySQL最开始的开发过程中,MySQL本来是要准备给大客户用的,他们是瑞典的2个最大的零售商,他们用于货物存储数据管理。

他们每周从所有的商店中得到交易利润累计结果,以此给商店的老板提供有用的信息,帮助他们分析如果更好的打广告以影响他们的客户。

数据量相当的大(每个月的交易累计结果大概有7百万),而且还需要显示4-10年间的数据。每周都得到客户的需求,他们要求能‘瞬间’地得到数据的最新报表。

把每个月的全部信息存储在一个压缩的‘交易’表中以解决这个问题。有一些简单的宏指令集,它们能根据不同的标准从存储的‘交易’表中根据字段分组(产品组、客户id、商店等等)取得结果。用一个小Perl脚本动态的生成Web页面形式的报表。这个脚本解析Web页面,执行SQL语句,并且插入结果。还可以用PHP或者mod_perl来做这个工作,不过当时还没有这2个工具。

为了得到图形数据,还写了一个简单的C语言工具,用于执行SQL查询并且将结果做成GIF图片。这个工具同样是Perl脚本解析Web页面后动态执行的。

很多情况下,只要拷贝现有的脚本简单的修改里面的SQL查询语句就能产生新的报表了。有时候,就需要在现存的累计表中增加更多的字段或者新建一个。这个操作十分简单,因为在磁盘上存储有所有的交易表(总共大概有50G的交易表以及20G的其他客户资料)。

还允许客户通过ODBC直接访问累计表,这样的话,那些高级用户就可以自己利用这些数据做试验了。这个系统工作的很好,并且在适度的Sun Ultra SPARC工作站(2x200MHz)上处理数据没有任何问题。最终这个系统移植到了Linux上。

MySQL基准套件编辑本段回目录

基准套件就是想告诉用户执行什么样的SQL查询表现的更好或者更差。请注意,这个基准是单线程的,因此它度量了操作执行的最少时间。mysql未来打算增加多线程测试的基准套件。

想要使用基准套件,必备以下几个条件:

基准脚本是用Perl写的,它用Perl的DBI模块来连接数据库,因此必须安装DBI模块。并且还需要每个要做测试的服务器上都有特定的BDB驱动程序。例如,为了测试MySQL、Postgre SQL和DB2,就必须安装DBD::mysql,DBD::PgDBD::DB2模块。

取得MySQL的分发源代码后,就能在`sql-bench'目录下看到基准套件。想要运行这些基准测试,请先搭建好服务,然后进入`sql-bench'目录,执行run-all-tests脚本:

shell>cdsql-bench
shell>perlrun-all-tests  --server=server_name

server_name可以是任何一个可用的服务。想要列出所有的可用选项和支持的服务,只要调用以下命令:

shell>perlrun-all-tests--help

crash-me脚本也是放在`sql-bench'目录下。crash-me通过执行真正的查询以试图判断数据库都支持什么特性、性能表现以及限制。例如,它可以判断:

·都支持什么字段类型
·支持多少索引
·支持什么样的函数
·能支持多大的查询
·VARCHAR字段类型能支持多大

使用自己的基准编辑本段回目录

请确定对数据库或者应用程序做基准测试,以发现它们的瓶颈所在。解决这个瓶颈(或者使用一个假的模块来代替)之后,就能很容易地找到下一个瓶颈了。即使应用程序当前总体的表现可以接受,不过还是至少要做好找到每个瓶颈的计划,说不定某天就希望应用程序能有更好的性能。

从MySQL的基准套件中就能找到一个便携可移植的基准测试程序了。

可以从基准套件中的任何一个程序,做适当的修改以适合需要。通过整个方式,就可以有各种不同的办法来解决问题,知道哪个程序才是最快的。

当系统负载十分繁重的时候,通常就会发生问题。就有很多客户联系说他们有一个(测试过的)生产系统也遭遇了负载问题。在很多情况下,性能问题归结于数据库的基本设计(例如,在高负载下扫描数据表的表现不好)、操作系统、或者程序库等因素。很多时候,这些问题在还没有正式用于生产前相对更容易解决。

优化SELECT语句及其他查询编辑本段回目录

首先,影响所有语句的一个因素是:权限设置越复杂,那么开销就越大。使用比较简单的GRANT语句能让MySQL减少在客户端执行语句时权限检查的开销。例如,如果没有设定任何表级或者字段级的权限,那么服务器就无需检查tables_priv和columns_priv表的记录了。同样地,如果没有对帐户设定任何资源限制的话,那么服务器也就无需做资源使用统计了。如果有大量查询的话,花点时间来规划简单的授权机制以减少服务器权限检查的开销是值得的。

如果问题处在一些MySQL特定的表达式或者函数上,则可以通过mysql客户端程序使用BENCHMARK()函数做一个定时测试。它的语法是:BENCHMARK(loop_count,expression)。例如:

所有的MySQL函数都应该被最优化,不过仍然有些函数例外。BENCHMARK()是一个用于检查查询语句中是否存在问题的非常好的工具。

参考资料编辑本段回目录

附件列表

文章内容仅供参考,如果您需要解决具体问题建议您提交有问必答。 1

标签: 数据库优化理论

收藏到: Favorites  

同义词: 暂无同义词

文章信息
客服导航
如果您在使用我们的产品中遇到问题,建议您首先在“常见问题”中查询解决方法;
如果没有找到该问题的解决方法,您可以在“问题搜索”中进行搜索;
如果搜索后没有找到满意答案,您可以“在线提问”,我们会在1个工作日内给您答复。