MySQL版本5.5
某次测试优化过程中碰到的问题和解决问题的方法,方案。以供各位参考。一,表结构的优化问题1,表与字段使用不同的字符集会导致索引失效我在自己的机器上,没试出来。可能与记录数太少有关。有时,记录数太少,得出的结果有些不一致。但此问题,是存在的。问题2,表字段太长,会导致order by时索引失效mysql> show create table t2\G*************************** 1. row ***************************Table: t2Create Table: CREATE TABLE `t2` (`id` int(11) NOT NULL,`name` varchar(2000) DEFAULT NULL,PRIMARY KEY (`id`),KEY `idx_name` (`name`(767))) ENGINE=InnoDB DEFAULT CHARSET=latin11 row in set (0.00 sec)mysql> explain select * from t2 order by name\G*************************** 1. row ***************************id: 1select_type: SIMPLEtable: t2type: ALLpossible_keys: NULLkey: NULLkey_len: NULLref: NULLrows: 1Extra: Using filesort1 row in set (0.00 sec)修改后:mysql> show create table t2\G*************************** 1. row ***************************Table: t2Create Table: CREATE TABLE `t2` (`id` int(11) NOT NULL,`name` varchar(100) DEFAULT NULL,PRIMARY KEY (`id`),KEY `idx_name` (`name`)) ENGINE=InnoDB DEFAULT CHARSET=latin11 row in set (0.00 sec)mysql> explain select * from t2 order by name\G*************************** 1. row ***************************id: 1select_type: SIMPLEtable: t2type: indexpossible_keys: NULLkey: idx_namekey_len: 103ref: NULLrows: 1Extra: Using index1 row in set (0.00 sec)问题3,表的一行记录的字符数太长,排序异常慢当表的一行的记录数超过1K, max_length_for_sort_data默认值时,使用order by会导致排序异常的慢。当存在这种数据表时,请设置max_length_for_sort_data=2K或更高。对于这种情况,可以使用explain去查找错误原因。当出现此情况时,会发现explain的显示中有如下内容Extra: Using filesort问题4,错误使用MyISAM引擎,查询速度异常慢由于,测试项目只使用Innodb引擎,在配置文件中关闭了关于MyISAM引擎的相关配置。导入数据时,由于错误使用了Innodb引擎,导致查询很慢。因为刚开始,我并不知道原因是使用了MyISAM引擎,我通过如下的命令,快速找到了查询慢的语句。再通过show create table t_corpcustomize 即找到了错误的表。关于查询慢,可以通过show full processlist,查看,你可以看到类似如下的查询语句| Id | User | Host | db | Command | Time | State | Info| 67 | root | linux70:55737 | bi | Execute | 0 | Sending data | select whoset, specialphone,settype, begintime,endtime from t_corpcustomize where status = 1二,服务器参数优化配置一,去除所有不用的功能1. 因为没用query cache, 去除配置如下query_cache_type=0query_cache_size = 02. 因为没用MyISAM, 去除配置如下key_buffer_size=8M其它所有的都注释掉二,停止所有与MySQL相关的服务测试过程中,发现MySQL机器上,还有oracle, java, tomcat进程在运行。虽然,他们没有业务,但使用了不少内存。去除后,性能得到了一些提升。三,参数合理调整一,调整与内存有关的配置innodb_file_per_table = true# Data files must be able to hold your data and indexes# Set buffer pool size to 50-80% of your computer's memory,# but make sure on Linux x86 total memory usage is < 2GBinnodb_buffer_pool_size=5G#When innodb_buffer_pool_size > 1G, set this parameter to divide the buffer pool size maybe justabove 1Ginnodb_buffer_pool_instances = 4innodb_additional_mem_pool_size=20M# Set the log file size to about 25% of the buffer pool sizeinnodb_log_file_size = 2047Minnodb_log_files_in_group = 2innodb_log_buffer_size=8Mmax_connection*(#顺序读时使用,一般不用太大read_buffer_size = 4M#随机读时使用,当有大量order by, group by操作时加大read_rnd_buffer_size = 32M#排序时使用, 当有大量order by, group by操作时加大sort_buffer_size = 64M#一般不用太大,有复杂的join操作时加大join_buffer_size = 8M#一般不用太大,默认即可thread_stack = 192K#使用binlog时,配置,一般默认即可binlog_cache_size)二,调整与I/O,文件,log缓存等有关的配置1. table_open_cache 调整一般来说,可以在phpmyadmin中查看Open_tables与Opened_tables的值,也可以执行1 mysql> show global status like 'open%_tables';查看当前的open_tables情况来查看这两个参数的值。其中Open_tables是当前正在打开表的数量,Opened_tables是所有已经打开表的数量。如果Open_tables的值已经接近table_cache的值,且Opened_tables还在不断变大,则说明mysql正在将缓存的表释放以容纳新的表,此时可能需要加大table_cache的值。对于大多数情况,比较适合的值:Open_tables / Opened_tables >= 0.85Open_tables / table_cache <= 0.952. I/O 调整#如下两个参数,一般设置为cpu个数即可innodb_write_io_threads = 4innodb_read_io_threads = 4#下面设置为cpu个数*2innodb_thread_concurrency = 8#io capacity,这个参数需要根据IOPS来进行设置,需要查看硬件手册。3. log参数调整#log flush mode,见参考文档,通常在linux设为O_DIRECT,http://dev.mysql.com/doc/refman/5.5/en/innodbparameters.html#sysvar_innodb_flush_log_at_trx_commitinnodb_flush_method=O_DIRECT#1=保证事务的一致性,每次commit刷新到磁盘,0=缓存起来,每秒刷新磁盘,2=写入文件,再每秒刷新到磁盘。推荐为2,配置为2时,性能会有不少提升,而只会在掉电时,出现事务丢失的情况。innodb_flush_log_at_trx_commit=1三,调整隔离级别因为oracle默认隔离级别为READ-COMMITTED, 而mySQL默认为REPEAT-READ。不同的隔离级别对于性能是有较大的出入的。因为其对于并发的控制的严格度不同,换句话说低的隔离级别,需要应用程序多做很多工作保证一致性,而高的就由数据库本身来保证。READCOMMITTED其实也没太多影响,只会带来幻影数据问题。MySQL关于READCOMMITTED的安全配置如下。transaction_isolation = READ-COMMITTEDinnodb_autoinc_lock_mode=2innodb_locks_unsafe_for_binlog = 1innodb_support_xa = 0四,把Innodb data, tablespace, log files存储于不同磁盘经过测试,我发现系统的瓶颈是I/O。如下,通过iostat的操作,可以看到高峰时每秒io r/s读65, w/s写437.67个。系统性能在目前的位置无法提升,原因是MySQL总在等待I/O的操作。evice: rrqm/s wrqm/s r/s w/s rMB/s wMB/s avgrq-sz avgqu-sz await svctm %utilsda 0.00 7.00 4.33 4.33 0.16 0.04 48.92 0.16 18.00 4.00 3.47sdb 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00sdc 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00sdd 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00sde 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00sdf 0.67 158.67 65.00 437.67 0.68 9.80 42.73 2.11 4.21 0.55 27.73sdg 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00VxVM56000 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00dm-0 0.00 0.00 65.67 589.00 0.68 9.80 32.81 3.56 5.44 0.43 27.87所以,建议把data file, innodb space file, innodb log file分成三个不同的盘,看性能是否有提升。三,常用定位问题方法一,mysql>explain详见如下文档:http://docs.oracle.com/cd/E17952_01/refman-5.5-en/explain-output.htmlmysql> EXPLAIN SELECT * FROM students WHERE name='name1' or sex=1\G*************************** 1. row ***************************id: 1select_type: SIMPLEtable: studentstype: ALLpossible_keys: index_namekey: NULLkey_len: NULLref: NULLrows: 4Extra: Using where1 row in set (0.00 sec)二,mysql>show full processlist见第一章,问题4三,slow log1. 配置如下slow_query_log=1slow_query_log_file=/opt/upora/slow.log#超过long_query_time的SQL写入日志,时间为秒long_query_time = 1#未使用索引的SQL写入日志log-queries-not-using-indexes2. slow log内容如下例如:use cust;SET timestamp=1356921142;select * from cust_contact ct where ct.custid in(select c.custid from customer c, cust_group g,(select groupid from groups_define where name='ROOT-P3') gr where c.custid=g.custid and g.groupid =gr.groupid);3. 用mysqldumpslow工具统计例如:#mysqldumpslow slow.logCount: 1 Time=1.06s (1s) Lock=0.02s (0s) Rows=7.0 (7), root[root]@localhostselect count(*), engine,data_length from information_schema.tables group by engine四,mysql> show global status这个命令得到的数据会比较多,不太直观,需要计算后才能得出结论。下面列出了常用的一些计算选项。(1)QPS(每秒Query量)QPS = Questions(or Queries) / secondsmysql > show global status like 'Question%';(2)TPS(每秒事务量)TPS = (Com_commit + Com_rollback) / secondsmysql > show global status like 'Com_commit';mysql > show global status like 'Com_rollback';(3)key Buffer 命中率mysql>show global status like 'key%';key_buffer_read_hits = (1-key_reads / key_read_requests) * 100%key_buffer_write_hits = (1-key_writes / key_write_requests) * 100%(4)InnoDB Buffer命中率mysql> show status like 'innodb_buffer_pool_read%';innodb_buffer_read_hits = (1 - innodb_buffer_pool_reads / innodb_buffer_pool_read_requests) *100%(5)Query Cache命中率mysql> show status like 'Qcache%';Query_cache_hits = (Qcahce_hits / (Qcache_hits + Qcache_inserts )) * 100%;(6)Table Cache状态量mysql> show global status like 'open%';比较 open_tables 与 opend_tables 值(7)Thread Cache 命中率mysql> show global status like 'Thread%';mysql> show global status like 'Connections';Thread_cache_hits = (1 - Threads_created / connections ) * 100%(8)锁定状态mysql> show global status like '%lock%';Table_locks_waited/Table_locks_immediate=0.3% 如果这个比值比较大的话,说明表锁造成的阻塞比较严重Innodb_row_lock_waits innodb行锁,太大可能是间隙锁造成的五,mysql>show engine innodb status这个命令可以统计innodb的信息,还可以定位如死锁等问题。具体见:http://docs.oracle.com/cd/E17952_01/refman-5.5-en/innodb-monitors.html六,iostat, top, vmstat此可以用来,查看cpu, 内存的使用情况。这也可算是所有数据库查找性能瓶颈的方法。在此不再多述