我的书签
添加书签
移除书签有一天小编胡乱写SQL, left join了30张表, 结果导致了Mysql server gone away… 我们来看看crash堆栈
1. <signal handler called>
2. base_list_iterator::next
3. update_ref_and_keys
4. make_join_statistics
5. JOIN::optimize
6. mysql_execute_select
可以看出, 在产生执行计划过程中crash了。
追查
堆栈表明, update_ref_and_keys函数中join_tab->join->join_list为无效地址。 排查看到函数入口处这个变量还是ok的, 那么在gdb里watch一下。
1. Hardware watchpoint 4: join_tab->join->join_list
3. Old value = (List<TABLE_LIST> *) 0x3431f60
4. New value = (List<TABLE_LIST> *) 0xc800000000000000
这么整齐的地址一看就有问题。函数栈:
1. Key_field::Key_field
2. add_key_field
3. add_key_equal_fields
4. add_key_fields
5. update_ref_and_keys
而add_key_fields修改join_tab->join->join_list实际是不合理的, 因此这里说明一下路径上几个关键的函数。
原因分析
还要从子查询优化说起，当遇到semi-join子查询情况下, JOIN::optimize()会调用JOIN::flatten_subqueries改写SQL, 如下形式:
1. SELECT ...
2. FROM ot1, ...
3. WHERE oe IN (SELECT ie FROM it1, ..., itN WHERE subq_where)
4. AND outer_where
会被修改为:
1. SELECT ...
2. FROM ot SEMI JOIN (it1, ... , itN),
3. WHERE outer_where AND subq_where AND oe=ie
函数JOIN::flatten_subqueries, 做了以下几件事:
- 创建semi join(it1, …, itN)的节点并添加到外层查询语句的FROM语法树下
- 将
subq_where AND oe=ie加入到外层查询语句的WHERE树下 - 再移除原先的子查询语句
JOIN::flatten_subqueries中, 对于每一个子查询, 调用函数JOIN::convert_subquery_to_semijoin, 那么子查询上维护的query信息也要同步加到外部查询上。所以可见, 子查询中的信息, 会转交给外部查询。
之后, JOIN::optimize()调用update_ref_and_keys, 这个函数用来处理出最终查询要使用的索引。crash的问题也出现在这个函数中, 因此还要看update_ref_and_keys内部做了什么。
在函数update_ref_and_keys中, 一个重要的数组, key_fields, 用来存放所有可能用到的索引字段。先通过key_fields=(Key_field*) thd->alloc(sz)分配空间, 再调用add_key_fields递归遍历WHERE树, 遇到等值表达式, 会填充到key_fields数组中。而之前已经看到, add_key_field在写key_fields时却修改了join_tab->join->join_list。
1. // add_key_fields中修改了join_tab->join->join_list的代码
2. new (*key_fields)
3. Key_field(field, *value, and_level, exists_optimize, eq_func,
4. null_rejecting, NULL, get_semi_join_select_list_index(field));
5. (*key_fields)++;
可见在new的时候拿到了join_tab->join->join_list, 是(*key_fields++)的时候, 加过头了。从而可推断, key_fields没有分配到应该有的内存空间。那么出问题的就是sz用来分配空间的数字了。
1. // sz的计算方法
2. sz= max(sizeof(Key_field), sizeof(SARGABLE_PARAM)) *
3. (((select_lex->cond_count + 1) * 2 +
4. select_lex->between_count) * m + 1);
这里涉及到两个变量select_lex->cond_count和select_lex->between_count, 而cond_count就是number of conditions; 构造的语句中的等值表达式足有31条, 而这里在分配时是2, 活该内存越界。 而这个变量在子查询优化过程中, 子查询应该将其移交给外部查询语句。
修复
函数JOIN::convert_subquery_to_semijoin中, 改写完SQL后, 忘记把子查询的cond_count和between_cond信息更新到外部查询了, 这时只要手动添加即可。
复现
可以通过以下方式复现
1. create table t1 (
2. `id` int(20),
3. `col3` varchar(60) default null,
4. primary key (id)
5. );
7. create view `v_test` as
8. select t1.col1 as col1,
9. t2.col2 as col2,
11. ...
13. t30.col30 as col30
14. from (((((((((((((((((((((((((((((t1
15. left join t2 on (t1.id = t2.id))
16. left join t3 on (t1.id = t3.id))
18. ...
20. left join t30 on (t1.id = t30.id));
然后执行
1. create table tt (id int(20), b varchar(200));
2. select * from tt where b in (select col1_1 fromom v_test);
MySQL5.6在5.6.25之前的小版本都可以复现, 请尽情调戏 .^.
