Question

mysql多表联合查询速度的问题

目前我有两张表，A是16万条数据，B是7万条数据，我现在想让两张表联合查询。联合后就是16*7=102亿条数据了。这样mysql就非常慢了。请问有什么方法或者思路能够改变一下我查询的速度。where 条件 只能加一个 a.col1<>b.col2,索引也有了
select * from a, b where a.col1<>b.col2

Answer 1

问题

我们有一个 SQL，用于找到没有主键 / 唯一键的表，但是在 MySQL 5.7 上运行特别慢，怎么办？

实验

我们搭建一个 MySQL 5.7 的环境，此处省略搭建步骤。

写个简单的脚本，制造一批带主键和不带主键的表：

执行一下脚本：

现在执行以下 SQL 看看效果：

...

执行了 16.80s，感觉是非常慢了。

现在用一下 DBA 三板斧，看看执行计划：

感觉有点惨，由于 information_schema.columns 是元数据表，没有必要的统计信息。

那我们来 show warnings 看看 MySQL 改写后的 SQL：

我们格式化一下 SQL：

可以看到 MySQL 将

select from A where A.x not in (select x from B) //非关联子查询

转换成了

select from A where not exists (select 1 from B where B.x = a.x) //关联子查询

如果我们自己是 MySQL，在执行非关联子查询时，可以使用很简单的策略：

select from A where A.x not in (select x from B where ...) //非关联子查询:1. 扫描 B 表中的所有记录，找到满足条件的记录，存放在临时表 C 中，建好索引2. 扫描 A 表中的记录，与临时表 C 中的记录进行比对，直接在索引里比对，

而关联子查询就需要循环迭代：

select from A where not exists (select 1 from B where B.x = a.x and ...) //关联子查询扫描 A 表的每一条记录 rA：     扫描 B 表，找到其中的第一条满足 rA 条件的记录。

显然，关联子查询的扫描成本会高于非关联子查询。

我们希望 MySQL 能先"缓存"子查询的结果（缓存这一步叫物化，MATERIALIZATION），但MySQL 认为不缓存更快，我们就需要给予 MySQL 一定指导。

...

可以看到执行时间变成了 0.67s。

整理

我们诊断的关键点如下：

\1. 对于 information_schema 中的元数据表，执行计划不能提供有效信息。

\2. 通过查看 MySQL 改写后的 SQL，我们猜测了优化器发生了误判。

\3. 我们增加了 hint，指导 MySQL 正确进行优化判断。

但目前我们的实验仅限于猜测，猜中了万事大吉，猜不中就无法做出好的诊断。

Answer 2

你这样做效率确实很低。最好不要取所有字段，你要根据你的具体需求来做。
你联合查询想要得到的结果是什么？ 是从A表中找出不包含在B.col2的数据么？

追问

恩，查询语句换成这个
select a.col1,b.col2 from a, b where a.col1b.col2改成这个吧，col1，和col2都加了索引
不知道有什么思路能提高查询速度

追答

a.col1,b.col2都是数字型字段么？ MYSQL里面使用 a.col1!=b.col2吧

追问

很可惜不是，都是varchar

追答

里面保存都是数字么？ 如果是的话就修改为数字型字段，然后做索引。
字符型字段的查询与对比效率很低的。