mysql踩坑之count distinct多列问题怎么解决

编辑: admin 分类: 电脑知识 发布时间: 2023-06-09 来源:互联网

复现的测试数据库如下所示:

CREATE TABLE `test_distinct` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `a` varchar(50) CHARACTER SET utf8 DEFAULT NULL,
  `b` varchar(50) CHARACTER SET utf8 DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=latin1;
登录后复制

表内测试数据如下,现在我们需要统计这三列去重后的列的数量。

mysql踩坑之count distinct多列问题怎么解决

问题分析

小伙伴给了我四条用来定位问题的查询语句

SELECT COUNT(*) AS cnt FROM test_distinct;
SELECT COUNT(DISTINCT id, a, b) as cnt FROM test_distinct;
SELECT id, a, b, COUNT(*) AS cnt FROM test_distinct GROUP BY id, a, b HAVING cnt > 1;
SELECT 
	l.id AS l_id,
	l.a AS l_a,
	l.b AS l_b,
	r.id AS r_id,
	r.a AS r_a,
	r.b AS r_b
FROM test_distinct l LEFT JOIN test_distinct r
ON l.id = r.id AND l.a = r.a AND l.b = r.b
WHERE r.id is NULL or r.id = 'null';
登录后复制

查询结果,如下所示:

mysql踩坑之count distinct多列问题怎么解决

mysql踩坑之count distinct多列问题怎么解决

mysql踩坑之count distinct多列问题怎么解决

mysql踩坑之count distinct多列问题怎么解决

注意!!!从测试数据很快就能大概猜出问题在哪,但是原来表中数据是有3万多条,无法用肉眼查看数据。

上面查询结果违反直觉的点有两个:

  • 第二条去重统计后数据少了一条,但是,第三条数据的结果显示并没有相同的数据。

  • 用同一张表做左外连接出现了驱动表有数据,而被驱动表为空的情况。

先看第二个问题,官方文档上有如下解释:

  • 在使用ON子句时,其所包含的条件表达式与WHERE子句中使用的相同。常见的情况是使用ON子句来指定表的连接条件,而使用WHERE子句对结果集中包含的行进行限制。

  • 如果对于LEFT JOIN中ON或USING部分中的条件,右表没有匹配的行,则右表使用所有列设置为NULL。

  • 不能使用算术比较运算符(如=,<或<>)来比较NULL。

SELECT NULL = NULL;
SELECT NULL IS NULL;
登录后复制

mysql踩坑之count distinct多列问题怎么解决

mysql踩坑之count distinct多列问题怎么解决

所以问题二在于NULL=NULL的结果永远为False,也就导致两行原本相等的数据结果却不相等。

可是这并没有解决第一个问题:为什么去重后有一条数据消失了。但是,我们可以猜测消失的数据很有可能和NULL值有关系。

我们将count和distinct两个操作分开:

SELECT COUNT(*) as cnt FROM (SELECT  DISTINCT id, a, b FROM test_distinct) as tmp;
登录后复制

mysql踩坑之count distinct多列问题怎么解决

嗯?结果是正确的,那就说明count(distinct expr)生成的查询计划可能和我们想象的不一样,并不是先去重再统计,使用explain分析一下两条语句的查询计划,如下所示:

mysql踩坑之count distinct多列问题怎么解决

mysql踩坑之count distinct多列问题怎么解决

从表中可以看到,mysql执行引擎直接将count(distinct expr)作为一个查询,查看官方文档:

mysql踩坑之count distinct多列问题怎么解决

解决办法

至此问题才终于弄清楚了。解决这个问题的办法有两种,第一种就是上述的先去重后统计,第二种可以利用IFNULL()函数:

SELECT COUNT(DISTINCT id, a, IFNULL(b, '0')) as cnt FROM test_distinct;
登录后复制

另外补充一点,count()嘚瑟使用:

SELECT id, a, b, COUNT(*) FROM test_distinct GROUP BY id, a, b;
SELECT id, a, b, COUNT(b) FROM test_distinct GROUP BY id, a, b;
登录后复制

mysql踩坑之count distinct多列问题怎么解决

mysql踩坑之count distinct多列问题怎么解决

知识点

  • 不能使用算术比较运算符(如=,<或<>)来比较空值;

  • count(distinct expr)返回expr列中不同的且非空的行数;

  • COUNT()具有两种截然不同的用途:它既可用于计算某个列值的数量,也可用于计算行数。在统计列值时要求列值是非空的(不统计NULL)。当在COUNT()函数的括号中指定了列或者表达式时,函数会统计这个表达式中有值的结果数。COUNT()的另一个作用是统计结果集的行数。当MySQL确认括号内的表达式值不可能为空时,实际上就是在统计行数。最简单的就是当我们使用COUNT()的时候,这种情况下通配符并不像我们猜想的那样扩展成所有的列,实际上,他会忽略所有列而直接统计所有的行数&mdash;&mdash;《高性能MySQL》;

  • 在InnoDB中,SELECT COUNT(*)和SELECT COUNT(1)处理方式一样, 没有性能差异。

【文章原创作者:ddos攻击防御 http://www.558idc.com/aqt.html欢迎留下您的宝贵建议】