我的数据库中有大约 250 个表,每个表恰好有 439340 行。
mysql> SHOW CREATE TABLE data.b50d1 ;
+-------+--------------------------------------------------------------------------------------------
CREATE TABLE `b50d1` (
`pTime` int(10) unsigned NOT NULL,
`Slope` double NOT NULL,
`STD` double NOT NULL,
PRIMARY KEY (`pTime`),
KEY `Slope` (`Slope`) USING BTREE
) ENGINE=MyISAM DEFAULT CHARSET=latin1 MIN_ROWS=43940 MAX_ROWS=43940 PACK_KEYS=1 ROW_FORMAT=FIXED |
+-------+--------------------------------------------------------------------------------------------
如您所见,每个表中有三列:
PRIMARY KEYSlope 和 STD 列具有“signed double”值,这些值在行与行和表与表之间都不同。
这是其中一个表中的一个小示例:
mysql> SELECT * FROM data.b50d1 limit 10;
+------------+------------+-------------+
| pTime | Slope | STD |
+------------+------------+-------------+
| 1104537600 | 6.38733032 | -1.13387667 |
| 1104537900 | 5.58733032 | -0.93810617 |
| 1104538200 | 5.30135747 | -0.51912757 |
| 1104538500 | 5.4678733 | -0.54460575 |
| 1104538800 | 5.58190045 | -0.46369055 |
| 1104539100 | 5.50226244 | -0.46712018 |
| 1104714000 | 5.31221719 | -0.25210485 |
| 1104714300 | 4.72941176 | 0.00321249 |
| 1104714600 | 5.19638009 | 0.64116376 |
| 1104714900 | 5.12941176 | 0.39599099 |
+------------+------------+-------------+
我使用这些表运行存储过程。此过程包括以下步骤:
第 1 步)创建临时表 MainList...
步骤 2) INSERT SELECT 语句的结果到表中。生成的数据集是原始表的过滤组合。
STEP 3) 带有嵌套 JOIN 的 SELECT 语句遍历 TEMPORARY 表 (MainList) 的每个 MainList.STD 值,并返回原始表中的第一行 匹配某些特定条件(如下例)。
第 4 步)JOIN 结果到 MainList 并将它们输出给用户。
以下是程序本身:
DELIMITER $$
CREATE DEFINER=`root`@`localhost` PROCEDURE `GetTimeList`(t1 varchar(7),t2 varchar(7),t3 varchar(7),inp1 float,inp2 float,inp3 float,inp4 float,inp5 float,inp6 float,inp7 float,inp8 float,inp9 float,inp10 float)
READS SQL DATA
BEGIN
DROP TABLE IF EXISTS MainList;
CREATE TEMPORARY TABLE MainList(
`pTime` int unsigned NOT NULL,
`STD` double NOT NULL,
PRIMARY KEY (`pTime`),
KEY (`STD`) USING BTREE
) ENGINE = MEMORY;
SET @s = CONCAT('INSERT INTO MainList(pTime,STD) SELECT DISTINCT t1.pTime, t1.STD FROM ',t1,' AS t1 JOIN (',t2,' as t2 ,',t3,' as t3 )',
' ON (( t1.Slope >= ', inp1,
' AND t1.Slope <= ', inp2,
' AND t1.STD >= ', inp3,
' AND t1.STD <= ', inp4,
' AND t2.Slope >= ', inp5,
' AND t2.Slope <= ', inp6,
' AND t3.Slope >= ', inp7,
' AND t3.Slope <= ', inp8,
' ) OR ( t1.Slope <= ', 0-inp1,
' AND t1.Slope >= ', 0-inp2,
' AND t1.STD <= ', 0-inp3,
' AND t1.STD >= ', 0-inp4,
' AND t2.Slope <= ', 0-inp5,
' AND t2.Slope >= ', 0-inp6,
' AND t3.Slope <= ', 0-inp7,
' AND t3.Slope >= ', 0-inp8,
' ) ) AND ((t1.Slope < 0 XOR t1.STD < 0) AND t1.pTime = t2.pTime AND t2.pTime = t3.pTime AND t1.pTime >= ', inp9,
' AND t1.pTime <= ', inp10,' ) ORDER BY t1.pTime'
);
PREPARE stmt FROM @s;
EXECUTE stmt;
SET @q= CONCAT('SELECT m.pTime as OpenTime, CASE WHEN m.STD < 0 THEN 1 ELSE -1 END As Type, mu.pTime As CloseTime from MainList m LEFT JOIN ',t1,' mu ON mu.pTime = ( SELECT DISTINCT md.pTime FROM ',t1,' md WHERE md.pTime>m.pTime',' AND md.pTime <= ', inp10,
' AND SIGN (md.STD)!= SIGN (m.STD) AND ABS(md.STD) >= ABS(m.STD) ORDER BY md.pTime LIMIT 1 )');
PREPARE stmt FROM @q;
EXECUTE stmt;
DEALLOCATE PREPARE stmt;
DROP TABLE MainList;
END
为了便于测试,我将上述过程分解为两个单独的查询。以下是带有“EXPLAIN EXTENDED”语句的查询(临时表是预先生成的):
INSERT INTO MainList(pTime,STD)
SELECT
t1.pTime,
t1.STD
FROM
b50d1 AS t1
JOIN(b75d1 AS t2, b100d1 AS t3)ON(
(
t1.Slope >= 2.3169
AND t1.Slope <= 7.0031
AND t1.STD >= - 2.068
AND t1.STD <= - 0.972
AND t2.Slope >= 0.3179
AND t2.Slope <= 5.7221
AND t3.Slope >= 2.6466
AND t3.Slope <= 35.7534
)
OR(
t1.Slope <= - 2.3169
AND t1.Slope >= - 7.0031
AND t1.STD <= 2.068
AND t1.STD >= 0.972
AND t2.Slope <= - 0.3179
AND t2.Slope >= - 5.7221
AND t3.Slope <= - 2.6466
AND t3.Slope >= - 35.7534
)
)
AND(
(t1.Slope < 0 XOR t1.STD < 0)
AND t1.pTime = t2.pTime
AND t2.pTime = t3.pTime
AND t1.pTime >= 1104710000
AND t1.pTime <= 1367700000
)
ORDER BY
t1.pTime;
解释扩展:
+----+-------------+-------+--------+---------------+---------+---------+---------------+--------+----------+-----------------------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | filtered | Extra |
+----+-------------+-------+--------+---------------+---------+---------+---------------+--------+----------+-----------------------------+
| 1 | SIMPLE | t1 | ALL | PRIMARY,Slope | NULL | NULL | NULL | 439340 | 25.79 | Using where; Using filesort |
| 1 | SIMPLE | t2 | eq_ref | PRIMARY,Slope | PRIMARY | 4 | data.t1.pTime | 1 | 100.00 | Using where |
| 1 | SIMPLE | t3 | eq_ref | PRIMARY | PRIMARY | 4 | data.t1.pTime | 1 | 100.00 | Using where |
+----+-------------+-------+--------+---------------+---------+---------+---------------+--------+----------+-----------------------------+
SELECT
m.pTime AS OpenTime,
CASE WHEN m.STD < 0 THEN 1 ELSE - 1 END AS Type,
mu.pTime AS CloseTime;
FROM
MainList m
LEFT JOIN b50d1 mu ON mu.pTime =(
SELECT DISTINCT
md.pTime
FROM
b50d1 md
WHERE
md.pTime > m.pTime
AND md.pTime <= 1367700000
AND SIGN(md.STD)!= SIGN(m.STD)
AND ABS(md.STD)>= ABS(m.STD)
ORDER BY
md.pTime
LIMIT 1
);
解释扩展:
+----+--------------------+-------+--------+---------------+---------+---------+------+--------+----------+-------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | filtered | Extra |
+----+--------------------+-------+--------+---------------+---------+---------+------+--------+----------+-------------+
| 1 | PRIMARY | m | ALL | NULL | NULL | NULL | NULL | 16 | 100.00 | |
| 1 | PRIMARY | mu | eq_ref | PRIMARY | PRIMARY | 4 | func | 1 | 100.00 | Using index |
| 2 | DEPENDENT SUBQUERY | md | range | PRIMARY | PRIMARY | 4 | NULL | 439338 | 100.00 | Using where |
+----+--------------------+-------+--------+---------------+---------+---------+------+--------+----------+-------------+
查询有效并返回正确的结果,但它比我需要的慢 数量级。我认识到 type: ALL 语句出现在两个 EXPLAIN 语句中表明我的索引可能不是最优的。
过去一周我才使用 MYSQL,现在我开始觉得自己头疼了。非常感谢您的帮助。
我用 CREATE TABLE 和 INSERT 语句创建了一个 SQL 文件,这样任何愿意帮助我的人都可以在“测试”中创建我的表的较小版本数据库:
slowtables.SQL
为了完整起见,这里是 my.ini 设置文件 - 也许它是一个瓶颈?
[client]
pipe
socket=mysql
[mysql]
default-character-set=latin1
[mysqld]
skip-networking
enable-named-pipe
socket=mysql
basedir="C:/Program Files/MySQL/MySQL Server 5.5/"
datadir="C:/ProgramData/MySQL/MySQL Server 5.5/Data/"
character-set-server=latin1
default-storage-engine=MYISAM
sql-mode="STRICT_TRANS_TABLES,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION"
max_connections=100
query_cache_size=189M
table_cache=256
tmp_table_size=192M
key_buffer_size=594M
read_buffer_size=64K
read_rnd_buffer_size=256K
sort_buffer_size=256K
最佳答案
我在这里看到两个可能的改进,它们更多地与 MySQL 的优化器(或其弱点)有关。在第二个查询中,给定 LIMIT 1,子查询中的 DISTINCT 是多余的。ORDER BY LIMIT 1 查询应该通过搜索索引来完成,直到找到与其他条件匹配的记录。 (你真的需要 LEFT JOIN 吗??)
在第一个查询中,MySQL 显然无法将 OR 优化为 UNION。但是,如果您手动执行此操作,它可能会为 UNION 查询的两半选择更好的计划。
HTH。我可以稍后再看。
关于mysql - 请帮助我进行表/嵌套 JOIN 优化 : Way too slow!,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/5906478/
很好奇,就使用rubyonrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提
在控制台中反复尝试之后,我想到了这种方法,可以按发生日期对类似activerecord的(Mongoid)对象进行分组。我不确定这是完成此任务的最佳方法,但它确实有效。有没有人有更好的建议,或者这是一个很好的方法?#eventsisanarrayofactiverecord-likeobjectsthatincludeatimeattributeevents.map{|event|#converteventsarrayintoanarrayofhasheswiththedayofthemonthandtheevent{:number=>event.time.day,:event=>ev
我得到了一个包含嵌套链接的表单。编辑时链接字段为空的问题。这是我的表格:Editingkategori{:action=>'update',:id=>@konkurrancer.id})do|f|%>'Trackingurl',:style=>'width:500;'%>'Editkonkurrence'%>|我的konkurrencer模型:has_one:link我的链接模型:classLink我的konkurrancer编辑操作:defedit@konkurrancer=Konkurrancer.find(params[:id])@konkurrancer.link_attrib
这道题是thisquestion的逆题.给定一个散列,每个键都有一个数组,例如{[:a,:b,:c]=>1,[:a,:b,:d]=>2,[:a,:e]=>3,[:f]=>4,}将其转换为嵌套哈希的最佳方法是什么{:a=>{:b=>{:c=>1,:d=>2},:e=>3,},:f=>4,} 最佳答案 这是一个迭代的解决方案,递归的解决方案留给读者作为练习:defconvert(h={})ret={}h.eachdo|k,v|node=retk[0..-2].each{|x|node[x]||={};node=node[x]}node[
我正在编写一个包含C扩展的gem。通常当我写一个gem时,我会遵循TDD的过程,我会写一个失败的规范,然后处理代码直到它通过,等等......在“ext/mygem/mygem.c”中我的C扩展和在gemspec的“扩展”中配置的有效extconf.rb,如何运行我的规范并仍然加载我的C扩展?当我更改C代码时,我需要采取哪些步骤来重新编译代码?这可能是个愚蠢的问题,但是从我的gem的开发源代码树中输入“bundleinstall”不会构建任何native扩展。当我手动运行rubyext/mygem/extconf.rb时,我确实得到了一个Makefile(在整个项目的根目录中),然后当
这是一道面试题,我没有答对,但还是很好奇怎么解。你有N个人的大家庭,分别是1,2,3,...,N岁。你想给你的大家庭拍张照片。所有的家庭成员都排成一排。“我是家里的friend,建议家庭成员安排如下:”1岁的家庭成员坐在这一排的最左边。每两个坐在一起的家庭成员的年龄相差不得超过2岁。输入:整数N,1≤N≤55。输出:摄影师可以拍摄的照片数量。示例->输入:4,输出:4符合条件的数组:[1,2,3,4][1,2,4,3][1,3,2,4][1,3,4,2]另一个例子:输入:5输出:6符合条件的数组:[1,2,3,4,5][1,2,3,5,4][1,2,4,3,5][1,2,4,5,3][
我已经构建了一些serverspec代码来在多个主机上运行一组测试。问题是当任何测试失败时,测试会在当前主机停止。即使测试失败,我也希望它继续在所有主机上运行。Rakefile:namespace:specdotask:all=>hosts.map{|h|'spec:'+h.split('.')[0]}hosts.eachdo|host|begindesc"Runserverspecto#{host}"RSpec::Core::RakeTask.new(host)do|t|ENV['TARGET_HOST']=hostt.pattern="spec/cfengine3/*_spec.r
我正在阅读SandiMetz的POODR,并且遇到了一个我不太了解的编码原则。这是代码:classBicycleattr_reader:size,:chain,:tire_sizedefinitialize(args={})@size=args[:size]||1@chain=args[:chain]||2@tire_size=args[:tire_size]||3post_initialize(args)endendclassMountainBike此代码将为其各自的属性输出1,2,3,4,5。我不明白的是查找方法。当一辆山地自行车被实例化时,因为它没有自己的initialize方法
下面例子中的Nested和Child有什么区别?是否只是同一事物的不同语法?classParentclassNested...endendclassChild 最佳答案 不,它们是不同的。嵌套:Computer之外的“Processor”类只能作为Computer::Processor访问。嵌套为内部类(namespace)提供上下文。对于ruby解释器Computer和Computer::Processor只是两个独立的类。classComputerclassProcessor#Tocreateanobjectforthisc
我们的git存储库中目前有一个Gemfile。但是,有一个gem我只在我的环境中本地使用(我的团队不使用它)。为了使用它,我必须将它添加到我们的Gemfile中,但每次我checkout到我们的master/dev主分支时,由于与跟踪的gemfile冲突,我必须删除它。我想要的是类似Gemfile.local的东西,它将继承从Gemfile导入的gems,但也允许在那里导入新的gems以供使用只有我的机器。此文件将在.gitignore中被忽略。这可能吗? 最佳答案 设置BUNDLE_GEMFILE环境变量:BUNDLE_GEMFI