我有一个系统可以跟踪用户查看的文档。每个文档都有它的 ID 和它所属的集群。我的系统跟踪 session ID 和查看次数。我现在想构建一个 SQL 查询,它会给我两列 - session ID 和分类集群。分类算法很简单:
1. select all sessions
2. for each session S
I. prepare an accumulator ACC for clusters
II. select the clusters of viewed documents for this session
III. for each cluster C accumulate the cluster count ( ACC[C]++ )
IV. find the maximum in the ACC. That is the cluster that the session was classified to
表结构如下,我用的是MySQL 5.5.16:
session
+-------+-----------+--------------------+
| ID | sessionID | classified_cluster |
+-------+-----------+--------------------+
session 文档
+-------+-----------+------------+
| ID | sessionID | documentID |
+-------+-----------+------------+
集群
+-------+-------+
| ID | label |
+-------+-------+
集群文档
+-------+-----------+------------+
| ID | clusterID | documentID |
+-------+-----------+------------+
所以基本上,我想为每个 session 选择集群,计算每个集群在查看文档中的出现次数,并找到最大出现次数。那么出现次数最多的集群的 ID 就是 session 的结果,因此最终结果集包含 session ID 和出现次数最多的集群:
结果
+-----------+-----------------------+
| sessionID | classifiedIntoCluster |
+-----------+-----------------------+
我设法通过以下查询获取每个 session (步骤 2/II.)的已查看文档的集群:
SELECT SD.session_id, CD.cluster_id
FROM cluster_document AS CD
INNER JOIN session_document AS SD
ON CD.document_id = SD.document_id
WHERE session_id IN (SELECT session_id FROM session)
我无法弄清楚其余部分。这甚至可以用于嵌套的 SELECT 查询吗?我应该使用光标吗?如果是的话,有人可以用光标展示一个例子吗?任何帮助都感激不尽。
编辑 #1:添加了 C# 实现、MySQL 转储和预期结果
C# 实现
private void ClassifyUsers() {
int nClusters = Database.SelectClusterCount(); //get number of clusters
DataSet sessions = Database.SelectSessions(); //get all sessions
foreach (DataRow session in sessions.Tables[0].Rows) { //foreach session
int[] acc = new int[nClusters]; //prepare an accumulator for each known cluster
string s_id = session["session_id"].ToString();
DataSet sessionClusters = Database.SelectSessionClusters(s_id); //get clusters for this session
foreach (DataRow cluster in sessionClusters.Tables[0].Rows) { //for each cluster
int c = Convert.ToInt32(cluster["cluster_id"].ToString()) - 1;
acc[c]++; //accumulate the cluster count
}
//find the maximum in the accumulator -> that is the most relevant cluster
int max = 0;
for (int j = 0; j < acc.Length; j++) {
if (acc[j] >= acc[max]) max = j;
}
max++;
Database.UpdateSessionCluster(s_id, max); //update the session with its new assigned cluster
}
}
表结构、测试数据和预期结果
编辑 #2:添加了一个较小的数据集和进一步的算法演练
这是一个较小的数据集:
session
session id | cluster
abc 0
def 0
ghi 0
jkl 0
mno 0
集群
cluster_id | label
1 A
2 B
3 C
4 D
5 E
SESSION_DOCUMENT
id | session_id | document_id
1 abc 1
2 def 5
3 jkl 3
4 ghi 4
5 mno 2
6 def 2
7 abc 5
8 ghi 3
CLUSTER_DOCUMENT
id | cluster_id | document_id
1 1 2
2 1 3
3 2 5
4 3 5
5 3 1
6 4 3
7 5 2
8 5 4
算法详解
第 1 步:获取 session 查看的文档的集群
session_id | cluster_id | label | document_id
abc 3 C 1
abc 2 B 5
abc 3 C 5
-----
def 2 B 5
def 3 C 5
def 1 A 2
def 5 E 2
----
ghi 5 E 4
ghi 1 A 3
ghi 4 D 3
----
jkl 1 A 3
jkl 4 D 3
----
mno 1 A 2
mno 5 E 2
第 2 步:计算簇的出现次数
session_id | cluster_id | label | occurrence
abc 3 C 2 <--- MAX
abc 2 B 1
----
def 2 B 1
def 3 C 1
def 1 A 1
def 5 E 1 <--- MAX
----
ghi 5 E 1
ghi 1 A 1
ghi 4 D 1 <--- MAX
----
jkl 1 A 1
jkl 4 D 1 <--- MAX
----
mno 1 A 1
mno 5 E 1 <--- MAX
第 3 步(最终结果):为每个 session 找到最大发生的簇(见上文)并构建最终结果集(session_id、cluster_id):
session_id | cluster_id
abc 3
def 5
ghi 4
jkl 4
mno 5
编辑 #3:已接受的答案说明
给出的两个答案都是正确的。他们都提供了解决问题的方法。我给了 Mosty Mostacho 可接受的答案,因为他首先交付了解决方案,并提供了带有 VIEW 的解决方案的另一个版本。来自 mankuTimma 的解决方案与 Mosty Mostacho 的解决方案质量相同。因此,我们有两个同样好的解决方案,我只是选择了 Mosty Mostacho,因为他是第一个。
感谢他们的贡献。 .
最佳答案
好吧,我对如何在有很多相等的情况下选择一个事件表示怀疑,但查看 C# 代码似乎这个选择是不确定的。
现在,给定样本数据,第 2 步实际导致:
+------------+------------+-------+------------+
| SESSION_ID | CLUSTER_ID | LABEL | OCCURRENCE |
+------------+------------+-------+------------+
| abc | 3 | C | 2 |
| def | 1 | A | 1 |
| def | 2 | B | 1 |
| def | 3 | C | 1 |
| def | 5 | E | 1 |
| ghi | 1 | A | 1 |
| ghi | 4 | D | 1 |
| ghi | 5 | E | 1 |
| jkl | 1 | A | 1 |
| jkl | 4 | D | 1 |
| mno | 1 | A | 1 |
| mno | 5 | E | 1 |
+------------+------------+-------+------------+
因此,继续处理这些数据,我得到了该 session ID 的 session_id 和 max(cluster_id),结果是:
+------------+------------+
| SESSION_ID | CLUSTER_ID |
+------------+------------+
| abc | 3 |
| def | 5 |
| ghi | 5 |
| jkl | 4 |
| mno | 5 |
+------------+------------+
max(cluster_id) 就是用来执行非确定性选择的。这是查询:
select s1.session_id, max(s1.cluster_id) as cluster_id from (
select sd.session_id, cd.cluster_id, count(*) as Occurrence
from session_document sd
join cluster_document cd
on sd.document_id = cd.document_id
join cluster c
on c.cluster_id = cd.cluster_id
group by sd.session_id, cd.cluster_id, c.label
) as s1
left join (
select sd.session_id, count(*) as Occurrence
from session_document sd
join cluster_document cd
on sd.document_id = cd.document_id
join cluster c
on c.cluster_id = cd.cluster_id
group by sd.session_id, cd.cluster_id, c.label
) as s2
on s1.session_id = s2.session_id and s1.occurrence < s2.occurrence
where s2.occurrence is null
group by s1.session_id
也许添加一个 View 会提高性能(替换上面的查询):
create view MaxOccurrences as (
select sd.session_id, cd.cluster_id, count(*) as Occurrence
from session_document sd
join cluster_document cd
on sd.document_id = cd.document_id
join cluster c
on c.cluster_id = cd.cluster_id
group by sd.session_id, cd.cluster_id, c.label
);
select s1.session_id, max(s1.cluster_id) as cluster_id
from MaxOccurrences as s1
left join MaxOccurrences as s2
on s1.session_id = s2.session_id and s1.occurrence < s2.occurrence
where s2.occurrence is null
group by s1.session_id
让我知道它是否有效。
关于mysql - SQL分类,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/9308216/
文章目录一、概述简介原理模块二、配置Mysql使用版本环境要求1.操作系统2.mysql要求三、配置canal-server离线下载在线下载上传解压修改配置单机配置集群配置分库分表配置1.修改全局配置2.实例配置垂直分库水平分库3.修改group-instance.xml4.启动监听四、配置canal-adapter1修改启动配置2配置映射文件3启动ES数据同步查询所有订阅同步数据同步开关启动4.验证五、配置canal-admin一、概述简介canal是Alibaba旗下的一款开源项目,Java开发。基于数据库增量日志解析,提供增量数据订阅&消费。Git地址:https://github.co
目录第1题连续问题分析:解法:第2题分组问题分析:解法:第3题间隔连续问题分析:解法:第4题打折日期交叉问题分析:解法:第5题同时在线问题分析:解法:第1题连续问题如下数据为蚂蚁森林中用户领取的减少碳排放量iddtlowcarbon10012021-12-1212310022021-12-124510012021-12-134310012021-12-134510012021-12-132310022021-12-144510012021-12-1423010022021-12-154510012021-12-1523.......找出连续3天及以上减少碳排放量在100以上的用户分析:遇到这类
我正在尝试查询我的Rails数据库(Postgres)中的购买表,我想查询时间范围。例如,我想知道在所有日期的下午2点到3点之间进行了多少次购买。此表中有一个created_at列,但我不知道如何在不搜索特定日期的情况下完成此操作。我试过:Purchases.where("created_atBETWEEN?and?",Time.now-1.hour,Time.now)但这最终只会搜索今天与那些时间的日期。 最佳答案 您需要使用PostgreSQL'sdate_part/extractfunction从created_at中提取小时
我看到其他人也遇到过类似的问题,但没有一个解决方案对我有用。0.3.14gem与其他gem文件一起存在。我已经完全按照此处指示完成了所有操作:https://github.com/brianmario/mysql2.我仍然得到以下信息。我不知道为什么安装程序指示它找不到include目录,因为我已经检查过它存在。thread.h文件存在,但不在ruby目录中。相反,它在这里:C:\RailsInstaller\DevKit\lib\perl5\5.8\msys\CORE\我正在运行Windows7并尝试在Aptana3中构建我的Rails项目。我的Ruby是1.9.3。$gemin
我已经开始使用mysql2gem。我试图弄清楚一些基本的事情——其中之一是如何明确地执行事务(对于批处理操作,比如多个INSERT/UPDATE查询)。在旧的ruby-mysql中,这是我的方法:client=Mysql.real_connect(...)inserts=["INSERTINTO...","UPDATE..WHEREid=..",#etc]client.autocommit(false)inserts.eachdo|ins|beginclient.query(ins)rescue#handleerrorsorabortentirelyendendclient.commi
我找到了这样的东西:Rails:Howtolistdatabasetables/objectsusingtheRailsconsole?这一行没问题:ActiveRecord::Base.connection.tables并返回所有表但是ActiveRecord::Base.connection.table_structure("users")产生错误:ActiveRecord::Base.connection.table_structure("projects")我认为table_structure不是Postgres方法。如何列出Postgres数据库的Rails控制台中表中的所有
Ruby中防止SQL注入(inject)的好方法是什么? 最佳答案 直接使用ruby?使用准备好的语句:require'mysql'db=Mysql.new('localhost','user','password','database')statement=db.prepare"SELECT*FROMtableWHEREfield=?"statement.execute'value'statement.fetchstatement.close 关于ruby-防止SQL注入(inject
我正在编写一个Rails应用程序,它将监视某些特定数据库的数据质量。为了做到这一点,我需要能够对这些数据库执行直接SQL查询——这当然与用于驱动Rails应用程序模型的数据库不同。简而言之,这意味着我无法使用通过ActiveRecord基础连接的技巧。我需要连接的数据库在设计时是未知的(即:我不能将它们的详细信息放在database.yaml中)。相反,我有一个模型“database_details”,用户将使用它来输入应用程序将在运行时执行查询的数据库的详细信息。因此与这些数据库的连接实际上是动态的,细节仅在运行时解析。 最佳答案
我正在使用Rails4应用程序,它需要创建大量对象以响应来自另一个系统的事件。当我调用create!时,主键列上出现非常频繁的ActiveRecord::RecordNotUnique错误(由PG::UniqueViolation引起)我的模型之一。我在SO上找到了其他答案,建议挽救异常并调用retry:beginTableName.create!(data:'here')rescueActiveRecord::RecordNotUnique=>eife.message.include?'_pkey'#Onlyretryprimarykeyviolationslog.warn"Retr
我正在尝试绕过rails配置这个极其复杂的迷宫。到目前为止,我设法在ubuntu上设置了rvm(出于某种原因,ruby在ubuntu存储库中已经过时了)。我设法建立了一个Rails项目。我希望我的测试项目使用mysql而不是mysqlite。当我尝试“rakedb:migrate”时,出现错误:“!!!缺少mysql2gem。将其添加到您的Gemfile:gem'mysql2'”当我尝试“geminstallmysql”时,出现错误,告诉我需要为安装命令提供参数。但是,参数列表很大,我不知道该选择哪些。如何通过在ubuntu上运行的rvm和mysql获取rails3?谢谢。