jjzjj

c# - 在字符串中查找关键字和关键短语的算法

coder 2024-05-27 原文

我需要有关如何编写算法以在字符串中查找关键字或关键短语的建议或指导。

字符串包含:

  • 以英语 (GB) 编写的技术信息
  • 单词之间大多用空格隔开
  • 关键字不包含空格，但可以包含连字符、撇号、冒号等。
  • 关键词可以包含空格、逗号或其他标点符号
  • 如果两个或多个关键字一起出现，那么它很可能是一个关键短语，例如“变频驱动”
  • 文本还包含 HTML，但如有必要，可以事先将其删除
  • 非关键字可以是“and”、“the”、“we”、“see”、“look”等词。
  • 关键字不区分大小写，例如“逆变器”和“逆变器”是同一个关键字

算法有如下要求:

  1. 在批处理场景中操作，例如每天跑一次或两次
  2. 处理长度从大约 200 到 7000 个字符不等的字符串
  3. 在不到 1 小时内处理 1000 个字符串
  4. 将在功率适中的服务器上执行
  5. 使用以下语言之一编写:C#、VB.NET 或 T-SQL 甚至可能是 F#、Python 或 Lua 等。
  6. 不依赖预定义关键字或关键短语列表
  7. 但可以依赖关键字排除列表，例如“和”、“该”、“去”等。
  8. Ideally transferable 到其他语言，例如不依赖特定于语言的功能，例如元编程
  9. 输出关键短语列表(频率降序)，然后是关键字列表(频率降序)

如果它能在几秒钟内处理多达 8000 个字符，这样它就可以实时运行，那就更酷了，但我的要求已经够多了!

只是寻求建议和方向:

  • 是否应将其视为两个独立的算法？
  • 有没有我可以遵循的既定算法？
  • 我的要求是否可行？

非常感谢。

附言字符串将从 SQL Server 2008 R2 数据库中检索，因此理想情况下该语言应支持这一点，如果不支持，则它必须能够读取/写入 STDOUT、管道、流或文件等。

最佳答案

所涉及的逻辑使得在 T-SQL 中进行编程变得复杂。选择一种语言，例如 C#。首先尝试制作一个简单的桌面应用程序。之后，如果您发现将所有记录加载到此应用程序太慢，您可以编写一个在 SQL-Server 上执行的 C# 存储过程。根据 SQL-Server 的安全策略，它需要有一个强 key 。

现在到算法。排除词列表通常称为停用词列表。如果您对该搜索词进行一些谷歌搜索，您可能会找到可以开始使用的停用词列表。将这些停用词添加到 HashSet<T> (我将在这里使用 C#)

// Assuming that each line contains one stop word.
HashSet<string> stopWords =
    new HashSet<string>(File.ReadLines("C:\stopwords.txt"), StringComparer.OrdinalIgnoreCase);

稍后您可以查看关键字候选者是否在停用词列表中

If (!stopWords.Contains(candidate)) {
    // We have a keyword
}

HashSets 很快。它们的访问时间为 O(1)，这意味着进行查找所需的时间不取决于它包含的项目数。

使用 Regex 可以轻松地查找关键字。

string text = ...; // Load text from DB
MatchCollection matches = Regex.Matches(text, "[a-z]([:']?[a-z])*",
                                        RegexOptions.IgnoreCase);
foreach (Match match in matches) {
    if (!stopWords.Contains(match.Value)) {
        ProcessKeyword(match.Value); // Do whatever you need to do here
    }
}

如果您发现 a-z 对字母的限制太多并且需要重音字母，您可以将正则表达式更改为 @"\p{L}([:']?\p{L})*" .字符类 \p{L}包含所有字母和字母修饰符。

短语比较复杂。您可以尝试先将文本拆分为短语，然后对这些短语应用关键字搜索，而不是在整个文本中搜索关键字。这会同时为您提供一个短语中的关键字数量。

将文本拆分为短语涉及搜索以“.”结尾的句子。要么 ”？”要么 ”!”要么 ”:”。您应该排除单词中出现的点和冒号。

string[] phrases = Regex.Split(text, @"[\.\?!:](\s|$)");

这会搜索标点符号后跟空格或行尾。但我必须承认这并不完美。它可能会错误地将缩写检测为句子结尾。您将不得不进行实验以改进拆分机制。

关于c# - 在字符串中查找关键字和关键短语的算法，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/11005687/

关键c#stronglisqlsql-serveralgorithmsearch

有关c# - 在字符串中查找关键字和关键短语的算法的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法？ - 2

    总的来说，我对ruby​​还比较陌生，我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础，我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. Ruby 解析字符串 - 2

    我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么？我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等，你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算，还是有更好的方法？也许为此目的准备了一个开箱即用的库？

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入，例如“100兆字节”或“1GB”，并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前，我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效，但前提是输入是倍数(“gigabytes”，而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以，功能正常，

  4. ruby-on-rails - unicode 字符串的长度 - 2

    在我的Rails(2.3，Ruby1.8.7)应用程序中，我需要将字符串截断到一定长度。该字符串是unicode，在控制台中运行测试时，例如'א'.length，我意识到返回了双倍长度。我想要一个与编码无关的长度，以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料，但仍然有些一头雾水。应该如何解决这个问题？ 最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序，我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

    大约一年前，我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞，我可以在一个地方轻松完成，而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

  7. ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串？ - 2

    我试图获取一个长度在1到10之间的字符串，并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符，然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123

  8. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  9. ruby - 如何使用文字标量样式在 YAML 中转储字符串？ - 2

    我有一大串格式化数据(例如JSON)，我想使用Psychinruby​​同时保留格式转储到YAML。基本上，我希望JSON使用literalstyle出现在YAML中:---json:|{"page":1,"results":["item","another"],"total_pages":0}但是，当我使用YAML.dump时，它不使用文字样式。我得到这样的东西:---json:!"{\n\"page\":1,\n\"results\":[\n\"item\",\"another\"\n],\n\"total_pages\":0\n}\n"我如何告诉Psych以想要的样式转储标量？解

  10. ruby 正则表达式 - 如何替换字符串中匹配项的第 n 个实例 - 2

    在我的应用程序中，我需要能够找到所有数字子字符串，然后扫描每个子字符串，找到第一个匹配范围(例如5到15之间)的子字符串，并将该实例替换为另一个字符串“X”。我的测试字符串s="1foo100bar10gee1"我的初始模式是1个或多个数字的任何字符串，例如，re=Regexp.new(/\d+/)matches=s.scan(re)给出["1","100","10","1"]如果我想用“X”替换第N个匹配项，并且只替换第N个匹配项，我该怎么做？例如，如果我想替换第三个匹配项“10”(匹配项[2])，我不能只说s[matches[2]]="X"因为它做了两次替换“1fooX0barXg

随机推荐