jjzjj

ChatGPT可能会阻碍网络安全行业

Taylor 2023-11-21 原文

自2022年11月推出以来,人工智能聊天机器人ChatGPT已经因其惊人的表现而引起了不小的轰动。

这款自动生成式系统上线仅两个月,月活跃用户就破纪录地突破了1亿。然而,尽管它的受欢迎程度持续增长,但目前网络安全行业内部的讨论是:这种技术是有助于强化网络安全,还是会被那些试图制造混乱的人滥用。

人工智能软件有各种各样的网络安全用例,包括高级数据分析、自动化重复任务和帮助计算风险评分。然而,在首次亮相后不久,人们很快就发现,这个易于使用、免费提供的聊天机器人也可以帮助黑客渗透软件,开发复杂的网络钓鱼工具。

那么,ChatGPT究竟是网络安全领域的礼物,还是制造灾难的“潘多拉魔盒”?为了找到答案,我们必须审视利弊和未来。

ChatGPT当前的危害是什么?

像任何新的技术进步一样,总会有一些负面影响,ChatGPT也不例外。

目前,关于聊天机器人最受关注的问题是,它很容易创建非常令人信服的网络钓鱼文本,很可能被用于恶意电子邮件中。由于缺乏安全措施,威胁行为者很容易使用ChatGPT机制,例如,母语并非英语的恶意行为者可以用近乎完美的语法在几秒钟内创建一个逼真的、诱人的消息。

考虑到美国人在2022年因这些骗局损失了400亿美元,很容易理解为什么犯罪分子会利用ChatGPT从这个有利可图的蛋糕中分一杯羹。

人工智能聊天机器人也引发了工作保障的问题。当然,目前的系统无法取代训练有素的专业人员,但这项技术可以显著减少员工需要检查的日志和报告的数量。这可能会影响安全运营中心(SOC)需要雇用的分析师数量。

虽然该软件确实为网络安全企业提供了一些优势,很多公司会仅仅因为该技术目前的受欢迎程度而采用该技术,并试图用它来吸引新客户。然而,仅仅因为它的流行度而使用这项技术可能会导致误用。公司可能没有采取足够的安全措施,阻碍了建立有效安全程序的进展。

ChatGPT的网络安全优势

与任何新技术一样,颠覆是不可避免的组成部分,但这并不一定是坏事。

网络安全公司可以在手动筛选审计日志或检查网络数据包以区分威胁和虚假警报的基础上,增加一层额外的智能。

由于ChatGPT能够在特定参数中检测模式和搜索,因此它也可以用于重复任务和生成报告。通过使用ChatGPT作为超级研究助手,网络安全公司可以更智能地计算影响企业的威胁的风险评分。

例如,总部位于以色列的网络安全公司Orca Security已经开始利用ChatGPT优越的分析质量来挖掘其海量数据,并协助发出安全警报。通过尽早意识到聊天机器人如何改善其日常运行,该公司还可以从这项技术中学习,这在调整他们的模型以优化ChatGPT如何为其业务工作方面具有独特的优势。

此外,聊天机器人的自然语言处理能力使其非常擅长编写网络钓鱼邮件,这意味着它也非常适合创建复杂的安全策略。这些清晰的文本可以用于网络安全网站和培训文档,为有价值的团队成员节省宝贵的时间。

ChatGPT的未来

ChatGPT的人工智能技术在世界大部分地区都很容易获得。因此,与任何其他战争一样,这将是一场竞赛,看哪一方能更好地利用这项技术。

网络安全公司需要不断打击恶意用户,这些用户会想方设法利用ChatGPT造成网络安全企业尚未了解的危害。然而,这一事实并没有阻止投资者,ChatGPT的未来看起来非常光明。随着微软向Open AI投资100亿美元,很明显,ChatGPT的知识和能力将继续扩张。

对于这项技术的未来版本,软件开发人员需要注意它缺乏安全措施,细节决定成败。

ChatGPT可能无法在很大程度上解决这个问题。但它可以有适当的机制来评估用户的习惯,并关注那些使用明显提示——比如“把我当作某人的老板给我写一封网络钓鱼邮件”——的人,或者试图验证个人的身份。

开放式人工智能甚至可以与研究人员合作,训练其数据集,以评估他们的文本何时被用于其他地方的攻击。

然而,所有这些想法都带来了一系列问题,包括不断上升的成本和数据保护问题。

为了解决当前的网络钓鱼肆虐问题,更多的人需要教育和培养安全意识来识别这些攻击。该行业需要手机运营商和电子邮件提供商提供更多投资,以避免遭受攻击。

结语

非常多的产品和服务将源于ChatGPT,带来了巨大的价值,帮助保护正在改变世界的企业。但另一方面,黑客还将创造出大量新工具,使他们能够在更短的时间内以新的方式攻击更多目标。

人工智能聊天机器人将继续存在,ChatGPT也面临着激烈竞争,谷歌的Bard和微软的必应(Bing)都希望与Open AI的产品一较高下。尽管如此,最重要的是,网络安全公司应该将ChatGPT视为一种进攻策略和防御策略,而不是仅仅将其视为创造更多收入的机会。

有关ChatGPT可能会阻碍网络安全行业的更多相关文章

  1. ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串? - 2

    我试图获取一个长度在1到10之间的字符串,并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符,然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123

  2. ruby - 如何使用 Ruby aws/s3 Gem 生成安全 URL 以从 s3 下载文件 - 2

    我正在编写一个小脚本来定位aws存储桶中的特定文件,并创建一个临时验证的url以发送给同事。(理想情况下,这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针,它似乎不符合这个标准,但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A

  3. ruby - 用 Ruby 编写一个简单的网络服务器 - 2

    我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b

  4. ruby - 如何安全地删除文件? - 2

    在Ruby中是否有Gem或安全删除文件的方法?我想避免系统上可能不存在的外部程序。“安全删除”指的是覆盖文件内容。 最佳答案 如果您使用的是*nix,一个很好的方法是使用exec/open3/open4调用shred:`shred-fxuz#{filename}`http://www.gnu.org/s/coreutils/manual/html_node/shred-invocation.html检查这个类似的帖子:Writingafileshredderinpythonorruby?

  5. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  6. 网络编程套接字 - 2

    网络编程套接字网络编程基础知识理解源`IP`地址和目的`IP`地址理解源MAC地址和目的MAC地址认识端口号理解端口号和进程ID理解源端口号和目的端口号认识`TCP`协议认识`UDP`协议网络字节序socket编程接口`sockaddr``UDP`网络程序服务器端代码逻辑:需要用到的接口服务器端代码`udp`客户端代码逻辑`udp`客户端代码`TCP`网络程序服务器代码逻辑多个版本服务器单进程版本多进程版本多线程版本线程池版本服务器端代码客户端代码逻辑客户端代码TCP协议通讯流程TCP协议的客户端/服务器程序流程三次握手(建立连接)数据传输四次挥手(断开连接)TCP和UDP对比网络编程基础知识

  7. ruby - 用 YAML.load 解析 json 安全吗? - 2

    我正在使用ruby2.1.0我有一个json文件。例如:test.json{"item":[{"apple":1},{"banana":2}]}用YAML.load加载这个文件安全吗?YAML.load(File.read('test.json'))我正在尝试加载一个json或yaml格式的文件。 最佳答案 YAML可以加载JSONYAML.load('{"something":"test","other":4}')=>{"something"=>"test","other"=>4}JSON将无法加载YAML。JSON.load("

  8. ruby-on-rails - 安全地显示使用回形针 gem 上传的图像 - 2

    默认情况下:回形针gem将所有附件存储在公共(public)目录中。出于安全原因,我不想将附件存储在公共(public)目录中,所以我将它们保存在应用程序根目录的uploads目录中:classPost我没有指定url选项,因为我不希望每个图像附件都有一个url。如果指定了url:那么拥有该url的任何人都可以访问该图像。这是不安全的。在user#show页面中:我想实际显示图像。如果我使用所有回形针默认设置,那么我可以这样做,因为图像将在公共(public)目录中并且图像将具有一个url:Someimage:看来,如果我将图像附件保存在公共(public)目录之外并且不指定url(同

  9. ruby - 检查网络文件是否存在,而不下载它? - 2

    是否可以在不实际下载文件的情况下检查文件是否存在?我有这么大的(~40mb)文件,例如:http://mirrors.sohu.com/mysql/MySQL-6.0/MySQL-6.0.11-0.glibc23.src.rpm这与ruby​​不严格相关,但如果发件人可以设置内容长度就好了。RestClient.get"http://mirrors.sohu.com/mysql/MySQL-6.0/MySQL-6.0.11-0.glibc23.src.rpm",headers:{"Content-Length"=>100} 最佳答案

  10. ruby - 404 未找到,但可以从网络浏览器正常访问 - 2

    我在这方面尝试了很多URL,在我遇到这个特定的之前,它们似乎都很好:require'rubygems'require'nokogiri'require'open-uri'doc=Nokogiri::HTML(open("http://www.moxyst.com/fashion/men-clothing/underwear.html"))putsdoc这是结果:/Users/macbookair/.rvm/rubies/ruby-2.0.0-p481/lib/ruby/2.0.0/open-uri.rb:353:in`open_http':404NotFound(OpenURI::HT

随机推荐