jjzjj

中国多位AI专家赞成马斯克等人呼吁暂停ChatGPT技术的快速发展

边无际Edgenesis 2024-07-10 原文

一些中国内地和香港的人工智能(AI)专家响应全球科技老将的呼吁,敦促暂停开发比GPT-4更先进的AI技术,因为他们认为当前的进展速度“过快”可能会带来危险。

上个月,研究人类社会技术风险的“生命未来研究所”(FLI)起草了一封公开信,特斯拉的Elon Musk、苹果联合创始人Steve Wozniak和历史学家Yuval Harari等上万人署名。该信称当前的AI竞赛很危险,并呼吁建立独立监管机构,确保未来的系统能够安全部署。

尽管一些从业者批评该信煽动了对AI未来的恐惧,但几位驻扎在中国内地和香港的专家对此表示支持,认为有必要解决对OpenAI(微软支持)开发的GPT-4大型语言模型(LLM)的AI聊天机器人ChatGPT的担忧。

自 ChatGPT 于去年 11 月发布以来,有关 AI 是否有一天会超越人类的争论一直存在。

武汉大学人工智能研究所教授蔡恒进表示,ChatGPT 的出现打破了那些认为这种情况永远不会发生的争论。

蔡恒进在周日接受《南华早报》采访时说道:“一个衡量标准是,人工智能会以何种速度和强大程度增长到超出我们想象。有些人认为它会缓慢增长,我们还有几十年甚至几百年的时间。但事实并非如此……我们只有几年的时间,因为我们(人工智能)的进步速度太快了。”

蔡恒进的担忧得到了许多其他签署FLI公开信的中国专家支持。

南京理工大学副教授张轶哲和亚马逊退休老将、基于云的软件即服务初创公司Tricorder Observability的首席执行官赵亚雄都表达了对人工智能可能带来的安全挑战的担忧,并呼吁加强监管。

尽管张轶哲表示他并不完全同意公开信中的所有内容,但他仍说:“我签署了FLI公开信以支持提出的与人工智能相关的安全问题,希望能有更好的系统协调大公司间的LLM开发活动。”

张教授表示:“GPT-4和更大的模型将释放生产力升级,导致许多人失业。如何安全、合理和道德地开发和使用超大语言模型是我们需要关注的问题。”

Tricorder的赵总认为:最近的趋势是让ChatGPT评分AI聊天机器人技术的研究论文,这是一个危险的信号,表明我们已经开始让AI来评判人类的工作。

香港大学工程学院副院长Alfonso Ngan(也签署该公开信)表示:学校将要求学生在一个学期内不使用这项技术,以便机构有时间制定如何在学术环境中适当应用它的共识立场。

“我们不是永远禁止这项技术,”Ngan说道,强大的人工智能如ChatGPT对教育部门构成了难题。

他说:“一方面,我们希望学生能接触到AI技术并进行学习,甚至需要教授这些技术,但另一方面,教育部门需要时间来进行调整,特别是在评估、家庭作业和任务方面。”

Ngan和其他签署者,包括Tricorder的赵总和专注于物联网的创业公司Edgenesis的创始人陈永立,都表示ChatGPT的力量不能被轻视。

蔡教授指出:“ChatGPT的训练材料是人类的语言材料,所以你不能简单地祈祷当AI变得更聪明、更强大时,它仍会对我们人类怀有同情心,仍然会保持理性,并且只继承好的东西而不是人类的恶性本质。”“我们可以利用我们现在还有的时间,在元宇宙中与它并肩进化,并指导其成为好的东西。”

本文由边无际授权发布

有关中国多位AI专家赞成马斯克等人呼吁暂停ChatGPT技术的快速发展的更多相关文章

  1. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  2. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动

  3. 【ChatGPT】ChatGPT 的 N 种用法 - 2

    目录ChatGPT简介技术原理应用未来发展ChatGPT的10 种用法ChatGPT简介ChatGPT是一种基于深度学习的大型语言模型,由OpenAI公司开发。技术原理GPT是GenerativePre-trainedTransformer的缩写,意为生成式预训练变压器。它的技术原理是使用了一个基于注意力机制的变压器(Trans

  4. 「想体验ChatGPT中文聊天?」那快进来,你用不上算我输 - 2

    ♥️作者:白日参商🤵‍♂️个人主页:白日参商主页♥️坚持分析平时学习到的项目以及学习到的软件开发知识,和大家一起努力呀!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!「想体验ChatGPT中文聊天?」那快进来,你用不上算我输项目场景:项目条件一、那就开始吧1、安装ChatGPT-Desktop2、OpenAPI设置二、使用实例恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!项目场景:近几个月可以说ChatGPT是火得一

  5. 企业大数据发展面临问题之存算分离技术思考 - 2

    文章目录概述背景为何要存算分离优势**应用场景**存算分离产品技术流派华为JuiceFSHashDataXSKY概述背景Hadoop一出生就是奔存算一体设计,当时设计思想就是存储不动而计算(code也即是代码程序)动,负责调度Yarn会把计算任务尽量发到要处理数据所在的实例上,这也是与传统集中式存储最大的不同。为何当时Hadoop设计存算一体的耦合?要知道2006年服务器带宽只有100Mb/s~1Gb/s,但是HDD也即是磁盘吞吐量有50MB/s,这样带宽远远不够传输数据,网络瓶颈尤为明显,无奈之举只好把计算任务发到数据所在的位置。众观历史常言道天下分久必合合久必分,随着云计算技术的发展,数据

  6. 半个月狂飙1000亿,ChatGPT概念股凭什么? - 2

    ChatGPT掀起了AI股历史上最疯狂的一轮市值狂飙。自春节后至今,ChatGPT概念股开始了暴走模式,短短半月时间,海天瑞声、开普云等ChatGPT概念股市值累计增加了近1400亿。如此的爆炸效应,得益于ChatGPT所展现出商业化落地的巨大潜力。要知道,在此之前,无论是十年AI投入超千亿的百度,还是困在硬件化里的AI四小龙,都在重复着AI商业化难落地的故事。ChatGPT的出现,让AI从生产力的赋能者直接成为一种创造生产力的工具。随着订阅模式的推出,ChatGPT已经成为第一个以AI技术为核心直接变现的消费者应用。本文持有以下核心观点:1、ChatGPT是AI技术迭代的受益者。过去受限技术

  7. 未来的趋势————以ChatGPT为标杆的AI对生活的影响是巨大的 - 2

    文章目录前言1.AI的发展历程2.我是如何接触到人工智能的概念和产品的3.对于ChatGPT的一点看法4.AI对大学毕业生的职业发展的利与弊5.对于AI的思考和问题前言随着ChatGPT的爆火,生成式AI,大模型的人工智能被越来越多的人注意到,同时他也带来了许多问题。本文将对几方面进行探讨。1.AI的发展历程远古时期在公元前第一个千禧年,中国,印度和希腊哲学家都提出了一些推理的研究理论,比如亚里士多德(Aristotle)进行了演绎推理三段论的完整分析,欧几里得(Euclid)所著Elements是一种形式推理的模型,MuḥammadibnMūsāal-Khwārizmī,发明了代数学,即我们

  8. 焕新古文化传承之路,AI为古彝文识别赋能 - 2

    目录1古彝文与古典保护2古文识别的挑战2.1西文与汉文OCR2.2古彝文识别难点3合合信息:古彝文保护新思路3.1图像矫正3.2图像增强3.3语义理解3.4工程技巧4总结1古彝文与古典保护彝文指的是云南、贵州、四川等地的彝族人使用的文字,区别于现代意义上的彝文,古彝文指的是在民间流通使用的原生态彝文,多达87046字。古彝文的起源距今至少数千年,是世界上最古老的文字之一。对古彝文字集研究有助于理解尚未被翻译成汉文、用字尚未规范化的古籍,更深层、透彻地作用于传统文化保护。古彝文字义对照图(网络资料+邵文苑供图)古籍是不可再生的宝贵资源,应当得到妥善保护。中国的古籍在历史上迭经水火兵燹等自然灾害、

  9. 山石发声|风暴眼中的ChatGPT,看NLPer怎么说? - 2

    当前科技领域最有热度的话题,无疑是OpenAI新提出的大规模对话语言模型ChatGPT,一经发布上线,短短五天就吸引了百万用户,仅一个多月的时间月活已然破亿,并且热度一直在持续发酵,各行各业的从业人员、企业机构都开始体验关注甚至自研“类ChatGPT”模型。这里,笔者从一位NLP从业人员的角度谈一谈对ChatGPT的一些看法和思考。1、ChatGPT诞生之路1.1BERT2018年,谷歌提出BERT(BidirectionalEncoderRepresentationfromTransformer)模型,一时之间疯狂屠榜,在各种自然语言处理领域建模任务中取得了最佳的成绩,NLP自此进入了大规模

  10. ChatGPT教程之深入了解魔术背后的技术 - 2

    解开谜团:深入探索ChatGPT的技术奇迹。ChatGpt无处不在,无论是在播客、博客、YouTube还是社交媒体上。当我注意到这项新技术如此受欢迎时,我决定试一试,我被震惊了!有很多关于ChatGpt及其魔力的博客,但在这篇博客中,我将深入探讨其内部技术及其工作原理!ChatGpt简介根据OpenAI,ChatGpt被描述为:“我们训练了一个名为ChatGpt的模型,它以对话方式进行交互。对话格式使ChatGpt可以回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。ChatGPT是InstructGPT的兄弟模型,它经过训练可以按照提示中的说明进行操作并提供详细的响应。”OpenA

随机推荐