jjzjj

ChatGPT、人工智能、人类和一些酒桌闲聊

Conmajia 2024-02-28 原文

© 2023 Conmajia
Initiated 10th March, 2023

昨天跟某化学家喝酒,期间提到了 ChatGPT。他的评价是:这鬼东西大量输出毫无意义、错漏百出甚至是虚假的信息,“in a confident accent”。例如某次 GPT 针对“描述某某记者”这一问题,给出了“某某是畅销图书作者”,事实上该记者从未写过或者出版过任何书籍。而 GPT 解释给出这个答案的原因竟是“因为很多记者都写过书,所以某某也写过。甚至因为其人受到关注,所以他的书作就应该是畅销书。”

听起来很离谱,不过对“人工智能”来说也很正常。所谓人工智能,现在市场上有一种弥漫着“磨刀霍霍向韭菜”的风气却把人们带到了只要一提 AI 潜意识里便只会觉得它是“智能”,而忽略了它终究是“人工”的,不可信的。毕竟人工智能的哲学基础便是“不确定性原理”。🐶

于是我们以此话题下酒,继续聊了下去。初用 GPT 时,我曾一度认为这个产品像是古早人工智能分支——“专家系统”——的现代版本,通过收集、存储数据并根据问题需求合成相应的回答,当然其中加入了现代深度学习的特性使其回答更符合人类的自然语言。但是随着使用次数增加,我从 GPT 那得到了明显错误的回答,让我意识到,这玩意儿是真的设计成了不在乎或者不能验证回答正确性的形式:但尽 机事,各凭天命。

久仰于其“无所不会”的盛名,我曾要求 GPT 计算一个简单的矢量问题:求 v ⃗ = ( − 1 , 2 , 3 ) \vec{v}=(-1,2,3) v =(1,2,3) w ⃗ = ( 1 , 1 , 1 ) \vec{w}=(1,1,1) w =(1,1,1) 上的投影。我得到了如下回答:

▲ ChatGPT 关于矢量投影的一次回答

GPT 找到了正确的计算公式 p r o j w ⃗ ( v ⃗ ) = v ⃗ ⋅ w ⃗ ∣ w ⃗ ∣ 2 w ⃗ \mathrm{proj}_{\vec{w}}(\vec{v})=\dfrac{\vec{v}\cdot\vec{w}}{\left|\vec{w}\right|^2}\vec{w} projw (v )=w 2v w w 却得到了明显错误的答案 ( 4 3 × 1 , 4 3 × 1 , 4 3 × 1 ) = ( 2 3 , 2 3 , 2 3 ) \left(\dfrac{4}{3}\times1,\dfrac{4}{3}\times 1,\dfrac{4}{3}\times 1\right)=\left(\dfrac{2}{3},\dfrac{2}{3},\dfrac{2}{3}\right) (34×1,34×1,34×1)=(32,32,32)。但是,正如化学家所遭遇的,它以“看起来非常确信”的语气,理直气壮地给出了错误答案。

酒桌上,我们的心理学家朋友呷了一大口酒,然后指出,GPT 其实只是一个语言模型。它的目标,或者说功能,仅限于尽量生成一些“语义上正确的回答”,至于这个回答是不是事实上正确的,并不是它关心的——人类终究还是一个自找麻烦的物种。当然我并不知道他的断言正确与否,毕竟我早就把 ChatGPT 标记为“仅供参考”了。

其实正确与否没人在乎,开发者只是领命行事,投资人要的显然是热度。不会真有人觉得他们是“为了人类”在努力改变世界吧?犹记得当初炒作“元宇宙”时,好似创世神降临,全体人类皆需顶礼膜拜。只要是资本推出的产品,不管是免费用户还是付出真金白银的消费者,仿佛只要你使用了产品享受了便利,你不给出品公司和资本家磕几个响头那就是愚民。结果却总是当某产品短期内成为话题焦点后,资本就到了“小试牛刀”的收获季节。比如近期 ChatGPT 从所谓“非盈利模式”正式亮明锋刃,推出 20 美金一月的 Plus 版服务,实实在在割了一茬尝鲜的韭菜。只是不知道又有多少人想要给资本家大老板下跪谢恩呢?我建议这些人每天吃完饭至少给饭馆大厨磕一个头,不过分吧?

这几日的“高温超导”新闻让媒体和股市沸腾雀跃,无论提出者有多少造假前科,也无论所谓的试验无法复现,一个个网友营销号似乎比真正的研究员、科学家们都要激动。这时候没有人再提“狼来了”,没人再提“科学需要严谨”,有的只是股价的飙升和资本的狂欢。每当人类有了“万一是真的呢”这种念头,也就意味着又一场赌局正式开始,无非就是谁是韭菜的击鼓传花游戏罢了。——评价来自两个在股市赔得底裤都快没了的倒霉蛋。😅

后记

当我再次尝试提问 ( − 1 , 2 , 3 ) ⋅ ( 1 , 1 , 1 ) (-1,2,3)\cdot(1,1,1) (1,2,3)(1,1,1),得到了正确的答案 ( 4 / 3 , 4 / 3 , 4 / 3 ) \left(4/3,4/3,4/3\right) (4/3,4/3,4/3)

▲ ChatGPT 关于矢量投影的另一次回答

对于只是“玩一玩”人工智能产品的体验型用户来说,这似乎属于尚可接受的有趣经验。不过对于“依赖型”用户而言,可以说是噩梦一般的感受:承担了所有的风险(懂的都懂),却得到错误的答案——想想都很 drama。

有关ChatGPT、人工智能、人类和一些酒桌闲聊的更多相关文章

  1. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  2. 玩以太坊链上项目的必备技能(初识智能合约语言-Solidity之旅一) - 2

    前面一篇关于智能合约翻译文讲到了,是一种计算机程序,既然是程序,那就可以使用程序语言去编写智能合约了。而若想玩区块链上的项目,大部分区块链项目都是开源的,能看得懂智能合约代码,或找出其中的漏洞,那么,学习Solidity这门高级的智能合约语言是有必要的,当然,这都得在公链``````以太坊上,毕竟国内的联盟链有些是不兼容Solidity。Solidity是一种面向对象的高级语言,用于实现智能合约。智能合约是管理以太坊状态下的账户行为的程序。Solidity是运行在以太坊(Ethereum)虚拟机(EVM)上,其语法受到了c++、python、javascript影响。Solidity是静态类型

  3. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动

  4. 【ChatGPT】ChatGPT 的 N 种用法 - 2

    目录ChatGPT简介技术原理应用未来发展ChatGPT的10 种用法ChatGPT简介ChatGPT是一种基于深度学习的大型语言模型,由OpenAI公司开发。技术原理GPT是GenerativePre-trainedTransformer的缩写,意为生成式预训练变压器。它的技术原理是使用了一个基于注意力机制的变压器(Trans

  5. 「想体验ChatGPT中文聊天?」那快进来,你用不上算我输 - 2

    ♥️作者:白日参商🤵‍♂️个人主页:白日参商主页♥️坚持分析平时学习到的项目以及学习到的软件开发知识,和大家一起努力呀!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!「想体验ChatGPT中文聊天?」那快进来,你用不上算我输项目场景:项目条件一、那就开始吧1、安装ChatGPT-Desktop2、OpenAPI设置二、使用实例恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!项目场景:近几个月可以说ChatGPT是火得一

  6. 半个月狂飙1000亿,ChatGPT概念股凭什么? - 2

    ChatGPT掀起了AI股历史上最疯狂的一轮市值狂飙。自春节后至今,ChatGPT概念股开始了暴走模式,短短半月时间,海天瑞声、开普云等ChatGPT概念股市值累计增加了近1400亿。如此的爆炸效应,得益于ChatGPT所展现出商业化落地的巨大潜力。要知道,在此之前,无论是十年AI投入超千亿的百度,还是困在硬件化里的AI四小龙,都在重复着AI商业化难落地的故事。ChatGPT的出现,让AI从生产力的赋能者直接成为一种创造生产力的工具。随着订阅模式的推出,ChatGPT已经成为第一个以AI技术为核心直接变现的消费者应用。本文持有以下核心观点:1、ChatGPT是AI技术迭代的受益者。过去受限技术

  7. 未来的趋势————以ChatGPT为标杆的AI对生活的影响是巨大的 - 2

    文章目录前言1.AI的发展历程2.我是如何接触到人工智能的概念和产品的3.对于ChatGPT的一点看法4.AI对大学毕业生的职业发展的利与弊5.对于AI的思考和问题前言随着ChatGPT的爆火,生成式AI,大模型的人工智能被越来越多的人注意到,同时他也带来了许多问题。本文将对几方面进行探讨。1.AI的发展历程远古时期在公元前第一个千禧年,中国,印度和希腊哲学家都提出了一些推理的研究理论,比如亚里士多德(Aristotle)进行了演绎推理三段论的完整分析,欧几里得(Euclid)所著Elements是一种形式推理的模型,MuḥammadibnMūsāal-Khwārizmī,发明了代数学,即我们

  8. 基于python的短视频智能推荐/django的影视网站/视频推荐系统 - 2

    摘要本论文主要论述了如何使用Python技术开发一个短视频智能推荐,本系统将严格按照软件开发流程进行各个阶段的工作,采用B/S架构,面向对象编程思想进行项目开发。在引言中,作者将论述短视频智能推荐的当前背景以及系统开发的目的,后续章节将严格按照软件开发流程,对系统进行各个阶段分析设计。 短视频智能推荐的主要使用者分为管理员和用户,实现功能包括管理员:首页、个人中心、用户管理、热门视频管理、用户上传管理、系统管理,用户:首页、个人中心、用户上传管理、我的收藏管理,前台首页;首页、热门视频、用户上传、公告信息、个人中心、后台管理等功能。由于本网站的功能模块设计比较全面,所以使得整个短视频智能推荐信

  9. 山石发声|风暴眼中的ChatGPT,看NLPer怎么说? - 2

    当前科技领域最有热度的话题,无疑是OpenAI新提出的大规模对话语言模型ChatGPT,一经发布上线,短短五天就吸引了百万用户,仅一个多月的时间月活已然破亿,并且热度一直在持续发酵,各行各业的从业人员、企业机构都开始体验关注甚至自研“类ChatGPT”模型。这里,笔者从一位NLP从业人员的角度谈一谈对ChatGPT的一些看法和思考。1、ChatGPT诞生之路1.1BERT2018年,谷歌提出BERT(BidirectionalEncoderRepresentationfromTransformer)模型,一时之间疯狂屠榜,在各种自然语言处理领域建模任务中取得了最佳的成绩,NLP自此进入了大规模

  10. ChatGPT教程之深入了解魔术背后的技术 - 2

    解开谜团:深入探索ChatGPT的技术奇迹。ChatGpt无处不在,无论是在播客、博客、YouTube还是社交媒体上。当我注意到这项新技术如此受欢迎时,我决定试一试,我被震惊了!有很多关于ChatGpt及其魔力的博客,但在这篇博客中,我将深入探讨其内部技术及其工作原理!ChatGpt简介根据OpenAI,ChatGpt被描述为:“我们训练了一个名为ChatGpt的模型,它以对话方式进行交互。对话格式使ChatGpt可以回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。ChatGPT是InstructGPT的兄弟模型,它经过训练可以按照提示中的说明进行操作并提供详细的响应。”OpenA

随机推荐