jjzjj

【历史上的今天】8 月 7 日:“哈佛马克一号”正式完成;Linux 权威诞生;信息论先驱出生

整理|王启隆透过「历史上的今天」,从过去看未来,从现在亦可以改变未来。今天是2023年8月7日,在2006年的今天,苹果公司首次推出高端台式机系列产品MacPro;MacPro是接替PowerMacintosh的系列产品,与Xserve同为最后移至Intelx86平台的苹果电脑产品系列。其铝制机壳与PowerMacG5的几乎相同,但扩展了光盘驱动器的插槽,以及前后重新排列设计的I/O连接端口。不像其他的麦金塔系列产品,MacPro并没有内置可接收AppleRemote信号的红外线设备。回顾计算机历史上的8月7日,这一天还发生过哪些关键事件呢?1938年8月7日:信息论先驱ThomasCover

RLHF缺陷完整揭示!MIT哈佛等32位学者联合发布

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。MIT哈佛斯坦福等机构在内的32位科学家联合指出:被视作ChatGPT成功关键的RLHF,存在缺陷,而且分布在各个环节。他们调查翻阅了250篇相关论文,仅研究正文就长达18页,其中7页描述了具体缺陷。此研究一经发出,就受到大量关注。有网友表示:这是一次伟大尝试。所有这些都是为了帮助启动RLHF的学术议程。第一作者Casper还给了RLHF一个「新的解释」:Rehashing Lessonsfrom Historical Failures从历史的失败中汲取经验不仅指出问题,还有解决方案作者在论文中表示,这项研究主要有三项

RLHF不是万金油!MIT哈佛等32人研究天团揭露最大弱点,囊括250+论文成果,挑战大模型机制

当前,不论是GPT-4,还是Llama2等大语言模型,背后的机制都是人类反馈强化学习(RLHF)。RLHF就像是大模型的「万金油」,能够指导智能体学习并提升性能。但即便如此,诸如泄露隐私数据、模型偏见、幻觉等问题,依然无解。最近,来自MIT哈佛等多个机构共32位研究人员,联合调研了超过250篇论文,全面分析了RLHF在大语言模型中的挑战。论文地址:https://arxiv.org/abs/2307.15217论文中,团队主要研究了RLHF面临的三大问题:-人类反馈-奖励模型-策略并且调查了将RLHF纳入更广泛的技术安全框架的方法,包括更好地理解、改进和补充。最后,研究人员还探讨了,改进影响使

哈佛架构和冯诺依曼架构

一、两种架构的介绍1.哈佛结构是一种将程序指令的存储与数据的存储分开的存储器结构。首先,CPU在程序指令存储器中读取程序指令内容,解码后获得数据地址,然后在相应的数据存储器中读取数据,并进行下一步操作。指令存储和数据存储的分离可以使指令和数据具有不同的数据宽度。例如,Microchip公司的PIC16芯片的程序指令是14比特宽,而数据是8比特宽。哈佛结构的微处理器通常具有较高的执行效率。如果将程序指令和数据指令分开组织和存储,执行时可以提前读取下一条指令。目前,有许多CPU和微控制器采用哈佛结构。除了上述Microchip公司的PIC系列芯片外,摩托罗拉公司的MC68系列、Zilog公司的Z8

哈佛计算机系王牌项目,要请AI来当导师了

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。近日,哈佛宣布了一个重磅决定:AI导师将进入课程。负责的还是计算机系的旗舰项目——计算机科学导论,也就是著名的CS50。借助机器人导师,哈佛的CS50项目将拥有1:1的师生比。这一消息是CS50项目导师DavidMalan教授在邮件中提到的,今年秋季学期就会正式启动。这款AI名为CS50bot,其核心是大语言模型(LLM)。不过不是用ChatGPT、Bard等市面上热门产品,而是由哈佛自行研制。CS50bot可以解答学生的疑惑,还可以提供代码debug、项目分析等服务。借助CS50bot,除了师生比,哈佛还希望实现如下

ChatGPT说谎竟然是故意的?哈佛大学提出ITI:模型真实性翻倍,计算开销基本为零

大型语言模型,比如ChatGPT经常会在答案中输出错误信息,可能会对用户造成误导,这种现象也被称为模型幻觉(hallucination)。从直觉上看,语言模型上在训练中肯定是见过正确答案的,只不过在推理过程中丢失了事实信息。最近,哈佛大学的研究人员提出了推理-时间干预(Inference-TimeIntervention,ITI)技术,在推理阶段对模型激活进行变换(shift),将模型输出引导到事实的方向上,干预结果显著提高了LLaMA模型在TruthfulQA基准测试中的性能,将Alpaca模型的真实性从32.5%提高到65.1%论文链接:https://arxiv.org/pdf/2306

用MidJourney设计自己的专属Logo;哈佛大学教你如何使用GPT-4打造智能程序;ChatGPT精美入门手册;使用ChatGPT开发二次元游戏攻略 | ShowMeAI日报

👀日报&周刊合集|🎡生产力工具与行业应用大全|🧡点赞关注评论拜托啦!🤖『GoogleI/O2023AI产品服务一览图』对Microsoft+OpenAI的PPT大反攻⋙Twitter@indigo11🤖『GoogleI/O2023十大亮点』在生成式AI领域发起全方位反击5月11日凌晨,在一年一度的GoogleI/O开发者大会上,Google高管轮番上阵,公布了一系列与生成式AI相关进展,涉及全新大模型、AI聊天机器人、搜索、办公软件、云服务、安卓系统等。面对OpenAI和Microsoft的步步紧逼,Google不再像以往那样采取谨慎策略,而是大胆拥抱新趋势,让生成式AI技术全面渗透,重新塑造

哈佛大学庄小威的传奇人生

庄小威是哈佛大学的化学与化学生物、物理学双聘教授,也是美国科学院院士。又是化学,又是物理,又是生物,别人在一项学科上做出成就已经很难,她哗啦一下子把基础科学囊括了大半。有一个有关庄小威的奖项介绍是这样写的——两位大学教授的女儿,致力于生物分子研究,开创了一种成像方法使微观细胞结构变为可见。庄小威曾是名震中科大的天才少女,15岁上大学,25岁博士毕业,34岁晋升哈佛大学终身教授。遇言姐很喜欢看庄小威的演讲,她的面孔消瘦而憔悴,但又那样的兴致勃勃,你可以感到那种纯粹的,把科研当作享受的愉悦。庄小威今年50岁了,对于一个科学家来说,她还有很多可以尝试。边听评书,边写物理作业的天才少女今年50岁的庄小

哈佛与冯诺依曼结构

1.下图是典型的冯诺依曼结构2.CPU分为三部分:ALU运算单元,CU控制单元,寄存器组。3.分析51单片机为何能使用汇编进行编程51指令集(InstructionSet)是单片机CPU能够执行的所有指令的集合。在编写51单片机程序时,程序员需要使用51指令集中的指令来编写程序。每个指令都有唯一的助记符(Mnemonic),例如MOV、ADD、SUB等。程序员可以使用助记符来编写指令,而不需要直接使用对应的机器码,使程序更易于阅读和维护。4.51指令集是如何被CPU识别的?CU(ControlUnit)是单片机中的一个重要组成部分,它负责控制CPU的工作流程,包括从ROM中读取指令、解码指令、

哈佛与冯诺依曼结构

1.下图是典型的冯诺依曼结构2.CPU分为三部分:ALU运算单元,CU控制单元,寄存器组。3.分析51单片机为何能使用汇编进行编程51指令集(InstructionSet)是单片机CPU能够执行的所有指令的集合。在编写51单片机程序时,程序员需要使用51指令集中的指令来编写程序。每个指令都有唯一的助记符(Mnemonic),例如MOV、ADD、SUB等。程序员可以使用助记符来编写指令,而不需要直接使用对应的机器码,使程序更易于阅读和维护。4.51指令集是如何被CPU识别的?CU(ControlUnit)是单片机中的一个重要组成部分,它负责控制CPU的工作流程,包括从ROM中读取指令、解码指令、