👀日报&周刊合集|🎡生产力工具与行业应用大全|🧡点赞关注评论拜托啦！🉑贾扬清与他的LeptonAI：500行代码就能撸出Perplexity？把AI开发门槛「打」下来https://www.lepton.ai2023年3月，阿里巴巴集团副总裁贾扬清宣布离职，创立LeptonAI；2023年10月，LeptonAI发布了其公开测试版本(publicbeta)。LeptonAI是一个云原生AI平台，提供了一系列工具和服务，来降低AI应用开发的门槛，帮助开发者更容易地完成创建、部署和扩展任务。也就是说，技术门槛不再是阻碍AI应用开发的主要因素，大家快速进入到创意比拼阶段。https://www.xi
👀日报&周刊合集|🎡生产力工具与行业应用大全|🧡点赞关注评论拜托啦！👀Arc浏览器+Perplexity搜索引擎：新生代AI产品开启纵横捭阖https://arc.netArc浏览器是由TheBrowserCompany开发的一款「充满想象力和革命性」的新产品，以其全新的标签管理模式、丝滑的交互、超高的颜值等等功能备受追捧。2023年7月正式推出Mac版本，2023年12月Windows版本开启邀测(之前申请过的伙伴可以查下邮箱📬其实，Arc浏览器一直在探索与AI的结合。2023年10月，Arc浏览器曾推出其AI版本ArcMax，很多AI功能的演示让人眼前一亮：比如自动总结搜索结果中的某个链接
AI大神贾扬清周末狂炫技！仅用500行代码打造的AI搜索引擎Demo就登顶GitHub热榜，告诉世界构建AI应用不过如此。谁说打造AI应用难如登天？贾扬清用实际行动告诉你：天下没有难构建的AI应用！更多精彩内容关注知乎，都迁移那里：https://www.zhihu.com/people/dlimengAI搜索的三大流派，你知道吗？如今AI搜索风头正劲，但你知道吗？它们在设计上其实分三大流派哦！流派一：卡片式展示像谷歌、百度这样的老大哥，在传统搜索的页面顶部，利用卡片形式来直接给你展示AI生成的答案。简洁明了，一眼就能看明白！流派二：对话式搜索必应、百度文心一言则更偏重对话。你可以像和朋友聊天
来了，贾扬清承诺的LeptonSearch开源代码来了。前天，贾扬清在Twitter上公布了LeptonSearch的开源项目链接，并表示任何人、任何公司都可以自由使用开源代码。项目链接：https://github.com/leptonai/search_with_lepton也就是说，你也可以用不到500行Python代码构建自己的对话搜索引擎了。今天，LeptonSearch又登上了GitHubtrending榜单。此外已经有人将这个开源项目用来构建自己的Web应用程序了，并表示质量非常高，与AI驱动的搜索引擎Perplexity不相上下。 而就在几天前，关于LeptonSearch项目
「大模型的API是个亏本买卖吗？」随着大语言模型技术的逐渐实用化，越来越多的科技公司提出了大模型API供开发者们使用。但前有OpenAI「每天烧掉70万美元」，我们也有理由怀疑以大模型为基础的业务到底能不能持续。本周四，AI创业公司Martian为我们仔细盘算了一下。排行榜链接：https://leaderboard.withmartian.com/TheLLMInferenceProviderLeaderboard是一个开源的大模型API推理产品排行榜。对于每个供应商的Mixtral-8x7B和Llama-2-70B-Chat公共端点，该榜单对成本、速率限制、吞吐量和TTFT的P50和P90
如你我所知，在大型语言模型（LLM）的运行逻辑中，随着规模大小的增加，语言生成的质量会随着提高。不过，这也导致了推理延迟的增加，从而对实际应用构成了重大挑战。从系统角度来看，LLM推理主要受内存限制，主要延迟瓶颈源于加速器的内存带宽而非算术计算。这一瓶颈是自回归解码的顺序性所固有的，其中每次前向传递都需要将完整的模型参数从高带宽内存传输到加速器缓存。该过程仅生成了单个的token，没有充分利用现代加速器的算术计算潜力，导致了效率低下。为了解决这一问题，加速LLM推理的方法被提出，既可以增加解码过程的算术强度（FLOPs与总数据移动的比率），也能减少解码步骤数量。这类方法以推测解码（specul
【编者按】在开源与人工智能的灿烂星河里，贾扬清的名字都格外地耀眼。因为导师TrevorDarrell教授的一句“你是想多花时间写一篇大家估计不是很在意的毕业论文，还是写一个将来大家都会用的框架？”，学生贾扬清一头扎进了创Caffe的世界。Caffe成了贾扬清的代表作，而贾扬清的开源与AI征途还将走得更远。采访|刘韧，云算科技董事长、《知识英雄》作者、DoNews创始人作者|李欣欣刘韧周扬 责编|唐小引出品|《新程序员》编辑部2013年6月，伯克利大学。28岁的贾扬清（见图1）正在写Decaf（Caffe的前身）。3个月后，贾扬清博士毕业，此刻，他在和伯克利心理学系的ThomasGriffi
目录深度学习框架Caffe，还是TensorFlow、Pytorch的核心成员和共同领导者？AIInfra（AI架构）简介AIInfra方向的创业机会代表人物
👀日报&周刊合集|🎡生产力工具与行业应用大全|🧡点赞关注评论拜托啦！🤖『3月AI大事记&干货集』4月国内互联网持续发力中，精彩精彩🤖『GPT-4.5/GPT-5真的要来了？』怎么觉得爆料有点真……SiqiChen是初创公司RunwayCEO兼AI投资人，他两周前的推特重新引发了热议：预计到2023年底，GPT-4将被新的GPT-5版本取代。除了透露GPT-5的发布时间外，SiqiChen还宣布，一些OpenAI员工希望新模型能够与人类能力保持一致。Twitter@SiqiChen|Reddit|36Kr🤖『阿里巴巴全系产品将接入大模型』进入全新的智能化时代4月11日，阿里巴巴集团董事会主席兼C
近段时间，ChatGPT与大模型的爆火，又吸引了整个科技领域以及投资圈对AI的关注。最近也爆出了许多学术界、业界AI大佬投身创业潮的消息。昨日，知名人工智能科学家贾扬清从阿里巴巴离职创业的信息也被爆出，贾扬清本人旋即正式回应，确定了从阿里巴巴离职的消息。以下是贾扬清的个人声明：加入阿里巴巴的时候，最吸引我的是云计算可以带给社会的独特贡献：AI，Bigdata，Compute，Developer，和Ecosystems。有幸在过去几年中带领计算平台事业部，建设了一支从研发到产品到解决方案的团队，将大数据AI业务做到行业领先的位置，感谢阿里对我的信任和支持。通过实时离线一体的大数据平台ODPS，以
