jjzjj

全球代码质量骤降,罪魁祸首竟是AI!1.53亿行代码深度分析报告出炉

AI正在使全球的代码质量下降!最近,GitClear发布的一项调查报告显示,用AI写代码,会让代码的质量和可维护性不断下降。这引起了全网热烈讨论:「借助AI提供商,您可以将代码生成速度提高50%(即使是您不理解或无法编写的代码),但代价是代码的质量和可持续性不断下降。」「我们要追求的,到底是质量还是速度?」调查中,GitClear分析了从2020年1月到2023年12月之间编写的1.53亿行代码更改数据,——1.53亿行代码,是目前已知最大的用于评估代码质量差异的数据集。调查发现了什么?我们先看下面这张图:图中展示了4年中的代码改动率——编写后不到两周就被撤销或更新的代码行百分比,——深色部分

八张3090,1天压缩万亿参数大模型!3.2TB骤降至160GB,压缩率高达20倍

随着GPT-4的架构被知名业内大佬「开源」,混合专家架构(MoE)再次成为了研究的重点。GPT-4拥有16个专家模型,总共包含1.8万亿个参数。每生成一个token需要使用大约2800亿参数和560TFLOPs。然而,模型更快、更准确的代价,则是巨大的参数量,和随之而来的高昂成本。比如,1.6万亿参数的SwitchTransformer-c2048模型,需要3.2TB的GPU显存才能有效运行。为了解决这一问题,来自奥地利科技学院(ISTA)的研究人员提出了一种全新的压缩和执行框架——QMoE。论文地址:https://arxiv.org/abs/2310.16795通过采用专门设计的GPU解码