译者|朱先忠审校|重楼摘要:本文将介绍使用开源工具MergeKit并利用四种不同算法实现合并多个LLM,实现无需借助昂贵GPU的情况下轻松定制出自己的大型语言模型。简介模型合并是一种将两个或多个LLM合并为单个模型的技术。这是一种相对较新的实验性方法,可以以低廉的资金投入来创建新模型(不需要GPU)。模型合并工作出奇地好,而且在OpenLLM排行榜上先后出现了许多基于模型合并技术的最先进的模型。在本教程中,我们将使用开源的MergeKit库来实现模型合并。更具体地说,我们将回顾四种合并方法,并提供相应的配置示例。然后,我们将使用MergeKit创建我们自己的模型——Marcoro14-7B-s