这项由AMD公司的刘江、吴嘉连、于晓东等十多位研究人员共同完成的研究发表于2025年1月，论文编号为arXiv:2511.10628v2。有兴趣深入了解的读者可以通过该编号在学术数据库中查询完整论文。 在人工智能飞速发展的今天，大多数表现出色的语言模型都像是神秘的黑盒子——我们能看到它们的输出结果，却无法了解它们是如何被训练出来的。这些模型的训练数据、方法细节都被严格保密，就像可口可乐的配方一样，只有少数公司掌握核心秘密。这种情况对科学研究和技术进步并不友好，因为其他研究者无法验证这些结果，也无法在此基础上进行改进。 AMD的研究团队决定打破这种局面。他们开发了一个名为Instella的语言模型家族，就像是在AI界开了一家"开源餐厅"——不仅把做好的菜品（模型）免费提供给大家，连食谱（训练方法）、原料采购清单（数据来源）、烹饪过程（训练细节）都毫无保留地公开。更令人惊讶的是，这道"开源大餐"的味道竟然能和那些米其林餐厅的秘制菜品相媲美。 Instella家族包含三个不同的"版本"：基础版的Instella-3B，支持长篇阅读理解的Instella-Long（能处理128,000个字符的超长文本），以及专攻数学推理的Instella-Math。尽管这个模型只有33亿个参数（在AI模型中算是"小个子"），但它在各种测试中的表现却能与那些参数规模更大、训练成本更高的闭源模型相提并论。 这项研究的创新之处不仅在于模型本身的性能，更在于它证明了一个重要观点：开放性和竞争力并不矛盾。通过精心设计的训练策略和数据处理方法，即使使用完全公开的资源，也能训练出世界级的AI模型。 要理解Instella的价值，我们先来看看当前AI模型界的现状。目前市面上的顶级语言模型大致可以分为两类：完全封闭的商业模型和半开放的"开权重"模型。 完全封闭的模型就像是高端餐厅的招牌菜，顾客只能品尝最终的成品，却无法知道厨师使用了什么原料、采用了什么烹饪手法。这些模型虽然性能出色，但研究者无法复现或改进它们。半开放的"开权重"模型则像是把做好的菜品拿给你品尝，甚至告诉你最终的调料配比，但制作过程中的关键步骤——比如食材是如何挑选的、火候是如何控制的——仍然保密。 Instella选择了一条完全不同的道路：完全开源。这意味着从原材料的选择到最终成品的制作，每一个步骤都透明公开。研究团队不仅公开了模型的最终参数，还详细记录了训练数据的来源、预处理方法、训练过程中的每个决策，甚至连失败的尝试也如实记录。 这种做法的难度就像是要在众目睽睽之下，用大家都能买到的普通食材，做出能与顶级餐厅相媲美的美食。不仅要保证味道不输给那些使用秘密配方的大厨，还要把整个制作过程录制成视频教程，让其他人也能学会。 Instella的训练过程采用了一种独特的"两阶段烹饪法"。这个比喻很恰当，因为就像烹饪一样，不同的食材需要在不同的时间点加入，火候控制也要随着过程调整。 在第一阶段，研究团队使用了约4万亿个"数据调料"来进行基础训练。这些数据来自公开的网络文本、学术论文、代码库等多个渠道，就像是为一锅汤准备各种基础食材——蔬菜、肉类、调料等。这个阶段的目标是让模型掌握语言的基本规律，学会如何理解和生成文本。 第二阶段更加精细化，只使用了580亿个精选的"高级调料"。这些数据专门针对数学推理、逻辑思维等高级能力进行了筛选和处理。更有趣的是，研究团队还自制了一批"数学题调料"——他们分析了经典数学题目的结构，然后用程序自动生成了大量结构相似但数值不同的新题目，确保模型能够真正理解数学问题的本质，而不是简单地记忆答案。 这种两阶段方法就像是先用大火炖煮，让所有食材的营养充分释放，然后转小火慢炖，让各种味道完美融合。第一阶段建立了扎实的语言基础，第二阶段则专门提升了推理能力。 研究团队还采用了一个巧妙的"集体智慧"策略。他们用不同的随机种子（可以理解为不同的"运气值"）训练了三个版本的模型，然后将这三个模型的参数进行融合，得到最终的成品。这就像是三个厨师用同样的食材和方法做菜，然后取三道菜的精华部分组合成一道更完美的菜品。 基础版的Instella-3B就像是一道经典的家常菜，虽然朴实无华，但营养均衡、味道正宗。它能够处理日常的文本理解、问答、写作等任务，在各种基础测试中都表现稳定。更重要的是，它的"食谱"完全公开，任何人都可以按照相同的方法重新制作，这在当前的AI模型界是极其罕见的。 Instella-Long则是为了应对"大胃王挑战"而生。普通的语言模型只能"消化"几千个字符的内容，就像是胃口有限的食客，面对长篇文档就会"消化不良"。而Instella-Long经过特殊训练，能够一口气处理12.8万个字符的超长文本——相当于能够阅读几百页的长篇小说，并且记住所有细节。 为了实现这个能力，研究团队采用了渐进式的"扩容训练"。他们先让模型适应6.4万字符的文本，然后逐步提升到12.8万字符，再到25.6万字符。这个过程就像是逐渐扩大胃容量，让模型能够"消化"越来越大份量的内容而不会"撑坏肚子"。 由于市面上缺乏足够的长文本训练材料，研究团队还开发了一套"人工造长文"的方法。他们选择了一些高质量的长篇文档，比如书籍和学术论文，然后让AI助手针对这些文档生成问答对。这就像是找来很多长篇小说，然后请语文老师为每本书出一套阅读理解题，既保证了题目的质量，又确保了足够的练习量。 Instella-Math则是专门为"数学竞赛"而训练的选手。研究团队不满足于让模型仅仅记住数学公式和解题步骤，而是希望它能够真正理解数学思维的本质。为此，他们使用了一种叫做"群体相对策略优化"的强化学习方法——听起来很复杂，其实可以理解为"让AI和自己下棋来提高棋艺"。 具体来说，模型会针对同一道数学题生成多种不同的解答方案，然后系统会评估这些方案的正确性和合理性，奖励好的解答，惩罚错误的解答。通过这种反复的"自我对弈"，模型逐渐学会了更精确、更有逻辑性的数学推理。这个过程分为三个阶段，逐步增加题目的难度，从基础的算术题到奥数级别的挑战题。 当研究团队将Instella系列模型送去参加各种"味道测试"（基准测试）时，结果让所有人都感到惊讶。这个完全使用开源食材和公开食谱制作的"菜品"，竟然能在大部分测试中击败那些使用秘密配方的竞争对手。 在基础能力测试中，Instella-3B在11个不同的测试项目中平均得分达到66.6分，不仅远超其他开源模型，甚至在某些项目上能够与那些参数规模更大的半开放模型平分秋色。这就像是用平价食材做出的家常菜，在盲品测试中击败了米其林餐厅的招牌菜，让评委们都大跌眼镜。 特别是在数学推理能力上，Instella-3B的表现尤为突出。在GSM8K数学题测试中，它的正确率达到了59.8%，相比其他开源模型有了质的飞跃。这个结果表明，通过精心设计的训练方法和数据配置，小规模的开源模型完全可以在特定领域达到甚至超越大规模闭源模型的性能。 Instella-Long在长文本处理能力测试中也表现不俗。在Helmet基准测试中，它在7个不同的长文本任务上平均得分52.7分，超过了多个知名的开权重模型。这些任务包括在长文档中查找特定信息、回答基于长篇阅读的问题、总结长篇内容等，都是实际应用中非常重要的能力。 更令人印象深刻的是Instella-Math的表现。在数学竞赛级别的测试中，它在多个项目上都取得了同级别模型中的最佳成绩。特别是在TTT-Bench这个专门测试策略推理能力的新基准上，Instella-Math取得了49.8分的优异成绩，远超其他竞争对手。这个结果证明，通过适当的强化学习训练，即使是小规模的模型也能掌握复杂的逻辑推理能力。 Instella项目的意义远超其技术成果本身。在当前AI发展日益封闭化的趋势下，这个项目就像是在沙漠中建起了一片绿洲，证明了开放合作仍然可以创造出世界级的技术成果。 从科学研究的角度来看，Instella的完全开源为AI研究界提供了一个宝贵的"参考标本"。其他研究者可以基于这个模型进行各种实验，验证新的训练方法，探索改进方案。这就像是生物学家公开了一个重要物种的完整基因组序列，为整个科研界的进步提供了基础支撑。 从技术发展的角度来看，Instella证明了小而精的模型设计理念。在当前追求模型规模越来越大的潮流中，这个项目提醒我们，通过更精细的数据处理和更巧妙的训练策略，小规模模型同样可以达到令人满意的性能。这对于资源有限的研究机构和企业来说具有重要的启示意义。 从产业应用的角度来看，Instella为那些希望在自己的应用场景中部署AI能力的开发者提供了一个优质的起点。由于模型规模相对较小，它可以在普通的服务器甚至高端个人电脑上运行，大大降低了AI应用的门槛。 研究团队还特别注重模型的安全性和负责任使用。他们在模型训练过程中加入了人类偏好对齐训练，确保模型的输出符合人类价值观。同时，通过开源的方式，任何人都可以审查模型的训练数据和方法，及时发现和纠正潜在的偏见或问题。 在模型架构方面，研究团队选择了相对保守但经过验证的Transformer架构作为基础，然后在细节上进行了精心优化。他们使用了RMSNorm层归一化技术，这种方法相比传统的LayerNorm更加稳定，特别是在大规模训练过程中能够更好地控制梯度的变化。同时，他们还采用了QK-Norm技术，在计算注意力权重时对查询和键向量进行归一化，这听起来很技术化，实际上就像是在烹饪过程中更精确地控制火候，确保不会出现"糊锅"的情况。 在位置编码方面，他们使用了旋转位置编码（RoPE），这种方法能够更好地处理不同长度的文本序列，为后续开发长文本版本奠定了技术基础。这就像是在设计餐具时考虑到了不同尺寸的餐桌，确保在各种环境下都能正常使用。 数据处理策略是Instella成功的另一个关键因素。研究团队没有简单地收集大量数据进行训练，而是像营养师配制食谱一样精心调配数据比例。他们将不同来源的数据按照特定比例混合，确保模型能够均衡地学习各种语言模式。特别是在第二阶段训练中，他们大幅提升了数学和推理相关数据的比例，这种针对性的"营养补充"直接提升了模型的推理能力。 训练硬件的优化也体现了团队的专业水准。他们使用了128个AMD Instinct MI300X GPU组成的训练集群，通过精心设计的并行策略将计算任务分布到不同的GPU上。这个过程就像是协调一个大型厨房团队，每个厨师都要知道自己的具体分工，同时还要确保整个团队的协作效率。 Instella项目的成功为AI领域的未来发展提供了重要启示。它证明了开源路线不仅在道德上值得提倡，在技术上也完全可行。这个项目就像是在AI发展的十字路口竖起了一座灯塔，为那些希望走开放路线的研究者和企业指明了方向。 从资源配置的角度来看，Instella证明了"精耕细作"策略的有效性。与其投入巨额资金追求模型规模的极限扩张，不如在数据质量、训练策略、架构优化等方面精益求精。这种理念对于资源有限的研究机构特别有价值，他们可以通过更聪明的方法而非更多的资源来实现技术突破。 从应用落地的角度来看，Instella这样的中等规模模型可能更符合实际需求。在很多应用场景中，用户并不需要能写诗作画的通用AI，而是需要能够稳定、准确地完成特定任务的专用AI。Instella系列模型提供了一个很好的起点，开发者可以在此基础上针对具体应用场景进行进一步的微调和优化。 该项目还展现了学术研究与产业应用相结合的良好范例。研究团队不仅关注学术指标的提升，还充分考虑了实际应用的需求。他们提供的不仅是模型文件，还包括完整的训练代码、数据处理脚本、评估工具等，让其他开发者可以快速上手并进行二次开发。 从全球AI生态的角度来看，Instella项目体现了技术民主化的重要价值。在少数大公司垄断先进AI技术的背景下，这样的开源项目为更多参与者提供了进入这个领域的机会。特别是对于那些英语非母语国家的研究机构和企业，他们可以基于这些开源模型开发适合本地语言和文化的AI应用。 说到底，Instella项目最大的价值可能不在于它当前的性能表现，而在于它所代表的开放精神和技术路线。在AI技术日益成为经济社会发展重要驱动力的今天，确保这项技术能够被更多人理解、使用和改进，比单纯追求某个性能指标的突破更加重要。 这个由AMD团队精心打造的"开源大餐"不仅味道鲜美，更重要的是它向整个AI界证明了一个道理：最好的技术不一定来自最封闭的实验室，最有价值的创新往往诞生于最开放的合作中。对于那些关心AI技术发展方向的人来说，Instella项目提供了一个值得深思的案例，也为未来的技术选择提供了一个重要的参考坐标。 A：Instella最大的特点是完全开源，不仅公开了模型参数，还公开了训练数据来源、训练方法、代码等所有细节。这与大多数只公开模型参数或完全保密的AI模型形成鲜明对比。同时，尽管只有33亿参数的"小身材"，但通过精心的两阶段训练和数据优化，它的性能能够媲美参数规模更大的闭源模型。 A：由于Instella完全开源，开发者可以直接下载模型文件、训练代码和相关工具。模型规模相对较小，可以在普通服务器甚至高端个人电脑上运行。研究团队提供了三个版本：基础版适合日常文本处理，Long版本适合长文档分析，Math版本专攻数学推理。开发者还可以基于这些模型进行进一步的微调和定制开发。 A：Instella-Math使用了特殊的强化学习训练方法，让模型通过"自我对弈"不断提升推理能力。具体来说，模型会对同一道题生成多种解答方案，系统评估后奖励正确方案、惩罚错误方案。这个过程分三阶段进行，难度逐步提升。另外，研究团队还自制了大量高质量的数学训练数据，确保模型真正理解数学问题的本质而非简单记忆答案。
京公网安备11010202000001号
