linux 7.1新版 | 大模型repo推荐

Linus Torvalds 我正在努力改进这一点。其实我并不是完全不看代码。比如在合并过程中遇到代码冲突时我就会查看相关代码。这种情况很常见也没有什么问题。有些人觉得解决冲突很困难但多年来我处理过太多冲突了甚至闭着眼睛都能完成这类工作。我并不担心这一点。不过冲突往往意味着两个不同团队同时修改了同一部分代码。这时候我会仔细看看双方到底做了什么而很多问题恰恰会在这个阶段暴露出来。有时问题的根源在于两个团队实际上有着不同的目标。另外如果一个拉取请求的说明写得不够清楚我也会去查看代码。有时候看完代码后我会明白“哦原来他们想做的是这个。”但也有一些情况即使看完代码我仍然觉得这个改动不合理那么我就会拒绝它。所以虽然我已经不是传统意义上的程序员但我仍然拥有足够深厚的技术背景能够在需要查看代码时做出判断。说实话我现在几乎不再阅读代码了。我不是传统意义上的程序员而是一名开发主导者。当然我知道如何编程也依然会为了兴趣写代码但那些业余项目并不是 Linux 内核而只是一些我享受其中过程的小玩意。我更多依赖的是“信任”。我认为开源项目本质上都建立在信任之上——我们彼此了解已经共同工作了很多年甚至几十年。我合并的那 200 个拉取请求来自于那些我长期合作并且信任的人。我并不认为自己需要完全理解每一行代码。毕竟面对一个拥有 3500 万行代码的项目没有任何人能够真正理解全部代码。在处理一个拉取请求时我真正想了解的是“大局”。这也是为什么我要求提交者必须提供非常详细的说明。我会认真阅读这些说明了解发生了什么以及为什么要做这些改变。这样做的意义在于未来如果出现问题我能够回忆起当时的背景。即使我从未亲自查看过那部分代码遇到问题时也能马上想到“我知道这件事是怎么回事也知道应该从哪里开始排查。”这就是我现在工作的层面。事实上到目前为止我已经几十年没有真正编写所谓的“核心代码”了。大模型学习repo推荐入门友好的Repo应该尽量简单用尽可能少的代码把功能实现了减少看代码时的信息干扰。第一是之前提到的 NanoVLM这个 Repo 的每一行代码基本都有用结构足够清晰读完就可以对多模态大模型的模型结构、数据组织方式等有一个比较清晰的了解训练模型要求的算力资源不高也就 220M 的模型。第二是 ak神的 NanoGPT这个偏纯文本领域Tokenizer、Transformer每一个 Module 的实现都有了还有 Training Loop里面的一些关键代码也被很多知名的库所借鉴。第三是 ak 大神的 NanoChat是一个类似于ChatGPT的全栈式的实现相比于 NanoGPT 更近一层楼。第四是 TinyLLaVA这个 Repo 支持多种基模比如 Qwen、Phi、Gemma 等最小参数量0.5B训起来也是比较 Easy 的。第五第六分别是TinyLLaVA-Video、TinyLLaVA-Video-R1的和TinyLLaVA出自一个作者分别是视频多模态大模型、以及引入RL后训练的 Repo。第七是BLIP3o-NEXT这是生成和理解一体的多模态大模型的Repo模型结构是多模态大模型外挂 DiT 类型最新的版本还引入了视觉生成 RL 后训练。第八第九是minimind和minimind-v分别是LLM和MLLM领域的这两个对训练算力要求更低26M的参数量足够 Tiny。 有点多不过我推荐先看NanoVLM、NanoGPT和NanoChat (maybe minimind和minimind-v也可以, 不过我还没读过代码碎碎念一、结果被高估了对结果的执念是痛苦的根源二、不要把外界的喧嚣当成自己内心的声音三、成功和幸福是两条不同的道路四、自信是通过一次次小的坚持行动建立起来的自信不是源于确定性而是源于相信自己能找到解决问题的方法五、大多数拒绝都与个人无关只是概率问题六、忙碌不等于高效七、选择自律而非仅依赖动力。