开源相关
查看所有标签大模型推理的内存需求正在走向一个矛盾：MoE 模型的参数量动辄数百亿甚至上千亿，但消费级硬件的 RAM 上限在过去五年几乎没有质变——一张显卡 24GB，一台笔记本电脑 32GB，已是多数工程师的日常。
2026 年 7 月，一位机械工程背景的开发者（HN: LozzKappa）用约 50 行 C++ 代码，以一套来自控制理论的直觉，将 gpt-oss:120b MoE 模型的内存占用从 58.5GB 压到了 19.1GB，输出与全量加载完全一致（SHA-256 验证）。这项技术被命名为 HotPin。
本文将从工程实现的角度，拆解 HotPin 的核心原理、边界条件与适用场景。
2026 年 7 月 28 日，MoonshotAI 在 HuggingFace 上发布了 Kimi-K3——迄今最大的开源权重模型，拥有 2.8 万亿参数，并同步公开了详细的技术报告。这一发布不仅在规模上刷新了纪录，更在架构设计上展示了多条前沿技术路线在一个生产级模型中的融合与取舍。
本文将从工程实现的角度，逐层拆解 Kimi-K3 的四大核心架构创新：LatentMoE、Kimi Delta Attention、NoPE 以及 Attention Residuals，并在关键设计点上与 DeepSeek V4、Llama 4 等同期模型进行对比分析。
2024 年底，DeepSeek 发布了 DeepSeek-V2 和 DeepSeek-R1 系列模型，并选择完全开源。这一举动在全球 AI 社区引发了巨大反响。本文试图从多个维度分析 DeepSeek 开源战略的真正价值。