LLaMA 系列模型
LLaMA Meta AI 推出的 LLaMA 系列开源模型已成为大语言模型社区的基石之一，对推动开放研究和应用产生了深远影响。从 2023 年初发布的开创性 LLaMA，到同年性能显著提升的 LLaMA 2，再到针对特定领域（如代码、安全）的衍生模型，以及 2024 年和 2025 年相继推出的新一代 LLaMA 3 和 LLaMA 4，Meta 持续致力于提升开源模型的性能，使其逐步逼近最先进的闭源模型。下面，我们将依次介绍每个主要模型的关键技术细节。 ...
AI
大语言模型智能体
智能体 自 2022 年 10 月 OpenAI 发布 ChatGPT 以来，随着后续 AutoGPT 和 AgentGPT 等项目的涌现，LLM 相关的智能体（Agent）逐渐成为近年来 AI 的研究热点和实际应用方向。本文将介绍智能体的基本概念、核心技术及其最新应用进展。 ...
训练大模型并行和内存优化技术
背景 最近大模型的参数数量不断攀升，从最初的数十亿扩展到如今数千亿乃至数万亿级别。大模模型虽然带来了前所未有的应用效果，但与此同时，也引发了计算资源、内存管理和训练稳定性等一系列严峻挑战。因此本博客总结了一些常用分布式并行训练和内存管理技术，希望能够帮助大家更好地训练和优化大模型。 ...
OpenAI Deep Research 案例分享 - LLaMA 系列技术演进详解
注意：下面内容是由 OpenAI Deep Research 生成的研究案例 😊，模型会有一定幻觉和格式上的错误，仅供参考。 原文链接: LLaMA 系列技术演进详解 好的，我将撰写一篇详细的技术博客，全面介绍 LLaMA 系列的发展进展，包括从 LLaMA 1 到最新 LLaMA 3 的对比，以及其在模型架构、训练方法、推理性能等方面的演进。我会加入数学公式来解析关键技术点，如 RMS Normalization、FFN_SwiGLU、RoPE、GQA 和 BPE，并提供代码示例帮助理解。此外，我还会整理 LLaMA 最新模型与其他大模型（如 DeepSeek R1、O1/O3 等）的对比数据。 ...
OpenAI Deep Research 案例分享 - 深度研究技术综合研究报告
OpenAI Deep Research (OpenAI, 2025) 主要是采用以 o3 推理模型为基座的多 agent 协作方式。相关开源研究和产品之前也有不少，比如 GPT Researcher 和 Google Gemini 版本的 Deep Research (DeepMind, 2024)。不过 OpenAI 的产品是博主目前体验下来效果最好。之后咨询分析、论文综述和新闻编辑等任务都可以先让这个工具自动化完成，然后再由人工进行最后的修正和审查，怎么感觉之后我写技术博客的任务也会被替代了呢？😂 ...