LLMilestonesAI 与大语言模型里程碑时间线

AI 与大模型全部里程碑（1943—2026）

时间轴上的全部节点，按幕排列。每一条都有详情页和出处。

序幕 · 前史 1943 — 2016

从一个神经元的数学模型，到击败围棋世界冠军。

第一幕 · 奠基 2017 — 2019

一篇论文丢掉了循环网络，预训练范式随之诞生。

第二幕 · 规模化 2020 — 2022.10

人们发现：模型越大、数据越多，能力就越强，而且可以预测。

  • Scaling Laws：规模定律 — 发现模型损失随参数量、数据量、算力呈平滑的幂律下降。
  • GPT-3：少样本学习者 — 在提示词里给几个例子，模型就能照着完成新任务，不需要再训练。
  • LoRA：大模型的低秩适配 — 冻结大模型本身，只训练很小的低秩矩阵，微调成本大幅下降。
  • GitHub Copilot 预览 — 基于代码模型 Codex，在编辑器里自动补全整段代码。
  • 思维链（Chain-of-Thought）提示 — 让模型先写出推理步骤再给答案，数学和逻辑题的正确率明显提升。
  • InstructGPT：RLHF 对齐 — 用人类反馈强化学习（RLHF）训练模型听懂指令、给出人们想要的回答。
  • Chinchilla：数据同样重要 — 同样的算力，与其把模型做大，不如用更多数据训练一个更小的模型。
  • PaLM — Google 的超大规模语言模型，展示了推理、解释笑话等能力。
  • FlashAttention — 重新安排注意力的计算顺序，尽量减少 GPU 显存读写，结果完全一致，速度快得多。
  • ReAct：推理与行动交替进行 — 让模型在推理步骤之间穿插行动，比如搜索、调用工具，再根据结果继续想。

第三幕 · ChatGPT 引爆 2022.11 — 2023

一个聊天框让全世界看见了大模型，百模大战开打。

  • ChatGPT 发布 — 把 GPT-3.5 + RLHF 包装成一个免费的聊天框，作为“研究预览”上线。
  • Constitutional AI：用一套原则来对齐 — 不再逐条人工标注有害回答，而是让模型对照一份写好的原则，自己批评、自己修改。
  • LLaMA：开源大模型的火种 — 发布 70 亿到 650 亿参数的系列模型，仅面向研究者申请开放。
  • GPT-4 — 能力大幅提升，展示了图像输入能力，在多项专业考试中达到人类前列水平。
  • Claude 首发 — 由前 OpenAI 成员创立的 Anthropic 推出第一代 Claude，与 GPT-4 同一天发布。
  • 文心一言：百模大战开打 — 中国大厂中最早发布的对话大模型产品。
  • QLoRA — 把 4 比特量化和 LoRA 结合起来，用一张显卡就能微调超大模型。
  • DPO：直接偏好优化 — 直接用人类偏好的成对数据训练，省去 RLHF 里单独的奖励模型和强化学习。
  • Llama 2：可以商用了 — 开放权重，并允许大多数公司免费商用。
  • 通义千问 Qwen 开源 — 阿里开源 Qwen-7B，此后持续发布从小到大的全系列模型。
  • Mamba：选择性状态空间模型 — 一种计算量随序列长度线性增长的序列模型，同等规模下效果追平 Transformer。
  • Gemini 1.0 — Google 合并 Brain 与 DeepMind 后推出的原生多模态模型。
  • Mixtral 8×7B：MoE 在开源社区走红 — 混合专家（MoE）架构：总参数大，每次只激活一部分。

第四幕 · 多模态与开源追赶 2024

模型开始看、听、说，开源模型逼近闭源前沿。

  • Gemini 1.5：百万上下文 — 一次能读入约 70 万个英文单词、约 1 小时的视频或 3 万多行代码。
  • Claude 3 系列 — Haiku、Sonnet、Opus 三档模型，其中 Opus 在多项评测上超过 GPT-4。
  • Llama 3 / 3.1 405B — 4 月发布 8B、70B；7 月发布 4050 亿参数的 Llama 3.1。
  • GPT-4o：原生多模态 — 一个模型同时处理文字、图片和语音，可以实时语音对话、打断、表达情绪。
  • Scaling Monosemanticity — 从正在使用的模型 Claude 3 Sonnet 中提取出数百万个可解释的特征，比如一个专门对应“金门大桥”的特征。
  • 测试时计算的最优扩展 — 证明在推理时合理分配算力，效果可以超过一个大得多的模型。
  • o1：推理模型元年 — 用强化学习训练模型在回答前进行长时间“思考”。
  • Hopfield 与 Hinton 获诺贝尔物理学奖 — 2024 年诺贝尔物理学奖授予 John Hopfield 和 Geoffrey Hinton，表彰他们为人工神经网络机器学习奠定的基础。
  • Computer Use：AI 操作电脑 — 模型通过看截图、移动鼠标、敲键盘来操作电脑。
  • MCP：模型上下文协议 — 一套开放协议，让模型以统一方式连接各种工具和数据源。
  • DeepSeek-V3 — 6710 亿参数的 MoE 模型，性能接近 GPT-4o，完全开放权重。

第五幕 · 推理与智能体 2025

先思考再回答，再到自己动手干活。

  • DeepSeek-R1：开源推理模型 — 以 MIT 协议开源，推理能力对标 o1，并公开完整的思考过程。
  • Claude 3.7 Sonnet 与 Claude Code — 混合推理模型，同时推出在终端里直接读代码、改代码、跑命令的编程智能体。
  • Manus：通用智能体 — 在云端虚拟机里自己规划、上网、写代码，把一整项任务做完再交付结果，而不只是回答问题。
  • Gemini 2.5 Pro — 内置思考能力的 Gemini，发布后登顶 LMArena 等多个榜单。
  • Llama 4 — Meta 首次在 Llama 上采用 MoE 架构，发布 Scout 和 Maverick。
  • Qwen3 — 同一模型可以在“思考 / 不思考”模式间切换，以 Apache 2.0 开源。
  • Claude 4（Opus 4 / Sonnet 4） — 主打编程和长时间连续执行任务的智能体能力。
  • Kimi K2 — 万亿参数的开放权重 MoE 模型（修改版 MIT 协议），主打智能体和工具调用。
  • gpt-oss：OpenAI 重新开源 — 发布 120B 和 20B 两个开放权重推理模型，采用 Apache 2.0 协议。
  • GPT-5 — 把快速回答和深度推理统一到一个系统里，自动决定是否需要思考。
  • DeepSeek-R1 论文登上《Nature》 — R1 的论文经过同行评审，发表在《Nature》上。
  • Gemini 3 — Google 新一代旗舰，在多项推理和多模态评测上取得当时最高分。
  • Claude Opus 4.5 — 在编程和智能体任务上进一步提升，价格大幅下调。

第六幕 · 前沿与边界 2026

模型强到要先锁起来，能力、安全与开放同时被推到边界。

  • OpenClaw：开源个人智能体 — 跑在自己电脑或服务器上的开源智能体，通过 WhatsApp、Telegram、Slack 等聊天软件下达任务，接入各家大模型。
  • Qwen3.5 — 开源 3970 亿参数的 MoE 模型，每次推理只激活 170 亿参数。
  • Gemini 3.1 Pro — Google 发布 Gemini 3.1 Pro 预览版，主打复杂推理。
  • Claude Mythos Preview 与 Project Glasswing — 一个极擅长发现和利用软件漏洞的模型，只通过 Project Glasswing 向少数机构开放，用于加固关键软件。
  • Muse Spark — Meta 超级智能实验室的第一个模型，原生多模态，不开放权重。
  • GPT-5.5 — OpenAI 发布 GPT-5.5（代号 Spud），重点提升智能体编程和科研能力。
  • DeepSeek-V4 — 发布 V4-Pro 与 V4-Flash 两个开放权重模型，支持 100 万 token 上下文。
  • Claude Fable 5 与 Mythos 5 — 与 Mythos 5 是同一个模型，加上安全防护后向公众开放，成为 Anthropic 最高档的模型。
  • Claude Opus 5 — 性能接近 Fable 5，API 价格只有它的一半。
  • Kimi K3 — 2.8 万亿参数，原生视觉理解，100 万 token 上下文，7 月 27 日开放权重。
  • GPT-6（Astra / Sol / Luna） — 9 月 3 日，OpenAI 先向少数机构推出最强的 GPT-6 Astra，次日向付费用户开放受限版本；9 月 22 日又推出较小的 Sol 和 Luna。
  • Claude Opus 5.5 — Claude 5.5 系列首发，多数任务上与 Fable 5.1 相当。
  • Gemini 4 Argon — Gemini 4 系列的第一个模型，在 Antigravity 和 Gemini API 中正式推出。
  • Muse Spark Open — 开放 8160 亿参数的 MoE 模型权重（约 420 亿激活），支持文本、图像、视频和音频输入。