LLMilestonesAI 与大语言模型里程碑时间线

第一幕 · 奠基

论文Google

T5:一切皆是文本到文本

把翻译、分类、摘要等所有任务都统一成“输入文本 → 输出文本”。

110 亿参数(最大版本)

为什么重要

统一的任务格式影响了后来的指令微调;同时开源的 C4 数据集被大量后续工作使用。

源自

BERT

出处: arxiv.org ↗

在 3D 时间轴上查看 →