闭源模型OpenAI2020 年 5 月 28 日

GPT-3：少样本学习者

在提示词里给几个例子，模型就能照着完成新任务，不需要再训练。

1750 亿参数，比 GPT-2 大 100 多倍

为什么重要

“提示词工程”由此诞生；OpenAI 首次通过 API 对外提供模型，开启了大模型商业化。

代价与争议

训练成本高昂，会一本正经地胡说八道，也不太听指令。

源自

GPT-2Scaling Laws

引出

CopilotInstructGPT

出处: arxiv.org ↗

在 3D 时间轴上查看 →