大模型

同学们好。前几节课我们一直在学 Python 的基本语法，今天换个节奏，聊一个你们天天在用、却未必真正了解的东西——大模型（Large Language Model，LLM，大语言模型）。这节课不要求你记公式，重点是建立一张“地图”：大模型从哪里来，它大致是怎么工作的，我们作为学 Python 的人可以怎么用它。

先做个小调查：这一周你用过哪些 AI 工具？DeepSeek、豆包、Kimi、通义千问、文心一言、ChatGPT……用它做过什么？查资料、翻译、写总结、解释代码、做 PPT？

大家会发现，这些工具有一个共同点：你用自然语言（就是平时说的话）跟它交流，它也用自然语言回答你。在十年前，这几乎是科幻小说里的情节。那么问题来了——它是怎么做到的？ 它真的“懂”你在说什么吗？带着这个问题，我们从头讲起。

先把几个经常被混用的词理清楚。可以把它们想象成三个同心圆：

• 人工智能（AI）是最大的圆：让机器表现出“智能”行为的一切方法，都算人工智能。“人工智能”这个词在 1956 年的达特茅斯会议上被正式提出。早期很多 AI 靠人写规则，比如“如果……就……”。
• 机器学习（ML）是里面的圆：不再由人一条条写规则，而是让机器从数据中自己学出规律。
• 深度学习（DL）是最里面的圆：机器学习中的一类方法，使用很多层的神经网络来学习。

今天的主角大模型，就是深度学习这个圆里的一个“明星”：它是用海量文本训练出来的超大规模神经网络。所以说“大模型是 AI”没错，但更准确地说，它是“深度学习的一种”。

机器学习的核心思想一句话就能说清：不是告诉机器怎么做，而是给它看足够多的例子，让它自己总结规律。

举两个例子：

• 房价预测：我们收集很多套房子的面积和成交价，画在图上，会发现面积越大价格越高。机器学习算法会自动找出一条最贴近这些点的直线（或曲线），以后给它一个新面积，它就能估计价格。这类“预测一个数”的任务叫回归。
• 垃圾邮件分类：给机器看成千上万封已经标好“垃圾/正常”的邮件，它会自己发现“中奖”“免费领取”这类词经常出现在垃圾邮件里。新邮件来了，它就能判断是不是垃圾邮件。这类“判断属于哪一类”的任务叫分类。

整个过程可以概括为：数据 → 学习算法 → 模型 → 预测。记住这个流程，大模型其实也逃不出这个框架，只不过数据是“整个互联网的文本”，模型是“超大的神经网络”。

神经网络的想法很早就有了，它模仿的是大脑中神经元互相连接、传递信号的方式。但它的发展并不顺利，可以说是“几起几落”：

• 1958 年，感知机：心理学家罗森布拉特提出感知机，这是最早的神经网络模型之一，可以学会简单的分类，当时引起了很大的轰动。
• 第一次寒冬（1970 年代）：1969 年，明斯基等人指出单层感知机连“异或”这样简单的问题都解决不了，加上当时计算机算力太弱，研究热情和经费大幅下降。
• 1986 年，反向传播：鲁梅尔哈特、辛顿等人推广了“反向传播”算法，让多层神经网络可以被有效训练，神经网络重新热起来。
• 第二次寒冬（1980 年代末到 1990 年代）：当时的数据和算力仍然不够，很多承诺没有兑现，AI 再次遇冷。

这段历史告诉我们：一个好想法要真正发挥威力，往往需要数据、算力、算法三者同时成熟。

转折点出现在 2012 年。ImageNet 是一个包含上百万张标注图片的大型图像数据集，每年都有图像识别比赛。2012 年，辛顿和他的学生设计的深度神经网络 AlexNet 在比赛中以明显优势夺冠，错误率远低于传统方法，整个学术界为之震动。

AlexNet 成功的秘诀，正好是三样东西同时到位：

• 数据：ImageNet 提供了海量带标签的图片；
• 算力：用 GPU（显卡） 来训练神经网络，速度比 CPU 快得多；
• 算法：更深的网络结构和一系列训练技巧。

从此，深度学习在图像识别、语音识别等领域全面开花，“深度学习时代”正式开启。

图像解决了，语言呢？计算机只认识数字，第一步要把词变成数字。

• 词向量：把每个词表示成一串数字（一个向量），意思相近的词，向量也相近。比如“猫”和“狗”离得近，“猫”和“汽车”离得远。2013 年 Google 提出的 word2vec 让这种方法流行起来。
• RNN / LSTM：句子是有先后顺序的，循环神经网络（RNN）像人读书一样一个词一个词地往后读，边读边记。LSTM（长短期记忆网络，1997 年提出）给它加了“记忆门”，能记得更久一些。

但它们有两个难题：一是长句难题，句子一长，前面的内容就“忘”了；二是只能按顺序一个个算，没法并行，训练很慢，用不满 GPU 的算力。要突破，需要一种新的架构。

2017 年，Google 的研究团队发表了一篇论文，标题很霸气：《Attention Is All You Need》（注意力就是你所需要的一切），提出了 Transformer 架构。

它的关键改变有两点：

• 抛弃“按顺序一个个读”：Transformer 一次性看到整句话，所有词可以并行计算，能充分发挥 GPU 的威力，于是可以用更多数据训练更大的模型。
• 用“注意力”建立联系：句子里任意两个词之间都可以直接建立联系，不管它们隔得多远，从而缓解了长句难题。

今天几乎所有的大模型——GPT、DeepSeek、通义千问、Claude……都建立在 Transformer 之上。GPT 里的 “T” 就是 Transformer。可以说，这篇论文是大模型时代的起点。

我们把关键节点串成一条时间轴：

一个值得注意的现象：ChatGPT 发布后大约两个月，用户数就突破了 1 亿，被认为是当时增长最快的消费级应用。这说明大模型技术已经成熟到普通人可以直接使用。

大模型看起来无所不能，但它最核心的工作原理出奇地简单：根据前面的内容，预测下一个词。

比如输入“今天天气真”，模型会给每个可能的下一个词打一个概率：“好”的概率很高，“不错”“热”也有可能，“桌子”几乎不可能。它选出一个词接上去，再把新的句子作为输入，预测下一个……一个词一个词地“接龙”，就生成了一整段回答。

这里的“词”，更准确的叫法是 Token（词元），是模型处理文字的最小单位。一句话会先被切分成一串 Token：

• 中文“我爱学习Python”可能被切成：我 / 爱 / 学习 / Python
• 英文 unbelievable 可能被切成：un / believ / able

不同模型的切分方法不同，上面只是示意。大模型 API 一般也是按 Token 数量来计费的。

思考：既然只是“接龙”，为什么它能回答问题、写代码？因为要把“接龙”做得足够好，模型必须学会语法、常识、逻辑，甚至编程规律——这些能力是在海量数据中“逼”出来的。

Transformer 的核心是注意力机制。它模仿的是我们阅读时的习惯：理解一个词时，会重点关注句子里和它相关的其他词。

看这个句子：“小猫没有跳上桌子，因为它太累了。”这里的“它”指谁？我们一眼就知道是“小猫”。如果改成“小猫没有跳上桌子，因为它太高了”，“它”就变成了“桌子”。

模型在处理“它”这个词时，会计算“它”和句子中每个词的相关程度，给“小猫”分配很高的注意力权重，给其他词分配较低的权重，然后把这些信息融合起来，从而理解“它”的真正含义。

大模型内部有很多层、很多个这样的“注意力头”，有的关注语法，有的关注指代，有的关注语义，层层叠加，就形成了对文字的深入理解。

一个像 ChatGPT 这样的对话助手，大致要经过三个阶段的训练：

1. 预训练：让模型“读遍”海量文本（网页、书籍、代码等），反复练习“预测下一个词”。这一步最花钱、最耗算力，得到的模型知识渊博，但只会“接话”，不一定会好好回答问题。好比一个读了很多书的学生。
2. 指令微调：用大量“指令—优质回答”的例子继续训练，让模型学会听懂指令、按要求回答。好比学生开始做有标准答案的习题。
3. RLHF（人类反馈强化学习）：让人对模型的多个回答打分排序，训练一个“打分模型”，再用它引导大模型生成更有用、更安全、更符合人类偏好的回答。好比老师批改点评，告诉你哪种答法更好。

ChatGPT 之所以比之前的 GPT-3 “好用”得多，关键就在后两步。

大模型为什么要“大”？2020 年前后，研究者发现了规模定律（Scaling Law）：模型的参数越多、训练数据越多、投入的算力越多，模型的表现就越好，而且这种提升相当有规律、可以预测。

看看 GPT 系列的参数量：GPT-1 约 1.17 亿，GPT-2 约 15 亿，GPT-3 达到 1750 亿，短短两年增长了上千倍。

更有意思的是涌现：当模型规模小的时候，某些能力（比如多步推理、看几个例子就学会新任务）几乎没有；而当规模跨过某个门槛后，这些能力好像“突然”出现了。就像水温到 100℃ 才沸腾一样。

当然，一味做大也会遇到瓶颈：高质量数据快被用完了，算力成本也越来越高。于是，研究者开始寻找新的方向——让模型“想得更久”。

心理学家把人的思考分成两种：快思考，凭直觉脱口而出；慢思考，一步步推理、反复检查。

早期的大模型更像快思考：直接给答案，遇到多步计算容易出错。研究者发现，只要在提问时加一句“请一步一步思考”，让模型先写出推理过程再给答案，准确率就会明显提高，这叫思维链（Chain-of-Thought）。

例如：“小明有 3 个苹果，又买了 2 袋，每袋 4 个，一共几个？”一步步想：2 袋共 2×4=8 个，再加原来的 3 个，一共 11 个。

更进一步，2024 年 9 月 OpenAI 发布了 o1，2025 年 1 月 DeepSeek 发布了 DeepSeek-R1。这类推理模型通过强化学习训练，学会了在回答前先进行较长的“思考”，在数学、编程、逻辑题上表现大幅提升。你在 DeepSeek 里看到的“深度思考”过程，就是这种慢思考。发展方向也从“模型更大”转向了“思考更久”。

今天的大模型已经不只会处理文字：

• 多模态：能看图片、听声音、理解视频，也能生成图片和视频。比如拍一道题目的照片，它能识别并讲解；上传一张图表，它能帮你分析。
• 智能体（Agent）：大模型不只是“说”，还能“做”。它会把一个任务拆成几步，调用工具去完成——搜索网页、运行代码、读写文件、查询数据库，再根据结果决定下一步。这是一个“思考 → 行动 → 观察”不断循环的过程。

比如你说“帮我查一下明天北京的天气，适合穿什么”，智能体会先调用天气查询工具拿到数据，再结合常识给出穿衣建议。大模型正在从“聊天助手”走向“能干活的助手”。

大模型已经进入很多领域：

• 写作：起草、润色、翻译、总结长文档；
• 编程：解释代码、找 bug、生成代码，比如 GitHub Copilot、Cursor 等 AI 编程工具；
• 科研：帮助阅读文献、整理思路、分析数据；
• 医疗：辅助整理病历、解释医学知识，但最终诊断必须由医生负责；
• 教育：做你的 24 小时“私人助教”，随时答疑、出题、讲解。

对我们学 Python 来说，大模型是很好的学习伙伴：看不懂的报错，可以让它解释；写好的代码，可以让它帮你检查。但要记住，它是“助教”，不是“替考”。

前面讲的都是原理，现在来点实际的：用 Python 调用大模型。很多大模型平台（包括 DeepSeek）都提供了与 OpenAI 兼容的 API，可以直接用 openai 这个 Python 库来调用。

第一步，安装库：

pip install openai

第二步，到大模型平台（如 DeepSeek 开放平台）注册并创建 API Key。第三步，运行下面的代码：

from openai import OpenAI

client = OpenAI(
    api_key="sk-你的API密钥",            # 占位符，换成自己的 Key
    base_url="https://api.deepseek.com",
)

response = client.chat.completions.create(
    model="deepseek-flash",     # 模型名以官方文档为准
    messages=[
        {"role": "system", "content": "你是一位耐心的 Python 老师"},
        {"role": "user", "content": "用一句话解释什么是列表"},
    ],
)
print(response.choices[0].message.content)

代码说明：

• OpenAI(...) 创建一个客户端，base_url 指向 DeepSeek 的服务地址；
• messages 是对话内容：system 设定模型的角色，user 是你的问题；
• 返回的结果在 response.choices[0].message.content 里。

注意：API Key 相当于你的账户密码，不要写进要分享的代码里、不要上传到 GitHub，更好的做法是放在环境变量里，用 os.environ 读取。调用 API 通常按 Token 收费。截至 2026 年 10 月，DeepSeek 官方文档给出的模型名是 deepseek-flash，模型名称和价格会更新，请以官方文档为准。

大模型很强，但它不是万能的，更不是永远正确的：

• 幻觉：它会一本正经地编造不存在的事实、文献或数据。原因就在于它本质上是“预测下一个词”，追求的是“像”，而不是“对”。
• 偏见：训练数据里存在的偏见，模型也会学进去。
• 隐私：不要把身份证号、密码、未公开的数据等敏感信息发给大模型。
• 学术诚信：直接把 AI 生成的内容当作自己的成果提交，是学术不端。

正确用 AI 学习的四句话：先思考，再提问；要核实，别全信；讲过程，不抄答案；用了 AI，要说明。 比如写 Python 程序时，先自己写，遇到报错再请 AI 解释原因，而不是直接让它把整道题写完。

中国的大模型发展非常活跃，你们可能已经用过不少：

其中 DeepSeek、通义千问等还开源了模型权重，全世界的开发者都可以下载使用。

未来几年值得关注的方向：更会推理（思考更深、错误更少）、多模态（文字、图像、声音、视频融为一体）、智能体（从“会说”到“会做”）、具身智能（大模型装进机器人，进入物理世界），以及端侧部署（在手机、电脑上直接运行）。

最后，我们沿着这节课的主线回顾一下：人工智能 → 机器学习 → 深度学习 → Transformer → 大模型 → 推理模型与智能体。

1. 大模型是深度学习的一种，属于 AI → 机器学习 → 深度学习这一脉络；
2. 数据、算力、算法共同推动了 2012 年以来的深度学习爆发，2017 年的 Transformer 开启了大模型时代；
3. 大模型的本质是“预测下一个词”，经过预训练、指令微调、RLHF 三步养成；
4. 规模带来涌现，推理模型让它学会“慢思考”，智能体让它学会“动手”；
5. 大模型会犯错，要用它辅助学习，而不是替代思考。

希望大家以后再用 DeepSeek、豆包这些工具时，心里能有这张“地图”：知道它为什么能回答你，也知道它为什么会出错。

1. Vaswani, A., et al. (2017). Attention Is All You Need. NeurIPS.
2. Brown, T., et al. (2020). Language Models are Few-Shot Learners. NeurIPS.
3. Ouyang, L., et al. (2022). Training language models to follow instructions with human feedback. NeurIPS.
4. Wei, J., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS.
5. Kaplan, J., et al. (2020). Scaling Laws for Neural Language Models. arXiv.
6. DeepSeek-AI (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arXiv.
7. 刘强.《大模型——从 Transformer 到智能代理》（人工智能导论课程讲义，2026 年春季）
8. Python Guru 课程网站 · 第16章 大模型：https://www.pythonguru.cn/python_ai_course/python_ai_ch16.html
9. DeepSeek API 文档：https://api-docs.deepseek.com/zh-cn/