1 概述

怎么学习？——给定输入和输出：

但是这样做不现实，因为这样输入-输出需要成对的资料，而chatgpt 成功解决了这一个难题。

chatgpt不需要成对的资料，只需要一段有用的资料，便可以自己学习内容，如下：

1.1 发展历程

初代和第二代gpt

第二代到第三代

gpt3还会写代码

其性能表现

但是gpt3也有缺点

1.2 预训练+监督学习

想要实现chat的功能，就得经过一个监督式学习（问答），就要在预训练后，增加一个监督学习的流程，赋予模型问答能力：

预训练的好处

在多种语言上做过多训练以后，某一语言的任务会帮助其他语言学会同样的任务。

实验数据如下：

1.3 增强式学习

chatgpt还引入了增强式学习，给好的回答更多奖赏回馈。

1.4 对训练数据的记忆

其能够记得训练数据的部分信息：

1.5 更新参数

可以通过对话改变其记忆：

1.6 AI内容检测

检测某一段文字是否为AI生成的，最简单的做法是这样：

1.7 保护隐私

有时候模型会泄漏训练数据，需要遗忘学习：

gptbert_53">1.8 gpt和bert

一个是做文字接龙，一个是做文字填空：

gpt_56">穷人怎么用gpt

方法1 缩短输入

把多个问题一起丢进去：

方法2 自建模型

方法3 LLM cascade

2 生成式模型

主要分为以下三种，注意英文的token指的不是单个完整的单词，而是要把一个单词拆分成前缀后缀的形式，拆解成更小的单位：

2.1 生成方式

生成式有两种策略——各个击破和一次到位，下面先介绍各个击破

2.1.1 各个击破 Autoregressive

每次生成一个（token），然后按照序列形式把全部完整的内容生成：

这种方式生成效果好，但是所需要的时间长。%

2.1.2 一次到位 Non-autoregressive

x需要先设定最大输出长度，由于不需要每次都保证输出的内容一样长，需要一个end标志符表示结束。

两者比较：

2.1.3 两者结合

2.2 预训练和微调

一般都是先训练一个通用模型，然后在某些任务上做微调（finetune）。

2.3 指示学习 instruction learning 和 上下文学习 in-context learning

和chatgpt进行交互的时候，我们的promt可能包可以分为两种情况：指示学习 instruction learning 和 上下文学习 in-context learning。所以在模型训练阶段，我们需要制造一些成对的语料数据加强模型的这两种学习的能力。

前者是给模型一些指示，当模型进行学习和回答，后者是通过一些例子，让模型进行学习和回答。

2.2.1 上下文学习 in-context learning

即让机器在例子中进行学习。为got提供一些例子，比如情感分析中：

但是不同于传统的模型更新（梯度下降），这里gpt的学习，不会更改其模型参数。
通过例子，虽然不会提升多少情感分析的能力，而是为了唤醒gpt的情感分析能力，这个结果来自一篇文献的实验结论。

2.2.2 指示学习 instruction learning

让gpt能够看懂指令：

一个指示学习的例子：判断这句话的情感：给女朋友买了这个项链，她很喜欢。选项：A=好；B=一般；C=差。

训练阶段和测试阶段，可以是不同的任务的指示。

用人类的语言训练：

2.2.3 chain of thought (CoT) prompting

让模型给出推理过程，这样能够让模型做出更正确的答案。

让模型具备这个能力，就得在模型训练阶段给出这样的“带有推理过程”的语料。

让模型自动生成prompt

这里的promt也可以理解为指令。
1。 使用 soft prompt
之前我们讲的都是hard prompt，但其实还有soft prompt，给一堆向量而不是人类语言。

2. 使用强化学习。

3. 让模型自己寻找，下一些特殊指令：

最佳指令可以极大的提升模型的性能：

2.3 训练数据的预处理

数据的收集和处理需要用到以下内容：

去掉重复资料的重要性：假设一段话在训练数据中出现了6w多次，会发现模型很容易说出这些话，因此应该避免这种情况。

在固定运算资源的情况下，如何选择模型规模和数据集规模？有人做了相关实验，一条线表示固定的运算资源情况下的结果，纵轴的越小越好：

所以要找到每个U型曲线的最低点，把这些最低点串起来可以得到如下的图：

模型规模和资料最佳适配比：

除此以外，指示学习（instruction-tuning）也可以大大提升模型的性能。

2.4 Human Teaching （强化学习）

这也是一种辅助模型训练的技术（强化学习），可以有效提高模型的性能，让小模型吊打大模型的性能。

KNN+LM

一般的LM是这样的运作方式：

而KNN+LM是这样的，寻找embedding的相似度

这样做会带来什么神奇的效果？

但是这种语言模型非常的慢

2.5 信心越高，正确率越高

让AI 解释AI

来解读一下这篇文章：

解释什么？——知道每一个神经元的作用、和哪些词关联度最大：

有工作发现了某一个神经元遇到以下词时输出会很大，通过观察发现，下一个会出现“an”：


如何操作？输入以下promt：

能得到以下结果：

其他结果：

如何判断解释的好不好？

然后去gpt2模型找到那个神经元检查一下：

完整的prompt

纵轴表示可解释性的分数，分数越高，可解释性越好，结论是小模型更容易解释、越底层的神经元越容易解释。

大致流程

让模型扮演一个神经元：

寻找神经元在什么时候激活值较大：