咱们惊叹于ChatGPT的智能水平，但有意思的是，OpenAI公司自身并没有创造新的技能，他们用到的大部分技能，都是开源的。

  其中最要害的技能，出自2017年谷歌8位工程师联合宣布的一篇论文，这篇论文里讲了一个深度学习模型，叫Transformer，便是GPT里的“T”。

  细节不提，简单说：Transformer模型的技能原理，是一场“概率游戏”。比方，我说一个“我爱”，模型就会猜想第三个字最可能是“你”。

  既然是概率游戏，进步概率最底子的办法，便是添加测验次数。“我喜欢你”之所以最简单被联想，是因为在日常日子中，咱们听到、看到“我爱”后边跟从“你”这个字的次数最多。

  所以，ChatGPT的成功，是用海量的数据，驯化出了一个成功的人工智能。ChatGPT的成功，是量变到突变的成果。

  他们练习GPT-1的时分，用了7000本未发布的书本，数据参数量是1.17亿，但到GPT-3，他们从45TB数据中选择了570GB进行练习，参数量达到了1750亿。

  这个进程还用到了Transfomer算法模型，这个模型模拟了人类对常识的存储、处理、了解、推理。但这里边并没有特别的技能，仅仅算法上加上足量的练习数据，ChatGPT完成了像真人相同跟你对话。

  而OpenAI能处理如此很多数据，还有一个很重要的原因是：微软给它供给了至少一万枚英伟达芯片支撑，本钱超越10亿美元。

  面临 ChatGPT的成功，咱们我们能够总结出一个 AI 进化公式：AI=算法×算力×数据