叉梯图片制作方法gpt4和chatGPT的区别：ChatGPT的原理取前端领域实践 1篇读懂

 

当我们谈论互联网时，我们总是能发现许多令人兴奋的事情。今天，就让我们坐下来，聊1聊最近在这个令人着迷的领域中发生的1些令人瞩目的事件。

1、ChatGPT 简介ChatGPT的火爆ChatGPT作为1个web应用，自22年12月发布，仅仅没有到3个月的时间，月活用户就累积到1亿。在此之前，最快记录的保持者也需要9个月才达到月活1亿。

ChatGPT的反爬https://chat.openai.com 因为各种政策&倾向性问题，ChatGPT目前在中国无法访问而它又是如此火爆，所以就有大量用户通过代理、爬虫等形式来体验ChatGPT

OpenAI没有是专业做网络服务的公司，因此把反爬交给第3方公司CloudFlare去做。

CloudFlare目前全球最大CDN服务商，占比16%；而OpenAI的流量在CloudFlare中占比已经占据前二。

ChatGPT的打字效果

可以看到ChatGPT的输出是逐字输出的打字效果，这里应用到了SSE（SeverSideEvent）服务端推送的技术。1个SSE服务的Chrome开发工具化network截图 ：

SSE对比常见Websocket如下：

那么这种打字效果它是故意的还是没有小心的？二、ChatGPT核心原理

ChatGPT我们可以拆解成 Chat、G、P、T 这四个部分讲述在后续内容前，我们先补充几个机器学习容易理解的概念：1.模型：所谓模型，本质上就是1个程序（函数），类似 y=ax+bx^2，这里的a和b就是参数，比如GPT3的参数量就是175B说的就是1750亿参数的程序，ChatGLM⑹B的参数量是60亿。

2.机器学习：我们平时写的函数，是人来控制的逻辑和参数，而机器学习指的是机器通过某种方式（训练）来确认参数这个找特定参数的函数的过程，1般分别为3步：确定函数集合：尽可能穷尽所有参数的可能，比如文章中常见的CNN、RNN、Transform等就是函数集合；。

数据：通过数据集，得到评价函数好坏的方式；执行过程的参数：比如每批次对每个函数执行多少次，最大执行多少次等，这些参数1般称为“超参”，区别于函数内的参数（算法工程师1般自嘲的调参工程师，指的是这个“超参”）

Generative 文字接龙ChatGPT本质上是个没有断递归执行的生成式的函数，上面我们来看2个例子：Case1：萝卜青菜当你看到萝卜青菜这4个字的时候，脑海中想的是什么？我想大概率是各有所爱给到GPT的时候，GPT根据这4个字和逗号，推测出下个字的大概率是。

各

然后GPT会再次将萝卜青菜，各输入给自己，推测出下个字的大概率是有

这就是ChatGPT在输出文字时是逐字输出的原因，这种形式最符合LLM运行的底层原理，在用户体验上也能让用户更快看到第1个字，体验上接近聊天而没有是阅读它是故意的这里我们得到第1个结论：ChatGPT（模型 / Fn）的运行原理是每次输入文本（包含上次返回的内容），预测输出后续1个字词。

Case2：书呆子举个【原创】前端技术十年回顾 文章中的例子：

在这个例子中，为何输出是“欺负1样”？从全文中看，这里的主体应该是前端技术，单纯考虑前端技术和就像在小学被，我们可以想出“推广”、“普及即使没有考虑“前端技术”，单纯从就像在小学被，还有可能推测出后文是“教育”、“表扬”。

都很难联想到“欺负”这里出现“欺负”，很大原因是在前文中欺负（就像，这几个关键字的影响远大于前端技术所以我们得到第二个结论：在生成式语言模型中，上文单词离得越远，对生成结果的影响就越小文字接龙VS完形填空。

这里补充下GPT类似的BERT，他们都是基于后面提到的Transform结构，他们的对比如下，总的来说，文字接龙更服务人类大部分情况下的语言模式，因此像马斯克也更青睐于这种第1性原理的器材。

Transform 注意力机制Case3：绿洲

在这个Case中，绿洲的出现，反而没有是因为最近的寻找新的，而是3句话之前的沙漠和骆驼这里就没有得没有提到大名鼎鼎的Transform结构，这是Google在2017年在1篇论文 《Attention is all you need》首次提出的1种类神经网络结构，它和核心是。

自注意力机制，用来解决长距离文本的权重问题。作者没有是机器学习专业，就没有展开说了，建议看相关论文和讲解的文章。

Pretrained 预训练通过前面的文字接龙模式，用大量数据喂出来的预训练模型，使其具备通用的语言能力，这里的预训练有2层含义：能完成各种通用NLP任务（分类、排序、归纳等等）稍加微调训练，能完成特定领域的语言任务（没有必从头开始）

Chat 对话（通过Finetuning实现）因为预训练是无人类的监督，因此通用模型没有1定按照聊天形式返回文本，因为它的训练素材包罗万象，比如我说今天天气差，它根据历史的经验：今天天气差的表述方式有上面几种，就会输出这句话的没有同的表述，而没有是像聊天1样跟我1起吐槽 。

上面的OpenAI的GPT3模型对今天天气差的输出：

要让GPT3像聊天1样输出，就需要有针对性的对它就行微调（fine-tuning）训练，例如通过特定的问答结构的语料训练：

能聊天以后，想要上线，就必须给模型上枷锁，没有能回答和人类价值观没有符的内容，否则资本主义的铁拳也会降临OpenAI通过人工标注和强化训练的方式提升ChatGPT回答质量并校正它的价值观倾向，想要更多了解这块内容，可以了解下ChatGPT背后的算法模型。

3、ChatGPT的应用OpenAI官方给到了49个常见的ChatGPT应用场景：https://openai.com/blog/chatgpt

总的来说可以分为：文案创作提炼总结代码编写语言美化/跨语言转换角色扮演对于前端开发同学来说，最关注它的代码能力正好在1个小程序转taro重构的项目中体验了ChatGPT的能力：1. 能理解小程序模板语法，并转换出ts的taro组件。

2. 理解小程序页面逻辑，并修正props小程序的页面逻辑page.js是独立于index.wxml的，在得到纯wxml生成的taro组件后，把page.js的代码合并进去

3. 可以补充知识，教它举1反3特有的语法

HiBox融合ChatGPT这么好的能力，应该如何沉淀呢？我们首先想到了VSCode插件，刚好HiBox本身有登录态、自定义Webview、远程配置化的能力，那就将ChatGPT集成到HiBox中（太酷啦），Node端接入ChatGPT的接口，通过Webview前端实现1个聊天窗，再通过配置系统集成常用的Prompt，这样前端开发就能通过VSCode方便地用到ChatGPT的能力。

整体结构如下：

数据源方面，也从爬虫版本ChatGPT，逐步切换到API代理服务中，代理服务接入GPT3.5的模型能力，整体体验非常接近ChatGPT代理服务文档：https://joyspace.jd.com/pages/yLnDY3B5UJ1rXP8UYrN6。

HiBox的ChatGPT目前仅需erp登录即可免费使用，更多使用方式和安装方式：HiBox快速开始私域数据集成在使用ChatGPT的过程中，也注意到2个问题：公司敏感的代码和信息没有能传给ChatGPT

特定领域的非敏感知识，比如水滴模板，ChatGPT没学习过首先想到的是，采用微调（fine-tuning）的方式，将私域数据数据集成到大语言模型（LLM）中，然后私有化部署在公司的服务器上，这样任意代码和文档都可以发送给它，我们尝试了上面2种方式：

GPT3 fine-tuning1是通过OpenAI提到的GPT3的fine-tuning接口，将私域数据传给OpenAI，OpenAI在他们的服务器里微调训练，然后部署在OpenAI的服务器中，整个过程是黑盒。

ChatGLM⑹B fine-tuning二是用清华开源的ChatGLM⑹B作为基础模型，在公司的九数平台上申请GPU机器，将私域数据通过LORA的方式微调得到LORA权重，然后自己部署，整个过程完全私有化。

GPT3.5 langChain上面的两种方式总的来说，部署后的推理效果都很难达到GPT3.5-API的效果，因此我们最后尝试了embedding外挂知识库的方式使用开源的langchain处理文档切割、向量化存储、向量化匹配等。

数据还是会暴露给OpenAI

四、LLM现状和展望LLM大爆发其实在20年GPT3出来以后，机器学习的大部分头部都意识到了这条路线的可行性，积极地在跟进了：

这里专门讲下百度，据公开可靠的文档，百度早在2019年就推出了Ernie（对标谷歌Bard，Ernie和bard在动画Muppet中是1对兄弟），确实是国内最早接入LLM的玩家百度走的和谷歌1样，是BERT的完形填空的路线，因为在2018~2019年的时间点，GPT1代刚刚问世，第1代的GPT对比各方面都没有如BERT，再加上百度和谷歌1样在搜索引擎方面沉淀较多，因此选择的路线是BERT。

近期羊驼系列和国内大语言模型也在大爆发：

LLM应用现状&趋势平台化LLM的角色扮演能力可能是下小我机交互变革的关键点，OpenAI也推出了Plugin模型，通过插件，用户可以通过1句自然语言聊天就买1张机票，搜索想看的文章有人说这是类似AppStore发布的IPhone时刻：。

自驱动、能力集成类似Auto-GPT，langchain等，通过约定特性的模板，可以让ChatGPT返回执行特定命令的文本，例如和ChatGPT约定如果要搜索的时候，返回[search: 搜索内容]，然后在客户端通过正则匹配

/\[search\:(.*?)\]/，拿到对应的内容执行搜索，再将结果返回给ChatGPT整理最终答案。

虚拟1个例子：1. user: 深圳明天的天气怎么样？2. chatgpt（触发知识限制2021年，返回约定的搜索格式）：[search:2023年4月27日的深圳天气]3. user接收到正则匹配触发搜索，打开无头浏览器搜索百度并取第1条结果：2023年4月27日星期四深圳天气:多云,北风,风向角度:0°风力1⑵级,风速:3km/h,全天气温22℃~27℃,气压值:1006,降雨量:0.0mm,相对湿度:84%,能见度:25km,紫外线指数:4, 日照...4. user（将搜索的内容连带问题第二次发给ChatGPT）: 深圳明天的天气怎么样？可参考的数据：2023年4月27日星期四深圳天气:多云,北风,风向角度:0°风力1⑵级,风速:3km/h,全天气温22℃~27℃,气压值:1006,降雨量:0.0mm,相对湿度:84%,能见度:25km,紫外线指数:4, 日照...5. chatgpt（根据问题和高低文，输出人类语言的表达）: 深圳明天的天气还可以，整体多云为主，气温22℃~27℃

多模态4月份发布的GPT4已经具备图像识别的能力，上面的Case是主持人用1致设计稿草图生成前端页面的过程。经典“前端已死”时刻：

LLM的局限虽然我们看到ChatGPT的技术强大，但是也要审慎看待它的局限，它本质上是个基于历史数据的经验主义的模仿人类的文字输出函数例如，ChatGPT完全做没有了4位数的乘法运算，它大概率会根据6乘和

7等于这2块关键信息，得到答案是以2结尾，根据4和乘以3这2块关键信息，得到答案是以1开头，而中央的随机性完全收敛没有到正确的答案，没有管是ChatGPT和GPT4都是1样的情况：

再比如问它特别小众、普通人也容易错的专业领域知识，它也会根据大部分普通人的错误答案输出错误答案：比如在V8 Promise源码全面解读，其实你对Promise1无所知文章中1个很奇葩的题目，上面的代码会打印什么？

Promise.resolve().then(() => { console.log(0); return Promise.resolve(4)}).then(res => { console.log(res);})Promise.resolve().then(() => { console.log(1);}).then(() => { console.log(2);}).then(() => { console.log(3);}).then(() => { console.log(5);}).then(() => { console.log(6);})

大部分人都会回答：0、1、4、2、3、5、6GPT3.5的回答：0、1、4、2、3、5、6GPT4的回答：0、1、2、3、4、5、6只有GPT⑷的回答正确，但是即使它的回答正确，它的具体分析也是错误，因为它可能在某个场景学习过类似答案，但是它并没有“理解”，后面的分析内容也是大部分人容易错的分析

结尾最后用流浪地球2中周喆直的台词做个结尾对于AI的到来，我们战略上没有要高估它，AI本身有它的局限性，保持乐观，前端没那么容易死；战术重视和关注它的发展，尝试在我们的工作生活中应用，技术变革的浪潮没有会随小我的意志变化。

通宵赶稿，码字没有易，看到这里同学帮忙点个赞吧 Thanks♪(･ω･)ﾉ作者：京东零售 陈隆德内容来源：京东云开发者社区告发/反馈

希望这篇文章能够帮助到您，如果有需要请随时取我们联系。