关于最近大火的GPT4.0和ChatGPT的笔记

GPT4.0和GPT3.5区别

GPT

Generative Pre-trained Transformer,GPT。机器学习的2大支撑元素:模型,参数量。模型决定了机器怎么学习,参数量要很多数据来学习锻炼。

OpenAI 是GPT的母公司,微软投资Open AI,注入巨资。所以微软将bing和ChatGPT结合,改进搜索。

GPT3.0参数量1750亿,GPT4.0参数量100万亿,

发布时间

GPT3.5大概2022年11月30日发布;GPT2.0大概2020年6月发布

GPT4基础版本大概在2022年8、9月出现,到2023年3月才发布(是因为除了能力外,还需要安全方面的灰度,致力于对社会更积极影响的一面)。

GPT4和GPT3.5、ChatGPT有何提升?

1、支持多模态。GPT4要比ChatGPT厉害10倍+。GPT3、GPT3.5是基于文字的对话形式;GPT4.0是支持图片&文字输入,文字输出,它可以分析图片。

2、prompt/提示词数量限制的提升。GPT3支持4096个字符;GPT4支持32000个字符。

3、推理能力的增强

GPT4.0模型的缺点,在文科类做的比理科类问题做的更好

Microsoft投资下的OpenAI公司发布GPT4.0,学习方式类似单词接龙;

Google公司的Bert生成语言模型,学习方式类似完形填空

其他专业术语

Pattern Matching 模式匹配

听到一个关键词,就会调取预设好的回答。常见的电商、IM机器人。减少人力、重复、机械工作。但是不能创造新的答案。

Machine Learning 机器学习

不给机器人设定答案,给一堆例子,让机器找规律学习。

Artificial Neural Network 人工神经网络

需要大量的数据和计算能力。人脸识别、声音识别、自动驾驶等通过人工神经网络学习的成果应用技术。

Transformer学习框架

机器可以同时学习大量文字,机器学习的效率大大提高。Google公司的Bert(t指的是transformer),(t指的是transformer)。

最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容