AI——token的概念

一般再看ai文档的时候会看到,最多输入4ktoken,最多输出4ktoken

有的产品还会根据输出token划分了,1-4k,4-8k,8-16k不同的层级,不同的层级收费不同。

那么什么是token呢?

token其实是取决该公司用的的什么分词算法。

1:代表一个token;

A:代表一个token;

happy:可能代表一个token;

unhappy: 可能代表两个token,un+happy,当然也可能代表一个token.

幸福:也可能代表一个token;

总之:4k个token,并不代表4千个字符(汉子+英文+标点符号),实际可能比4千字多,假设平均一个 token 对应于2到3个字符,那么4k tokens 可能会生成大约8k到12k个字符。实际数字会根据内容和语言的不同有所变化。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容