一般再看ai文档的时候会看到,最多输入4ktoken,最多输出4ktoken
有的产品还会根据输出token划分了,1-4k,4-8k,8-16k不同的层级,不同的层级收费不同。
那么什么是token呢?
token其实是取决该公司用的的什么分词算法。
1:代表一个token;
A:代表一个token;
happy:可能代表一个token;
unhappy: 可能代表两个token,un+happy,当然也可能代表一个token.
幸福:也可能代表一个token;
总之:4k个token,并不代表4千个字符(汉子+英文+标点符号),实际可能比4千字多,假设平均一个 token 对应于2到3个字符,那么4k tokens 可能会生成大约8k到12k个字符。实际数字会根据内容和语言的不同有所变化。