之前看到了网友的分享，讲解了 chatpdf 的原理，但是并没有看懂，不明白embeding 和completion 是什么意思，于是想着利用 chatgpt 学习一下，学习完之后一不做二不休，不如直接利用 chatgpt 写一个玩具版的 chatpdf。
1. 需求
首先我们有一个 pdf，文章内容 article_text，即背景信息文本为：
“这篇文章是关于运动的好处。锻炼已被证明可以改善身体健康、心理健康和整体福祉。经常锻炼的人不太可能患上慢性疾病，如肥胖症、糖尿病和心脏病。锻炼还可以改善情绪，降低压力水平。”
其次我们有一个问题文本 question_text，内容为：
“这篇文章的主题是什么？”
问题是背景信息太冗长，所以我们要找到文章中与问题最相关的那部分内容，然后将这部分内容与问题发送给chatgpt，让 chatgpt 根据这段内容，对问题进行回答。
在我们的例子中，文章中与问题“这篇文章的主题是什么？”最相关的内容，明显是“这篇文章是关于运动的好处。”这句话。
最后我们发送请求询问chatgpt：这篇文章是关于运动的好处。请根据以上信息回答问题，这篇文章的主题是什么？
2. 原理
下面针对和我一样听不懂的小白，讲一下 chatpdf 的实现原理：
- 将pdf中的文本读取后并分为N段，则得到一个长度为n的数组
subtexts - 求出问题文本对应的向量
embedding_question，至于这个向量是什么，你可以理解为文本的特征。（你不需要懂怎么求这个向量，只需要向 openai 发送请求即可，这个任务由 openai 完成，称为embedding） - 遍历前面N段文本即数组
subtexts，依次求出每段文本文本的向量，第 i 段文本对应的向量为embedding_sub -
（重点）找出N段文本中，与问题文本最相似的那段文本。即求出向量
embedding_question与每个embedding_sub向量夹角的余弦值，并找出值最大的那段文本subtext[i]。是不是很懵？为什么余弦值能代表相似度，不要着急，后面会解释 - 将文本
subtext[i]作为背景信息，让 chatgpt 根据以上信息，回答问题question_text。
举个栗子，如下图所示，x 轴代表最炫民族风，y 轴代表鸡你太美，向量r=(3, 4) ，表示用户 r 对两首歌曲的评分是 3 和 4，用户 g 评分是 4 和 3，用户 b 的评分是 5 和 0。不难理解，用户 r 和用户 g 的品位更加相似，因此可以将g 喜欢的其他歌曲推荐给 r ，但用户 r 和 b 品位相差较大，则不该将小黑子 b 喜欢的歌曲推荐给 r 。
那么问题来了，如何用数学语言来描述两个用户的品位相似程度呢？
从图中可以看到，相似的用户向量夹角总是很小，相差较大的用户向量夹角则很大。那么我们计算夹角的余弦值不就可以表示用户的相似程度了吗？
夹角度数为 90，余弦值为 0，表示二者完全不相关；随着夹角度数的减小，二者越来越相似，直至夹角度数为 0，余弦值为 1，表示二者完全相同；
那么系统就可以通过计算不同用户间的余弦值，发现用户向量 r 与 g 的夹角余弦值较大，因此会将 g 喜欢的其他歌曲推荐给 r 。
下面是求向量a与向量b夹角的余弦值公式①：
同样的道理，我们也可以根据这个原理，找到文章中与问题最相关的那部分内容。至此，我们已经了解了 chatpdf 的工作原理。
3. 实现
我们就可以根据上面的思路，让chatgpt完成编码，最终编码结果如下
第1部分，求出问题文本对应的向量，将文章切分成多个子段
import openai
# 设置 OpenAI API 密钥
openai.api_key = "sk-xxxx"
# 定义要查找相似部分的两个文本
question_text = "What is the main topic of this article?"
article_text = "This article is about the benefits of exercise. Exercise has been shown to improve physical health, mental health, and overall well-being. People who exercise regularly are less likely to develop chronic diseases, such as obesity, diabetes, and heart disease. Exercise can also improve mood and reduce stress levels."
# 将问题文本question_text传递给 Embedding API，获取它们的向量表示
response_question = openai.Embedding.create(model="text-embedding-ada-002", input=question_text)
embedding_question = np.array(response_question["data"][0]["embedding"])
# 将文本B划分成多个子段
subtexts = article_text.split(". ")
第2部分，遍历所有子段，找出与问题最相关的子段。这段代码的关键部分就是求问题向量与子段向量夹角的余弦值。将上一节的余弦公式①用代码表示，分子是两个向量点乘，分母是两个向量的模相乘，就可以求出两个向量夹角的余弦值，即相似度。
similarity = np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))
# 计算文本A与每个子段的相似度，找到相似度最高的子段
max_similarity = -1
max_subtext = ""
# 遍历分段后的子段
for subtext in subtexts:
# 请求openai,得到子段的特征向量
response_sub = openai.Embedding.create(model="text-embedding-ada-002", input=subtext)
embedding_sub = np.array(response_sub["data"][0]["embedding"])
# (重点)求问题文本与子段的相关度, 即求两个向量的余弦值
similarity = np.dot(embedding_question, embedding_sub) / (np.linalg.norm(embedding_question) * np.linalg.norm(embedding_sub))
# 找出与问题文本最相似的子段
if similarity > max_similarity:
max_similarity = similarity
max_subtext = subtext
# 输出相关度最高的子段
print("Most similar subtext:", max_subtext)
print("-------------------------------------")
输出结果如下，可以看到，成功找到了与问题最相关的子段：
Most similar subtext: This article is about the benefits of exercise
-------------------------------------
第3部分，将最相关子段和问题发给chatgpt，让其作出回答：
# 提出问题, 根据子段max_subtext, 回答问题question_text
prompt = f"{max_subtext}. According to the information provided above, what is the answer to the following question: {question_text} "
print("Question:", prompt)
# 调用 OpenAI GPT-3 API，根据问题生成回答
response3 = openai.Completion.create(
model="text-davinci-003",
prompt=prompt
)
# 输出回答
print("Answer:", response3.choices[0].text.strip())
输出结果如下，可以看到，由于我们将与问题最相关的文本内容，发送给了 chatgpt，所以 chatgpt 正确回答了问题：
Question: This article is about the benefits of exercise. According to the information provided above, what is the answer to the following question: What is the main topic of this article?
Answer: The main topic of this article is the benefits of exercise.
