AI大模型：从GPT4到BERT，发展趋势与比较

1.背景介绍

自从深度学习技术在2012年的ImageNet大赛中取得了突破性的成果以来，人工智能领域的发展就不断加速。随着计算能力和数据规模的不断提高，人工智能技术的应用也不断拓展。在自然语言处理（NLP）领域，GPT（Generative Pre-trained Transformer）和BERT（Bidirectional Encoder Representations from Transformers）等大型预训练模型取得了显著的成果，为自然语言处理提供了强大的能力。在本文中，我们将从以下几个方面进行探讨：

  1. 背景介绍
  2. 核心概念与联系
  3. 核心算法原理和具体操作步骤以及数学模型公式详细讲解
  4. 具体代码实例和详细解释说明
  5. 未来发展趋势与挑战
  6. 附录常见问题与解答

1.1 深度学习的迅猛发展

深度学习是一种通过多层神经网络模型来进行复杂模式抽取和建模的机器学习方法。它的核心思想是通过大规模的数据和计算能力来训练神经网络模型，使其能够自动学习复杂的特征和模式。深度学习的发展可以分为以下几个阶段：

  • 第一代深度学习：基于卷积神经网络（CNN）和回归森林（Random Forest）的图像识别和分类技术。
  • 第二代深度学习：基于循环神经网络（RNN）和长短期记忆网络（LSTM）的自然语言处理和语音识别技术。
  • 第三代深度学习：基于Transformer架构的自然语言理解和生成技术。

随着深度学习技术的不断发展，数据规模和计算能力的提升，人工智能技术的应用也不断拓展。在自然语言处理领域，GPT和BERT等大型预训练模型取得了显著的成果，为自然语言处理提供了强大的能力。

1.2 GPT和BERT的诞生

GPT（Generative Pre-trained Transformer）和BERT（Bidirectional Encoder Representations from Transformers）是两个代表性的大型预训练模型，它们在自然语言处理领域取得了显著的成果。GPT的诞生可以追溯到OpenAI在2018年发表的论文《Generative Pre-trained Transformer for Language Processing》，该论文提出了一种基于Transformer架构的生成式预训练模型，通过大规模的自然语言处理任务进行预训练，实现了强大的语言生成能力。BERT的诞生可以追溯到Google在2018年发表的论文《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》，该论文提出了一种基于Transformer架构的双向预训练模型，通过Masked Language Modeling（MLM）和Next Sentence Prediction（NSP）两个任务进行预训练，实现了强大的语言理解能力。

GPT和BERT的诞生为自然语言处理领域带来了革命性的变革，它们的成功也为Transformer架构的发展提供了坚实的基础。在本文中，我们将从以下几个方面进行探讨：

  • GPT和BERT的核心概念与联系
  • GPT和BERT的核心算法原理和具体操作步骤以及数学模型公式详细讲解
  • GPT和BERT的具体代码实例和详细解释说明
  • GPT和BERT的未来发展趋势与挑战
  • GPT和BERT的附录常见问题与解答

1.3 Transformer架构的发展

Transformer架构是GPT和BERT等大型预训练模型的基础。它由Vaswani等人在2017年发表的论文《Attention is All You Need》中提出，该论文提出了一种基于自注意力机制的序列到序列模型，该模型可以无需循环神经网络和长短期记忆网络的帮助，直接进行序列到序列的编码和解码。Transformer架构的核心组件是自注意力机制，它可以通过计算每个词汇在句子中的相对重要性来捕捉序列中的长距离依赖关系。

Transformer架构的发展为自然语言处理领域带来了革命性的变革，它的核心思想是通过自注意力机制来捕捉序列中的长距离依赖关系，从而实现强大的语言理解和生成能力。在本文中，我们将从以下几个方面进行探讨：

  • Transformer架构的核心概念与联系
  • Transformer架构的核心算法原理和具体操作步骤以及数学模型公式详细讲解
  • Transformer架构的具体代码实例和详细解释说明
  • Transformer架构的未来发展趋势与挑战
  • Transformer架构的附录常见问题与解答

2. 核心概念与联系

在本节中，我们将从以下几个方面进行探讨：

  • GPT和BERT的核心概念
  • Transformer架构的核心概念
  • GPT、BERT和Transformer架构之间的联系

2.1 GPT和BERT的核心概念

GPT（Generative Pre-trained Transformer）和BERT（Bidirectional Encoder Representations from Transformers）是两个代表性的大型预训练模型，它们在自然语言处理领域取得了显著的成果。它们的核心概念如下：

  • 预训练：GPT和BERT通过大规模的自然语言处理任务进行预训练，例如文本填充、下一词预测等。通过预训练，模型可以学习到语言的基本结构和特征，从而实现强大的语言理解和生成能力。
  • Transformer架构：GPT和BERT都基于Transformer架构，该架构通过自注意力机制捕捉序列中的长距离依赖关系，实现强大的语言理解和生成能力。
  • 生成式和生成模型：GPT是一种生成式预训练模型，它通过大规模的自然语言处理任务进行预训练，实现了强大的语言生成能力。BERT是一种生成模型，它通过Masked Language Modeling（MLM）和Next Sentence Prediction（NSP）两个任务进行预训练，实现了强大的语言理解能力。

2.2 Transformer架构的核心概念

Transformer架构是GPT和BERT等大型预训练模型的基础。它的核心概念如下：

  • 自注意力机制：Transformer架构的核心组件是自注意力机制，它可以通过计算每个词汇在句子中的相对重要性来捕捉序列中的长距离依赖关系。自注意力机制可以通过计算每个词汇与其他词汇之间的相关性来实现，从而实现强大的语言理解和生成能力。
  • 位置编码：Transformer架构通过位置编码来捕捉序列中的顺序信息。位置编码是一种特殊的一维卷积层，它可以将序列中的位置信息编码为向量形式，从而实现强大的语言理解和生成能力。
  • 多头注意力：Transformer架构通过多头注意力机制来捕捉序列中的多个依赖关系。多头注意力机制可以通过计算每个词汇与其他词汇之间的相关性来实现，从而实现强大的语言理解和生成能力。

2.3 GPT、BERT和Transformer架构之间的联系

GPT、BERT和Transformer架构之间的联系如下：

  • 基础架构：GPT和BERT都基于Transformer架构，该架构通过自注意力机制捕捉序列中的长距离依赖关系，实现强大的语言理解和生成能力。
  • 预训练任务：GPT通过大规模的自然语言处理任务进行预训练，实现了强大的语言生成能力。BERT通过Masked Language Modeling（MLM）和Next Sentence Prediction（NSP）两个任务进行预训练，实现了强大的语言理解能力。
  • 应用场景：GPT和BERT在自然语言生成和理解方面取得了显著的成果，它们在文本生成、文本摘要、机器翻译、情感分析等任务中取得了显著的成果。

3. 核心算法原理和具体操作步骤以及数学模型公式详细讲解

在本节中，我们将从以下几个方面进行探讨：

  • GPT和BERT的核心算法原理和具体操作步骤
  • Transformer架构的核心算法原理和具体操作步骤
  • GPT、BERT和Transformer架构之间的数学模型公式详细讲解

3.1 GPT和BERT的核心算法原理和具体操作步骤

GPT和BERT的核心算法原理和具体操作步骤如下：

3.1.1 GPT的核心算法原理和具体操作步骤

GPT（Generative Pre-trained Transformer）的核心算法原理是基于Transformer架构的生成式预训练模型。具体操作步骤如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 模型构建：构建一个基于Transformer架构的生成式预训练模型，包括词汇表、位置编码、多头注意力、层数等参数。
  3. 预训练：通过大规模的自然语言处理任务进行预训练，例如文本填充、下一词预测等。
  4. 微调：根据具体任务进行微调，例如文本生成、文本摘要、机器翻译等。
  5. 推理：将微调后的模型应用于具体任务，生成预测结果。

3.1.2 BERT的核心算法原理和具体操作步骤

BERT（Bidirectional Encoder Representations from Transformers）的核心算法原理是基于Transformer架构的双向预训练模型。具体操作步骤如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 模型构建：构建一个基于Transformer架构的双向预训练模型，包括词汇表、位置编码、多头注意力、层数等参数。
  3. 预训练：通过Masked Language Modeling（MLM）和Next Sentence Prediction（NSP）两个任务进行预训练。
  4. 微调：根据具体任务进行微调，例如情感分析、命名实体识别、问答系统等。
  5. 推理：将微调后的模型应用于具体任务，生成预测结果。

3.2 Transformer架构的核心算法原理和具体操作步骤

Transformer架构的核心算法原理和具体操作步骤如下：

3.2.1 Transformer的核心算法原理

Transformer架构的核心算法原理是基于自注意力机制的序列到序列模型。具体操作步骤如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 位置编码：将序列中的位置信息编码为向量形式，从而捕捉序列中的顺序信息。
  3. 多头注意力：通过计算每个词汇与其他词汇之间的相关性来实现多个依赖关系的捕捉。
  4. 层数：构建多层的Transformer网络，通过层数的堆叠实现模型的深度。
  5. 训练：通过大规模的自然语言处理任务进行训练，例如文本填充、下一词预测等。
  6. 推理：将训练后的模型应用于具体任务，生成预测结果。

3.2.2 Transformer的具体操作步骤

Transformer的具体操作步骤如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 位置编码：将序列中的位置信息编码为向量形式，从而捕捉序列中的顺序信息。
  3. 多头注意力：通过计算每个词汇与其他词汇之间的相关性来实现多个依赖关系的捕捉。
  4. 层数：构建多层的Transformer网络，通过层数的堆叠实现模型的深度。
  5. 训练：通过大规模的自然语言处理任务进行训练，例如文本填充、下一词预测等。
  6. 推理：将训练后的模型应用于具体任务，生成预测结果。

3.3 GPT、BERT和Transformer架构之间的数学模型公式详细讲解

GPT、BERT和Transformer架构之间的数学模型公式详细讲解如下：

3.3.1 GPT的数学模型公式详细讲解

GPT的数学模型公式如下：

  • 位置编码：e_{pos} = \sin(\frac{pos}{10000^{2-\frac{1}{p}}}) + \epsilon
  • 自注意力计算：Attention(Q, K, V) = softmax(\frac{QK^T}{\sqrt{d_k}})V
  • 多头注意力计算：MultiHead(Q, K, V) = Concat(head_1, ..., head_h)W^O
  • 位置编码加入多头注意力：MultiHead(Q, K, V) = Concat(head_1, ..., head_h)W^O
  • 预训练损失函数：Loss = -\sum_{i=1}^{T}logP(w_i|w_{<i})

3.3.2 BERT的数学模型公式详细讲解

BERT的数学模型公式如下：

  • Masked Language Modeling（MLM）：Loss_{MLM} = -\sum_{i=1}^{T}logP(w_i|w_{<i}, MASK)
  • Next Sentence Prediction（NSP）：Loss_{NSP} = -\sum_{i=1}^{T}logP(S_2|S_1, w_1, ..., w_T)
  • 双向编码器的自注意力计算：Attention(Q, K, V) = softmax(\frac{QK^T}{\sqrt{d_k}})V

3.3.3 Transformer架构的数学模型公式详细讲解

Transformer架构的数学模型公式如下：

  • 位置编码：e_{pos} = \sin(\frac{pos}{10000^{2-\frac{1}{p}}}) + \epsilon
  • 自注意力计算：Attention(Q, K, V) = softmax(\frac{QK^T}{\sqrt{d_k}})V
  • 多头注意力计算：MultiHead(Q, K, V) = Concat(head_1, ..., head_h)W^O
  • 位置编码加入多头注意力：MultiHead(Q, K, V) = Concat(head_1, ..., head_h)W^O
  • 预训练损失函数：Loss = -\sum_{i=1}^{T}logP(w_i|w_{<i})

4. GPT和BERT的具体代码实例和详细解释说明

在本节中，我们将从以下几个方面进行探讨：

  • GPT的具体代码实例和详细解释说明
  • BERT的具体代码实例和详细解释说明
  • Transformer架构的具体代码实例和详细解释说明

4.1 GPT的具体代码实例和详细解释说明

GPT的具体代码实例和详细解释说明如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 模型构建：构建一个基于Transformer架构的生成式预训练模型，包括词汇表、位置编码、多头注意力、层数等参数。
  3. 预训练：通过大规模的自然语言处理任务进行预训练，例如文本填充、下一词预测等。
  4. 微调：根据具体任务进行微调，例如文本生成、文本摘要、机器翻译等。
  5. 推理：将微调后的模型应用于具体任务，生成预测结果。

具体代码实例如下：

import torch
import torch.nn as nn
import torch.optim as optim
from transformers import GPT2Tokenizer, GPT2Model

# 数据预处理
tokenizer = GPT2Tokenizer.from_pretrained('gpt2')
input_text = "Hello, my dog is cute."
inputs = tokenizer.encode_plus(input_text, add_special_tokens=True, return_tensors='pt')
inputs = {key: val.to(device) for key, val in inputs.items()}

# 模型构建
model = GPT2Model.from_pretrained('gpt2')
model.to(device)

# 预训练
# 通过大规模的自然语言处理任务进行预训练，例如文本填充、下一词预测等。

# 微调
# 根据具体任务进行微调，例如文本生成、文本摘要、机器翻译等。

# 推理
with torch.no_grad():
    outputs = model(**inputs)
    predictions = outputs[0]
    predicted_ids = torch.argmax(predictions, dim=-1)
    predicted_tokens = [tokenizer.decode([predicted_id]) for predicted_id in predicted_ids]

print(predicted_tokens)

4.2 BERT的具体代码实例和详细解释说明

BERT的具体代码实例和详细解释说明如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 模型构建：构建一个基于Transformer架构的双向预训练模型，包括词汇表、位置编码、多头注意力、层数等参数。
  3. 预训练：通过Masked Language Modeling（MLM）和Next Sentence Prediction（NSP）两个任务进行预训练。
  4. 微调：根据具体任务进行微调，例如情感分析、命名实体识别、问答系统等。
  5. 推理：将微调后的模型应用于具体任务，生成预测结果。

具体代码实例如下：

import torch
import torch.nn as nn
import torch.optim as optim
from transformers import BertTokenizer, BertModel

# 数据预处理
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
input_text = "Hello, my dog is cute."
inputs = tokenizer(input_text, return_tensors='pt')
inputs = {key: val.to(device) for key, val in inputs.items()}

# 模型构建
model = BertModel.from_pretrained('bert-base-uncased')
model.to(device)

# 预训练
# 通过Masked Language Modeling（MLM）和Next Sentence Prediction（NSP）两个任务进行预训练。

# 微调
# 根据具体任务进行微调，例如情感分析、命名实体识别、问答系统等。

# 推理
with torch.no_grad():
    outputs = model(**inputs)
    pooled_output = outputs[1]
    predicted_ids = torch.argmax(pooled_output, dim=-1)
    predicted_tokens = [tokenizer.decode([predicted_id]) for predicted_id in predicted_ids]

print(predicted_tokens)

4.3 Transformer架构的具体代码实例和详细解释说明

Transformer架构的具体代码实例和详细解释说明如下：

  1. 数据预处理：将文本数据进行分词和token化，将词汇映射到对应的ID，并将ID序列转换为输入序列和目标序列。
  2. 位置编码：将序列中的位置信息编码为向量形式，从而捕捉序列中的顺序信息。
  3. 多头注意力：通过计算每个词汇与其他词汇之间的相关性来实现多个依赖关系的捕捉。
  4. 层数：构建多层的Transformer网络，通过层数的堆叠实现模型的深度。
  5. 训练：通过大规模的自然语言处理任务进行训练，例如文本填充、下一词预测等。
  6. 推理：将训练后的模型应用于具体任务，生成预测结果。

具体代码实例如下：

import torch
import torch.nn as nn
import torch.optim as optim
from transformers import BertTokenizer, BertModel

# 数据预处理
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
input_text = "Hello, my dog is cute."
inputs = tokenizer(input_text, return_tensors='pt')
inputs = {key: val.to(device) for key, val in inputs.items()}

# 位置编码
def pos_encoding(seq_len, embedding_dim):
    pos_encoding = torch.zeros(seq_len, embedding_dim)
    for i in range(1, seq_len):
        pos_encoding[:, i] = torch.sin(i / 10000**(2.0 / embedding_dim))
        pos_encoding[:, i] += torch.cos(i / 10000**(2.0 / (embedding_dim - 1)))
    return pos_encoding

# 模型构建
model = BertModel.from_pretrained('bert-base-uncased')
model.to(device)

# 训练
# 通过大规模的自然语言处理任务进行训练，例如文本填充、下一词预测等。

# 推理
with torch.no_grad():
    outputs = model(**inputs)
    pooled_output = outputs[1]
    predicted_ids = torch.argmax(pooled_output, dim=-1)
    predicted_tokens = [tokenizer.decode([predicted_id]) for predicted_id in predicted_ids]

print(predicted_tokens)

5. GPT、BERT和Transformer架构的未来发展与挑战

在本节中，我们将从以下几个方面进行探讨：

  • GPT和BERT的未来发展与挑战
  • Transformer架构的未来发展与挑战
  • 未来的研究方向和潜在应用

5.1 GPT和BERT的未来发展与挑战

GPT和BERT的未来发展与挑战如下：

  1. 模型规模和效率：GPT和BERT的模型规模较大，需要大量的计算资源和时间进行训练和推理。未来的研究需要关注如何进一步压缩模型规模，提高训练和推理效率。
  2. 模型解释性和可解释性：GPT和BERT作为黑盒模型，其决策过程难以解释。未来的研究需要关注如何提高模型的解释性和可解释性，以便更好地理解和控制模型的决策过程。
  3. 模型鲁棒性和安全性：GPT和BERT可能存在滥用风险，如生成恶意内容和虚假信息。未来的研究需要关注如何提高模型的鲁棒性和安全性，防止滥用。
  4. 跨领域和跨模态的应用：GPT和BERT在自然语言处理领域取得了显著的成果，但未来的研究需要关注如何将其应用于其他领域，如计算机视觉、音频处理等，以及跨模态的任务。

5.2 Transformer架构的未来发展与挑战

Transformer架构的未来发展与挑战如下：

  1. 模型规模和效率：Transformer架构的模型规模较大，需要大量的计算资源和时间进行训练和推理。未来的研究需要关注如何进一步压缩模型规模，提高训练和推理效率。
  2. 模型解释性和可解释性：Transformer架构作为黑盒模型，其决策过程难以解释。未来的研究需要关注如何提高模型的解释性和可解释性，以便更好地理解和控制模型的决策过程。
  3. 模型鲁棒性和安全性：Transformer架构可能存在滥用风险，如生成恶意内容和虚假信息。未来的研究需要关注如何提高模型的鲁棒性和安全性，防止滥用。
  4. 跨领域和跨模态的应用：Transformer架构在自然语言处理领域取得了显著的成果，但未来的研究需要关注如何将其应用于其他领域，如计算机视觉、音频处理等，以及跨模态的任务。

5.3 未来的研究方向和潜在应用

未来的研究方向和潜在应用如下：

  1. 跨语言处理：GPT和BERT在单语言处理上取得了显著的成果，未来的研究需要关注如何将其拓展到跨语言处理上，实现不同语言之间的理解和沟通。
  2. 知识图谱和推理：GPT和BERT可以与知识图谱结合，实现基于知识的问答和推理任务。未来的研究需要关注如何将GPT和BERT与知识图谱更紧密结合，提高其知识推理能力。
  3. 自然语言生成：GPT和BERT在自然语言生成任务上取得了显著的成果，未来的研究需要关注如何将其应用于更复杂的自然语言生成任务，如文章摘要、新闻报道等。
  4. 人工智能和人机交互：GPT和BERT可以被应用于人工智能和人机交互
©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 213,014评论 6赞 492
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 90,796评论 3赞 386
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 158,484评论 0赞 348
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 56,830评论 1赞 285
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 65,946评论 6赞 386
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 50,114评论 1赞 292
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 39,182评论 3赞 412
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 37,927评论 0赞 268
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 44,369评论 1赞 303
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,678评论 2赞 327
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,832评论 1赞 341
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 34,533评论 4赞 335
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 40,166评论 3赞 317
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,885评论 0赞 21
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,128评论 1赞 267
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 46,659评论 2赞 362
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 43,738评论 2赞 351

推荐阅读更多精彩内容