发简信
IP属地：北京
-
Base-llm 1.5.1 BERT结构及应用一、BERT的设计原理与预训练策略 Bert（Bidirectional Encoder Representations from Transf...
-
base-llm 1.4.3 深入理解transformerTransformer 来自2017年Google研究团队的名为《Attention is All You Need》的论文。其思想抛弃了传统R...
-
Base-llm 1.4.2 注意力机制
标准seq2seq 存在信息瓶颈问题，同一个固定的上下文向量C，作为解码输入，在生成阶段无法找到实际关注点。 为了解决这个问题，注意力机制被提出...
-
Base-llm 1.4.1 seq2seq架构
前边学习了如何使用RNN和LSTM处理序列数据。这些模型在三类任务重表现出色： 多对一：将序列信息压缩成一个特征向量，用于文本分类情感分析等任务...
-
Base-LLM 1.3.2 LSTM 与GRU一、LSTM与门控机制 常规RNN的问题是内部状态的更新方式是与旧信息无差别混合，并通过权重矩阵W进行变换。这种无论信息是否重要，都会在反向传播...
-
Base-LLM 1.3.1 循环神经网络
一、如何处理序列信息 从分词到embedding是从文件到稠密词向量的过程，解决了模型输入的问题，即文本数值化。第二个问题就是，如何从一个词向量...
-
Base-llm 1.2.4 基于Gensim的词向量实战
一、Gensim简介 Gensim是一个功能强大且高效的Python库，专门处理原始、非结构话的纯文本文档。内置了多种主流词向量和主题模型算法，...
-
Base-llm 1.2.3 从主题模型到Word2Vec一、寻找理想的词向量 哑编码、序号化等方式都无法解决语义关系，例如“国王”与“女王”的语义比“国王”与“苹果”更近。 分布式表示的方式就是为了解...
-
datawhale Base-llm 笔记
第一部分 理论篇 第一章 第一章 NLP简介[https://www.jianshu.com/p/84fb67d283d0] 第二章 文本表示 ...