在构建神经网络时，我们通常会涉及到 层（layer）和块（block） 的概念。理解这些概念对于构建复杂的神经网络模型至关重要。让我们从最基础的层开始，逐步引入块的概念，并通...
IP属地：北京
-
人工智能-深度学习计算1-层和块
-
深度学习-多层感知机9-环境和分布偏移
在机器学习中，我们通常通过训练模型来预测未来的结果。然而，很多时候我们忽略了一个关键问题——训练数据和实际应用中的数据是否相同？ 如果数据的分布发生了变化，模型的表现可能会大...
-
深度学习-多层感知机8-数值稳定性与模型初始化在深度学习中，数值稳定性和模型初始化是影响训练效果的重要因素。理解这些概念不仅有助于优化模型性能，还可以避免训练过程中的数值问题。本篇博客将从梯度消失与爆炸、打破对称性以及参...
-
深度学习-多层感知机7-前向传播、反向传播与计算图在深度学习中，训练神经网络离不开两个重要步骤：前向传播（Forward Propagation）和反向传播（Backward Propagation）。这两个步骤通过构建和遍...
-
深度学习-多层感知机6-暂退法（Dropout）：深度神经网络的正则化利器
在深度学习中，过拟合是一个常见的挑战，特别是当我们使用复杂模型并且训练数据相对较少时。为了避免模型在训练集上记忆过多细节、从而在新数据上表现差，研究人员提出了多种方法来正则化...
-
深度学习-多层感知机5-权重衰减
在训练机器学习模型时，正则化是一种常用的技术，用于缓解过拟合现象。当无法通过增加训练数据来改善模型表现时，正则化方法可以提供有效的替代方案。权重衰减（weight decay...
-
深度学习-多层感知机4-模型选择、欠拟合和过拟合
机器学习的核心目标是发现数据中的模式，但关键在于这些模式是否具有普遍性，能否“举一反三”。比如，我们希望从患者的基因数据中找到与痴呆状态相关的规律，标签可能是“痴呆”“轻度认...
-
深度学习-多层感知机3-多层感知机的简洁实现
在深度学习的世界中，多层感知机（Multilayer Perceptron, MLP）是一种最经典的神经网络结构。它通过叠加隐藏层和激活函数，为模型引入非线性特性，从而能够处...
-
深度学习-多层感知机2-多层感知机的从零开始实现
在上一篇文章中，我们了解了多层感知机（MLP）的基本概念和结构。本文将带你通过一个从零开始的实现过程，帮助你更好地理解多层感知机的工作原理。在实现过程中，我们将继续使用之前的...
-
深度学习-多层感知机1-多层感知机在前面的文章中，我们介绍了softmax回归的基本原理和实现方法，这是一种线性模型。然而，线性模型在应对复杂非线性问题时，往往难以取得理想效果。为了克服这种限制，我们引入了多...
-
深度学习-线性神经网络6-Softmax回归的简洁实现
1. Softmax回归简介 在机器学习中，分类问题常常要求我们将输入数据分配到不同的类别。例如，假设我们有一组图像数据，每个图像可能是一个数字（0到9中的一个）。我们希望创...
-
深度学习-线性神经网络5-Softmax回归的从零开始实现
1. softmax回归的基本概念与实现 在深入代码实现之前，我们先了解softmax回归的基本概念。softmax回归是一种用于分类问题的模型，通过把输入映射到每个类别的概...
-
深度学习-线性神经网络5-图像分类数据集一、读取数据集 1. 数据加载 Fashion-MNIST数据集可以通过内置函数直接下载。我们将使用torchvision库将图像转换为32位浮点数，并将其值标准化至[0,1...
-
深度学习-线性神经网络4-Softmax回归
在前面几篇文章中，我们探索了 线性回归 的基础知识、从零开始的实现方法以及通过深度学习框架简洁实现的途径。线性回归主要用于解决回归问题，即 “预测多少” 的问题，例如预测房屋...
-
深度学习-线性神经网络3-线性回归的简洁实现
1. 生成数据集 在构建模型之前，我们需要生成一个合适的数据集。我们可以用已知参数生成样本数据，从而在训练结束时检查模型是否能够有效逼近这些参数。 2. 读取数据集 这样我们...
-
深度学习-线性神经网络2-线性回归的从零开始实现在了解线性回归的关键思想之后，我们可以开始通过代码来动手实现线性回归了。本节将从零开始实现整个方法，包括数据流水线、模型、损失函数和小批量随机梯度下降优化器。尽管现代深度学习...
-
深度学习-预备知识6-线性回归一、什么是线性回归 在日常生活和科学研究中，回归问题随处可见。简单来说，回归问题是根据已有的观察数据，来预测连续数值输出的一种任务。比如，我们希望通过了解房屋的特征（如面积、...
-
深度学习-预备知识6-概率机器学习的核心：预测 简单来说，机器学习的核心任务就是预测。通过建立模型，我们可以在不确定的情况下尽量精准地推测出未来的情况。例如： 医疗领域：根据病人的病史预测他们在下一年...
-
深度学习-预备知识5-自动微分
1. 自动微分：让计算变得简单 在深度学习中，求导 是几乎所有优化算法的核心步骤。虽然在简单模型中，求导往往只需要一些基本的微积分技巧，但随着模型复杂度的增加，手动求导变得异...