我在想，如果各通道的卷积核共享参数，是不是也行的通，比如输入为RGB三通道，我只使用多个单通道的卷积核，这样参数量大大降低了，会有什么问题呢？
多通道的多个卷积核下图展示了在四个通道上的卷积操作，有两个卷积核，生成两个通道。其中需要注意的是，四个通道上每个通道对应一个卷积核，先将w2忽略，只看w1，那么在w1的某位置（i,j）处的值，...
发简信
IP属地：加州
-
-
PyTorch入门学习（二）：Autogard之自动求梯度
未经允许，不得转载，谢谢~~ autograd包是PyTorch中神经网络的核心部分,简单学习一下. autograd提供了所有张量操作的自动求微分功能. 它的灵活性体现在可...
-
还有有个疑问，多头机制中，Q,K,V在每个head中的线性变换矩阵是否是共享的呢，即WQ,WK,WV这三个权重矩阵是否是相等的。如果不相等，比如会随着训练各自更新，那么这样能带来什么好处呢
Attention Is All You Need简记(多头注意力、自注意力、层归一化、位置嵌入)
首先注意力模型可以宏观上理解为一个查询（query）到一系列（键key-值value）对的映射。将Source（源）中的构成元素想象成是由一系列的<Key,Value>数据对...
-
损失函数和优化-损失函数（1）写在前面 这一节的内容比较多，仔细理解以及整理起来也着实相较之前多费了些力气，但这些力气都花得值得。 像这节中提到的“过拟合”和“正则化”，其实是非常常见而且基础的问题，但像...
-
写得很用心呐，很不错。
【DL笔记6】从此明白了卷积神经网络（CNN）
初识卷积神经网络（CNN） 从今天起，正式开始讲解卷积神经网络。这是一种曾经让我无论如何也无法弄明白的东西，主要是名字就太“高级”了，网上的各种各样的文章来介绍“什么是卷积”...
-
【DL笔记6】从此明白了卷积神经网络（CNN）初识卷积神经网络（CNN） 从今天起，正式开始讲解卷积神经网络。这是一种曾经让我无论如何也无法弄明白的东西，主要是名字就太“高级”了，网上的各种各样的文章来介绍“什么是卷积”...
-
-
-
阿特老师，❴幸福教养学堂❵创始人，专业职能治疗师❨OT❩、神经语言程式学执行师❨NLP❩，专注于科学育儿、亲子绘本、亲子互动，更多育儿问题欢迎可添加微信：otter_bus深入咨询。
-
男，某军校新闻系毕业，曾任空某部指导员、机关干事，转业后曾任职某知名自媒体主笔，有丰富的部队生活经历和写作经验。
-
Happy unbirthday.
-
让光辉散入无语的河中流入苍冥<br><br>版权合作事宜请联系行距文化：pub@hangju-pub.com<br>
-
我是姑姑，坐標香港。版权合作事宜请联系行距文化：pub@hangju-pub.com
-
-
-
500强跨国公司总经理——雀巢、荷兰皇家帝斯曼（前瑞士罗氏维生素）人类营养 前美国副总裁/大中华区总裁，丹麦科汉森 前大中华区总经理<br>世界级营养专家，中国益生菌引路人<br>管理学博士（EMBA, IMD，瑞士洛桑IMD校友董事）<br>作家——畅销书《自律》的作者、简书大V作家<br>电视节目特邀嘉宾——一站到底冠军，非你莫属Boss，职来职往首席面试官，时尚妈咪特邀世界级营养专家，喜马拉雅电台百万粉丝主播
