1.Transformer为何使用多头注意力机制？（为什么不使用一个头） 答案解析参考这里：为什么Transformer 需要进行 Multi-head Attention？...
发简信
IP属地：澳门
-
transformer、bert、ViT常见面试题总结 -
Mutihead-Self-Attention in Computer Vision1.关于attention操作之后为什么要进行scale操作：比较大的输入会使得后续softmax的梯度变得很小，甚至导致梯度消失softmax求导:https://zhua...
-
-
-
训练数据集与TFRecord互相转换的两种方式
TensorFlow使用TFRecord格式来统一存储数据，该格式可以将图像数据、标签信息、图像路径以及宽高等不同类型的信息放在一起进行统一存储，从而方便有效的管理不同的属性...
-
-
-
python PIL 图像处理
Image读出来的是PIL的类型，而skimage.io读出来的数据是numpy格式的 输出可以看出Img读图片的大小是图片的(width, height)；而skimage...