神经网络随笔

神经元组成神经网络

神经网络为多层,中间为隐藏层。

隐藏层可以实现推测(演绎)的过程,可以实现升维和降维(取决于该层神经元个数)

层数越多,深度越深,就是深度学习

隐藏层升维降维都需要预处理

机器学习的预处理(特征抽取和特征选择)和算法是分开的;深度学习中预处理和算法是一个整体

Y = X1W1 + X2W2 + X3W3 + Z (线性)

如果X1-n为平方后者1.5次方,则为非线性

激活函数(Activation Function)是非线性函数

损失函数(loss),在回归里面叫MSE,在分类里面叫交叉熵Cross-entropy

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容