2017-5-25-自动编码机

这几天都在忙着码一个自动编码机,
其实代码也比较简单,但是调研的比较多.
因为发现在tensorflow当中其实并不是很好传递参数.
比如说我在训练一个自动编码机的过程中,想实现weights tying,
比如一个四层的网络,我想令W4 = W1.T(转置), W3=W2.T
这种直接的改变很难通过固有的库去实现.

hands on machine learning with scikit-learn and tensorflow这本书中是这么写的:
*unfortunately, implementing tied weights in tensorflow using fully_connected function() is a bit cunbersome: it's actually easier to just define the layers manually. *

意思是我们只能手写一些例如激活函数之类的东西,从底层实现了.

实际上我训练完之后,返回的也只能是一个字典:
weights:{'weights1' : xxx, 'weights2': xxx....}
biases:{'biases1': xxx, 'biases2': xxx....}

具体如果要实现把自动编码机嵌入到代码的全连接层中的话,可能还是得如书中所说: define the layers manually...

具体详情请参考machine learning 的文集.

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 今天早上送女儿去兴趣班,看了我们班家委会群,看到皮老师把陈校长发给班主任群分享我的日记,并且让其他班主任发到各班...
    金慧恩妈妈阅读 172评论 0 2
  • 我的技能 烹饪=料理知识+料理的热爱+火候的掌握+不断尝试 健身=健身知识+每天刻意练习+一定的营养知识 英语=基...
    林子酱阅读 258评论 2 0
  • 适合的爱情,就是爱一个人,而他(她)也怀有同样的珍惜。 适合的爱情,就是在对的时间遇见对的人。 适合的爱情,就是世...
    遇见琉璃阅读 622评论 2 1