课程：
https://www.coursera.org/learn/neural-networks/lecture/Hxnaz/why-do-we-need-machine-learning-13-min
之前在youtube上看到一个采访片段问Hinton“他的重大发现之前，人们提出质疑时他怎么回答。”Hinton先生十分谦逊地苦笑“确实有很多次，每次我都会回答——再给我六个月，我就能证明我是对的。” 这位老绅士完美结合了学术严谨与亲切和善。
另一个印象阅读别人的博客里描述Hinton在论文中解释Drop off对过拟合的合理解释。居然用到了生物学角度的思维。实在是让人印象深刻。今天终于下定决心给自己开坑来领会为令人崇拜的思想，刚开卷没多久就觉得这真是2017年开年到现在最英明的决定。
大多数时候，我们学不好一门课或者一个知识主要原因是我们没有动机，没有兴趣。而Hinton先生的讲解无时无刻体现出他对机器学习的热情，对世界的思考，以及两者的必然连接。简单说，他会让你对学习这门课产生重要的兴趣。
之前看莫烦的课已经解除了MNIST数据包。但是一直以为读作‘Minst’，经过Hinton纠正才知道读作'M-Nist'. 顺便一提，听他的发音真是享受。
元问题：为什么要有机器学习——针对那些我们无法解释或者那些太过复杂，不适合人类的案例或者需求功能
比如写程序辨别一个垃圾桶里的东西。光线昏暗，五花八门，腐烂，破碎。作为一个程序员你很像想去做这么个项目——写个专门的程序来分辨。
实际应用在X光结果解读中已经超过人类。或者我们应该意识到，这个世界上是有很多事情不应该有人去做的。我们之前之所以去做，完全是因为还没有找到适合的工具，现在我们有了。
回到最初的原点，当年用CASP软件分析和量化DNA损伤程度时，我就深感。有些东西注定不是人应该做的。
机器学习的步骤——
与其让你的团队“封闭开发”一个软件，我们搜集了一套标答——题目和对应正确答案。然后把这些数据有机器学习算法让程序学习并产生了对应模型程序。
这个模型程序（也就是解决方案）和常见的手写程序是两个世界的物种，没有什么可读性，而且包含了无数的数字。如果一切顺利，该模型程序对新的数据也可以效果拔群！同时，随着处理过的数据越多，模型程序自身还会不断自我完善。
核心理念：这种大规模运算所产生的程序比雇佣程序员要便宜多得多得多。说白了，码农级程序员必将被代替，最苦力以及最吃力不讨好的部分应该，同时也只应该交给机器去做。
应用范畴：
1. 识别特征
2. 识别异常（anomalies）
3. 预测
Mnist对机器学习就像是果蝇对遗传学研究(这个例子真是太亲切了)
由于我实在不擅长做笔记，可能最多就记录一些个人感悟。
In order to understand anything complicated, we have to idealize it. To simplify it to allow us to get a handle on how it might work.
1. remove complicated details
2. apply mathematics and to make analogies
3. once understand basic priciples, add complexity back
