信息论
导论;如何面对世界的不确定性?
用信息消除这种不确定性(方法论)
从分析事件的原理出发,讲信息的概念,从信息论的原理出发,分析今天的做事方法。
信息产生;面对大量信息,排除噪音,利用有效息。
信息传播:向外界传递信息时,有效平衡资源,增加带宽,放大影响力。
信息应用:运用信息论的逻辑,结合通信发展的趋势,把握未来。
信息产生小结:
1.要意识到信息比钱重要的特性,而信息作用的大小与信息量(比特)有关,与不确定性有关。要注意信息损失。
2.信息度量:信息墒是不确定性,信息源是充满可能性的系统,我们利用信息来消除不确定性。
3.信息编码:各种编码系统都是在编码的复杂性(易辨识)和编码的长度(有效性)之间做平衡,在数学上是等价的。
4.有效编码:信息编码的两个基本原则,易辨识以及有效性,好编码的特点是便于区分不同的信息。
5.最短编码:哈夫曼编码(方法论),编码长度跟编码出现的频率有关,风险投资方面,把钱分几部分逐步投入,每投资一家公司呈指数减少,而金额增倍。公司里面做项目往往也是这个道理。个人发展也是这个道理,无效的事情就不要去尝试了。
6.矢量化:通过几个维度来归类,平衡信息便利性以及完整性。比如通过高考来选拔人。
7.余度:汉字是最简洁的语言。英语余度就比汉字高。
8.等价性:找到周期性信号的等价信息,对等价信息进行压缩,工作中要善用等价信息。
9.信息增量:善于利用信息增量,符合保守主义的做事原则。
10.压缩比以及失真率:信息压缩分为有损以及无损压缩,香浓第一定律给出来信息墒的极限。世界上没有最好的方案,只能根据场景找到合适的方案,因此做事的目的性很重要。注意信息损失以及信息背后的数据量。
11.信息正交性:在信息很多时,利用信息的组合性来筛选信息。垂直正交的信息来进行交叉验证(信息需要来自不同的信息源,避免相互覆盖的信息,看问题刻意改变角度)不断叠加以及不断删除的方法来筛选信息。
12.互信息:互信息(在0-1之间)与等价信息(1/0,有因果关系)的区别,需要找强相关性的信息,注意互信息没有因果关系。比如盖茨退学创业就是互信息,而不是等价信息。
13.条件墒和信息增益:条件熵解释来大众知道的信息没有太多的意义,衡量信息价值的尺度是信息增益。
14.置信度:提高置信度通常的办法是增加统计的样本的数量。
15.交叉熵:信息偏差以及错误预测,通识教育与之后的职业发展,变色龙精神。
16.复盘:
如何识别误导信息?
1)识别耸人听闻的信息,放入更大的时空背景下考量,看信息的一致性,要考虑信息的失真率。
2)没有出处的信息,看专家的建议。
模块回答需要复习
信息传播小结:
1.信噪比:历史的很多细节是不准确的,信息被噪音所覆盖,但是历史轮廓还是可以看清楚的。如何区别人讲的那些是噪音,那些是信息准确性。
2.信道:信息传播需要信道,是有上限的,信道是可以量化度量的,被称之为带宽,带宽决定里传输效率,有线效率高于无线信息。信息传输是需要代价的。
3.香农第二定律:永远不要超越信道容量传输信息。再次强调边界做事的重要性。老师与学生之间信息交流,选择学校要选择适合自己的。
4.扁平化管理
5.纠错码:在信息传输中,增加信息的余度,纠正的能力就越强,上帝给每个人的一天都是24个小时,谁也不会多给,谁也不会少,只是有一些人利用的比较好罢了。
6.信息加密:一次性密码最安全。
7.极简通信史:1G-5G,1-2是模拟电路到数字电路,采用集成电路单位能量传输以及处理信息的能力提高了两杯数量级。2-3实现了语音通信到数据通信的飞跃。3-4移动通信网络与传统电信网络融合,讲云计算以及互联网技术用于移动通信。4-5移动互联网与有线互联网的彻底融合,形成万物互联。1是摩托罗拉,2是诺基亚,3,4是苹果,谷歌和高通,5是华为。
8.互联网发展简史:互联网经历里两代,IOT是三代。设备以及市场的规模,都有巨大的增长,这是未来机会所在。第一代是英特尔以及微软,再到今天的ARM和谷歌,未来谁掌握操作系统以及核心芯片,通信标准的公司。哪一家企业是用更少的能量传递更多的信息?这个规律是判断哪一家企业是契合IOT的发展。
9.在年轻的时候增加技能以及融入社会为基础。
有了足够的技能以及对社会的了解,以增加见识为核心,以价值为目标。
以后以洞察大趋势为核心,理解多元化为基础。
信息应用的小结:
1.交叉验证:从多个维度交叉验证,脸书数据的交叉验证。
2.大数据的四个特征,数据量大,多维度,完备性以及在一些场景下的实时性。
3.幸存者偏差:通识教育的重要性(数学常识)标普500指数。
4.奥卡姆剃刀法则:用较少的资源做事情。
5.控制论:长期思考以及偶然的发现,控制之夫。做事的连带影响。不断调整的控制论思维,轻预测,重反应,利用反馈对系统控制。
6.系统论:健康饮食是系统功能,人是整体系统,科学。
7.关键知识都是非常简洁的。
8.信息是世界固有的属性。
9.信息在现实中的应用即大数据的思维方式,利用大数据解决人工智能的不确定性;利用大数据做精准服务,足够多的数据能增加我们比配最佳结果。例如,公司需要采用大量的用户反馈信息决定产品的设计方案。