吴军老师的《信息论》学习笔记-1

       信息时代最大的特征就是不确定性,而信息论就是半个世纪以来人类对抗不确定性就重要和有效的方法论,回溯人类历史,数学和文字的诞生其实就是信息编码的过程,从此各种信息就可以通过文字这种编码系统记录下来,古代巫师、教士等掌握读写的人,就掌握了其他人没有的信息,也就掌握了世界。

        决定了一个人能够走多远的是他的思维方式和做事方法,我们只有了解、掌握最适合当下时代的方法论,才能在如此不确定性时代,达成自己的目标。

背景:

1、社会发展已经从过去连续性的变化发展到今天的非连续性、跳跃性的变化。

2、20世纪初概率论和统计学的成熟。

3、香农找到不确定性和信息的关系。

信息的产生:

一、对于一条信息,重要的是找到其中有多少信息量,要搞清楚“信息量”,就要对信息进行量化的度量。香农找到了度量信息量的基本单位“比特”。

二、“比特”的定义:如果一个黑盒子中有A和B两种可能性,它们出现的概率相同,那么要搞清楚到底是A还是B,所需要的信息量就是一比特。

三、充满不确定的黑盒子我们就叫“信息源”,它里面的不确定性叫做“信息熵”,而“信息”就是用来消除这些不确定性的,所以要搞清楚黑盒子里的具体状况,需要的“信息量”就等于黑盒子里的“信息熵”。(“熵”表示一个系统的无序状态)

四、

1、一个系统的状态数量越多,不确定性就越大;

2、在状态数量保持不变时,如果各个状态可能性相同,不确定性就很大;

3、如果个别状态容易发生,大部分状态都不可能发生,不确定性就小。

知道了信息可以度量,在现实生活中我们就应该明白:

一、那些没有提供正确率的建议,相当于什么都没说,因为,没有提供能够减少“信息熵”的“信息量”。

二、现代很多金融产品和交易都是利用了信息的可度量性。

三、如果一篇文章讲的事情大部分大家都知道,信息量就很少,这也是为什么那些心灵鸡汤文章并不值得我们浪费注意力的原因,就是里面没有信息量,讲的全是正确的废话。

四、在一个领域的贡献大小,不在于你提供了多少材料,而在于提供了多少信息量,克服不确定性的内容。

信息的编码:

一、人类的进步和文明的进展,需要表达的信息也越来越多,语言就此产生;

二、人类拥有食物和物件,便有了多和少的概念,数字因此产生;

三、数字的各种编码是等价的,一个编码系统解决不了的问题,换一个系统同样解决不了。

       从信息的产生和编码我们可以清晰的知道只有改变自身获取信息的能力,才是提高自己竞争力的根本所在。


©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,843评论 6 502
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,538评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,187评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,264评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,289评论 6 390
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,231评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,116评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,945评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,367评论 1 313
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,581评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,754评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,458评论 5 344
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,068评论 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,692评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,842评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,797评论 2 369
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,654评论 2 354

推荐阅读更多精彩内容