计算机组成原理学习3_14(第一章 信息)

1.1信息是什么(what is information)

从工程学的角度看,信息就是我们在接受到它之后,能够对事物的状态,异常,或者更多的差异性内容,有所了解。

更通俗一点的描述就是:信息就是用来描述“减少差异性的”某种量。

通过数据解决的差异性越大,数据所包含的信息也就越多。

例子:一副54张的扑克牌,描述其中一张扑克牌的信息(以下是四个独立选项)

1.扑克牌不是大小王。

2.扑克牌是红桃牌。

3.扑克牌是4.

4.扑克牌是红桃4.

可以很明显地理解,选项4包含的信息更多,更具体,而选项1包含的信息最少。

1.2信息的量化(quantify information)

虽然使用通用数学的10进制数来作为信息的载体我们会比较熟悉,但我现在要获取的是计算机系的学位,所以我还是以计算机通用的二进制位来作为信息的载体。

或者用更通用的术语;信息的载体:数据(data)

为了表示存在着的两种不同的状态,我们需要两种差异性的数据表示。(0,1)

而带权位的数据,使得我们使用数据所需要的位数为”log(信息量)“。

举例子,表示某种状态需要的信息为8,那么所需要的位数也就是3

(以000,001,010,011,100,101,110,111的解释方式的话)。

我们需要三位的二进制(bit)数据来表示这个信息。

而假如表示某种状态,或者差异的离散分布,需要的信息为36,log(36)=5.17;

但是我们无法表示5.17的位数;

所以要么用6位的数据表示这个信息,或者选用其他的解释方式。

1.3熵(entropy)

说是用来评价编码方式好坏的某种标准(但是没怎么听懂)

是某个信息标准临界线吗?

假如需要表示信息的具体位数需要为8位,那么8位的编码就是熵?低于8位的编码方式会造成信息的不足,高于8位的编码会造成多余的,不需要的位。可能会造成编码位数的浪费?(编码位数也是需要消耗资源的)

1.4编码(encodings)

编码就是将具体的东西(比如字符)映射到具体信息的载体上(0,1),然后通过相应的解释方式唯一正确地解释信息的过程。

假设我们需要表示A,B,C,D四个字符,并且用这四个字符组成字符串,那么我们对他们进行编码解释方式的设计。

首先是定长的编码方式;A:00,B:01,C:10,D:11。

那么以这种方式表示的一个序列,比如说CBDA,在数据(data)上就应该是:10011100,

或者可以选择精心设计过的编码方式比如:A:0,B:10,C:110,D:111。

这样的话CBDA就是:110101110。这样的编码方式也能确保解释方式的绝对确定性。

可以用二叉树简单验证的。

为了对比正确的编码方式,举个错误编码方式的例子:A:0,B:1,C:10,D:11。

这样的话,CBDA的编码就是:101110,但实际解释这段数据的时候,

会错误将其解释位:BABBBA,这样,就没有得到正确的信息。

就像是二叉树短寻路路径一样。

这里突然提起来二叉树,往上一看,好像上面的定长编码方式也可以理解为二叉树的定长路径,也就是完全二叉树的2^n?三叉数在数学上对定长信息的表示是3^n?10进制可以理解为一个十叉树?

假如无限延申的话,树论似乎可以延伸到所有数学中,而我现在学的是计算机组成,算了,就不对此深入探索了。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,651评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,468评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,931评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,218评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,234评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,198评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,084评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,926评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,341评论 1 311
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,563评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,731评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,430评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,036评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,676评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,829评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,743评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,629评论 2 354

推荐阅读更多精彩内容