基尼不纯度

基尼不纯度的大概意思是 一个随机事件变成它的对立事件的概率
例如 一个随机事件X ,

    P(X=0) = 0.5 ,P(X=1)=0.5

那么基尼不纯度就为

P(X=0)*(1 - P(X=0)) +   P(X=1)*(1 - P(X=1))  = 0.5

一个随机事件Y ,

    P(Y=0) = 0.1 ,P(Y=1)=0.9

那么基尼不纯度就为

      P(Y=0)*(1 - P(Y=0)) +   P(Y=1)*(1 - P(Y=1))  = 0.18

很明显 X比Y更混乱,因为两个都为0.5 很难判断哪个发生。而Y就确定得多,Y=0发生的概率很大。而基尼不纯度也就越小。
所以基尼不纯度也可以作为 衡量系统混乱程度的 标准

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容