Question

什么是信息量大（信息论）

Answer 1

信息说到底是用于降低或是消除不确定性的。如果讲的事情大部分大家都知道，信息量就很少。

         信息的价值如何衡量？

一是信息的重要性很高，这个信息对你很重要，知道了就能帮你解决问题

二是信息量大，你暂时不知道这些新信息有什么用，但是给你提供了一些新思路

         那什么是信息量大呢？

对于一条信息，重要的是找出其中有多少信息量，要搞清楚“信息量”，就要对信息进行量化的度量，所以首先要引入一个对信息进行量化的量度单位 “比特”

“比特”是这样定义的：如果一个黑盒子中有A和B两种可能性，它们出现的概率相同，那么要搞清楚到底是A还是B，所需要的信息量就是一比特 。 如果我们对这个黑盒子有一点知识，知道A的概率比B大，那么解密它们所需要的信息就不到一比特。

那么如果是多于A、B这两种可能性，更复杂的黑盒子，要消除它的不确定性需要多少信息呢？

使用二分法，第一步先确认我们的想法对不对，然后在对我们的可能选择进行归类判断，而不是我们每一个选择都逐个进行判断。

Reference: 罗胖精选 | 世界上有稳赚不赔的生意吗？