最大区别是
贝叶斯使用了
先验信息，即在数据量小的情况下，能够通过准确的先验信息获得准确统计结果，一定程度上摆脱观测数据量多少对统计结果的影响。而经典的统计方法，如
最大似然估计，则完全依靠观测数据，只有在数据量比较充分时才能获得比较接近事实的统计结果。例如，抛硬币，通过最大似然估计需要抛上千次才能获得正反出现概率对等的结果。
由于贝叶斯引入先验信息，这也导致不精确先验对最后统计结果的影响，一般我们可以提高观测数据的数量来避免经验带来的偏差，但是在数据量较小的情况下贝叶斯估计的准确度受到质疑，这也是几十年来贝叶斯估计受争议的地方。
