白话熵增定律

热力学中的熵增定律

熵是指一个系统的混乱程度的度量，是热力学中的一个系统的属性。熵增定律是指一个封闭的系统随着时间的发展，在朝平衡状态发展时，其熵会增加，即其越来越混乱。
对于一个房间，如果经常打扫整理，房间内的物品将越来越混乱。人们的工作会使得其附近的事物更加规则，即熵减少。

信息论中的熵

在信息论中，熵是指一个系统的不确定性的大小，即信息量的大小。系统的各个状态出现的可能性如果呈现均匀分布，出现的机率相同，即不确定性很大，则其熵就很大；如果某个状态出现的概率极大，其他状态出现的概率很小，即确定性很大，则熵就很小。