Entropia

Veja também Claude Shannon .

Entropia tem significados na física e na teoria das comunicações. Mais geralmente, entropia significa um processo em que a ordem se deteriora com o passar do tempo. Ela tem vários significados especiais na comunicação de dados.

Muitos cientistas acreditam que o universo está evoluindo naturalmente para um estado de máxima entropia. O exemplo comumente citado é a tendência para o desaparecimento das diferenças térmicas. De acordo com a chamada teoria da entropia, tudo no Universo acabará por atingir uma temperatura uniforme. Não haverá fontes de energia ou absorvedores. As estrelas e galáxias, tal como as conhecemos, deixarão de existir. Não haverá vida.

Na comunicação de dados, o termo entropia refere-se ao grau relativo de aleatoriedade. Quanto maior a entropia, mais freqüentes são os erros de sinalização. A entropia é diretamente proporcional à velocidade máxima atingível dos dados em bps (bits por segundo). A entropia também é diretamente proporcional ao ruído e à largura de banda. A entropia em um sinal é inversamente proporcional à compressibilidade; quanto maior a entropia, menor o fator pelo qual os dados podem ser comprimidos. A entropia também se refere à desordem deliberadamente adicionada aos dados em certos processos de criptografia.