Пусть в некоторый момент времени система может находиться в одном из N состояний: с вероятностями соответственно, а в следующий момент времени система может находиться в одном из N состояний: с вероятностями соответственно, . Тогда относительная информация системы определяется следующим образом:
Пусть в некоторый момент времени система может находиться в одном из N состояний: с вероятностями соответственно, а в следующий момент времени система может находиться в одном из N состояний: с вероятностями соответственно, . Тогда относительная информация системы определяется следующим образом: