| rdfs:comment
| - В теории информации, разработанной Клодом Шенноном в 1948, информационное содержание, самоинформация — мера количества информации, связанного с исходом случайной величины; выражается в единицах информации, например, биты, наты, баны, диты, или харты, в зависимости от основания логарифма, используемого в определении. По определению, количество самоинформации, содержащейся в событии зависит только от вероятности этого события: чем меньше его вероятность, тем больше самоинформации связано с получением информации о том, что событие действительно случилось.
|
| abstract
| - В теории информации, разработанной Клодом Шенноном в 1948, информационное содержание, самоинформация — мера количества информации, связанного с исходом случайной величины; выражается в единицах информации, например, биты, наты, баны, диты, или харты, в зависимости от основания логарифма, используемого в определении. По определению, количество самоинформации, содержащейся в событии зависит только от вероятности этого события: чем меньше его вероятность, тем больше самоинформации связано с получением информации о том, что событие действительно случилось. Далее, по определению, мера самоинформации имеет следующее свойство. Если событие — состоит в одновременном наступлении двух взаимно независимых событий и , то количество информации в событии , равно сумме количеств информации в событии и в событии соответственно. Принимая во внимание эти свойства, самоинформация (измеренная в битах) элементарного события равна: Это определение, используя двоичный логарифм, удовлетворяет вышеупомянутым свойствам. В вышеупомянутом определении используется логарифм по основанию 2, а единицей измерения служит бит. Когда используется логарифм по основанию , единицей измерения служит нат. Для логарифма по основанию 10 единицами измерения служат дит, бан, или харт. Эту меру также называли удивительной, поскольку она представляет «удивление» от события (очень вероятное событие не удивительно). Этот термин был предложен Мироном Трибусом (Myron Tribus) в его книге Термостатика и термодинамика (1961). Информационная энтропия случайного события — ожидаемая ценность его самоинформации. Самоинформация является также примером справедливого правила выигрыша в теории игр.
|
![[RDF Data]](/fct/images/sw-rdf-blue.png)