Информация. Как подсчитать количество информации, приходящейся на один символ, в заданном тексте?

Пример:

Определить количество информации, которое содержится на печатном листе бумаги (двусторонняя печать), если на одной стороне умещается 40 строк по 67 символов в строке.

Решение:

Определим количество символов на одной стороне листа:

40 строк * 67 символов  = 2680  символов 

Определим  количество   символов  на 2-х сторонах листа:

2680 символов * 2 = 5360  символов 

Количество   информации  = 5360  символов  * 1 байт = 5360 байт

Переводим в Кб: 5360 байт : 1024 байт = 5,23 Кб

Если бы необходимо было получить ответ в бит, то

Количество информации = 5360 символов * 8 бит = 42880 бит

Переводим в байты 42880 бит : 8 бит = 5360 байт

Переводим в Кб 5360 байт : 1024 байт = 5,23 Кб

Вопрос 4 (Информация. Как подсчитать количество информации, приходящейся на один символ, в заданном тексте?)

Составить таблицу

i Символ Pi (всего*)

1 _ (одинак/все)

2 А (одинак/все)

H=Pi*log2(1/Pi)

Посчитать количество информации

Составить таблицу

i Символ Pi (всего*)

где P[1] - вероятность 1 буквы 
P[2] - вероятность 2 буквы 
P[3] - вероятность 3 буквы 
... 
P[n] - вероятность n буквы  

I=-(P[1]*log2P[1]+P[2]*log2P[2]+P[3]*log2P[3]+...+P[n]*log2P[n])