2 of 12

СПОСОБЫ ИЗМЕРЕНИЯ ИНФОРМАЦИИ

Содержательный (вероятностный) подход

рассматривается содержание происходящих событий

Алфавитный подход

рассматривается текст как совокупность символов

3 of 12

Содержательный подход

Определить количество информации в сообщениях

(много или мало)

Столица России – Москва.
Сумма квадратов катетов равна квадрату гипотенузы.
Дифракцией света называется совокупность явлений, которые обусловлены волновой природой света и наблюдаются при его распространении в среде с резко выраженной оптической неоднородностью.
Эйфелева башня имеет высоту 300 метров и вес 9000 тонн.

Сообщение о событии несет больше информации, если в нем содержатся

новые и понятные сведения.

Такое сообщение называется информативным.

4 of 12

Содержательный подход

Если сообщение о событии является информативным, значит оно пополняет нас знаниями или уменьшает неопределенность наших знаний.

Чем больше начальное число возможных равновероятных событий, тем в большее количество раз уменьшается неопределенность наших знаний и тем большее количество информации будет содержать сообщение о результатах опыта

5 of 12

Содержательный подход

Равновероятные события	Неравновероятные события
События, не имеющие преимущество друг перед другом, называются равновероятными. Формула для вычисления количества информации в сообщении о равновероятном событии N=2ⁱ, где N – количество возможных вариантов событий I – количество информации I=Log₂N	События, имеющие разную вероятность реализации, называются неравновероятными. Формула для вычисления количества информации в сообщении о неравновероятном событии I=Log₂(1/p), где I – количество информации, р – вероятность события р=K/N, где K- величина, показывающая сколько раз произошло интересующее нас событие N – общее число возможных событий

6 of 12

АЛФАВИТНЫЙ ПОДХОД�К ИЗМЕРЕНИЮ ИНФОРМАЦИИ

Множество используемых в тексте символов называется алфавитом.

В информатике под алфавитом понимают не только буквы, но и цифры, и знаки препинания, и другие специальные знаки.

Полное количество символов алфавита называется мощностью алфавита.

Мощность компьютерного алфавита –

256 символов

7 of 12

Правило для измерения информации с точки зрения алфавитного подхода

Найти мощность алфавита — N.
Найти информационный объем одного символа — I = log₂N.
Найти количество символов в сообщении — К.
Найти информационный объем всего сообщения — I_т = К*I.

Информационный объем 1 символа компьютерного текста

несет 8 бит (1 байт) информации

8 of 12

ПРОИЗВОДНЫЕ ЕДИНИЦ ИЗМЕРЕНИЯ ИНФОРМАЦИИ

1 байт = 8 бит

1 килобайт (Кб) = 2¹⁰байт = 1024 байт

1 мегабайт (Мб) = 2¹⁰Кб = 1024 Кб

1 гигабайт (Гб) = 1024 Мб

1терабайт (1Тб) = 1024 Гб

БИТ

БАЙТ

КИЛОБАЙТ

МЕГАБАЙТ

ГИГАБАЙТ

ТЕРАБАЙТ

1024

умножается

делится

9 of 12

Алгоритм решения задач на определение количества информации�

Определить на какой из двух возможных подходов к измерению информации (содержательный или алфавитный) данная задача.
Если содержательный подход, то необходимо выяснить равновероятные или неравновероятные события рассматриваются в задаче.
Записать условие, желательно, не спутав, что дано и что найти.
Решить задачу.

10 of 12

ПРИМЕРЫ РЕШЕНИЯ ЗАДАЧ

В корзине лежат 8 черных шаров и 24 белых. Сколько информации несет сообщение о том, что достали черный шар?�Дано: N_ч = 8;N_б=24.�Найти: I_ч = ?�Решение:

1) N = 8 + 24 = 32 - шара всего;

2) Р_ч = 8/32 = 1/4 — вероятность доставания черного шара

3) I_ч = Log₂(1/1/4) =2 бита

Ответ: 2 бита

11 of 12

Мощность некоторого алфавита равна 64 символам. Каким будет объем информации в тексте, состоящем из 100 символов.

Дано:

N=64

K=100

Найти: I_т -?

Решение:

1) I_т = K*I, неизвестно I;

2) I = log₂N = Iog₂64 = 6 бит — объем одного символа;

3) I_т = 100*6 = 600 бит — объем всего сообщения.

Ответ: 600 бит объем всего сообщения.

12 of 12

Домашнее задание�

В непрозрачном мешочке хранятся 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о том, что вытянули зеленый шарик?

При угадывании целого числа в некотором диапазоне было получено 8 бит информации. Сколько чисел содержит этот диапазон?

Какой информационный объем оперативной памяти требуется для хранения текста статьи объемом 4 страницы, на каждой из которых размещены 32 строки по 64 символа?