Измерение информации

Автор-составитель: Смирнова И.С.

Учитель информатики ГОУ ЯО «Лицей № 86»

Единицы измерения информации

Бит – это сообщение, уменьшающее неопределённость знания в 2 раза.

​

1 байт = 8 бит;

1 Кбайт (один килобайт) = 1024 байт;

1 Мбайт (один мегабайт) = 1024 Кбайт;

1 Гбайт (один гигабайт) = 1024 Мбайт;

1 Тбайт (один терабайт) = 1024 Гбайт;

1 Пбайт (один петабайт) = 1024 Тбайт;

1 Эбайт (один эксабайт) = 1024 Пбайт;

1 Збайт (один зеттабайт) = 1024 Эбайт

​

​

Пример

Переведите 3 Тбайта в Мбайты.

3 Тб * 1024 = 3072 Гб * 1024 = 3145728 Мб.

​

Переведите 200 бит в байты.

200 бит / 8 = 25 байт

​

Переведите 98304 бит в Кбайт.

98304 бит / 8 = 12288 байт / 1024 = 12 Кб

​

Содержательный подход

Алфавитный (кибернетический) подход

Вероятностный подход

Содержательный подход

Количество информации связано с содержанием (смыслом) полученного человеком сообщения.

Количество информации тем больше, чем больше оно пополняет наши знания, т.е. информацию можно считать мерой уменьшения неопределённости знания.

для равновероятных событий

Неопределённость знания

Пример:

​

Бросаем монету. Может выпасть как «орёл», так и «решка», причём варианты не имеют преимущества друг перед другом, т.е. они равновероятны. В этом случае неопределённость знания о результате равна двум.

Когда выпал например «орёл», произошло одно из двух событий, т.е. неопределённость знания уменьшилась в 2 раза: было 2 варианта остался один.

Значит, узнав результат бросания монеты, получили 1 бит информации.

Содержательный подход

Пример:

​

В коробке 12 синих карандашей. Сколько информации несёт нам сообщение о том, что достали синий карандаш?

Ответ: 0 бит

Мы не получаем информацию в ситуации, когда происходит одно событие из одного возможного. Количество информации в этом случае равно нулю.

Измерение количества информации: �содержательный подход

, где

N – количество возможных событий (неопределённость знаний);

i – количество информации

N = 2ⁱ

Формула Хартли (1928)

Пример №1

Какое количество информации получит второй игрок после первого хода первого игрока в игре «Крестики-нолики» на поле 8×8.

Решение:

Т.к. N = 2ⁱ =>

N = 8×8=64(возможных события) =>

64 = 2ⁱ => i = 6 (бит)

​

Ответ: количество информации, полученное вторым игроком, составит 6 битов.

Пример №2

Сколько битов информации несёт сообщение о том, что из колоды в 32 карты достали короля крестей?

Решение:

Т.к. N = 2ⁱ =>

N = 32 (возможных события) =>

32 = 2ⁱ => i = 5 (бит)

​

Ответ: количество информации равно 5 битов.

Пример №3

Сколько бит информации несет сообщение о том, что угадали число 25 из диапазона от 21 до 36 (включительно)?

Решение:

Т.к. N = 2ⁱ =>

N = 16 (возможных события) =>

16 = 2ⁱ => i = 4 (бит)

​

Ответ: количество информации равно 4 битов.

​

Вероятностный подход

- это подход к измерению количества информации, который рассматривает информацию с точки зрения повышения определенности знания в результате ее получения.

​

Чем вероятность события меньше, тем больше количество информации в сообщении о нем.

для не равновероятных событий

Вероятностный подход

Пример:

​

В мешке лежат 10 белых шаров и 3 черных, то вероятность достать черный шар меньше, чем вероятность вытаскивания белого.

неравновероятное событие

Вероятностный подход

Пример:

​

Сколько информации несет сообщение “Завтра наступит утро”

Количество информации о достоверном событии равно 0.

​

Данное сообщение является достоверным и его вероятность равна единице.

Вероятностный подход

15

Вероятность события – число от 0 до 1, показывающее, как часто случается это событие в большой серии одинаковых опытов.

p = 0 событие никогда не происходит � (нет неопределенности)

p = 0,5 событие происходит в половине � случаев (есть неопределенность)

p = 1 событие происходит всегда � (нет неопределенности)�

Полная система событий: одно из N событий обязательно произойдет (и только одно!).

p_i – вероятность выбора i-ого варианта (i=1,…,N)

© К. Поляков, 2006-2011 http://kpolyakov.narod.ru

Вероятностный подход

P - вероятность события

Вероятностный подход

17

Вычисление вероятности

Задача. В пруду живут 100 рыб, из них 20 карасей, 30 пескарей, а остальные – окуни. Какова вероятность поймать карася (пескаря, окуня), если все рыбы одинаково голодны?

Формула:

число «нужных» событий

общее число событий

Решение:

караси

пескари

окуни

© К. Поляков, 2006-2011 http://kpolyakov.narod.ru

Пример 1

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

Ответ: 4

Пример 2

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

Ответ: 32

Пример 3

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

​

Ответ: 16

Алфавитный подход

- это способ измерения информационного объёма текста, составленного из символов некоторого алфавита, не связанного с его содержание.

​

Это единственный способ измерения информации, применимый в информационной технике, в компьютерах.

Алфавит

- всё множество символов, используемых в некотором языке для представления информации, т. е. весь набор букв, цифр, знаков препинания, скобок и других символов, используемых в тексте.

Например:

русский или английский алфавиты;

восьмеричный алфавит

Мощность алфавита

• это полное число символов в алфавите.

​

, где

N – мощность алфавита;

b – информационный вес символа*.

​

, где

K – количество символов в тексте;

I – количество информации во всём тексте**.

​

* количество информации, которое несёт 1 символ

** информационный объём текста

I = b × K

N = 2^b

Пример 1

Какое количество информации несёт 1 буква в русском алфавите, если не использовать букву ё.

​

Решение:

​

т.к. N = 2^b ; N=33-1=32(мощность алфавита)

32 = 2^b b = 5 (бит)

​

Ответ: каждый символ несёт 5 битов информации.

​

Пример 2

Оценим информационный объём слова

«информатика», если вес одного символа равен 1 байт.

Дано: Информатика

​

Решение:

​

т. к. I = b × K ;

K = 11 символов => I = 1×11 = 11(байт) = 11 × 8 = 88 (бит)

​

Ответ: информационный объём слова равен 11 байтам или 88 битам.

Пример 3

Книга содержит 150 страниц, на каждой странице – 40 строк, в каждой строке – 60 символов (включая пробелы между словами). Вычислить информационный объем текста.

​

Решение:

1. 40×60=2400 (байт) информационный объем 1 страницы
2. 2400×150=360 000(байт) информационный объем книги

Ответ: 360 000 байт

Пример 4

Для записи текста использовали 256-ти символьный алфавит. Каждая страница содержит 30 строк по 70 символов в строке. Какой объем информации содержат 5 страниц текста?

​

Решение:

1. 256 = 2^b b = 8 (бит) – инф. вес 1 символа;
2. 30 ×70×5 = 10500 (символов) – количество символов в тексте;
3. 10500 × 8 = 84000 (бит) – инф. объем

​

Ответ: 84000 (бит)

​

Двоичный алфавит

- минимальная мощность алфавита, пригодная для передачи информации.

​

Алфавит состоит из 0 и 1.

​

2 = 2ⁱ => i = 1 бит =>

1 символ двоичного алфавита несёт 1 бит информации

​

​

I

I

Подготовка к ЕГЭ №11�Пример №1

Подготовка к ЕГЭ №11�Пример №2

Подготовка к ЕГЭ №11�Пример №3

Подготовка к ЕГЭ №11�Пример №4

Подготовка к ЕГЭ №11�Пример №5

Подготовка к ЕГЭ №11�Пример №6

Работа в интерактивном курсе