Измерение информации

Измерение информации
В чем измеряется информация?
Расстояние – метр;
Масса – килограмм;
Время – секунда;
Информация - ???
Существуют 2 подхода к измерению
информации: содержательный и
алфавитный.
Содержательный подход
Если сообщение уменьшает
неопределенность ваших знаний в 2
раза, то оно несет 1 бит
информации
Алфавитный подход
Используется для измерения
информации в технике.
Количество информации при таком
подходе не связано с содержанием
сообщения, а связано с количеством
символом в сообщении.
Основные понятия и определения
 Алфавит – совокупность символов,
используемых для представления
информации.
 Мощность алфавита – число
символов в алфавите (мощность
алфавита из русских букв – 54: 33
буквы + 10 цифр + 11 знаков
препинания + скобки + пробел).
Обозначим его N.
Информационный вес символа
Раз количество информации связано с
количеством символов, то каждый
символ должен иметь свой
информационный вес.
Информационный вес символа зависит
от мощности алфавита. Чем больше
алфавит, тем больше
информационный вес символа.
Каково может быть наименьшее
количество символов в алфавите,
чтобы закодировать сообщение?
2 символа
Например:
Неправильный
ответ
Правильный ответ
0
1
Информационный вес символа
двоичного алфавита принят за
единицу информации и называется
1 бит
Допустим алфавит состоит из 4 символов: «2»; «3»;
«4»; «5».
Сколько будет весить 1 символ в этом алфавите?
Закодируем символы этого алфавита с помощью
двух цифр двоичного алфавита (0 и 1).
Получим:
«2» «3» «4» «5»
00
01
10
Мощность алфавита (N) = 4
Информационный вес: 2 бита
11
Задача. Алфавит индийского племени состоит
из 8 букв. Закодируйте эти буквы,
используя две цифры 0 и 1.
Ответ.
А
Б
В
Г
Д
Е
Ж
З
000 001 010 011 100 101 110 111
Мощность алфавита (N) = 8;
Информационный вес символа = 3 бита
N
b
2
4
8
16
32
64
12
8
256
51
2
1024
1
2
3
4
5
6
7
8
9
10
бит
бит
бит
бит
бит
бит
бита
бита
бита
бит
N  2
b
Задачи
1.
Сообщение, записанное буквами из 64-х символьного
алфавита, содержит 20 символов. Какой объем
информации оно несет.
Ответ: 120 бит
2. Племя Апачи имеет 32 символьный алфавит. Племя Докота
использует 64 символьный алфавит. Вожди племени обменялись
письмами. Письмо племени Апачи содержало 80 символов, а
письмо племени Докота – 70 символов. Сравните объемы
информации, содержащейся в письмах.
Ответ: письмо пламени Апачи несет 400 бит информации,
а племени Докота – 420 бита
3. Для записи текста использовали 256-символьный
алфавит. Каждая страница содержит 30 строк по 70
символов в строке. Какой объем информации содержат
5 страниц текста.
Решение:
1 символ – 8 бит;
1 страница - 30 * 70 * 8 = 16 800бит
5 страниц = 16800 * 5 = 84 000 бит
Бит – это маленькая единица измерения количества
информации.
Для подготовки текстовых документов используют компьютер. Алфавит, из
которого составляется компьютерный текст содержит 256 символов.
Поскольку 256 = 28, то 1 символ компьютерного алфавита весит 8 бит.
8 бит = 1 байт
Решите предыдущую задачу, зная, что 1 символ 256
символьного (компьютерного) алфавита – 1 байт.
Решение: 1 страница = 30 * 70 * 1 = 2100 байт;
5 станиц =10 500 байт
Единицы измерения информации:
1 байт – 8 бит;
1 килобайт = 1 Кб = 210 байт = 1024 байта;
1 мегабайт = 1 Мбайт = 210Кб = 1024 Кб = 1 048 576 байт;
1 гигабайт = 1Гб = 210 Мб = 1024 Мб = …. Кб = …. байт
Задачи на дом
1.
2.
3.
Информационный объем текста, подготовленного с
помощью компьютера, равен 3,5 Кб. Сколько
символов содержит этот текст?
Текст, набранный на компьютере, занимает
10 страниц. На каждой станице 40 строк по
65 символов. Какой объем информации
содержится в тексте. Перевести в более
крупные единицы информации.
Сообщение занимает 3 страницы по 25 строк. К
каждой строке записано по 60 символов. Сколько
символов в использованном алфавите, если
сообщение содержит 1125 байтов?