Количество информации Количество информации как мера уменьшения неопределенности знания. (Содержательный подход к определению количества информации)

Количество информации Количество информации как мера уменьшения неопределенности знания. (Содержательный подход к определению количества информации) Например, после сдачи зачета или выполнения контрольной работы вы мучаетесь неопределенностью, вы не знаете, какую оценку получили. Наконец, учитель объявляет результаты, и вы получаете одно из двух информационных сообщений: "зачет" или "незачет", а после контрольной работы одно из четырех информационных сообщений: "2", "3", "4" или "5". Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности вашего знания в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности вашего знания в четыре раза, так как получено одно из четырех возможных информационных сообщений. Количество информации можно рассматривать как меру уменьшения неопределенности знания при получении информационных сообщений. Рассмотренный выше подход к информации как мере уменьшения неопределенности знания позволяет количественно измерять информацию. Существует формула, которая связывает между собой количество возможных информационных сообщений N и количество информации I, которое несет полученное сообщение: Бит. Для количественного выражения любой величины необходимо сначала определить единицу измерения. Так, для измерения длины в качестве единицы выбран метр, для измерения массы - килограмм и т. д. Аналогично, для определения количества информации необходимо ввести единицу измерения. За единицу количества информации принимается такое количество информации, которое содержится в информационном сообщении, уменьшающем неопределенность знания в два раза. Такая единица названа битом. Производные единицы измерения количества информации. Минимальной единицей измерения количества информации является бит, а следующей по величине единицей - байт, причем: 1 байт = 8 битов = 23 битов. В компьютере информация кодируется с помощью двоичной знаковой системы, и поэтому в кратных единицах измерения количества информации используется коэффициент 2n Так, кратные байту единицы измерения количества информации вводятся следующим образом: 1 килобайт (Кбайт) = 210 байт = 1024 байт; 1 мегабайт (Мбайт) = 210 Кбайт = 1024 Кбайт; 1 гигабайт (Гбайт) = 210 Мбайт = 1024 Мбайт. Определение количества информации Определение количества информационных сообщений.По формуле (1.1) можно легко определить количество возможных информационных сообщений, если известно количество информации. Например, на экзамене вы берете экзаменационный билет, и учитель сообщает, что зрительное информационное сообщение о его номере несет 5 битов информации. Если вы хотите определить количество экзаменационных билетов, то достаточно определить количество возможных информационных сообщений об их номерах по формуле (1.1): N = 25 = 32. Таким образом, количество экзаменационных билетов равно 32. Определение количества информации. Наоборот, если известно возможное количество информационных сообщений N, то для определения количества информации, которое несет сообщение, необходимо решить уравнение относительно I. Представьте себе, что вы управляете движением робота и можете задавать направление его движения с помощью информационных сообщений: "север", "северо-восток", "восток", "юго-восток", "юг", "юго-запад", "запад" и "северо-запад" (рис. 1.11). Какое количество информации будет получать робот после каждого сообщения? Рис. 1.4. Управление роботом с использованием информационных сообщений Всего возможных информационных сообщений 8, поэтому формула (1.1) принимает вид уравнения относительно I: 8 = 2I. Разложим стоящее в левой части уравнения число 8 на сомножители и представим его в степенной форме: 8 = 2  2  2 = 23. Наше уравнение: 23 = 2I. Равенство левой и правой частей уравнения справедливо, если равны показатели степени числа 2. Таким образом, I = 3 бита, т. е. количество информации, которое несет роботу каждое информационное сообщение, равно 3 битам. Алфавитный подход к определению количества информации При алфавитном подходе к определению количества информации отвлекаются от содержания информации и рассматривают информационное сообщение как последовательность знаков определенной знаковой системы. Формула (1.1) связывает между собой количество возможных информационных сообщений N и количество информации I, которое несет полученное сообщение. Тогда в рассматриваемой ситуации N - это количество знаков в алфавите знаковой системы, а I - количество информации, которое несет каждый знак: N = 2I. С помощью этой формулы можно, например, определить количество информации, которое несет знак в двоичной знаковой системе: N = 2 => 2 = 2I => 21 = 2I => I=1 бит. Чем большее количество знаков содержит алфавит знаковой системы, тем большее количество информации несет один знак. В качестве примера определим количество информации, которое несет буква русского алфавита. В русский алфавит входят 33 буквы, однако на практике часто для передачи сообщений используются только 32 буквы (исключается буква "ё"). С помощью формулы (1.1) определим количество информации, которое несет буква русского алфавита: N = 32 => 32 = 2I => 25 = 2I => I=5 битов. Таким образом, буква русского алфавита несет 5 битов информации (при алфавитном подходе к измерению количества информации). Количество информации в сообщении. Сообщение состоит из последовательности знаков, каждый из которых несет определенное количество информации. Если знаки несут одинаковое количество информации, то количество информации Ic в сообщении можно подсчитать, умножив количество информации Iз, которое несет один знак, на длину кода (количество знаков в сообщении) К: Ic = Iз  K

Похожие:

	Программа по формированию навыков безопасного поведения на дорогах... Количество информации как мера уменьшения неопределенности знаний. Количественный подход к определению количества информации		Конспект для ученика, пк, программа- электронный калькулятор Wise... Количество информации как мера уменьшения неопределенности знаний. Методы измерения количества информации: вероятностный (содержательный),...
	Тема урока Содержание Кол-во информации как мера уменьшения неопределенности. Определение количества информации		Программа по формированию навыков безопасного поведения на дорогах... Информационные процессы в технике; количество информации как мера уменьшения неопределенности; единицы измерения информации
	Программа по формированию навыков безопасного поведения на дорогах... Техника безопасности при работе за компьютером. Количество информации как мера уменьшения неопределенности		Единицы измерения количества информации Это означает, что когда несколько объектов рассматриваются как один, количество возможных состояний перемножается, а количество информации...
	Урок 5 Тема: Определение количества информации Цель: Научить определять количество информации, которое несет информационное сообщение		Программа по формированию навыков безопасного поведения на дорогах... Освоить представление о понятии информация с точки зрения различных наук; освоить понятие «количество информации как меры уменьшения...
	Программа по формированию навыков безопасного поведения на дорогах... Количество информации. Инструктаж по тб. Практическая работа №1 «Вычисление количества информации с помощью калькулятора»		Информационная безопасность, этика и право пользования информацией.... Тема: Информационная безопасность, этика и право пользования информацией. Алфавитный подход к измерению информации. Вероятностный...
	Программа по формированию навыков безопасного поведения на дорогах... Мание вероятности, равновероятных событий и событий с различными вероятностями. Научить находить количество информации, используя...		Программа по формированию навыков безопасного поведения на дорогах... Какая формула связывает между собой количество возможных информационных сообщений и количество информации, которое несет полученное...
	Урок 9 Тема «Алфавитный подход к определению количества информации» Необходимое техническое оборудование: компьютер, колонки, проектор, компьютеры обучающихся		Измерение информации: содержательный подход. Новый материал До сегодняшнего урока мы определяли информационный объем сообщения, не обращая внимание на его содержание (смысл), нас интересовало...
	Вероятностный подход к определению количества информации Сформировать у учащихся понимание вероятности, равновероятных событий и событий с различными вероятностями		Программа по формированию навыков безопасного поведения на дорогах... Тема «Информация и информационные процессы», урок 6 «Алфавитный подход к определению количества информации»