МИНИСТЕРСТВО ОБРАЗОВАНИЯ РОССИЙСКОЙ
ФЕДЕРАЦИИ
___.___
ТАГАНРОГСКИЙ ГОСУДАРСТВЕННЫЙ
РАДИОТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ
ТЕОРЕТИЧЕСКИЕ ОСНОВЫ
ИНФОРМАЦИОННО-ИЗМЕРИТЕЛЬНОЙ ТЕХНИКИ
Конспект лекций
Часть II
ТАГАНРОГ 2001
УДК 621.317 (075.8) Кавчук С.В. Теоретические основы информационно-измерительной техники: Конспект лекций. Часть II. Таганрог: Изд-во ТРТУ, 2001. 125с.
Во второй части конспекта рассмотрены основы теории информации и теории кодирования. Излагаются основные понятия и расчетные соотношения для оценки информационных характеристик, эффективного кодирования и помехоустойчивого кодирования групповым и циклическим кодами. На структурном уровне приводятся примеры технического построения кодирующих и декодирующих устройств.
Конспект предназначен для студентов специальностей: 072000 “Стандартизация и сертификация в промышленности”, 190304 “Приборы и комплексы экологического мониторинга” и 190900 “Информационно-измерительная техника и технологии”. Он может быть полезен в качестве учебного пособия для смежных специальностей, где изучаются вопросы получения, преобразования и передачи измерительной информации.
Табл.10. Ил.90. Библиогр.: 14 назв.
Рецензенты:
А.А. Борисов, канд.техн.наук, ст. науч. сотр., гл. инженер Таганрогского НИИ связи.
Н.И. Денисенко, канд.техн.наук, ведущий науч. сотр. Таганрогского НИИ связи.
О.Е. Шведенко, канд.техн.наук, гл. конструктор опытно-производственной базы ТРТУ.
Таганрогский государственный
радиотехнический университет,
2001
ПРЕДИСЛОВИЕ
В учебный план специальностей: 072000 “Стандартизация и сертификация в промышленности”, 190300 “ Авиационные приборы и измерительно-вычислительные комплексы”, 190304 “Приборы и комплексы экологического мониторинга” и 190900 “Информационно-измерительная техника и технологии” входит курс “Теоретические основы информационно-измерительной техники”. Данный курс неоднократно читался для студентов специальностей 0642, 0720 и 1909. Полный материал лекций включает четыре раздела - теорию сигналов, теорию информации, теорию кодирования и технические приложения теории сигналов в задачах измерительной техники. Изучение курса поддерживается практическими и лабораторными занятиями.
Основы теории сигналов составляют содержание первой части конспекта лекций.
Вторая часть конспекта отражает второй и третий разделы лекционного курса. Она содержит основные понятия и расчетные соотношения для оценки информационных характеристик, эффективного кодирования и помехоустойчивого кодирования групповым и циклическим кодами.
Четвертый раздел лекционного курса входит в третью часть конспекта лекций. В четвертом разделе рассматриваются основы аппаратурного определения числовых характеристик случайных сигналов и синтеза аналоговых фильтров.
Изложение ведется в форме, справочно-прикладной для решения технических задач измерительной техники. На структурном уровне приводятся примеры технического построения измерительных систем и узлов. Содержание конспекта позволяет решать вопросы анализа и синтеза измерительных устройств и систем на уровне их системотехнического проектирования.
Автор глубоко признателен коллективу кафедры АСНИиЭ ТРТУ за полезные методические замечания при формировании данного курса, которые способствовали его улучшению.
1.ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ 1.1.Общие понятия Один из основных вопросов теории информации выбор меры для количества информации. В настоящее время универсальной (всеобъемлющей) меры информации нет. Различают три вида информации:
1) синтаксическую смысл и ценность не учитывают;
2) семантическую учитывают в основном смысл сообщения;
3) прагматическую учитывают ценность и актуальность.
Для каждого вида можно ввести меру информации. На данный момент разработана только оценка количества синтаксической информации. Здесь наиболее часто применяют две меры информации:
1) комбинаторная (мера Хартли);
2) статистическая (мера Шеннона).
В их основе лежит понятие неопределенности. Можно говорить о неопределенности знаний, объекта познания, технической системы, какой-либо ситуации и т.д.
Степень неопределенности может быть разной. Для ее оценки разработаны различные меры. Пусть H мера неопределенности. Различают:
1) неопределенность до опыта (априорная) H;
2) остаточная неопределенность после опыта (апостериорная) H0.
Неопределенность Н>Н0, т.е. неопределенность наших знаний до опыта всегда больше после опытной неопределенности.
Зная меру неопределенности, можно ввести меру для количества информации. На синтаксическом уровне количество информации I определяется как мера уменьшения неопределенности
I=HH0.
Если в результате опыта неопределенность снята полностью, то H0=0 и I=H,
т.е. количество информации будет равно исходной неопределенности.
Очевидно, чем больше неопределенность до опыта, тем больше количество получаемой информации. Это соответствует интуитивным представлениям об информации.
|