Скачать 193.8 Kb.
|
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования «Нижегородский государственный университет им. Н.И. Лобачевского» Радиофизический факультет Кафедра бионики и статистической радиофизики УТВЕРЖДАЮ Декан радиофизического факультета ____________________Якимов А.В. «27» июня 2012 г. Учебная программа Дисциплины ЕН.Ф.05 «Теория информации» по специальности 090106 «Информационная безопасность телекоммуникационных систем» Нижний Новгород 2012 г. 1. Область применения Данная дисциплина относится к общим математическим и естественнонаучным дисциплинам федерального компонента, преподается в 5 семестре. 2. Цели и задачи дисциплины Содержание дисциплины направлено на ознакомления студентов с основными количественными характеристиками источников сообщений и каналов связи, принципами кодирования информации. 3. Требования к уровню освоения содержания дисциплины В результате изучения дисциплины студенты должны иметь представление:
знать:
уметь:
4.Объем дисциплины и виды учебной работы
5. Содержание дисциплины 5.1. Разделы дисциплины и виды занятий
5.2. Содержание разделов дисциплины Раздел 1. Математические модели дискретных систем передачи информации. 1.1 Энтропия дискретных систем. Энтропия как мера степени неопределенности случайной системы. Основные свойства энтропии. Теорема о максимальном значении энтропии. Энтропия сложной системы, частная и полная. Теорема сложения энтропий для зависимых подсистем. 1.2. Количество информации в дискретных системах. Определение частной информации, доставляемой одним событием о другом. Собственная информация события. Среднее количество информации, ее связь с энтропией. Основные свойства. “Потерянная” и “шумовая” информации. Дискретный канал связи с помехами (без памяти). Зависимость количества информации, передаваемой по каналу, от величины действующих помех. 1.3. Кодирование дискретных сообщений в отсутствии помех. Кодирование сообщений, обратимость кода. Теорема Шеннона о кодировании сообщений в отсутствии помех. Теорема Крафта. Проверка условия однозначного декодирования. Блочное кодирование. Оптимальное кодирование в отсутствии помех. Код Шеннона-Фано, код Хафмана. Модели реальных дискретных сообщений. Энтропийные характеристики случайных последовательностей. Средняя энтропия на один символ сообщения. Обобщение основной теоремы Шеннона о кодировании на стационарные случайные последовательности. Избыточность и коэффициент сжатия реальных языков и сообщений. Раздел 2. Пропускная способность дискретных каналов связи с шумами. Кодирование при наличии помех. Скорость создания информации. Пропускная способность каналов связи с помехами. Каналы связи симметричные по входу и выходу. Пропускная способность полностью симметричных каналов связи. Фундаментальное Е-свойство энтропии дискретных эргодических процессов, “высоковероятная” и “маловероятная” группы реализаций, следствия из Е свойства. Кодирование в каналах связи с шумами. Основная теорема Шеннона о кодировании в присутствии шумов. Раздел 3. Математические модели непрерывных систем передачи информации. 3.1. Энтропийные характеристики непрерывных случайных величин. Дифференциальная (относительная) энтропия. Частная и полная условные энтропии. Дифференциальная энтропия системы случайных величин. Принцип максимума энтропии. Экстремальные распределения. 3.2. Количество информации в непрерывных системах. Непрерывные каналы связи. Непрерывные системы связи. Теорема дискретизации Котельникова. Количество информации, его выражение через дифференциальные энтропии. Количество информации, передаваемое по непрерывному каналу связи с гауссовским входом и выходом. Пропускная способность непрерывного канала связи с гауссовской аддитивной помехой. Проблемы передачи непрерывной информации с оценкой ошибок дискретизации по времени и по амплитуде. Возможности информационного подхода к оценке качества функционирования систем связи. Раздел 4. Основы помехоустойчивого кодирования. 4.1. Основные принципы помехоустойчивого кодирования. Простейшие помехоустойчивые коды. Значность кода, вес кодовой комбинации, вектор и кратность ошибки. Кодовое расстояние и его связь с исправляющей способностью кода. Минимальное кодовое расстояние для кодов, исправляющих ошибки. Геометрическая модель комбинаций двоичного кода. 4.2. Построение корректирующих кодов с заданной исправляющей способностью. Показатели качества корректирующих кодов. Классификация помехоустойчивых кодов. Линейные блочные коды с проверкой на четность, систематические коды. Принципы кодировки и декодировки сообщений, порождающие и проверочные матрицы систематических кодов. Примеры линейных кодов: коды Хемминга, циклические коды, их основные свойства. Раздел 5. Элементы теории случайных процессов. 5.1. Определение и вероятностное описание случайного процесса. Понятие статистического ансамбля. Вероятностное описание случайного процесса с помощью многомерных плотностей вероятностей. Основные свойства многомерных плотностей вероятностей. Условные плотности вероятностей, их свойства и связь с могомерными безусловными плотностями вероятностей. 5.2. Классификация случайных процессов по их вероятностному последействию. Совершенно случайные процессы, марковские процессы и их описание. Уравнение Смолуховского для условной плотности вероятности марковского процесса. Квазидетерминированные случайные процессы. 5.3. Многомерные характеристические, моментные и кумулянтные функции случайного процесса. Характеристическая функция, определение и свойства. Моментные и кумулянтные функции, их взаимосвязь. Корреляционная и ковариационная функции случайного процесса. Коэффициент корреляции. 5.4. Гауссовские случайные процессы. Многомерная характеристическая функция и плотность вероятностей гауссовского процесса. Информация необходимая для полного описания гауссовского случайного процесса. Ковариационная матрица отсчетов случайного процесса. Основные свойства гауссовских случайных процессов. 5.5. Стационарные и эргодические случайные процессы. Понятие стационарности в узком и широком смысле.Усреднение по статистическому ансамблю и по времени. Эргодичность случайных процессов. Необходимые и достаточные условия эргодичности по отношению к среднему значению, корреляционной функции, одномерной плотности вероятности. Экспериментальное измерение основных статистических характеристик эргодических случайных процессов. 5.6. Совокупности случайных процессов. Общее описание совокупности двух случайных процессов. Статистическая независимость случайных процессов. Взаимные корреляционные и ковариационные функции. Стационарность, эргодичность, гауссовость совокупности двух случайных процессов. Раздел 6. Спектрально - корреляционный анализ случайных процессов. 6.1 Корреляционные функции. Свойства корреляционных функций нестационарных и стационарных случайных процессов. Среднее значение и корреляционная функция производной и интегрального преобразования от случайного процесса. 6.2. Спектрально-корреляционный анализ сигналов 1-ой группы с конечной энергией. Спектральная плотность энергии, функция корреляции первого рода и их свойства. Преобразование сигналов первой группы линейными системами. 6.3. Спектрально-корреляционный анализ сигналов П-ой группы с конечной мощностью. Спектральная плотность мощности. Соотношение между спектральной плотностью мощности и корреляционной функцией для стационарных случайных процессов (формула Винера-Хинчина). Спектральная плотность мощности нестационарных сигналов П-ой группы. Функция корреляции второго рода. Ширина спектра случайного процесса, ее связь со временем корреляции. Узкополосные случайные процессы. Амплитуда и фаза случайного процесса. Представление узкополосного случайного процесса с помощью квадратурных компонент. Преобразование сигналов П-ой группы линейными системами. Приближение “белого” шума. 6.4. Совместные (взаимные) спектральные плотности энергии и мощности случайных процессов. Взаимные функции корреляции первого и второго рода. Взаимные спектры, синфазная и квадратурная составляющие взаимных спектров. Взаимная спектральная плотность мощности входа и выхода линейной системы, выходных сигналов двух линейных систем. Основные неравенства для взаимных спектров. Функция когерентности. Применение взаимных корреляционных функций и спектров для определения источников шума и каналов его распространения. 6.5. Спектрально-корреляционный анализ нелинейных преобразованных случайных процессов. Спектрально-корреляционный анализ нелинейных безынерционных преобразований (НБП) случайных гауссовских процессов. Выражение корреляционной функции выходного процесса в виде ряда по ковариационной функции входного процесса. Взаимная корреляционная и ковариационная функции входа и выхода НБП. Раздел 7. Элементы теории оптимальной обработки сигналов. 7.1 Классификация задач оптимальной обработки сигналов. Статистическая модель канала связи. Оптимальное обнаружение, различение, измерение параметров, фильтрация сигналов. 7.2. Оптимальное обнаружение сигналов при дискретных наблюдениях. Двухальтернативная постановка задачи. Критерий идеального наблюдателя. Отношение правдоподобия. Структурная схема оптимального обнаружителя. Другие критерии оптимальности. Обнаружение детерминированного полезного сигнала на фоне гауссовских помех. 7.3. Оптимальное обнаружение сигналов при непрерывных наблюдениях. Функционал отношения правдоподобия. Случай обнаружения детерминированного сигнала на фоне белого гауссовского шума. Корреляционный приемник. Согласованный фильтр. Отношение сигнал/шум на выходе согласованного фильтра. Анализ эффективности оптимального обнаружителя. 6. Лабораторный практикум.
7. Учебно-методическое обеспечение дисциплины 7.1. Рекомендуемая литература. а) основная литература: 1. Шеннон К. Работы по теории информации и кибернетике. М.: И.Л. 1963. 2. Фано Р. Передача информации. Статистическая теория связи. М.: Мир. 1965. 3. Стратанович Р.Л. Теория информации. М.: Сов. радио, 1977. 4. КузьминИ.В., Кедрус В.А. Основы теории информации и кодирования. Киев.: Высш. шк. 1977 5. Домбровский Е.А., Иванов А.О., Ларионов А.А., Мальцев А.А. Пособие по курсу «Теория информации» ННГУ, 2003. 6. Рытов С.М. Введение в статистическую радиофизику. Часть 1. М.: Наука, 1976. 7. Тихонов В.И. Статистическая радиотехника. М.: Радио и связь, 1982. 8. Левин Б.Р. Теоретические основы статистической радиотехники. М.: Радио и связь, 1989. 9. Тихонов В.И., Харисов И.Н. Статистический анализ и синтез радиотехнических устройств и систем. М.: Радио и связь, 1991. 10. Зачепицкая Л.П., Клибанова И.М. Измерение простейших характеристик случайных процессов, Горький, ГГУ, 1986. 11. Малахов А.Н., Саичев А.И. Спектрально-корреляционный анализ случайных процессов. Горький, ГГУ, 1979. б) дополнительная литература: 1. Прокис Дж. Цифровая связь. Пер. с англ. М.: Радио и связь , 2000. 2. Финк Л.М. Теория передачи дискретных сообщений. М.: Сов. радио, 1970. 8. Вопросы для контроля
9. Критерии оценок
10. Примерная тематика курсовых работ и критерии их оценки Курсовые работы не предусмотрены. Программа составлена в соответствии с Государственным образовательным стандартом по специальности 090106 «Информационная безопасность телекоммуникационных систем». Автор программы ____________ Мальцев А.А. Программа рассмотрена на заседании кафедры 26 апреля 2012 г. протокол № 18 Заведующий кафедрой ___________________ Мальцев А.А. Программа одобрена методической комиссией факультета 17 мая 2012 г. протокол № 02/12 Председатель методической комиссии_________________ Миловский Н.Д. |
Аннотированное содержание программы дисциплины «Общая экология» по... Общая трудоемкость дисциплины составляет 3 зачетные единицы, 108 часов. Курс 2, семестр 4 | Аннотации программ дисциплин Аннотация дисциплины «Общая химическая... Рецензент программы: д э н., проф. Орешкин В. А., профессор кафедры Международной торговли и внешней торговли РФ | ||
Общая трудоемкость дисциплины Дисциплины опд. Ф. 17 «Метрология и электрорадиоизмерения в телекоммуникационных системах» | Самостоятельная работа 46 ч Общая трудоемкость дисциплины: 100 часов, в т ч лекции – 22 ч., семинары 32 ч | ||
Тематический план изучения дисциплины «экология» Семестр Форма промежуточной аттестации – зачет. Общая трудоемкость дисциплины составляет 2 зачетных единицы, 72 часа | Аксиология Общая трудоемкость изучения дисциплины составляет 3 зачетные единицы (108 часов) | ||
Общая трудоемкость дисциплины Данная дисциплина относится к дисциплинам по выбору, преподается в 1 и 2 семестрах | Общая трудоемкость дисциплины Данная дисциплина относится к дисциплинам специализации, преподается в 7 семестре | ||
Общая трудоемкость дисциплины Данная дисциплина относится к дисциплинам специализации, преподается в 8 семестре | Рабочая программа дисциплины «Педагогика высшей школы» Общая трудоемкость изучения дисциплины составляет 6 зет (216 часа). Форма обучения: очная и заочная | ||
Общая трудоемкость дисциплины Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования | Законодательство по бжд Общая трудоемкость дисциплины: 100 часов, в т ч лекции 36 ч., семинары – 18 ч., самостоятельная работа – 46 ч | ||
Аннотированное содержание программы дисциплины «факультетская хирургия,... Общая трудоемкость изучения дисциплины составляет 5 зачетных единиц, 180 академических часов | Аннотированное содержание программы дисциплины «Челюстно-лицевое... Общая трудоемкость изучения дисциплины составляет 3 зачетные единицы, 108 академических часов | ||
Задачами изучения дисциплины являются Общая трудоемкость изучения дисциплины составляет 3 зачетных единицы (108 часов) | Задачами изучения дисциплины являются Общая трудоемкость изучения дисциплины составляет 3 зачетных единицы (108 часов) |