Программа дисциплины опд. Р , дн. В. 2 Теория информационных процессов для студентов специальности 230102 Автоматизированные системы обработки информации и управления
| Вид материала | Программа дисциплины |
- Программа дисциплины опд. Ф. 10, Дн. Ф операционные системы для студентов специальности, 203.73kb.
- Программа дисциплины опд. Ф. 02., Дн. Ф. 01. Компьютерная графика для студентов специальности, 247.67kb.
- Программа дисциплины опд. В. 02., Сд. В логическое программирование для студентов специальности, 135.48kb.
- Программа дисциплины опд. Ф. 09. Организация ЭВМ и систем для студентов специальности, 243.54kb.
- Программа дисциплины сд. Ф. 2, Ен. Ф. 8 Теория принятия решений для студентов специальности, 191.87kb.
- Рабочая программа по дисциплине: Теория принятия решений Для специальности: 230102, 84.08kb.
- Учебно-методический комплекс дисциплины «Математическая логика и теория алгоритмов», 376.44kb.
- Рабочая программа по дисциплине: Теория информации Для специальности: 230102 Автоматизированные, 90.58kb.
- Программа дисциплины опд. Ф. 13., Опд. Ф. 11 Методы и средства защиты компьютерной, 333.08kb.
- Рабочая программа по дисциплине «Основы разработки Internet-приложений» для специальности, 51.53kb.
Министерство образования и науки Российской Федерации
Федеральное агентство по образованию
ОБНИНСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ АТОМНОЙ ЭНЕРГЕТИКИ (ИАТЭ)
| | УТВЕРЖДАЮ |
| | Проректор по учебной работе ___________________ С.Б. Бурухин |
| | «______»____________ 200__ г. |
ПРОГРАММА ДИСЦИПЛИНЫ
ОПД.Р.1., ДН.В.2 ТЕОРИЯ ИНФОРМАЦИОННЫХ ПРОЦЕССОВ
для студентов специальности
230102 – Автоматизированные системы обработки информации и управления
направления 230100 – Информатика и вычислительная техника
Форма обучения: очная, заочная
Объем дисциплины и виды учебной работы в соответствии с учебными планами
| Вид учебной работы | Всего часов (230100, 230102 очное) | Семестры | Всего часов (230102 заочн.) | Курс |
| 6 | 4 | |||
| Общая трудоемкость дисциплины | 85 | 85 | 85 | 85 |
| Аудиторные занятия | 51 | 51 | 18 | 18 |
| Лекции | 34 | 34 | 10 | 10 |
| Практические занятия и семинары | 17 | 17 | 8 | 8 |
| Лабораторные работы | – | – | – | – |
| Курсовой проект (работа) | – | – | – | – |
| Самостоятельная работа | 34 | 34 | 67 | 67 |
| Расчетно-графические работы | – | – | – | – |
| Вид итогового контроля (зачет, экзамен) | Зач. | Зач. | Зач. | Зач. |
Обнинск 2008
Программа составлена с соответствии с Государственными образовательными стандартами высшего профессионального образования по направлению подготовки
- дипломированного специалиста 654600 Информатика и вычислительная техника (№ 224 тех/дс от 27.03.2000),
- дипломированного специалиста 654700 Информационные системы (№ 276 тех/дс от 27.03.2000),
- бакалавров 552800 Информатика и вычислительная техника (№ 35 тех/бак от 13.03.2000).
Программу составила:
___________________ Н.И. Гонтарь, ассистент кафедры АСУ
Программа рассмотрена на заседании кафедры АСУ (протокол № 6-у от 25.01.2008 г.)
Заведующий кафедрой АСУ
___________________ А.Н. Анохин
«____»_____________ 200__ г.
СОГЛАСОВАНО
| Начальник учебно-методического управления ___________________ Ю.Д. Соколова | Декан факультета кибернетики ___________________ А.В. Антонов «____»_____________ 200__ г. |
| | Декан факультета заочного отделения ___________________ А.А. Росляков «____»_____________ 200__ г. |
1. Цели и задачи дисциплины
Целью изучения дисциплины является освоение основных понятий, принципов и математических моделей теории информационных процессов, а также теоретических основ кодирования в каналах передачи информации.
Задачами дисциплины являются формирование базовых знаний об основных информационных характеристиках компонентов систем передачи данных, освоение фундаментальных понятий и теоретических принципов кодирования в каналах с помехами и без помех, изучение важнейших классов эффективных и помехоустойчивых кодов, получение практических навыков кодирования информации.
2. Требования к уровню освоения содержания дисциплины
В результате изучения дисциплины студент должен
знать: основные свойства и характеристики информации, виды и общие принципы информационных процессов; классификацию и основные свойства каналов передачи информации; понятия энтропии, количества информации и информационные характеристики источников сообщений и каналов связи; принципы и алгоритмы кодирования, классификацию и свойства основных эффективных и помехоустойчивых кодов.
уметь: применять методы вычисления основных информационных характеристик в системах передачи данных, алгоритмы оптимального сжатия информации и помехоустойчивого кодирования, проводить анализ эффективности информационных систем и процессов.
иметь навыки: вычисления энтропии, количества информации и пропускной способности; построения сжимающих и помехозащищенных кодов.
Входные дисциплины: Математический анализ, Дискретная математика, Теория вероятностей и математическая статистика, Информатика.
Выходные дисциплины: Сетевые технологии, Информационная безопасность и защита информации, Проектирование АСОИУ.
3. Содержание дисциплины
3.1. Лекции
| Номер темы | Тема | Число часов (очное) | Число часов (заочн.) |
| 1 | Предмет, основные задачи и понятия теории информационных процессов | 2 | - |
| 2 | Принципы и модели передачи информации. Каналы связи и их классификация. | 2 | 1 |
| 3 | Количественные характеристики неопределенности и информации и их взаимосвязи | 8 | 2 |
| 4 | Статистические модели и информационные характеристики источников и каналов связи. Вычисление пропускной способности | 6 | 1 |
| 5 | Основные понятия теории кодирования. Принципы кодирования в каналах с помехами и без помех | 4 | 1 |
| 6 | Методы эффективного кодирования в каналах без помех | 2 | 1 |
| 7 | Принципы обнаружения и исправления ошибок в двоичных каналах с помехами. Помехоустойчивое кодирование | 4 | 2 |
| 8 | Линейные (n,k)-коды | 4 | 1 |
| 9 | Циклические БЧХ-коды | 2 | 1 |
1. Предмет, основные задачи и понятия теории информационных процессов. [1-3]. Прикладное значение теории информационных процессов. Понятие информации и информационного процесса. Основные характеристики и свойства информации. Виды информационных процессов. теория информации Шеннона.
2. Принципы и модели передачи информации. Каналы связи и их классификация [2-3]. Функциональная модель процесса передачи информации. Канал передачи сообщений и его основные элементы. Понятие источника сообщений. Статистические модели дискретных и непрерывных источников. Возникновение ошибок в каналах связи. Диаграмма канала, вероятности ошибочной и верной передачи. Двоичный симметричный канал. Дискретные каналы без памяти, их свойства.
3. Количественные характеристики неопределенности и информации и их взаимосвязи [1-3]. Понятие энтропии как меры неопределенности состояний источника. Количественное измерение энтропии. Энтропия дискретного источника с равновероятными состояниями и с различными вероятностями состояний. Основные свойства энтропии.
Энтропия зависимых сигналов. Условная энтропия дискретного источника, ее вычисление и основные свойства. Понятие совместной энтропии.
Определение взаимной информации между случайными событиями. Количество информации как мера снятой неопределенности. Средняя взаимная информация в канале передачи сообщений, способы ее вычисления и основные свойства. Соотношения между различными информационными характеристиками.
Непрерывные источники сообщений. Понятие дифференциальной энтропии источника. Свойства дифференциальной энтропии. Количество информации в непрерывных каналах. -энтропия и ее вычисление в гауссовском канале с независимым белым шумом.
4. Статистические модели и информационные характеристики источников и каналов связи. Вычисление пропускной способности [2-3]. Обобщенная марковская модель эргодического источника сообщений. Свойства эргодических источников. Асимптотическая равновероятность длинных последовательностей и избыточность сообщений. Количественные показатели избыточности. Энтропия дискретного источника с зависимыми состояниями. Производительность дискретного источника.
Математические модели дискретных каналов. Характеристики скорости передачи информации по дискретному каналу. Понятие пропускной способности. Вычисление пропускной способности дискретных каналов с помехами и без помех. Способы повышения качества канала связи и эффективности передачи информации.
Информационные характеристики непрерывных источников сообщений. -производительность непрерывного источника. Пропускная способность гауссовского канала и ее свойства.
5. Основные понятия теории кодирования. Принципы кодирования в каналах с помехами и без помех [1-3]. Цели и задачи кодирования. Определение кода, простейшие правила кодирования. Классификация кодов. Равномерные и неравномерные, обратимые и необратимые коды. Необходимые условия обратимости кода.
Избыточность кодовых комбинаций в каналах с помехами и без помех. Проблема эффективного кодирования и пути ее решения. Характеристики избыточности кодов. Основная теорема Шеннона об оптимальном кодировании при наличии и отсутствии помех.
6. Методы эффективного кодирования в каналах без помех [1-3]. Неравномерные двоичные коды, условия их эффективности. Понятие средней длины кода. Префиксные коды, их графическое представление. Свойства префиксных кодов. Неравенство Крафта, его теоретический смысл и практическое значение. Построение оптимального неравномерного префиксного кода с использованием алгоритмов Шеннона-Фано и Хаффмана.
7. Принципы обнаружения и исправления ошибок в двоичных каналах с помехами. Помехоустойчивое кодирование [1,2]. Математические модели ошибок в двоичных каналах с помехами. Общая классификация помехоустойчивых кодов. Принципы обнаружения ошибок в кодовых комбинациях. Использование контрольных разрядов. Разделимые и неразделимые коды. Коды с проверкой на четность. Понятие кодового пространства, метрики Хэмминга и Ли. Характеристики верности передачи информации в каналах связи. Понятие надежности кода.
Принципы исправления ошибок в двоичных блоковых кодах. Связь между корректирующей способностью кода и кодовым расстоянием. Оптимальные корректирующие коды. Неравенства Хэмминга.
8. Линейные (n,k)-коды [1-3]. Определение и основные свойства линейных кодов. Матричное описание линейного кода. Порождающая матрица, алгоритм кодирования линейным (n,k)-кодом. Проверочная матрица линейного кода, ее свойства. Декодирование линейных кодов с обнаружением и исправлением ошибок. Коды Хэмминга.
9. Циклические БЧХ-коды [1-3]. Полиномиальная структура и свойства циклических кодов. Коды Боуза-Чоудхури-Хоквингема (БЧХ). Способы описания циклических кодов. Порождающий полином циклического кода и его свойства. Выбор и построение порождающего полинома. Алгоритм кодирования циклическими кодами. Декодирование циклического кода с исправлением ошибок: проверочный полином, синдром ошибки, общий алгоритм. Построение разделимых и неразделимых циклических кодов.
3.2. Практические и семинарские занятия
| Тема | Тема практического или семинарского занятия | Число часов (очное) | Число часов (заочн.) |
| 3 | Понятие энтропии и ее вычисление. Энтропия дискретного источника информации, ее свойства [1-4] | 2 | 1 |
| 3 | Количество информации в дискретных каналах связи [1-4] | 2 | 1 |
| 3 | Непрерывные источники информации. Дифференциальная энтропия и ее свойства [1-3] | 2 | 1 |
| 4 | Информационные характеристики дискретных источников и каналов связи. Избыточность источника. Пропускная способность канала, ее вычисление [1-3] | 2 | 1 |
| 5,6 | Принципы и методы эффективного кодирования в каналах без помех. Характеристики избыточности кодов. Префиксные коды [1-3] | 2 | 1 |
| 7 | Модели ошибок в двоичных каналах. Понятие кодового пространства, кодовое расстояние. Оптимальные корректирующие коды [2] | 2 | 1 |
| 8 | Матричные линейные коды: свойства, алгоритмы кодирования и декодирования [2-3] | 2 | 1 |
| 9 | Циклические БЧХ-коды, их построение и декодирование [1-3] | 2 | 1 |
3.3. Лабораторный практикум – Не предусмотрен
3.4. Курсовые проекты (работы) – Не предусмотрены
3.5. Формы промежуточного контроля
| Раздел(ы) | Форма контроля | Неделя |
| 3 | Домашнее задание | 5 |
| 4-6 | Контрольная работа | 10 |
| 7-9 | Контрольная работа | 16 |
3.6. Самостоятельная работа
Студентами очной формы обучения самостоятельно изучаются теоретические разделы и практические пособия, дающие углубленные сведения по основным темам дисциплины
| Содержание самостоятельной работы | Литература | Объем, час. | Форма контроля |
| Количественные характеристики неопределенности и информации | [1-3, 7] | 4 | Домашнее задание |
| Дифференциальная энтропия и взаимные информационные характеристики непрерывных источников информации | [3, 4, 7] | 16 | |
| Модели и информационные характеристики источников и каналов связи | [3] | 4 | Контрольная работа №1 |
| Эффективное кодирование | [1-3] | 4 | |
| Помехоустойчивое кодирование | [1-3, 11] | 6 | Контрольная работа №2 |
Студентами заочной формы обучения самостоятельно изучаются материалы по всем разделам дисциплины, дополнительно к аудиторным занятиям
| Содержание самостоятельной работы | Литература | Объем, час. | Форма контроля |
| Модели дискретных и непрерывных источников информации | [3] | 4 | Контрольная работа |
| Количественные характеристики неопределенности и информации | [1-3, 7, 13] | 10 | |
| Дифференциальная энтропия и взаимные информационные характеристики непрерывных источников информации | [3, 4, 7] | 10 | |
| Модели и информационные характеристики источников и каналов связи | [1] | 8 | |
| Основные принципы кодирования | [1-3] | 4 | |
| Эффективное кодирование | [1-3] | 8 | |
| Принципы обнаружения и исправления ошибок в каналах с помехами | [1-3] | 8 | |
| Помехоустойчивое кодирование | [1-3, 11] | 16 |
4.1. Рекомендуемая литература
4.1.1. Основная литература
1. Яглом А.М., Яглом И.М. Вероятность и информация. – М.: КомКнига, 2007. – 512 с.
2. Лидовский В.В. Теория информации: Учебное пособие. – М.: Компания Спутник+, 2004. – 111с.
4.1.2. Дополнительная литература
3. Дмитриев В.В. Прикладная теория информации. – М.: Высшая школа, 1989. – 320 с. (5 экз.)
4. Галлагер Р. Теория информации и надежная связь. – М.: Советское радио, 1974. – 720 с.
5. Игнатов В. А. Теория информации и передачи сигналов. – М.: Радио и связь, 1991. – 279 с.
6. Советов Б. Я. Теория информации. – Л.: Изд-во ЛГУ, 1987.
7. Орлов В.А., Филиппов Л.И. Теория информации в упражнениях и задачах. – М.: Высшая школа, 1976. – 136 с.
8. Куликовский Л.Ф., Мотов В.В. Теоретические основы информационных процессов. – М.: Высшая школа, 1987. – 248 с.
9. Шеннон К. Работы по теории информации и кибернетике. – М.: Изд-во иностр. лит., 1963. – 830 с.
10. Стратонович Р.Л. Теория информации. – М.: Советское радио, 1975. – 424 с.
11. Берлекэмп Э. Алгебраическая теория кодирования. – М.: Мир, 1971. – 480 с.
12. Мазур М. Качественная теория информации. – М.: Мир, 1974. – 240 с.
13. Бовбель Е.И., Дайнеко И.К., Изох В.В. Элементы теории информации. – Минск: Изд-во БГУ, 1974. – 112 с.
4.2. Средства обеспечения освоения дисциплины
Электронные учебники и учебные пособия; расчетные обучающие программы.
5. Материально-техническое обеспечение дисциплины
Не предусмотрено