Курс Vсеместры 9 (осенний) лекции 17 часов Экзамен 9 семестр (осенний)

Вид материала

Лекции

Содержание Всего часов Заведующий кафедрой 2. Основными задачами курса являются 3. Место курса в профессиональной подготовке выпускника. 4. Требования к уровню освоения содержания курса. II. Содержание курса Раздел 2. Обучение с учителем. Раздел 4. Вероятностный вывод. IV. Примерная тематика рефератов и курсовых работ VI. Распределение часов курса по темам и видам работ Наименование разделов

Подобный материал:

• Курс Vсеместры 9 (осенний) лекции 17 часов Экзамен 9 семестр (осенний), 86.23kb.
• Курс Vсеместры 9 (осенний) лекции 17 часов Экзамен 9 семестр (осенний), 30.62kb.
• Курс Vсеместры 9 (осенний), 10 (весенний) лекции 66 часов Экзамен 10 семестр (весенний), 40.04kb.
• С н. Сизова И. Л. Учебный курс «Семья как объект социальной политики» Объем 16 аудиторных, 69.11kb.
• Курс 3 Семестр 2 Лекции (часов) 32 Сем занятия (часов) 32 Всего часов: 64 Экзамен (семестр), 699.59kb.
• Рабочая программа практических занятий по основам психотерапии лечебный и педиатрический, 29.04kb.
• Курс Vсеместры 10 (весенний) лекции 16 часов Экзамен 10 семестр (весенний), 44.95kb.
• Курс Vсеместры 10 (весенний) лекции 16 часов экзамен нет, 85.63kb.
• Курс 5 Семестр 1 Лекции (часов) 26 Сем занятия (часов) 26 Всего часов: 52 Экзамен (семестр), 312.99kb.
• Экзамен 800 балл. 18 недель Лекции- 28 ч. Семинары -28 ч. Инд. Занятия 56 ч ейтинг-лист, 42.66kb.

министерство образования и науки российской федерации

Федеральное агентство по образованию

Государственное образовательное учреждение

высшего профессионального образования

Московский физико-технический институт

(государственный университет)


УТВЕРЖДАЮ

проректор по учебной работе

д.т.н. Е.В. Глухова


«___» _____________ 200__ г.

П Р О Г Р А М М А

Курса ОБУЧЕНИЕ МАШИН И РАСПОЗНАВАНИЕ ОБРАЗОВ

по направлению 010600 «Прикладные математика и физика»

по магистерским программам 010656, 010674

факультет РТК

кафедра проблем передачи и обработки информации

курс V

семестры 9 (осенний)

лекции 17 часов Экзамен 9 семестр (осенний)

семинары 17 часов Зачёт нет

лабораторные занятия нет

самостоятельная работа 2 часа в неделю

ВСЕГО ЧАСОВ 34

Программу составил: ассистент Карпенко С.М.

Программа обсуждена на заседании кафедры

проблем передачи и обработки информации

01 июня 2009 года

Заведующий кафедрой

чл.-корр. РАН А.П. Кулешов

I. Организационно-методический раздел

1. Цель курса – изучение современных алгоритмов обучения машин и распознавания образов.


2. Основными задачами курса являются:

– знакомство с постановками задач машинного обучения;

– освоение математического аппарата;

– освоение основных алгоритмов обучения по прецедентам, кластеризации, классификации и распознавания.


3. Место курса в профессиональной подготовке выпускника.

Для усвоения курса «Обучение машин и распознавание образов» необходимо знание основ программирования, математического анализа, линейной алгебры и теории вероятностей.


4. Требования к уровню освоения содержания курса.

В результате усвоения учебной дисциплины «Обучение машин и распознавание образов» студент должен

знать:

• методологию и терминологию дисциплины;
  
• основные протоколы обучения машин;
  
• принципы построения алгоритмов обучения по прецедентам;
  
• принципы построения алгоритмов кластеризации, классификации и распознавания;
  

уметь:

• применять на практике изученные подходы и алгоритмы;
  
• разрабатывать и программировать специализированные алгоритмы обработки данных.
  

II. Содержание курса

1. Разделы курса

1. Введение.
   
2. Обучение с учителем.
   
3. Обучение без учителя и анализ данных.
   
4. Вероятностный вывод.
   

2. Краткое содержание разделов

Раздел 1. Введение.

Обучаемые (параметризованные) алгоритмы. Приложения. Данные, признаки. Обзор протоколов обучения: c учителем, без учителя, с подкреплением. Примеры.

Роль методов оптимизации. Нейронные сети, коннекционизм. Переобучение и регуляризация.

Раздел 2. Обучение с учителем.

Логистическая регрессия, персептрон. Обратное распространение ошибки. Многослойный персептрон. Разделяемые веса. Обучаемые метрики (сиамские сети). Конволютивные сети.

Машины опорных векторов (SVM). Квадратичная оптимизация. Нестандартные скалярные произведения.

Простейший алгоритм обучения, использующий теорему Байеса.

Практические вопросы: сбор базы данных, выбор признаков, диагностика качества работы алгоритма. Типы ошибок, характеристическая кривая (ROC-curve).

Деревья принятия решений, Алгоритм С4.5.Бустинг. Алгоритм Виолы-Джонса.

Раздел 3. Обучение без учителя и анализ данных.

Кластеризация. Иерархическая кластеризация. Алгоритм K-средних. Модель смеси гауссиан. Дискриминант Фишера. Алгоритм ожидания-максимизации (EM).

Сокращение размерности. Анализ главных компонент (PCA). Нейронные сети, осуществляющие нелинейный анализ главных компонент.

Пропущенные данные. Вероятностная трактовка PCA.

Факторный анализ, анализ независимых компонент.

Раздел 4. Вероятностный вывод.

Скрытые Марковские модели. Марковские случайные поля. Общий взгляд на модели со скрытыми параметрами.

III. Перечень примерных контрольных вопросов и заданий для самостоятельной

работы

См. раздел V настоящей программы.

IV. Примерная тематика рефератов и курсовых работ

Не предусмотрены.

V. Примерный перечень вопросов к экзамену

1. Обучаемые (параметризованные) алгоритмы. Приложения. Данные, признаки.
   
2. Обзор протоколов обучения: c учителем, без учителя, с подкреплением. Примеры.
   
3. Роль методов оптимизации. Нейронные сети, коннекционизм. Переобучение и регуляризация.
   
4. Логистическая регрессия, персептрон.
   
5. Обратное распространение ошибки. Многослойный персептрон. Разделяемые веса. Обучаемые метрики (сиамские сети). Конволютивные сети.
   
6. Машины опорных векторов (SVM). Квадратичная оптимизация. Нестандартные скалярные произведения.
   
7. Простейший алгоритм обучения, использующий теорему Байеса.
   Практические вопросы: сбор базы данных, выбор признаков, диагностика качества работы алгоритма. Типы ошибок, характеристическая кривая (ROC-curve).
   
8. Деревья принятия решений, Алгоритм С4.5.
   
9. Бустинг. Алгоритм Виолы-Джонса.
   
10. Кластеризация. Иерархическая кластеризация. Алгоритм K-средних. Модель смеси гауссиан. Дискриминант Фишера.
    
11. Алгоритм ожидания-максимизации (EM).
    
12. Сокращение размерности. Анализ главных компонент (PCA). Нейронные сети, осуществляющие нелинейный анализ главных компонент.
    
13. Пропущенные данные. Вероятностная трактовка PCA.
    
14. Скрытые Марковские модели.
    

VI. Распределение часов курса по темам и видам работ

	Наименование разделов	Всего (часов)	Аудиторные занятия		Самостоятельная работа (часов)
			Лекции	семинары, практические занятия
1	Введение	2	1	1	-
2	Обучение с учителем.	12	6	6	-
3	Обучение без учителя и анализ данных	12	6	6	-
4	Вероятностный вывод	8	4	4	-
	Итого	34	17	17	-

VII. Учебно-методическое обеспечение курса

Список рекомендуемой литературы

[1] А.Б. Мерков. Введение в методы статистического обучения. Материалы к учебнику: nition.mccme.ru/pub/RecognitionLab.php/sltb.pdf .

[2] Bishop C. Pattern Recognition and Machine Learning, Springer, 2006.

[3] Д.П. Ветров, Д.А. Кропотов. Алгоритмы выбора моделей и построения коллективных решений в задачах классификации, основанные на принципе устойчивости. М.: КомКнига, 2006.

[4] Дуда Р., Харт П. Распознавание образов и анализ сцен. М.:Мир, 1976.