Теория обучения машин: дополнительные главы Автор: Профессор, д.ф.-м.н. Червоненкис Алексей Яковлевич.
Лекция 1. Общая постановка задачи. Формула Байеса. Байесова стратегия в теории игр. (Простейшие Байесовы процедуры).
Лекция 2. Регуляризация метода наименьших квадратов на основе Байесова подхода. (Процедуры МНК с регуляризацией).
Лекция 3. Обратные задачи и их решение с использованием Байесовой стратегии. (Те же процедуры применительно к обратным задачам).
Лекция 4. Метод Кригинга. Гребневая регрессия. (Стандартные процедуры Кригинга и гребневой регрессии).
Лекция 5. Критика подхода. Регуляризация как приближенная реализация Байесовой стратегии. Проблема выбора констант регуляризации и системы функций разложения (ядерных функций).
Лекция 6. Структурная минимизация эмпирического риска на базе оценок равномерной сходимости. Общий подход.
Лекция 7. Применение структурной минимизации к задачам распознавания образов. Соответствующие оценки.
Лекция 8. Применение структурной минимизации к задачам восстановления действительных функций. Относительные оценки равномерной близости средних к математическим ожиданиям. Их применение к структурной минимизации риска.
Лекция 9. Машина опорных векторов (SVM).
Лекция 10. Рекуррентные алгоритмы. Критерий минимальной длины описания.
Лекция 11. Комбинированный подход: Максимум правдоподобия — Байес.
Лекция 12. Примеры практических приложений.
Список пособий для выполнения заданий.
Всё есть в Интернете в свободном доступе
1. Гмурман В.Е., Теория вероятностей и математическая статистика: Учеб. пособие для вузов М.:Высш. шк. (2003):480 c.
2. А.И. Кибзун, Е.Р. Горяинова, А.В. Наумов, А.Н. Сиротин, Теория Вероятностей и математическая статистика/ Базовый курс с примерами и задачами Москва:ФИЗМАТЛИТ (2002):224 с.
3. Д.А. Коршунов, Н.И. Чернова, Сборник задач и упражнений по математической статистике, Российская академия наук сибирское отделение институт математики им. С.Л. Соболева Новосибирск:Издательство института математики (2004):128 с.
4. М.Б. Лагутин, Наглядная математическая статистика, М:БИНОМ. Лаборатория знаний (2009):474 с.
5. Кокс Д.Р., Оукс Д. Анализ данных типа времени жизни, Пер. с англ. М:Финансы и статистика (1988):191с.
6. E. L. Kaplan, Paul Meier, Nonparametric Estimation from Incomplete Observations JASA 1958, 53: 457-481
7. Феллер В., Введение в теорию вероятностей и её приложения (Том 2), Москва,«Мир» (1967):765 с.
8. С.А. Айвазян, В.М. Бухштабер, И.С. Енюков, Л.Д. Мешалкин, ПРИКЛАДНАЯ СТАТИСТИКА: Классификация и снижение размерности, М.:Финансы и статистика (1989):607 с.
9. С.А. Айвазян, И.С. Енюков, Л.Д. Мешалкин, Исследование зависимостей, М:Финансы и статистика (1985):489 с.
10. С.А. Айвазян, И.С. Енюков, Л.Д. Мешалкин, Основы моделирования и первичная обработка данных, М:Финансы и статистика (1983):472 с.
11. Вапник В.Н., Червоненкис А.Я., Теория распознавания образов, М:Наука (1974):416с.
12. Д. Письменный, Конспект лекций по теории вероятностей и математической статистике, М:Айрис-пресс (2004):256 с.
13. Поляк Б.Т., Введение в оптимизацию, М.:Наука (1983):383 c.
14. Айзерман М.А., Браверман Э.М., Розоноэр Л.И., Метод потенциальных функций в теории обучения машин, М:Наука (1970):384 с.
15. В.В. Вьюгин, Элементы математической теории машинного обучения, М:МФТИ (2010):341 с.
16. К.Л. Самаров, Аналитическая геометрия, ОООРезольвента (2009):33 с. [Учебно-методическое пособие по разделу АНАЛИТИЧЕСКАЯ ГЕОМЕТРИЯ]
17. Мерков А.Б., Введение в методы статистического обучения (2009):140 с.
http://www.recognition.mccme.ru/pub/RecognitionLab.html/sltn.pdf
18. В.Н. Вапник, Восстановление зависимостей по эмпирическим данным, М:Наука (1979):449
19. Тихонов А.Н., Арсенин В.Я., Методы решения некорректных задач, М:Наука. Главная редакция физико-математической литературы (1979):142 с.
20. Червоненкис А.Я., Компьютерный анализ данных, Лекции школы анализа данных Яндекса.
Интернет ресурсы:
1. Математические методы распознавания образов Автор: Л.М. Местецкий (Интернет университет высоких технологий) http://www.intuit.ru/department/graphics/imageproc/4/1.html |
