Цепи Маркова в теории вероятности и их приложения

Дипломная работа - Математика и статистика

Другие дипломы по предмету Математика и статистика

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

"МОРДОВСКИЙ ГОСУДАРСТВЕННЫЙ ПЕДАГОГИЧЕСКИЙ ИНСТИТУТ ИМЕНИЕ М.Е. ЕВСЕВЬЕВА"

ФИЗИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ

КАФЕДРА МАТЕМАТИКИ

 

 

 

 

 

 

КУРСОВАЯ РАБОТА

ЦЕПИ МАРКОВА В ТЕОРИИ ВЕРОЯТНОСТИ И ИХ ПРИЛОЖЕНИЯ

 

 

 

Автор курсовой работы:

Т. Н. Данилова

Руководитель:

Н. Г.Тактаров

 

 

 

 

 

 

 

Саранск 2011

Содержание

 

Введение

1.Основные понятия теории марковских цепей

2.Возвратные и невозвратные состояния

.Теорема возвратного состояния

.Достижимые возвратные состояния

.Примеры решения задач

Заключение

Список используемой литературы

 

Введение

 

Марковские случайные процессы названы по имени выдающегося русского математика А.А.Маркова (1856-1922), впервые начавшего изучение вероятностной связи случайных величин и создавшего теорию, которую можно назвать "динамикой вероятностей". В дальнейшем основы этой теории явились исходной базой общей теории случайных процессов, а также таких важных прикладных наук, как теория диффузионных процессов, теория надежности, теория массового обслуживания и т.д. В настоящее время теория марковских процессов и ее приложения широко применяются в самых различных областях.

Благодаря сравнительной простоте и наглядности математического аппарата, высокой достоверности и точности получаемых решений, особое внимание марковские процессы приобрели у специалистов, занимающихся исследованием операций и теорией принятия оптимальных решений.

Марковские цепи используются в теории массового обслуживания для расчета распределения вероятностей числа занятых приборов в системе, состоящей из n приборов с пауссоновским потоком требований и показательным законом времени обслуживания.

Цепь Маркова, используется и в качестве математической модели при изучении поведения определенных стохастических систем. Для коротких отрезков времени можно использовать вычисления абсолютных вероятностей . Когда же число переходов неограниченно возрастает (больше k), необходимы иные методы анализа поведения системы.

В неприводимой цепи Маркова, любое состояние Sj может быть достигнуто из любого другого состояния Si за конечное число переходов, т. е. , где , в такой цепи все состояния будут сообщающимися. Все состояния неприводимой Марковской цепи образуют замкнутое множество состояний и никакое его подмножество состояний не может быть замкнутым.

Данная курсовая работа рассматривает цепи Маркова в теории вероятностей и их приложения. Объект исследования: цепи Маркова. Цель исследования: изучить Марковкие цепи, их виды, состояния. Задачи исследования: рассмотреть задачи, решаемые с использованием цепей Маркова.

марковский цепь вероятность невозвратный

1. Основные понятия теории марковских цепей

 

Условно будем говорить о некоторой физической системе, шаг за шагом меняющей свое фазовое состояние. Будем считать, что имеется лишь конечное или счетное число различных фазовых состояний ?1, ?2, ... Обозначим ? (п) состояние системы через п шагов. Будем предполагать, что цепочка последовательных переходов

 

?(0) > ? (1) …

 

зависит от вмешательства случая, причем соблюдается следующая закономерность: если на каком-либо шаге п система находится в состоянии ?i, то, независимо от предшествующих обстоятельств, она на следующем шаге с вероятностью pij переходит в состояние ?j

ij = Р{ ? (n+1) = ?i/ ? (п) = ?j }, i, j =1, 2, ... (2.1)

 

Описанная выше модель называется однородной цепью Маркова, а вероятности рij называются переходными вероятностями этой цепи. Кроме них, еше задается начальное распределение вероятностей

oi = P{? (0) = ?i}, i=1, 2, ... (2.2)

 

Какова вероятность того, что система через п шагов будет находиться в состоянии ?j?

Обозначим эту вероятность pj (n):

j (n) = Р {?(n) = ?j}. (2.3)

Через п - 1 шагов система обязательно будет находиться в одном из состояний ?k, k = 1, 2, ..., причем в ?k она будет с вероятностью, обозначенной рк(п - 1). При условии, что через п-1 шагов система будет находиться в состоянии ?k, вероятность оказаться через п шагов в состоянии ?j равна вероятности рkj перехода из ?k в ?j. Используя формулу полной вероятности, получаем, что

 

 

Это дает следующие рекуррентные соотношения для вероятностей рj(п), j=1, 2, ...:

 

(n=1, 2, …).

 

Если в начальный момент система находится в определенном состоянии ?i, то начальное распределение вероятностей таково, что р0i= 1, p0k= 0 для k ? i а вероятность pi(n) совпадает с вероятностью pij(n) того, что система из состояния ?i за п шагов перейдет в состояние ?j.

ij(n) = Р{?(п) = ?j/?(0) =?i}, i, j = 1, 2, ... (2.6)

 

При начальном распределении вида р0i =1, р0k = 0 для k ? i формула (2.5) дает следующие соотношения между переходными вероятностями pij(n); i,j =1, 2,... :

 

(n=1, 2, …)

Удобно ввести матрицу Р(п) = { pij(n)}. Согласно формуле (2.7)

 

Р(0)= I, Р(1) = Р, Р(2) =Р(1) Р = P2, ...,

 

где I - единичная матрица, Р = {pij} ? матрица переходных вероятностей. Видно, что имеет место следующее равенство:

(n) = Pn (n = 1, 2, …) (2.8)

 

Рассмотрим несколько примеров

Задача о стопке книг. На письменном столе лежит стопка из m книг. Если обозначить каждую книгу соответствующим номером, то порядок их расположения сверху вниз можно описать перестановкой из т чисе?/p>