692 Приложение A. Вспомогательные сведения из высшей математики Сумма матриц A и B (m n): C = A + B = {aij + bij}, C (m n).
n Произведение матриц A (m n) и B (n k): C = AB = aitbtj, t=C (m k).
Скалярное произведение вектор-столбцов a (m 1) и b (m 1):
m a b = aibi.
i= Квадратичная форма вектор-столбца x (m 1) иматрицы A (m m):
m m x Ax = aijxixj.
i=1 j= Произведение матрицы A (m n) на скаляр : B = A = {aij}, B (m n).
Транспонирование матрицы A (m n): B = A = {aji}, B (n m).
m Следматрицы A (m m): tr (A) = aii.
i= Рангом (rank(A)) матрицы A называется количество линейно независимых столбцов (равное количеству линейно независимых строк). Матрица A (m n) имеет полный ранг по столбцам, если rank(A) = n. Матрица A (m n) имеет полный ранг по строкам, если rank(A) =m.
Матрица A (m m) называется невырожденной (неособенной), если rank(A) =m. В противном случае она называется вырожденной.
Матрица A (m m) называется диагональной, если aij = 0 при i = j. Для диагональной матрицы используется обозначение A = =diag(a11,..., amm).
1 0 0 1 Матрица Im = diag(1,..., 1) = (m m) называется...
.
....
.
...
0 0 единичной.
Матрица A (m m) называется симметричной (симметрической), если A = A.
A.1. Матричная алгебра Матрица A (m m) называется верхней треугольной, если aij = при i >j. Матрица A (mm) называется нижней треугольной, если aij =при i Матрица A-1 (mm) называется обратной матрицей к матрице A (mm), если AA-1 = A-1A = Im. Матрица A (m m) называется идемпотентной, если AA = A2 = A. Векторы-столбцы a (m 1) и b (m 1) называются ортогональными, если их скалярное произведение равно нулю: a b =0. Матрица A (mn), где m n, называется ортогональной, если ее столбцы ортогональны, т.е. A A = In. Матрица A (m m) называется положительно определенной, если для любого вектор-столбца x =0 (m 1) выполняется x Ax > 0. Матрица A (m m) называется отрицательно определенной, если для любого векторстолбца x =0 (m 1) выполняется x Ax < 0. Матрица A (m m) называется положительно полуопределенной (неотрицательно определенной), если для любого вектора-столбца x (m 1) выполняется x Ax 0. Матрица A (m m) называется отрицательно полуопределенной (неположительно определенной), если для любого векторастолбца x (m 1) выполняется x Ax 0. Определителем матрицы A (m m) называется m |A| =det(A) = aij(-1)i+j |Aij|, j=где i Ч номер любой строки, а матрицы Aij ((m - 1) (m - 1)) получены из матрицы A путем вычеркивания i-й строки и j-го столбца. Для матрицы A (m m) уравнение |A - Im| =0 называется характеристическим уравнением. Решение этого уравнения называется собственным числом (собственным значением) матрицы A. Вектор x =0 (m 1) назы вается собственным вектором матрицы A, соответствующим собственному числу, если (A - Im) x =0. 694 Приложение A. Вспомогательные сведения из высшей математики Прямое произведение (произведение Кронекера) матриц A (m n) и B (p q) это матрица C (mp nq): a11B a12B a1nB a21B a22B a2nB C = A B =. ... . .... . ... am1B am2B amnB A.1.2. Свойства матриц Сложение матриц Х A + B = B + A (коммутативность). Х (A + B) +C = A +(B + C) (ассоциативность). Произведение матриц Х В общем случае AB = BA (свойство коммутативности не выполнено). Х (AB) C = A (BC) (ассоциативность). Х A (B + C) =AB + AC (A + B) C = AC + BC (дистрибутивность). Х AIm = ImA = A для матрицы A (m m). A B E F AE + BG AF + BH Х =. C D G H CE + DG CF + DH Ранг Х Для матрицы A (m n) выполнено rank(A) min{m, n}. Х rank(AB) min {rank(A), rank(B)}. Х Если матрица B (m m) является невырожденной, то для матрицы A (m n) выполнено rank(A) = rank(BA). Если матрица B (n n) является невырожденной, то для матрицы A (m n) выполнено rank(A) = =rank(AB). Х rank(A A) =rank(AA ) =rank(A). A.1. Матричная алгебра Cлед Х tr (A + B) =tr (A) +tr (B). Х tr (A) = tr (A). Х tr (A) =tr (A ). Х tr (AB) =tr (BA). Х tr (ABC) =tr (CAB) =tr (BCA). m n Х tr (A A) =tr (AA ) = a2. ij i=1 j=Х tr (Im) =m. Х tr A(A A)-1A = n, где матрица A (m n) имеет полный ранг по столбцам, т.е. rank(A) =n. A B Х tr =tr (A) +tr (D), гд е A и D Ч квадратные матрицы. C D Транспонирование Х (A + B) = A + B. Х (AB) = B A. Определитель Х Для матрицы A (2 2): |A| = a11a22 - a12a21. Х |A| |B| = |AB|. Х |I| =1. Х |A| = m |A| для матрицы A (m m). Х |A | = |A|. Х A-1 =. |A| 696 Приложение A. Вспомогательные сведения из высшей математики Х Если матрица A (m m) является треугольной (например, диагональной), m то |A| = aii. i=Х |I + AB| = |I + BA|. Х A + BD-1C |D| = D + CA-1B |A|. Х |A + xy | = |A| (1 + y Ax) для матрицы A (m m) и вектор-столбцов x, y (m 1). A Х = |A| |B|, гд е A и B Ч квадратные матрицы. 0 B A B Х = A - BD-1C |D| = D - CA-1B |A|, гд е A и D Ч квад C D ратные невырожденные матрицы. Х Матрица A (mm) является невырожденной (rank(A) =m) тогда и только тогда, когда |A| =0. Обращение Х Если обратная матрица существует, то она единственна (в частности, левая и правая обратные матрицы совпадают). Х Матрица A (m m) имеет обратную A-1 тогда и только тогда, когда она является невырожденной, т.е. rank(A) =m. Х Матрица A (m m) имеет обратную A-1 тогда и только тогда, когда |A| = =0. Х Обозначим через aij элементы обратной матрицы A-1. Тогд а (-1)i+j|Aji| aij =, гд е Aji ((m-1)(m-1)) получены из матрицы A путем |A| вычеркивания j-й строки и i-го столбца. Во всех приводимых ниже формулах предполагается, что существуют обратные матрицы там, где это требуется. A.1. Матричная алгебра Х Для матрицы A (2 2): a22 -a21 a22 -a1 A-1 = =. |A| a11a22 - a12a-a12 a11 -a12 aХ Ax = y, x = A-1y. Х (AB)-1 = B-1A-1. -Х A-1 = A. Х (A )-1 = A-1. Х Если A (m m) Ч ортогональная матрица, то A = A-1. Х Для диагональной матрицы A =diag(a11,..., amm) выполнено: A-1 =diag(1/a11,..., 1/amm). -Х (A + B)-1 = A-1 A-1 + B-1 B-1. -Х A + BD-1C = A-1 - A-1B(D + CA-1B)-1CA-1. Х (I + AB)-1 = I - A(I + BA)-1B. - A 0 A-1 Х =, гд е A и B Ч квадратные матрицы. 0 B 0 B- - A B (A - BD-1C)-1 -A-1B(D - CA-1B)- Х =, C D -D-1C(A - BD-1C)-1 (D - CA-1B)-где A и D Ч квадратные матрицы. Положительно определенные матрицы Х Если матрица A положительно определенная, то |A| > 0. Если матрица A положительно полуопределенная, то |A| 0. Х Если матрица A положительно (полу-)определенная, то матрица -A отрицательно (полу-)определенная. 698 Приложение A. Вспомогательные сведения из высшей математики Х Если матрица A положительно определенная, то обратная матрица A-также положительно определенная. Х Если матрицы A и B положительно (полу-)определенные, то матрицы A + B и AB также положительно (полу-)определенные. Х Если матрица A положительно определенная, а B положительно полуопределенная, то |A + B| |A|. Если B положительно определенная, то |A + B| > |A|. Х Матрицы A A и A BA (n n) являются симметричными положительно полуопределенными для любой матрицы A (m n) и симметричной положительно полуопределенной матрицы B (m m). Х Если матрица A (m n) имеет полный ранг по столбцам, то матрица A A (n n) симметричная положительно определенная. Если матрица B (m m) симметричная положительно определенная, то матрица A BA (n n) симметричная положительно определенная. Х Если матрица A (m m) положительно полуопределенная, то существует верхняя треугольная матрица U (m m), такая что A = U U. Также существует нижняя треугольная матрица L (m m), такая что A = L L. Такое представление матрицы называется разложением Холецкого (триангуляризацией). Идемпотентные матрицы Х Если матрица A идемпотентная, то матрица I - A тоже идемпотентная, причем A(I - A) =0. Х Если матрица A симметричная и идемпотентная, то rank(A) =tr (A). Х Матрицы A (A A)-1 A и Im - A (A A)-1 A являются симметричными и идемпотентными для любой матрицы A (m n), имеющей полный ранг по столбцам. При этом tr A (A A)-1 A = n и tr Im - A (A A)-1 A = = m - n. Собственные числа и векторы Х Для матрицы A (m m) |A - Im| является многочленом m-й степени (характеристическим многочленом) и имеет m корней, 1,..., m, в общем случае комплексных, среди которых могут быть кратные. По определению, 1,..., m являются собственными числами матрицы A. A.1. Матричная алгебра Х У матрицы A (m m) существует не больше m различных собственных чисел. Х Если x Ч собственный вектор матрицы A, соответствующий собственному числу, то для любого скаляра = 0, x Ч тоже собственный вектор, соответствующий собственному числу. m Х Если 1,..., m Ч собственные числа матрицы A, то tr(A) = i, i=m |A| = i. i=Х Если матрица A идемпотентная, то все ее собственные числа равны 0 или 1. Х Все собственные числа вещественной симметричной матрицы вещественны. Х Если x и y Ч собственные векторы вещественной симметричной матрицы, соответствующие двум различным собственным числам, то они ортогональны: x y =0. Х Если матрица A (m m) является вещественной и симметричной, то существуют матрицы H и, где H (m m) Ч ортогональная матрица (H = H-1), столбцы которой Ч собственные векторы матрицы A, а (m m) Ч диагональная матрица, состоящая из соответствующих собственных чисел матрицы A, такие что выполнено A = HH. Х Если матрица A (m m) является вещественной, симметричной, невырожденной, то A-1 = H-1H. Х Вещественная симметричная матрица является положительно полуопределенной (определенной) тогда и только тогда, когда все ее собственные числа неотрицательны (положительны). Вещественная симметричная матрица является отрицательно полуопределенной (определенной) тогда и только тогда, когда все ее собственные числа неположительны (отрицательны). Х Если матрица A (m m) является вещественной, симметричной и положительно полуопределенной, то A = B B = B2,где B = H1/2 H (m m) Ч вещественная, симметричная и положительно полуопределенная матрица; /1/2 =diag{g }. Х Пусть 1 m Ч собственные числа вещественной симметричной матрицы A (m m). Тогда собственый вектор x1, соответствующий 700 Приложение A. Вспомогательные сведения из высшей математики наименьшему собственому числу 1, является решением задачи x Ax min! x x x =1. Х Пусть 1 m Ч собственные числа вещественной симметричной x Ax x Ax матрицы A (m m). Тогда m =max и 1 =min. x x x x x x Произведение Кронекера Х A (B + C) =A B + A C и (A + B) C = A C + B C. Х A (B C) =(A B) C. Х A = A = A. Х (A B) = A B. Х (A B)(C D) =(AC) (BD). Х (A B)-1 = A-1 B-1. Х |A B| = |A|n |B|m для матриц A (m m) и B (n n). Х tr (A B) =tr (A) tr (B). Х rank(A B) =rank(A) rank(B). A.2. Матричное дифференцирование A.2.1. Определения Производной скалярной функции s(x) по вектор-столбцу x (n 1) или, другими словами, градиентом является вектор-столбец (n 1) s x s. . =. . x s xn A.2. Матричное дифференцирование Производной скалярной функции s(x) по вектор-строке x (1 n) является вектор-строка (1 n) s s s =,...,. x x1 xn Производной векторной функции y(x) (n 1) по вектору x (1 m) или, другими словами, матрицей Якоби является матрица (n m) y yi =. i=1, x xj j=1,..., n..., m Х Производной векторной функции y(x) (1n) по вектору x (m1)является матрица (m n) y yj =. i=1,..., m x xi j=1,..., n Производной скалярной функции s(A) по матрице A (m n) является матрица (m n) s s =. i=1,..., m A aij j=1,..., n Производной матричной функции A(s) по скаляру s является матрица (m n) A aij =. i=1,..., m s s j=1,..., n Второй производной скалярной функции s(x) по вектору-столбцу x (n 1) или, другими словами, матрицей Гессе является матрица (n n) 2s 2s =. i=1,..., m xx xixj j=1,..., n A.2.2. Свойства x x Х = I и = I. x x Ax x A Х = A и = A. x x 702 Приложение A. Вспомогательные сведения из высшей математики x y y x Х = = y. x x x x Х =2x. x x Ay x Ay Х = Ay и = x A. x y x Ax Х =(A + A )x. x x Ax Для симметричной матрицы A: =2Ax =2A x. x x Ay Х = xy. A x A-1y Х =(A )-1 xy (A )-1. A tr (A) Х = I. A tr (AB) tr (AB) Х = B и = A. A B tr (A A) Х =2A. A tr (A BA) Х =(B + B ) A. A tr (A BA) Х = AA. B |A| Х = |A| (A )-1. A ln |A| Х =(A )-1. A ln |A BA| Х = BA (A BA)-1 + B A (A B A)-1. A (AB) B A Х = A + B. s s s A-1 A Х = -A-1 A-1. s s A.3. Сведения из теории вероятностей и математической статистики ds (A) s dA s dA Х =tr =tr. dt A dt A dt tr (A) A Х =tr. s s ln |A| A Х =tr A-1. s s dy (x) y dx Х =. ds x ds A.3. Сведения из теории вероятностей и математической статистики A.3.1. Характеристики случайных величин Определения Х Функцией распределения случайной величины x называется функция Fx(z) =Pr(x z), сопоставляющая числу z вероятность того, что x не превышает z. Функция распределения полностью характеризует отдельную случайную величину. Х Если случайная величина x непрерывна, то она имеет плотность fx(), ко торая связана с функцией распределения соотношениями fx(z) =Fx(z). Х Квантилью уровня F, гд е F [0; 1], (F -квантилью) непрерывной случайной величины x называется число xF, такоечто xF Fx(xF ) = fx(t)dt = F. Х Медианой x0,5 называется 0, 5-квантиль. Х Модой непрерывной случайной величины называется величина, при которой x плотность распределения достигает максимума, т.е. =arg max fx(z). z Х Если распределение непрерывной случайной величины x симметрично относительно нуля, т.е. fx(z) =fx(-z) и Fx(-xF ) =1 - Fx(xF ), то двусторонней F -квантилью называется число xF, такоечто xF Fx(xF ) - Fx(-xF ) = fx(t)dt = F. -xF 704 Приложение A. Вспомогательные сведения из высшей математики Х Математическим ожиданием непрерывной случайной величины x называ + ется E(x) = tfx(t)dt. Х Математическое ожидание является начальным моментом первого порядка. Начальным (нецентральным) моментом q-го порядка называется + E(xq) = tqfx(t)dt. Х По случайной величине x может быть построена соответствующая ей центрированная величина x : x = x - E(x), имеющая аналогичные законы распределения и нулевое математическое ожидание.