ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ

  

   Математическая статистика - раздел математики, изучающий математические методы сбора, систематизации, обработки и интерпретации результатов наблюдений с целью выявления статистических закономерностей.

   Установление закономерностей, которым подчинены массовые случайные явления, основано на изучении методами теории вероятностей статистических данных – результатов наблюдений.

   Первая задача математической статистики – указать способы сбора и группировки статистических сведений, полученных в результате наблюдений или в результате специально поставленных экспериментов.

   Вторая задача математической статистики – разработать методы анализа статистических данных в зависимости от целей исследования. Сюда относятся:

а)оценка неизвестной вероятности события; оценка неизвестной функции распределения; оценка параметров распределения, вид которого известен;

б)проверка статистических гипотез о виде неизвестного распределения или о величине параметров распределения, вид которого известен.

Итак, задача математической статистики состоит в создании методов сбора и обработки статистических данных для получения научных и практических выводов.

Выборочной совокупностью или просто выборкой называют совокупность случайно отобранных объектов.

Генеральной совокупностью называют совокупность

объектов, из которых производится выборка.

Объемом совокупности (выборочной или генеральной) называют число объектов этой совокупности. Например, если из 1000 деталей отобрано для обследования 100 деталей, то объем генеральной совокупности N = 1000, а объем выборки n = 100.

            

Статистическое распределение выборки

 

   Пусть из генеральной совокупности извлечена выборка объёма n: , причем x₁ наблюдалось m₁ раз, x₂ – m₂  раз и т.д., а  – объем выборки.  называют частотами, а их отношения к объему выборки  (i=1,2,...k)– относительными частотами.

   Статистическим рядом распределения называют перечень всех значений  из выборки и соответствующих им частот или относительных частот. Статистическое распределение можно задать также в виде интервального статистического ряда, т.е. последовательности интервалов и соответствующих им частот (в качестве частоты, соответствующей интервалу, принимают сумму частот, попавших в этот интервал).

   Пример. Пусть объем выборки n = 20 и

Найдем относительные частоты:

; ; .

Тогда распределение относительных частот:

 

 

Контроль: .

Гистограмма частот

   Гистограммой частот называют ступенчатую фигуру, состоящую из прямоугольников, основаниями которой служат частичные интервалы длиной , а высоты которых равны отношению ,(i=1,2,...k). Площадь i-го частичного прямоугольника равна  – относительной частоте значений выборки, попавших в i-й интервал. Следовательно, вся площадь равна сумме всех относительных частот, т.е. единице.

   Для построения гистограммы частот на оси абсцисс откладывают частичные интервалы, а над ними проводят отрезки, параллельные оси абсцисс на расстоянии , (i=1,2,...k).

   Ступенчатая кусочно-постоянная линия y =  при , (i=1,2,...k) при стремлении числа интервалов k, а соответственно , превращается в график функции y=f^*(x), который является эмпирическим аналогом дифференциальной функции распределения y=f(x).

 

 

 

Точечные оценки параметров генеральной совокупности по выборке

 

   Для общности обозначим статистическую оценку неизвестного параметра S распределения (т.е. M(X), D(X) и т.д.) через S* (т.е. и т.д.).

   Точечной статистической оценкой  некоторого параметра  генеральной совокупности (или теоретического распределения случайной величины Х) называется приближенное значение этого параметра, рассчитанное по данным выборки.

   Иными словами, точечная статистическая оценка  некоторого параметра  генеральной совокупности (теоретического распределения случайной величины Х) есть некоторая функция выборки (результатов наблюдений за случайной величиной): ,

где  - n отобранных элементов генеральной совокупности, (реализации случайной величины Х  в первом, втором, ..., n-ом опытах).

   Во многих случаях использование числовых характеристик выборки требует ответа на вопрос: насколько точно выборочные оценки соответствуют статистическим характеристикам генеральной совокупности, т.е. можно ли утверждать, что генеральная совокупность описывается числовыми характеристиками конечной выборки? Сформулируем некоторые критерии, которые следует предъявить к выборочным оценкам для положительного ответа на поставленный вопрос.

Пусть по выборке объема n найдена оценка S₁*. Повторим опыт – извлечем из генеральной совокупности другую выборку того же объема и найдем новую оценку S₂*. Повторяя, можно получить числа S₁*, S₂*, …, S_k*. Ясно, что выборочные оценки S* можно рассматривать как случайную величину, а числа S₁*, S₂*, …, S_k* как ее возможные значения. Следовательно, к оценке соответствия характеристик S* и S можно подойти с вероятностных позиций.

   При получении чисел S₁*, S₂*, …, S_k* будут, естественно, случайные отклонения. Но для достаточного числа измерений можно утверждать, что  ,

т.е. математическое ожидание оценки S* равно оцениваемому параметру S при любом объеме выборки. Такая статистическая оценка S* называется несмещенной. Если же равенство не соблюдается, т.е. , то оценку S* называют смещенной.

Не всегда можно утверждать, что несмещенная оценка дает хорошее приближение для S. Действительно, возможные значения S* могут быть сильно рассеяны вокруг своего среднего значения M(S*), т.е. дисперсия D(S*) может быть значительной. В этом случае, если, к примеру, взять по одной выборке оценку S₁*, то она может быть сильно удалена от M(S*), а, значит, и от S.  Приняв S₁*, мы допустили бы большую ошибку. Но, если потребовать, чтобы дисперсия для S* была малой, то возможность допустить большую ошибку будет исключена. По этой причине к S* предъявляется требование эффективности.

   Эффективной называют статистическую оценку S*, которая имеет наименьшую из возможных дисперсию при заданном объеме выборки n.

И, наконец, при рассмотрении выборок большого объема, к статистическим оценкам предъявляется требование состоятельности.

   Состоятельной называют статистическую оценку S*, которая при увеличении объема выборки стремится к оцениваемому параметру генеральной совокупности, т.е. для любого достаточно маленького  выполняется следующее предельное равенство:

.

К примеру, если дисперсия несмещенной оценки D(S*) при увеличении объема n стремится к нулю, то, очевидно, S* будет и состоятельной.

   Пусть из генеральной совокупности X извлечена выборка объема n со значениями x₁, x₂, …, x_n.

   В качестве несмещенной, эффективной состоятельной оценки математического ожидания используют выборочную среднюю: ;

а в качестве оценки дисперсии –

выборочную дисперсию: .   

 

Для случая интервального статистического ряда распределения: ,

 ,

где k - число интервалов,  а  - середины соответствующих интервалов.

   Для вычислений  и  по данным эмпирических наблюдений полезно составлять вспомогательную расчётную таблицу:

№	Интервалы	mi					mi(ci
1	[х0,х1)
2	[х1,х2)
	. . .
k	[хк-1,хк)
		частоты	относительные частоты	высоты гистограммы	середины интервалов

 

Эмпирическая функция распределения

 

Для построения функции распределения необходимо знать значения вероятностей событий.

Относительная частота р* появления некоторого события А в n независимых испытаниях является несмещенной и эффективной оценкой вероятности появления этого события в каждом испытании ().

   Для оценки функции распределения случайной величины Х (генеральной совокупности) по данным выборки используется понятие эмпирической (статистической) функцией распределения.

   Определение. Эмпирической (статистической) функцией распределения называется функция , определяющая для каждого значения х относительную частоту события р*{Х<x}: .

   Эмпирическая (статистическая) функция распределения  является статистическим аналогом функции распределения  случайной величины Х (генеральной совокупности), являясь её несмещенной, состоятельной оценкой.

 

Проверка статистической гипотезы

 

       В процессе статистического анализа часто оказывается необходимым осуществить проверку некоторых предпо­ложений (гипотез) относительно полученных величин параметров или закона распределения изуча­емой генеральной совокупности.

   Статистической гипотезой  называется любое предположение о виде неизвестного закона распределения и значений его параметров.­ Для обозначения гипотез используют символ Н.

Выдвинутую (проверяемую) гипотезу обычно называют нулевой (ос­новной). Ее принято обозначать Н₀.

По отношению к высказанной (основной) гипо­тезе  формулируется также альтернатив­ная (противоположная ей, конкурирующая,) гипотеза, являющаяся ее логическим отрицанием. Аль­тернативную (конкурирующую) гипотезу принято обозначать Н₁. Отметим, что для основной гипотезы Н₀ может существовать несколько альтернативных гипотез Н₁, Н₂, …, Н_k  . В дальнейшем, однако,  ограничимся случаем одной альтернативной гипотезы Н₁.

   Правило (критерий), по которому может быть принята или отвергнута выдвинутая гипотеза, называется статистическим критерием.

   Поскольку проверка статистических гипотез осу­ществляется на основании данных выборки

(т. е. ограниченного ряда наблюдений), принятое решение относительно нулевой гипотезы Н₀ может содержать ошибки.

   Различают ошибки двух видов:

1. Отвергнута верная гипотеза. Такая ошибка называется ошибкой первого рода, а ее вероятность (обозначаемая символом α) – уровнем значимости.

Величина g=(1-α) называется уровнем доверия(или надёжностью) и определяет вероятность принять верную гипотезу.

2. Принята неверная гипотеза. Такая ошибка называется ошибкой второго рода. Вероят­ность ошибки второго рода обозначается как .

Величина (1-) определяет вероятность принятия гипотезы Н₁, если она верна. Это значение носит название: мощность критерия.

   Обычно задается значение вероятности ошибки 1-го рода  (уровень значимости). При этом часто пользуются ‘стандартными’ значениями для : 0,1; 0,05; 0,025; 0,01; 0,005; 0,001.

   Статистический критерий определяется правилом или фор­мулой, по которой оценивается мера близости (расхожде­ния) данных выборки с выдвинутой гипотезой Н₀. Как и всякая функ­ция результатов наблюдения, он является случайной величиной, а следовательно, может принимать различные значения, описываемые некоторым законом  распределения. Проверку гипотезы Н₀ о виде закона распределения случайной величины будем осуществлять с помощью критерия согласия Пирсона χ² (хи-квадрат).

 

   Критерий согласия Пирсона χ² (хи-квадрат)

 

   Согласно этому критерию сравниваются относительные частоты  и теоретические вероятности . В качестве критерия проверки нулевой гипотезы Н₀ находят наблюдаемое значение случайной величины χ²_набл = .

Затем по таблице критических точек распределения χ² находят самое большее допустимое значение χ²_кр(α,s), где α - заданный уровень значимости, s - число степеней свободы, s = k – 1 - r,  k - число интервалов, r - число параметров предполагаемого распределения.

И сравнивают эти два значения:

если χ²_набл < χ²_кр – нет оснований отвергать гипотезу Н₀ о виде теоретического закона распределения генеральной совокупности. Другими словами, эмпирические частоты и теоретические вероятности различаются незначимо;

если χ²_набл > χ²_кр – гипотезу отвергают. Эмпирические частоты и теоретические вероятности различаются значимо.

Для удобства вычислений χ²_набл полезно составить расчётную таблицу:

№	Интервалы	= =	Pi
1	[х0,х1)
2	[х1,х2)
	. . .
к	[хк-1,хк)
		относительные частоты	теоретические вероятности	χ2набл = =

 

 

 

 

 

 

 

 

 

 

 

 

 

 

   Заметим, что критерий согласия Пирсона, как и любой другой критерий, не доказывает справедливость гипотезы, а лишь устанавливает на принятом уровне значимости α её согласие или несогласие с данными наблюдений.

Подчеркнём ещё раз, что уровень значимости α – это вероятность допущенной ошибки, состоящей в том, что χ²_набл  χ²_кр, а гипотеза верна. Т.е. вероятность ошибки первого рода: отвергнута верная гипотеза.

Зависимость χ²_кр(α,s)становится видна из формулы (см. распределение случайной величины χ²): 

,

по которой приближённо вычислены значения χ²_кр, и составлена в частности таблица критических точек распределения χ² : χ²_кр(α,s). Интеграл и гамма-функция зависят только от числа степеней свободы s.

Заметим также, что иногда используют другие формы записи критерия, а именно:

χ²_набл = .

В последней формуле учтено, что 1.

   При проверке гипотезы о нормальном законе распределения генеральной совокупности учитывают, что число степеней свободы: s = k – 1 – r = k - 3 (k - число интервалов), так как число параметров распределения r = 2 ( это математическое ожидание и среднеквадратическое отклонение).

Теоретические вероятности вычисляют по формулам:

, где i=1,2,...k, x₀ = - x_k = +, – функция Лапласа (значения этой функции находят с помощью таблицы).

 

Интервальное оценивание

 

   Наряду с точечными оценками (приближенными численными значениями исследуемых параметров), используются также интервальные оценки.

   Интервальной оценкой параметра q называют числовой интервал (определяемый  его начальной  и конечной  точками — концами интерва­ла), который с заданной вероятностью -  накры­вает (охватывает) неизвестное значение исследуемого параметра q генеральной совокуп­ности. Интервал, содержащий оцениваемый пара­метр генеральной совокупности, называют дове­рительным интервалом, а вероятность  - доверительной вероятностью, уровнем доверия или надежностью оценки.

   Границы  и  и величина интервальной оценки вычисляются по данным выборки и поэтому являются случайными величинами.

   Доверительный интервал для математического ожидания нормально распределённой случайной величины при неизвестной дисперсии с заранее заданной надёжностью находят из формулы:

,

 находят с помощью таблицы критических точек распределения Стъюдента: ,

n-объём выборки;

p(  )= .

 

Коэффициент регрессии

 

Статистическое исследование наличия или отсутствия зависимости между случайными величинами производится с помощью выборочного коэффициента корреляции. Выделение линейной части этой зависимости производится с помощью выборочного коэффициента регрессии и выборочного уравнения (линейной) регрессии.

Если в результате осуществления некоторого эксперимента наблюдаются две величины  и , то выборочный  корреляционный  момент  величин  и  определяется формулой:

где  —  пар наблюдаемых значений, полученных в  независимых повторениях эксперимента,  . Выборочный  коэффициент  корреляции  равен:

 где

 

Выборочный  коэффициент  регрессии  на

Выборочное  уравнение  прямой линии регрессии  на  имеет вид:

 или

выборочное  уравнение прямой линии регрессии  на :

или    

( Эти уравнения выводятся с помощью метода наименьших квадратов ).