2.3.4. Интервальные данные в задачах оценивания параметров (на примере гамма-распределения)

 Рассмотрим классическую в прикладной математической статистике параметрическую задачу оценивания. Исходные данные – выборка x₁ , x₂ , ..., x_{n, состоящая из n действительных чисел. В вероятностной модели простой случайной выборки ее элементы} x₁ , x₂ , ..., x_{n считаются набором реализаций n независимых одинаково распределенных случайных величин. Будем считать, что эти величины имеют плотность f(x). В параметрической статистической теории предполагается, что плотность f(x) известна с точностью до конечномерного параметра, т.е., при некотором Это, конечно, весьма сильное предположение, которое требует обоснования и проверки; однако в настоящее время параметрическая теория оценивания широко используется в различных прикладных областях.}

 _{Все результаты наблюдений определяются с некоторой точностью, в частности, записываются с помощью конечного числа значащих цифр (обычно 2 – 5). Следовательно, все реальные распределения результатов наблюдений дискретны. Обычно считают, что эти дискретные распределения достаточно хорошо приближаются непрерывными. Уточняя это утверждение, приходим к уже рассматривавшейся модели, согласно которой статистику доступны лишь величины}

y_{j =} x_{j + j} , j = 1, 2, ... , n ,

где x_i – «истинные» значения,  погрешности наблюдений (включая погрешности дискретизации). В вероятностной модели принимаем, что n пар

образуют простую случайную выборку из некоторого двумерного распределения, причем x₁ , x₂ , ..., x_n  - выборка из распределения с плотностью _{. Необходимо учитывать, что и - реализации зависимых случайных величин (если считать их независимыми, то распределение yi будет непрерывным, а не дискретным). Поскольку систематическую ошибку, как правило, нельзя полностью исключить [26, с.141], то необходимо рассматривать случай Нет оснований априори принимать и нормальность распределения погрешностей (согласно сводкам экспериментальных данных о разнообразии форм распределения погрешностей измерений, приведенным в [26, с.148] и [27, с.71-77], в подавляющем большинстве случаев гипотеза о нормальном распределении погрешностей оказалась неприемлемой для средств измерений различных типов). Таким образом, все три распространенных представления о свойствах погрешностей не адекватны реальности. Влияние погрешностей наблюдений на свойства статистических моделей необходимо изучать на основе иных моделей, а именно, моделей интервальной статистики.}

 Пусть  - характеристика величины погрешности, например, средняя квадратическая ошибка . В классической математической статистике  считается пренебрежимо малой ( ) при фиксированном объеме выборки n. Общие результаты доказываются в асимптотике . Таким образом, в классической математической статистике сначала делается предельный переход , а затем предельный переход . В статистике интервальных данных принимаем, что объем выборки достаточно велик ( ), но всем измерениям соответствует одна и та же характеристика погрешности . Полезные для анализа реальных данных предельные теоремы получаем при . В статистике интервальных данных сначала делается предельный переход , а затем предельный переход . Итак, в обеих теориях используются одни и те же два предельных перехода:  и , но в разном порядке. Утверждения обеих теорий принципиально различны.

 Изложение ниже идет на примере оценивания параметров гамма-распределения, хотя аналогичные результаты можно получить и для других параметрических семейств, а также для задач проверки гипотез (см. ниже) и т.д. Наша цель – продемонстрировать основные черты подхода статистики интервальных данных. Его разработка была стимулирована подготовкой ГОСТ 11.011-83 [4].

 Отметим, что постановки статистики объектов нечисловой природы соответствуют подходу, принятому в общей теории устойчивости [3,27]. В соответствии с этим подходом выборке x = (x₁ , x₂ , ..., x_n ) ставится в соответствие множество допустимых отклонений G(x), т.е. множество возможных значений вектора результатов наблюдений y = (y₁ , y₂ , ..., y_n ). Если известно, что абсолютная погрешность результатов измерений не превосходит , то множество допустимых отклонений имеет вид

Если известно, что относительная погрешность не превосходит , то множество допустимых отклонений имеет вид

Теория устойчивости позволяет учесть «наихудшие» отклонения, т.е. приводит к выводам типа минимаксных, в то время как конкретные модели погрешностей позволяют делать заключения о поведении статистик «в среднем».

 Оценки параметров гамма-распределения. Как известно, случайная величина Х имеет гамма-распределение, если ее плотность такова [4]:

где a – параметр формы, b – параметр масштаба,  - гамма-функция. Отметим, что есть и иные способы параметризации семейства гамма-распределений [30].

 Поскольку M(X) = ab, D(X) = ab², то оценки метода имеют вид

где  - выборочное среднее арифметическое, а s² – выборочная дисперсия. Можно показать, что при больших n

 (11)

с точностью до бесконечно малых более высокого порядка.

 Оценка максимального правдоподобия a^* имеет вид [4]:

 (12)

где  - функция, обратная к функции

При больших n с точностью до бесконечно малых более высокого порядка

Как и для оценок метода моментов, оценка максимального правдоподобия b^* параметра масштаба имеет вид

При больших n с точностью до бесконечно малых более высокого порядка

Используя свойства гамма-функции, можно показать [4], что при больших а

с точностью до бесконечно малых более высокого порядка. Сравнивая с формулами (11), убеждаемся в том, что средние квадраты ошибок для оценок метода моментов больше соответствующих средних квадратов ошибок для оценок максимального правдоподобия. Таким образом, с точки зрения классической математической статистики оценки максимального правдоподобия имеют преимущество по сравнению с оценками метода моментов.

 Необходимость учета погрешностей измерений. Положим

Из свойств функции  следует [4, с.14], что при малых v

 (13)

В силу состоятельности оценки максимального правдоподобия a* из формулы (13) следует, что  по вероятности при

 Согласно модели статистики интервальных данных результатами наблюдений являются не x_{i ,} а y_i, вместо v по реальным данным рассчитывают

Имеем

 (14)

В силу закона больших чисел при достаточно малой погрешности , обеспечивающей возможность приближения  для слагаемых в формуле (14), или, что эквивалентно, при достаточно малых предельной абсолютной погрешности  в формуле (1) или достаточно малой предельной относительной погрешности  имеем при

по вероятности (в предположении, что все погрешности одинаково распределены). Таким образом, наличие погрешностей вносит сдвиг, вообще говоря, не исчезающий при росте объема выборки. Следовательно, если  то оценка максимального правдоподобия не является состоятельной. Имеем

где величина a*(y) определена по формуле (12) с заменой x_i на y_i, i=1,2,…,n. Из формулы (13) следует [4], что

 (15)

т.е. влияние погрешностей измерений увеличивается по мере роста а.

  Из формул для v и w следует, что с точностью до бесконечно малых более высокого порядка

 (16)

С целью нахождения асимптотического распределения w выделим, используя формулу (16) и формулу для v, главные члены в соответствующих слагаемых

. (17)

Таким образом, величина w представлена в виде суммы независимых одинаково распределенных случайных величин (с точностью до зависящего от случая остаточного члена порядка 1/n). В каждом слагаемом выделяются две части – одна, соответствующая Мб и вторая, в которую входят  На основе представления (17) можно показать, что при  распределения случайных величин v и w асимптотически нормальны, причем

Из асимптотического совпадения дисперсий v и w, вида параметров асимптотического распределения (при ) оценки максимального правдоподобия a* и формулы (15) вытекает одно из основных соотношений статистики интервальных данных

 (18)

Соотношение (18) уточняет утверждение о несостоятельности a*. Из него следует также, что не имеет смысла безгранично увеличивать объем выборки n с целью повышения точности оценивания параметра а, поскольку при этом уменьшается только второе слагаемое в (18), а первое остается постоянным.

  В соответствии с общим подходом статистики интервальных данных в стандарте [4] предлагается определять рациональный объем выборки n_rat определять из условия «уравнивания погрешностей» (предложено в монографии [3]) различных видов в формуле (18), т.е. из условия

Упрощая это уравнение в предположении  получаем, что

Согласно сказанному выше, целесообразно использовать лишь выборки с объемами  . Превышение рационального объема выборки  не дает существенного повышения точности оценивания.

 Применение методов теории устойчивости. Найдем асимптотическую нотну. Как следует из вида главного линейного члена в формуле (17), решение оптимизационной задачи

соответствующей ограничениям на абсолютные погрешности, имеет вид

Однако при этом пары  не образуют простую случайную выборку, т.к. в выражения для  входит . Однако при  можно заменить  на М(х₁). Тогда получаем, что

при a>1, где

Таким образом, с точностью до бесконечно малых более высокого порядка нотна имеет вид

Применим полученные результаты к построению доверительных интервалов. В постановке классической математической статистики (т.е. при ) доверительный интервал для параметра формы а, соответствующий доверительной вероятности , имеет вид [4] 

где  - квантиль порядка  стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1,

В постановке статистики интервальных данных (т.е. при ) следует рассматривать доверительный интервал

где

в вероятностной постановке (пары  образуют простую случайную выборку) и  в оптимизационной постановке. Как в вероятностной, так и в оптимизационной постановках длина доверительного интервала не стремится к 0 при

 Если ограничения наложены на предельную относительную погрешность, задана величина , то значение с можно найти с помощью следующих правил приближенных вычислений [32, с.142].

(I)                                       Относительная погрешность суммы заключена между наибольшей и наименьшей из относительных погрешностей слагаемых.

(II)                                    Относительная погрешность произведения и частного равна сумме относительных погрешностей сомножителей или, соответственно, делимого и делителя.

Можно показать, что в рамках статистики интервальных данных с ограничениями на относительную погрешность правила (I) и (II) являются строгими утверждениями при

Обозначим относительную погрешность некоторой величины t через ОП(t), абсолютную погрешность – через АП(t).

 Из правила (I) следует, что ОП( ) = , а из правила (II) – что

Поскольку рассмотрения ведутся при  то в силу неравенства Чебышева

 (19)

по вероятности при  поскольку и числитель, и знаменатель в (19) с близкой к 1 вероятностью лежат в промежутке  где константа d может быть определена с помощью упомянутого неравенства Чебышева.

 Поскольку при справедливости (19) с точностью до бесконечно малых более высокого порядка

то с помощью трех последних соотношений имеем

 (20)

 Применим еще одно правило приближенных вычислений [32, с.142].

 (III) Предельная абсолютная погрешность суммы равна сумме предельных абсолютных погрешностей слагаемых.

 Из (20) и правила (III) следует, что

 (21)

Из (15) и (21) вытекает [4, с.44, ф-ла (18)], что

откуда в соответствии с ранее полученной формулой для рационального объема выборки с заменой  получаем, что

В частности, при a = 5,00,  = 0,01 получаем  т.е. в ситуации, в которой были получены данные о наработке резцов до предельного состояния [4, с.29], проводить более 50 наблюдений нерационально.

 В соответствии с ранее проведенными рассмотрениями асимптотический доверительный интервал для a, соответствующий доверительной вероятности  = 0,95, имеет вид

В частности, при  имеем асимптотический доверительный интервал [2,12; 7,86] вместо [3,14; 6,86] при

 При больших а в силу соображений, приведенных при выводе формулы (19), можно связать между собой относительную и абсолютную погрешности результатов наблюдений x_i :

 (21)

Следовательно, при больших а имеем

Таким образом, проведенные рассуждения дали возможность вычислить асимптотику интеграла, задающего величину А.

 Сравнение методов оценивания. Изучим влияние погрешностей измерений (с ограничениями на абсолютную погрешность) на оценку  метода моментов. Имеем

Погрешность s² зависит от способа вычисления s². Если используется формула

 (22)

то необходимо использовать соотношения

По сравнению с анализом влияния погрешностей на оценку а* здесь возникает новый момент – необходимость учета погрешностей в случайной составляющей отклонения оценки  от оцениваемого параметра, в то время как при рассмотрении оценки максимального правдоподобия погрешности давали лишь смещение. Примем в соответствии с неравенством Чебышева

 (23)

тогда

 Если вычислять s² по формуле

 (24)

то аналогичные вычисления дают, что

т.е. погрешность при больших а существенно больше. Хотя правые части формул (22) и (24) тождественно равны, но погрешности вычислений по этим формулам весьма отличаются. Связано это с тем, что в формуле (24) последняя операция – нахождение разности двух больших чисел, примерно равных по величине (для выборки из гамма-распределения при большом значении параметра формы).

 Из полученных результатов следует, что

При выводе этой формулы использована линеаризация влияния погрешностей (выделение главного линейного члена). Используя связь (21) между абсолютной и относительной погрешностями, можно записать

Эта формула отличается от приведенной в [4, с.44, ф-ла (19)]

поскольку в [4] вместо (23) использовалась оценка

Используя соотношение (23), мы характеризуем влияние погрешностей «в среднем».

 Доверительный интервал, соответствующий доверительной вероятности 0,95, имеет вид

Если  то получаем доверительный интервал [2,54; 7,46] вместо [2,86; 7,14] при  Хотя при  доверительный интервал для a при использовании оценки метода моментов  шире, чем при использовании оценки максимального правдоподобия а*, при  результат сравнения длин интервалов противоположен.

 Необходимо выбрать способ сравнения двух методов оценивания параметра а, поскольку в длины доверительных интервалов входят две составляющие – зависящая от доверительной вероятности и не зависящая от нее. Выберем  т.е.  Тогда оценке максимального правдоподобия а* соответствует полудлина доверительного интервала

 (25)

а оценке  метода моментов соответствует полудлина доверительного интервала

 (26)

Ясно, что больших а или больших n справедливо неравенство  т.е. метод моментов лучше метода максимального правдоподобия, вопреки классическим результатам Р.Фишера при  [33,с.99].

 Из (25) и (26) элементарными преобразованиями получаем следующее правило принятия решений. Если

то  и следует использовать ; а если то  и надо применять а*. Для выбора метода оценивания при обработке реальных данных целесообразно использовать  (см. раздел 5 в ГОСТ 11.011-83 [4, с.10-11]).

 Пример анализа реальных данных опубликован в [4].

 На основе рассмотрения проблем оценивания параметров гамма-распределения можно сделать некоторые общие выводы. Если в классической теории математической статистики:

а) существуют состоятельные оценки a_n параметра а,

 б) для повышения точности оценивания объем выборки целесообразно безгранично увеличивать;

 в) оценки максимального правдоподобия лучше оценок метода моментов,

то в статистике интервальных данных, учитывающей погрешности измерений, соответственно:

 а) не существует состоятельных оценок: для любой оценки a_n существует константа с такая, что

 б) не имеет смысла рассматривать объемы выборок, большие «рационального объема выборки»

 в) оценки метода моментов в обширной области параметров  лучше оценок максимального правдоподобия, в частности, при  и при

 Ясно, что приведенные выше результаты справедливы не только для рассмотренной задачи оценивания параметров гамма-распределения, но и для многих других постановок прикладной математической статистики.

 Метрологические, методические, статистические и вычислительные погрешности. Целесообразно выделить ряд видов погрешностей статистических данных. Погрешности, вызванные неточностью измерения исходных данных, называем метрологическими. Их максимальное значение можно оценить с помощью нотны. Впрочем, выше на примере оценивания параметров гамма-распределения показано, что переход от максимального отклонения к реально имеющемуся в вероятностно-статистической модели не меняет выводы (с точностью до умножения предельных значений погрешностей  или  на константы). Как правило, метрологические погрешности не убывают с ростом объема выборки.

 Методические погрешности вызваны неадекватностью вероятностно-статистической модели, отклонением реальности от ее предпосылок. Неадекватность обычно не исчезает при росте объема выборки. Методические погрешности целесообразно изучать с помощью «общей схемы устойчивости» [3,27], обобщающей популярную в теории робастных статистических процедур модель засорения большими выбросами. В настоящей главе методические погрешности не рассматриваются.

 Статистическая погрешность – это та погрешность, которая традиционно рассматривается в математической статистике. Ее характеристики – дисперсия оценки, дополнение до 1 мощности критерия при фиксированной альтернативе и т.д. Как правило, статистическая погрешность стремится к 0 при росте объема выборки.

 Вычислительная погрешность определяется алгоритмами расчета, в частности, правилами округления. На уровне чистой математики справедливо тождество правых частей формул (22) и (24), задающих выборочную дисперсию s², а на уровне вычислительной математики формула (22) дает при определенных условиях существенно больше верных значащих цифр, чем вторая [34, с.51-52].

 Выше на примере задачи оценивания параметров гамма-распределения рассмотрено совместное действие метрологических и вычислительных погрешностей, причем погрешности вычислений оценивались по классическим правилам для ручного счета [32]. Оказалось, что при таком подходе оценки метода моментов имеют преимущество перед оценками максимального правдоподобия в обширной области изменения параметров. Однако, если учитывать только метрологические погрешности, как это делалось выше в примерах 1-5, то с помощью аналогичных выкладок можно показать, что оценки этих двух типов имеют (при достаточно больших n) одинаковую погрешность.

 Вычислительную погрешность здесь подробно не рассматриваем. Ряд интересных результатов о ее роли в статистике получили Н.Н.Ляшенко и М.С.Никулин [35].