Прикладная статистика: Оценивание длины периоды и периодической составляющей

Часть 3. Методы прикладной статистики

3.3. Статистика временных рядов

3.3.2. Оценивание длины периоды и периодической составляющей

Рассмотрим достаточно широкий класс практически полезных непараметрических оценок длины периода и периодической составляющей во временных рядах. Из общих результатов об асимптотическом поведении решений экстремальных статистических задач (см. главу 2.2) вытекает состоятельность этих оценок.

Во многих прикладных задачах рассматривают временной ряд (или случайный процесс)

y(t)=x(t)+e(t),

где x(t) - детерминированная периодическая функция от времени t, т.е. x(t)=x(t+T) при некотором T, где T - длина периода (минимальная из возможных, поскольку 2T, 3T, 4T - тоже, как легко видеть, длины периодов), а e(t) - “шумы”, случайные погрешности, искажающие периодический сигнал. Требуется оценить (минимальную) длину периода T=Т₀ и периодическую составляющую x(t). При этом не предполагается, что функция x(t) входит в какое-либо параметрическое семейство, например, конечных сумм синусов и косинусов, т.е. рассматривается задача непараметрического оценивания (минимальной) длины периода и периодической составляющей сигнала.

Приведем примеры прикладных постановок.

1. По акустическим сигналам необходимо установить тип двигателя (и его национальную принадлежность). Предполагается, что двигатели различаются по длине периода и виду основного периодического сигнала. Процедура идентификации основана на оценивании длины периода и периодической составляющей регистрируемого сигнала. Очевидна важность такой задачи при быстрой технической диагностике. В частности, высокая производительность, а потому и высокая экономическая эффективность при ремонте впрямую зависят от умения решать поставленную задачу. Не менее важно по шуму двигателя подводной лодки определить ее тип и национальную принадлежность.

2. В предположении цикличности экономических процессов требуется по статистическим данным установить длину цикла и на основе вида периодической составляющей построить прогноз, например, прогноз урожайности, емкости рынка тех или иных товаров или экономической активности в целом. Часто говорят об экономических циклах, но почти никогда не дают строгого определения понятия цикла. (Под строгим определением понимаем такое, согласно которому можно отличить "цикл" от "не цикла", можно выделить начало и конец цикла, отделить один цикл от другого, короче, однозначно выделить цикл как самостоятельный объект экономического изучения.)

3. По мнению авторов работы [8], для среднесрочного прогнозирования развития социокультурной сферы (социально-политического “климата”, живописи, музыки, архитектуры, поэзии и т.д.) необходимо выявить ее цикличность с помощью объективных измерений на базе субъективных первичных данных (т.е. на базе оценок экспертов).

4. В исторических событиях, описываемых согласно распространенной в настоящее время т.н. скалигеровской хронологии, автор работы [9] обнаруживает цикличность. Эта цикличность полностью объясняется новой статистической хронологией (см., например, [10]), построенной с помощью специальных методов статистики объектов нечисловой природы (см. главу 3.4), предназначенных для анализа текстов исторических хроник, и одновременно служит еще одним подтверждением этой хронологии.

Описание метода оценивания. Пусть рассматриваемые функции y(t), x(t), e(t) определены на отрезке [0; А]. При фиксированном Т рассмотрим “куски” сигнала y(t) на последовательных отрезках длины Т, т.е. на отрезках [0;Т], [Т;2Т], [2Т;3Т], ... Удобно ввести последовательность функций на отрезке [0;Т], полученную сдвигами этих кусков к началу координат:

y₁(t)=y(t), y₂(t)=y(t+Т), y₃(t)=y(t+2Т), ...

Все они определены на отрезке [0;Т]. Число этих функций равно числу полных периодов длины Т, укладывающихся на отрезке [0;А], т.е. равно целой части числа А/Т. Отметим еще раз, что если Т - период, то 2Т, 3Т, 4Т, ... - тоже периоды. В дальнейшем из всех периодов будем рассматривать и оценивать, как правило, только наименьший.

Если Т=Т₀ - истинный период (или кратный ему) и погрешности e(t) отсутствуют, то все введенные в предыдущем абзаце функции совпадают между собой и с периодической составляющей:

x(t)=y₁(t)=y₂(t)=y₃(t)=...

при всех t из [0;Т]. При наличии погрешностей полного совпадения не будет. Однако отклонения определяются лишь шумами в различные моменты времени. При этом в качестве оценки периодической составляющей x(t) естественно взять среднее арифметическое y_ср(t) функций y₁(t), y₂(t), y₃(t), ... (могут быть использованы и другие виды средних величин).

Если же Т отличается от истинного периода Т₀ (и кратных ему величин), то различия функций y₁(t), y₂(t), y₃(t), ... между собой определяются также и различием значений x(t) в точках, отстоящих друг от друга на интервалы, длина которых кратна Т.

В предположении отсутствия погрешностей (т.е. когда e(t) тождественно равно 0) рассмотрим поведение функции y_ср(t) на отрезке [0;Т] при росте длины интервала А наблюдения сигнала, а потому и при росте числа периодов - целой части числа А/Т. Если Т = Т₀ или Т кратно Т₀, то, как уже сказано, y_ср(t) совпадает с периодической составляющей x(t). Если число Т/Т₀ иррационально, то можно показать, что значения t+mT(modТ₀), где m - натуральные числа такие, что t+mT<A, асимптотически (при росте A) равномерно заполняют отрезок [0;Т₀], а потому при выполнении соответствующих условий регулярности, например, непрерывности периодической составляющей сигнала, функция y_ср(t) приближается к константе - среднему значению периодического сигнала x(t), т.е. интегралу от x(t) по отрезку [0;Т₀], деленному на Т₀. При этом при конечных А функция y_ср(t) отлична от константы. (Здесь запись t+mT(modТ₀) означает теоретико-числовое сравнение по модулю Т₀ , т.е. взятие дробной части от числа (t+mT)/Т₀, что соответствует вычитанию соответствующего количества целых периодов Т₀.

Если же число Т/Т₀ рационально, то наблюдаем промежуточный случай по сравнению с двумя описанными выше, в котором y_ср(t), как можно показать, приближается к периодической функции с периодом Т=Т₀/n при некотором натуральном n. Эта функция получена усреднением n последовательных участков длины Т₀/n периодического сигнала x(t). Она не является константой, хотя разброс ее значений меньше, чем для исходного периодического сигнала, поскольку Т₀ - минимальная длина периода.

Из сказанного вытекает, что для оценивания Т целесообразно ввести два показателя: показатель разброса F(T;Y)=F(T; y₁(t), y₂(t), y₃(t), ...) множества функций {y₁(t), y₂(t), y₃(t), ...} на отрезке [0;Т] и показатель размаха G(T;Y)=G(T, y_ср(t)) функции y_ср(t) на отрезке [0;Т]. Символ Y означает здесь, что показатели разброса и размаха строятся по функции y(t).) При этом показатель разброса нацелен на оценку различий в значениях семейства функций при одном и том же значении аргумента. А показатель размаха - на различие значений одной и той же функции при различных значениях аргумента. Ниже выписан ряд формул для этих показателей в случае непрерывного времени. Для дискретного времени их можно адаптировать двумя способами: либо заменив sup на max, а интеграл на сумму; либо расширив область определения используемых функций на весь отрезок, например, соединив соседние точки отрезками или использовав для заполнения пропусков сплайны более высокого порядка.

В качестве оценки длины периода по фиксированным показателям разброса F(T;Y) и размаха G(T;Y) представляется рациональным использовать то Т, при котором отношение F(T;Y)/G(T;Y) впервые (при росте Т, начиная с 0) достигает минимума. Впервые - поскольку величины, кратные периоду, сами являются периодами. Поскольку показатели разброса F(T;Y) и размаха G(T;Y) могут быть выбраны многими разными способами, можно указанным выше способом построить целое семейство алгоритмов оценивания длины периода. С каждым из которых может быть связано семейство методов оценивания периодической составляющей путем того или иного способа усреднения функций y₁(t), y₂(t), y₃(t), ...

Показатели разброса и размаха. Ввести показатели разброса F(T;Y)=F(T; y₁(t), y₂(t), y₃(t), ...) можно разными способами. Пусть k=[A/T]. Можно использовать различные функционалы супремумного типа (здесь и далее число слагаемых k не будем указывать в обозначении функционалов). Первым рассмотрим максимальный разброс непосредственно между значениями функций:

Второй функционал супремумного типа будет учитывать не произвольные отклонения, а только отклонения от "средней функции", т.е. иметь вид

Третий функционал показывает, какую зону "заметают" значения функций:

Для применения функционалов интегрального типа целесообразно сделать замену переменной q=t/T и перейти к функциям Y_i(q) = y_i(t) = y_i(qT), i = 1, 2, ..., k, Y_ср(q) = y_ср(t) = y_ср(qT), определенным на отрезке [0;1]. В качестве показателя разброса представляется полезным рассмотреть то или иное отклонение совокупности функций Y_i(q), i=1, 2, ..., k, друг относительно друга. Можно сказать, что эти функции заполняют некую “трубку”, которая тоньше всего при истинном значении периода T, а внутри нее проходит периодическая составляющая X(q)=x(t)=x(qT). Естественно рассмотреть различные функционалы интегрального типа. Например, можно проинтегрировать максимум модулей попарных разностей:

Вместо максимума можно проинтегрировать сумму:

Как и для функционалов супремумного типа, естественно рассмотреть показатели разброса относительно "средней функции":

Следующие четыре функционала, используемые как показатели разброса, аналогичны четырем предыдущим, но включают в себя расчет квадратов:

Список показателей разброса можно существенно расширить. В частности, естественно использовать также расстояния в функциональных пространствах L^p при произвольных p>1. А для оценивания периодической составляющей применять не только среднее арифметическое, но и другие виды средних величин.

Показатели размаха также можно ввести самыми различными способами. Например, можно рассмотреть такой показатель:

Пусть сделана замена переменной q=t/T и осуществлен переход к функции Y_ср(q)=y_ср(t)=y_ср(qT). Возможными показателями размаха являются:

Введем среднее значение оценки периодической составляющей:

К естественным показателям размаха относятся, например, такие:

Список показателей размаха, как и список показателей разброса, можно значительно расширить. В частности, естественно использовать расстояния в функциональных пространствах L^p при произвольном p>1. А для оценивания периодической составляющей применять не только среднее арифметическое, но и другие виды средних - медиану, среднее геометрическое и др. Вопрос о выборе наилучших (в каком-либо смысле) показателей размаха и разброса здесь не обсуждается. Некоторые из причин этого отказа от оптимизации системы показателей рассмотрены ниже.

Алгоритмы оценивания. С прикладной точки зрения остается численно минимизировать один или несколько из 66 описанных выше функционалов F_i(T;Y)/G_j(T;Y), i = 1, 2, ..., 11, j = 1, 2, ..., 6.

Численная минимизация по одному параметру (возможной длине периода) для современных ЭВМ не вызывает проблем, даже если попросту перебирать возможные значения периода с шагом 0,001. По нескольким реальным или смоделированным сигналам можно установить, какой из функционалов позволяет оценить период и периодическую составляющую реально встречающихся сигналов наиболее точно. Возможно и одновременное использование всех или части функционалов, что в соответствии с методологией устойчивости (см. главу 1.4) позволяет установить чувствительность оценок к выбору метода оценивания, найти интервал их разброса. Проведенные в Институте высоких статистических технологий и эконометрики расчеты по реальным и смоделированным данным о временных рядах показали, что описанные выше алгоритмы позволяют оценивать длину периода и восстанавливать периодическую составляющую временного ряда достаточно точно с практической точки зрения.

В обширной литературе по временным рядам (см., например, монографии [5-7], дающие представление обо всем массиве литературы по этой тематике) проблеме оценивания периода не уделяется большого внимания. Фактически рекомендуют пользоваться либо периодограммой, либо автокорреляционной функцией. С помощью периодограммы (несостоятельной оценки спектральной плотности) можно выделить лишь синусоидальные составляющие, в то время как в кратко рассмотренных выше прикладных задачах периодическая составляющая представляет интерес сама по себе, без разложения на гармоники. Вторая рекомендация более полезна. В качестве оценки периода можно взять наименьшее положительное число, в котором достигается локальный максимум автокорреляционной функции. Эмпирический коэффициент автокорреляции - еще один функционал типа тех, что перечислены выше.

При поверхностном взгляде на проблемы статистического оценивания, как и на иные проблемы прикладной математики, часто возникает желание обсудить “оптимальность” тех или иных процедур. При более глубоком анализе становятся очевидными два обстоятельства. Во-первых, оптимальность имеет быть лишь в рамках той или иной теоретической модели, при отклонениях от которой оптимальность оценки, как правило, пропадает. Например, выборочное среднее арифметическое как оценка математического ожидания случайной величины оптимальна тогда и только тогда, когда распределение результатов наблюдений - гауссово (доказательство этого утверждения приведено в монографии [11]). С другой стороны, для практически любой статистической процедуры можно подобрать свойство оптимальности так, чтобы эта процедура оказалась оптимальной (как подобрать - это уже дело профессионала). Так, например, метод наименьших модулей оптимален, если погрешности имеют распределение Лапласа, а метод наименьших квадратов - когда их распределение гауссово. Поскольку реальные распределения - не Лапласа и не Гаусса, то указанные математические результаты не могут иметь большого практического значения.

Однако представляется полезным получить доказательства состоятельности оценок изучаемых параметров в возможно более широких, например, непараметрических, постановках. Хотя на основе самого факта сходимости нельзя оценить близость оценок к интересующим исследователя параметрам, но получение доказательства состоятельности - первый шаг при изучении скорости сходимости (см. подраздел 1.4.7).

Состоятельность оценок. Наиболее общий подход к установлению асимптотического поведения решений экстремальных статистических задач развит в статистике нечисловых данных для случая пространств произвольной природы (см. главу 2.2). Согласно этому подходу сначала при фиксированном Т доказывается сходимость (по вероятности) при  значений функционала (показателя разброса) к некоторой предельной функции, а затем проверяются условия, обеспечивающие сходимость Argmin допредельного случайного процесса к Argmin этой детерминированной функции.

Свойства алгоритмов приходится изучать в рамках тех или иных вероятностно-статистических моделей. Моделей может быть много. Достаточно вспомнить историю Центральной Предельной Теоремы (ЦПТ) теории вероятностей. Она на протяжении более 200 лет доказывалась во все более и более широких условиях, вплоть до необходимых и достаточных условий Линдеберга - Феллера (после чего начались обобщения на зависимые слагаемые, на суммы случайных элементов гильбертовых пространств и др.). Отметим, что иногда математические модели далеко выходят за пределы, достаточные для обоснования алгоритмов анализа реальных данных. Так, почти всегда распределения реальных величин дискретны и финитны, а потому, в частности, существуют все моменты. Однако условия финитности и дискретности в вероятностно-статистических моделях часто необоснованно ослабляются. В результате возникают проблемы, не имеющие отношения к реальным данным, например, связанные с измеримостью относительно тех или иных сигма-алгебр. Поэтому ограничимся здесь наиболее простыми моделями из адекватных реальным постановкам. Считаем, что читатель знаком с основными определениями, относящимися к теории случайных процессов.

Теорема 1. Пусть случайный процесс e(t) имеет нулевое математическое ожидание, является стационарным и эргодическим (т.е. выполнена теорема Биркгофа-Хинчина) с непрерывными траекториями. Тогда при фиксированном Т и имеем

(сходимость по вероятности), где Е_ср(q) = Y_ср(q) - X_ср(q), т.е. Е_ср(q) - среднее арифметическое погрешностей e(qT), e(qT+T), e(qT+2T),...

Доказательство теоремы 1 проводится стандартными методами теории стационарных временных рядов (с шагом Т) с использованием известного условия достаточно быстрого убывания элементов матрицы Лорана по мере удаления от ее главной диагонали (т.е. условия, необходимого и достаточного для справедливости теоремы Биркгофа-Хинчина). С помощью теоремы 1 можно найти асимптотику введенных выше показателей разброса и размаха.

Теорема 2. В предположениях теоремы 1 при фиксированном Т и  пронормированные показатели разброса F_i(T;Y) для наблюдаемого сигнала У сближаются по распределению с соответствующими положительными случайными величинами , зависящими от Т, характеристик случайного процесса e(t) и периодической составляющей Х, т.е. существуют числовые последовательности s_i(k) такие, что

Доказательство теоремы 2 проводится с помощью достаточно трудоемких (в частности, из-за числа функционалов), но стандартных рассуждений. Они относятся к теории случайных процессов как части теории вероятностей. Эти рассуждения посвящены максимумам (не супремумам, т.к. траектории функции x(t) и случайного процесса e(t) непрерывны) случайных процессов и интегралам от них, с использованием принципа инвариантности (см., например, учебное пособие [12]) и ряда результатов теории стационарных случайных процессов (см., например, монографию [13]). Таким образом, пронормированные функционалы разброса асимптотически не зависят от числа слагаемых - в этом и состоит основной смысл теоремы 2.

Теорема 3. В предположениях теоремы 1 при фиксированном Т и  показатели размаха для наблюдаемого сигнала У сближаются с соответствующими показателями для периодической составляющей Х, т.е.

Для доказательства используются стандартные оценки, основанные на виде конкретных функционалов, задающих показатели размаха. В отличие от теоремы 2 предельные показатели детерминированы.

Аналоги теорем 2 и 3 верны также и при использовании (в качестве показателей разброса и размаха) расстояний в функциональных пространствах L^p при произвольном p>1. А для оценивания периодической составляющей - не только среднего арифметического, но и других видов средних - медианы, среднего квадратического, среднего геометрического, обобщенных средних по Колмогорову (см. главу 2.1) и др.

Теорема 4. Пусть выполнены условия теоремы 1, периодическая составляющая непрерывна и имеет период Т₀ . Тогда при фиксированном Т и  показатели разброса (пронормированные) и размаха стремятся к некоторым детерминированным пределам, зависящим только от Т и Т₀ , т.е.

(сходимость по вероятности), минимум каждой из функций F_i(T;Т₀), i=1, 2, ..., 11, и максимум каждой из функций G_j(T;Т₀) , j=1, 2, ..., 6, достигается при T=Т₀ и при T, кратных Т₀, причем у показателей разброса F_i(T;Т₀) возможны и иные минимумы, а у показателей размаха G_j(T;Т₀) других максимумов нет.

Доказательство вытекает из теорем 2 и 3 и свойств усреднения периодической составляющей при росте длины интервала наблюдения сигнала, описанных в начале настоящего подраздела. Отметим, что предельные значения функционала разброса F_i(T;Т₀), вообще говоря, показывают разброс случайной погрешности, другими словами, не всегда зависят от периодической составляющей, а потому из-за нормировки на единичный отрезок в ряде случаев оказываются константами. Вместе с тем численные эксперименты показывают, что отмеченная сходимость к пределу является сравнительно медленной. И минимизация непосредственно функционалов разброса (без учета показателей размаха) при конкретной длине сигнала позволяет достаточно точно выделить периодическую составляющую из массива реальных данных. Однако описанные выше теоретические результаты заставили отказаться от первоначальной гипотезы о том, что достаточно использовать только показатели разброса, и привели к необходимости скорректировать алгоритмы, введя деление на показатели размаха.

Теорема 5. В предположениях теоремы 4 оценки, являющиеся первыми локальными минимумами при минимизации по Т отношений одного из 11 перечисленных выше показателей разброса к одному из 6 показателей размаха, являются состоятельными оценками истинного периода Т₀, а функция y_ср(t) является состоятельной оценкой периодической составляющей х(t) на отрезке [0;Т₀].

Согласно теоремам 1-4 установлена сходимость (по вероятности) значений допредельных функционалов к предельным при каждом конкретном Т. Поэтому для доказательства сходимости минимумов допредельных функционалов к минимумам предельных можно воспользоваться общей теорией асимптотического поведения решения экстремальных статистических задач. Условие асимптотической равномерной разбиваемости, сформулированное в работе [14], выполнено, как можно показать, в силу непрерывности траекторий случайного процесса (непрерывного сглаживания для временного ряда) и его периодической составляющей. Откуда и вытекает заключение теоремы 5, дающей теоретико-статистическое обоснование использованию системы описанных выше эвристических алгоритмов оценивания длины периода и периодической составляющей. При известной или достаточно точно оцененной длине периода сама периодическая составляющая естественным образом оценивается с помощью усреднения перенесенных к началу координат кусков временного ряда, и в силу теоремы 1 эта оценка является состоятельной. Затем для получения оценки математического ожидания сигнала на всей области его определения указанную оценку можно периодически продолжить.

Замечание. При практическом использовании рассматриваемых алгоритмов целесообразно учитывать дополнительные особенности реальных временных рядов. В частности, обратим внимание на неустойчивость супремумов по отношению к выбросам (резко выделяющимся наблюдениям) сравнительно с функционалами интегрального типа. Бывают ситуации, когда методики или аппаратура, регистрирующие значения реальных временных рядов, могут допускать сбои в отдельные моменты времени. Например, если происходит валютный кризис типа "черного вторника", когда курс доллара по отношению к рублю, строго говоря, не определен, другими словами, с точки зрения экономических агентов одновременно существует масса сильно отличающихся курсов. Аналогичная ситуация бывает и в целом ряде других случаев. Набор подходящих ассоциаций вызывают решения руководства страны об обмене денежных знаков, особенно с дискриминационными составляющими. Во всех подобных ситуациях временные ряды дают резкие выбросы (всплески), которые затем, как правило, сглаживаются. Поэтому целесообразно в качестве показателей разброса и размаха использовать функционалы интегрального типа. Вопросам оценивания длины периода и периодической составляющей посвящены многие публикации, в том числе работа [15].