Преобразование, стабилизирующее дисперсию

В прикладной статистике преобразование, стабилизирующее дисперсию, это преобразование данных, которое было выбрано либо для упрощения графического разведочного анализа данных, либо сделать применимыми методы на основе простой регрессии или дисперсионного анализа^[1].

Цель, стоящая за выбором преобразования, стабилизирующего дисперсию, — это найти такую простую функцию ${\displaystyle f}$, чтобы применив её к значениям ${\displaystyle x}$ из набора данных, создать новые значения ${\displaystyle y=f(x)}$ такие, что вариация значений ${\displaystyle y}$ не зависит от их среднего значения. Например, предположим, что значения ${\displaystyle x}$ — это реализации различных распределений Пуассона: т.е. у распределений различные средние значения ${\displaystyle \mu }$. Тогда, поскольку дисперсия распределения Пуассона равна его среднему, то дисперсия будет изменяться вместе со средним. Тем не менее, если применить простое преобразование, стабилизирующее дисперсию

${\displaystyle y={\sqrt {x}}}$,

то дисперсия наблюдений ${\displaystyle Y}$ будет примерно постоянной: за подробностями и другими примерами преобразований см. преобразование Энскомба.

Для некоторых распределений, как распределение Пуассона или биномиальное, преобразования, стабилизирующие дисперсию, широко известны, для других типов данных применяется эмпирический подход: например, поиск среди степенное преобразование. Как вариант, если анализ данных предполагает функциональную форму для отношения между дисперсией и средним, то это можно использовать для вывода преобразования, стабилизирующее дисперсию^[2]. Например, если для среднего ${\displaystyle \mu }$,

${\displaystyle \mathrm {D} (X)=h(\mu )}$,

то подходящим базисом для преобразования, стабилизирующего дисперсию, будет

${\displaystyle y\propto \int ^{x}{\frac {1}{\sqrt {h(\mu )}}}\,d\mu }$,

где для удобства можно выбрать произвольную константу интегрирования и произвольный параметр масштаба.

Если ${\displaystyle X}$ — положительная случайная величина и её дисперсия выражается как ${\displaystyle h(\mu )=s^{2}\mu ^{2}}$, ${\displaystyle s}$ — некоторая константа, тогда стандартное отклонение пропорциональному среднему, что называется фиксированной относительной ошибкой. В этом случае преобразование, стабилизирующее дисперсию, следующее:

${\displaystyle y=\int ^{x}{\frac {d\mu }{\sqrt {s^{2}\mu ^{2}}}}={\frac {1}{s}}\ln(x)\propto \log(x)}$.

Здесь, преобразование, стабилизирующее дисперсию, — это логарифмическое преобразование.

Если дисперсия выражена как ${\displaystyle h(\mu )=\sigma ^{2}+s^{2}\mu ^{2}}$, то при достаточно малом ${\displaystyle |\mu |}$ дисперсия в основном определяется фиксированной дисперсией ${\displaystyle \sigma ^{2}}$, а когда ${\displaystyle |\mu |}$ достаточно велико, в основном определяется относительной дисперсией ${\displaystyle s^{2}\mu ^{2}}$. В этом случае преобразование, стабилизирующее дисперсию следующее:

${\displaystyle y=\int ^{x}{\frac {d\mu }{\sqrt {\sigma ^{2}+s^{2}\mu ^{2}}}}={\frac {1}{s}}\operatorname {asinh} {\frac {x}{\sigma /s}}\propto \operatorname {asinh} {\frac {x}{\lambda }}}$.

В таком случае преобразование, стабилизирующее дисперсию, — это обратный гиперболический синус масштабированного значения ${\displaystyle x/\lambda }$, где ${\displaystyle \lambda =\sigma /s}$.

Преобразование Фишера — это преобразование, стабилизирующее дисперсию, для коэффициента корреляции Пирсона.

Здесь дельта-метод приведён не строго, просто для демонстрации связи с преобразованиями, стабилизирующими дисперсию. Для более формального определения дельта-метода см. дельта-метод (статистика).

Пусть ${\displaystyle X}$ — случайная величина, с ${\displaystyle \mathrm {E} [X]=\mu }$ и ${\displaystyle \mathrm {D} (X)=\sigma ^{2}}$. Введём ${\displaystyle Y=g(X)}$, где ${\displaystyle g}$ дифференцируемая в окрестности ${\displaystyle \mu }$ функция. Приближение Тейлора первого порядка для ${\displaystyle Y=g(x)}$ следующее:

${\displaystyle Y=g(x)\approx g(\mu )+g^{\prime }(\mu )(X-\mu )}$.

Из уравнения выше получаем:

${\displaystyle \mathrm {E} [Y]\approx g(\mu )}$ и ${\displaystyle \mathrm {D} [Y]\approx \sigma ^{2}g^{\prime }(\mu )^{2}}$.

Это приближение называется дельта-методом.

Рассмотрим случайную величину ${\displaystyle X}$ такую, что ${\displaystyle \mathrm {E} [X]=\mu }$ и ${\displaystyle \mathrm {D} [X]=h(\mu )}$. Обратим внимание на отношение между дисперсией и средним, что указывает, например, на гетероскедастичность в линейной модели. Тогда цель — найти такую функцию ${\displaystyle g}$, что у ${\displaystyle Y=g(X)}$ дисперсия не зависит (хотя бы приблизительно) от матожидания ${\displaystyle Y}$.

Учитывая условие ${\displaystyle \mathrm {D} [Y]\approx h(\mu )g^{\prime }(\mu )^{2}=\mathrm {const} }$, из этого равенства следует дифференциальное уравнение:

${\displaystyle {\frac {dg}{d\mu }}={\frac {C}{\sqrt {h(\mu )}}}}$.

Это обычное дифференциальное уравнение решается методом разделения переменных:

${\displaystyle g(\mu )=\int {\frac {C\,d\mu }{\sqrt {h(\mu )}}}}$.

Это выражение впервые появилось в работе М. С. Бартлетта (англ. M. S. Bartlett)^[3].