Параметрическая модель

В статистике параметрическая модель или конечномерная модель (иногда параметрическое семейство) — это особый вид статистических моделей. Параметрические модели — это семейство распределений вероятности с конечным числом параметров.

Статистическая модель — это набор распределений вероятности на некотором пространстве элементарных исходов. Мы предполагаем, что набор 𝒫 индексирован некоторым множеством ${\displaystyle \Theta }$. Множество ${\displaystyle \Theta }$ называется множеством параметров или пространством параметров. Для каждого ${\displaystyle \theta \in \Theta }$ обозначим соответствующий элемент набора как ${\displaystyle F_{\theta }}$, где ${\displaystyle F_{\theta }}$ — функция распределения. Тогда статистическую модель можно обозначить как:

${\displaystyle {\mathcal {P}}=\{F_{\theta }|\theta \in \Theta \}}$.

Модель является параметрической, если ${\displaystyle \Theta \subseteq \mathbb {R} ^{k}}$, где ${\displaystyle k}$ — некоторое положительное целое число.

Когда модель состоит из абсолютно непрерывных распределений, то её часто выражают в терминах соответствующей плотности вероятностей:

${\displaystyle {\mathcal {P}}=\{f_{\theta }|\theta \in \Theta \}}$.

• Семейство пуассоновских распределений параметризуется единственным числом ${\displaystyle \lambda >0}$:

${\displaystyle {\mathcal {P}}=\left\{\ p_{\lambda }(j)={\frac {\lambda ^{j}}{j!}}e^{-\lambda },\ j=0,1,2,3,\dots \ {\Big |}\;\;\lambda >0\ \right\}}$,

где ${\displaystyle p_{\lambda }}$ это функция вероятности. Это семейство экспоненциально.

• Семейство нормальных распределений параметризуется ${\displaystyle \theta =(\mu ,\sigma )}$, где ${\displaystyle \mu \in \mathbb {R} }$ — это параметр сдвига и ${\displaystyle \sigma >0}$ — это параметр масштаба:

${\displaystyle {\mathcal {P}}=\left\{f_{\theta }(x)={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)\ {\Big |}\;\;\mu \in \mathbb {R} ,\sigma >0\ \right\}}$.

Это параметрическое семейство и экспоненциальное, и сдвига-масштаба.

• Трёхмерное распределение Вейбулла имеет трёхмерный параметр ${\displaystyle \theta =(\lambda ,\beta ,\mu )}$.

${\displaystyle {\mathcal {P}}=\left\{f_{\theta }(x)={\frac {\beta }{\lambda }}\left({\frac {x-\mu }{\lambda }}\right)^{\beta -1}\exp \left(-\left({\frac {x-\mu }{\lambda }}\right)^{\beta }\right)\mathbf {1} _{\{x>\mu \}}{\Big |}\lambda >0,\beta >0,\mu \in \mathbb {R} \right\}}$,

где ${\displaystyle \beta }$ — параметр формы, ${\displaystyle \lambda }$ — параметр масштаба и ${\displaystyle \mu }$ — параметр сдвига.

• Биномиальная модель параметризируется ${\displaystyle \theta =(n,p)}$, где ${\displaystyle n}$ — неотрицательное целое число и ${\displaystyle p}$ — вероятность (отсюда ${\displaystyle p\geqslant 0}$ и ${\displaystyle p\leqslant 1}$):

${\displaystyle {\mathcal {P}}=\left\{p_{\theta }(k)={\frac {n!}{k!(n-k)!}}p^{k}(1-p)^{n-k},\;k=0,1,2,3,\dots ,n{\Big |}n\in \mathbb {Z} _{\geqslant 0},p\geqslant 0\wedge p\leqslant 1\right\}}$.

В этом примере определена модель с дискретными параметрами.

Параметрическая модель идентифицируема, если отображение ${\displaystyle \theta \to P_{\theta }}$ обратимо, т.е. нет двух разных значений параметров ${\displaystyle \theta _{1}}$ и ${\displaystyle \theta _{2}}$, таких что ${\displaystyle P_{\theta _{1}}=P_{\theta _{2}}}$.

Параметрические модели отличаются от полупараметрических, полунепараметрических и непараметрических моделей, все из которых описываются бесконечным множеством «параметров». Отличия между классами следующие:

• в «параметрической» модели все параметры находятся в конечномерном параметрическом пространстве;
• модель «непараметрическая», если все параметры находятся в бесконечномерном параметрическом пространстве;
• «полупараметрическая модель» содержит конечномерные интересующие параметры и бесконечномерные мешающие параметры;
• «полунепараметрическая модель» содержит и конечномерные, и бесконечномерные интересующие параметры.

Некоторые статистики считают, что термины «параметрическая», «непараметрическая» и «полупараметрическая» модель неоднозначны^[1]. Также можно отметить, что кардинальность множества всех мер вероятностей — континуум, а значит можно параметризировать любую модель единственным числом в интервале ${\displaystyle (0,1)}$^[2]. Эту трудность можно обойти, если рассматривать только «гладкие» параметрические модели.

• Параметрическое семейство
• Параметрическая статистика
• Статистическое моделирование
• Спецификация модели