4.1 Оценка одномерного положения и масштаба (ESTIMATING UNIVARIATE LOCATION AND SCALE)

В качестве примера, предположим, что у нас есть пять измерений:

$6.27, 6.34, 6.25, 6.31, 6.28$ (1)

и мы хотим оценить его истинное значение. Для этого, обычно вычисляют среднее $\bar{x}=\frac{1}{n}\sum_{i=1}^{n}x_{i}$ , которая в данном случае равна$\bar{x}=(6.27 + 6.34 + 6.25 + 6.31 + 6.28)/5 = 6.29$. Предположим теперь, что четвертое измерение было записано неправильно и данные имеют вид:

$6.27, 6.34, 6.25, 63.1, 6.28$ (2)

В этом случае мы получаем $\bar{x}=17.65$, что далеко от искомой истинной величины. Напротив, мы также вычислим медиану этих данных. Для этого мы сортируем наблюдения (2) от наименьшего до наибольшего:

$6.25\leq6.27\leq6.28\leq6.34\leq63.10$

Медиана представляет то среднее значение, получая 6.28, которая по-прежнему разумна. Будем говорить, что медиана является более устойчива к выбросам.

В более общем плане, модель определения местоположения-масштаба(location-scale) утверждает, что $n$ одномерные наблюдения $x_{i}$ независимы и одинаково распределены (i.i.d.) с функцией распределения $F[(x-\mu)/\sigma]$ где F известно. Как правило, F является стандартной гауссовой функцией распределения $\Phi$ . Далее мы хотим найти оценку для центра $\mu$ и масштабный параметр $\sigma$.

Классическая оценка местоположения является среднее. Как мы уже видели выше, средняя очень чувствительна даже к одному аберрантному значению из $n$ наблюдений. Будем говорить, что величина пробоя образца (breakdown value) выборочное среднее (sample mean) имеет вид $1/n$, что 0% для большых $n$. В целом, значение пробоя является наименьшая доля наблюдений в наборе данных, которые нуждается в замене, чтобы нести оценку как угодно далеко.(In general, the breakdown value is the smallest proportion of observations in the data set that need to be replaced to carry the estimate arbitrarily far away). Устойчивость (The robustness) блока оценки также измеряется его функции влияния, которое измеряет эффект одного выброса. Влияние функции средней(mean) не ограничен, которая еще раз показывает, что среднее не является устойчивым.

Для общего определения медианы, мы обозначим через наблюдения n-го порядка при $x_{i}$. Тогда, медиана $x_{[(n + 1)/2]}$, если $n$ нечетное, и $[x_{(n/2)}+x_{(n/2+1)}]/2$, если $n$ четное. Его значение пробоя составляет около 50%, а это означает, что средний показатель может противостоять до 50% от выброса, и его воздействие функции ограничены. Оба свойства иллюстрируют устойчивость среднего(the median’s).

Ситуация для масштабного параметра $\sigma$ аналогична. Классической оценкой является среднеквадратическое отклонение $s=\sqrt{\sum_{i=1}^{n}(x_{i}-\bar{x})^{2}/(n-1)}$. Поскольку один выброс может уже имеет сколь угодно большим, его пробой (breakdown) значение 0%. Например, для чистых данных (1) выше, мы имеем s = 0,035, в то время как для данных (2) с выбрасом (the outlier), получим s = 25.41! Устойчивая мера масштаба является медиана всех абсолютных отклонений от медианы (MAD), учитывая медианы все абсолютных отклонений от медианы:

$MAD=1.483 median_{i=1,...,n}\left | x_{i}-median(x_{j})_{j=1,...,n} \right |$ (3)

Константа 1,483 является поправочным коэффициентом которая делает MAD объективной при нормальном распределении. MAD из (2) то же, что из (1), а именно 0,044. Мы можем также использовать оценщик $Q_{n}$ , определяемый как, определяемый как:

$Q_{n}=2.2219 \left \{ \left | x_{i}-x_{j} \right |;i< j \right \}_{(k)}$

где $k=( _{2}^{h}) \approx ( _{2}^{n})/4$ и $h=\left \lfloor\frac{n}{2} \right \rfloor+1$. В данном, $\left \lfloor ... \right \rfloor$ случае округляет до ближайшего целого числа. Данная шкала оценки это первый квартиль всех попарных различий между двумя точками данных. Величина разбивки для обоих MAD и оценки Qn составляет 50%.

Также популярным является вероятное отклонение (IQR) определяемое как разность между третьим и первым квартилем, то есть, $IQR=x_{\left \lceil 3n/4 \right \rceil}-x_{\left \lfloor n/4 \right \rfloor}$ (where $\left \lceil ... \right \rceil$ rounds up to the nearest integer). Его значение разбивки составляет всего 25%, но она имеет простую интерпретацию.

Устойчивость среднего значения и (MAD) представляется из расчета: При нормальной модели они менее эффективны, чем среднее значение. Чтобы найти лучший баланс между надежностью и эффективностью, многие другие надежные профессиональные процедуры были предложены такие как M-оценка. Они определяются неявно как решение уравнения

$\sum_{i=1}^{n}\psi \left ( \frac{x_{i}-\hat{\theta }}{\hat{\sigma }} \right )=0$ (4)

как решение уравнения для вещественной функции $\psi$. Знаменатель $\hat\sigma$ является начальным надежным масштабным оценщиком, такой же как MAD. Решение (4) можно найти с помощью алгоритма Ньютона-Рафсона, начиная с начальной оценки местоположения $\hat{\theta }^{(0)}=median_{i}(x_{i})$. Популярный выбор для $\psi$ являются функция Huber $\psi (x)=xmin(1,c/|x|)$ и Тьюки функция biweight $\psi (x)=x(1-(x/c)^{2})^{2}I(|x|\leq c)$. Эти M-оценки содержат настраиваемый параметр $с$, который должен быть выбран заранее.

Люди часто используют правила для выявления выбросов. Классическое правило основано на $z$-оценка наблюдений определяется

$z_{i}=(x_{i}-\bar{x})/s$ (5)

где $s$ стандартное отклонение. А именно, правило признака $x_{i}$ , как отдаленного, если $|z_{i}|$ превышает 2,5, скажем. Но в описанном выше примере (2) с посторонним, Z-оценка

$−0.45, −0.45, −0.45, 1.79, −0.45$

ни один из них не достиг 2.5. Наибольшее значение только 1,79, который очень похож на самый большой Z-оценка для чистых данных (1), что составляет 1,41. Z-оценка "посторонних" мала, поскольку она вычитает без надежной средней (который был разработан к "посторонним") потому что он разбивает недостаточно надежным стандартным отклонением (которую выбросом сделал намного больше, чем в чистых данных). Подставляя надежных оценок положения и масштаба в (5), такие как медиана и MAD, дает надежную оценку

$\left ( x_{i}-median(x_{j})_{j=1,...,n} \right )/MAD$ (6)

которые являются более полезными; в загрязненном примере (2), надежных оценки являются

$−0.22, 1.35, −0.67, 1277.5, 0.0$

в которых выброс значительно превышает 2,5 отключения.

Также Тьюки часто используется boxplot (ящик с усами), чтобы определить возможные выбросы. На этом графике, коробка берется из первого квартиля $Q_{1}=x_{\left \lfloor n/4 \right \rfloor}$ до третьего квартиля $Q_{3}=x_{\left \lceil 3n/4 \right \rceil}$ данных. Точки за пределами интервала [$Q_{1}$-1.5 IQR, $Q_{3}$+1.5 IQR], называемый забор, традиционно отмечен как недопустимое. Обратите внимание, что boxplot предполагает симметрию, так как мы добавляем ту же сумму $Q_{3}$ которую мы вычитаем из $Q_{1}$.