Статья: ИСПОЛЬЗОВАНИЕ ПРИНЦИПА МАКСИМАЛЬНОЙ ЭНТРОПИИ ДЛЯ КОНСТРУИРОВАНИЯ РОБАСТНЫХ ОЦЕНОК ПРИ БАЙЕСОВСКОМ ТОЧЕЧНОМ ЗАСОРЕНИИ. ЧАСТЬ I (2024)

Читать онлайн

Развивается теория робастного оценивания параметров статистических моделей с привлечением аппарата теории информации. Рассмотрен подход А. М. Шурыгина, основанный на модели серии выборок со случайным точечным засорением (модели байесовского точечного засорения). Из предложенных А. М. Шурыгиным оценок, пожалуй, наиболее интересными свойствами обладают стойкие оценки. Хотя данный подход можно связать с подходом Ф. Хампеля к робастному оцениванию, необходимость при нахождении стойких оценок постулировать параметрический вид распределения засоряющей точки не позволяет считать это робастной процедурой. В первой части нашей работы предложен непараметрический способ выбора указанного распределения - посредством максимизации энтропии Шеннона в окрестности модельного распределения, ограниченной величиной дивергенции Кульбака - Лейблера. Такой способ нахождения плотности распределения засоряющей точки позволяет рассматривать получаемые оценки как робастные, причем обладающие свойством оптимальности. Полученные оценки мы называем обобщенными радикальными, поскольку их частным случаем являются радикальные оценки А. М. Шурыгина. Обобщенные радикальные оценки широко известны в зарубежных публикациях как оценки минимума логарифмической дивергенции степени плотности (гамма-дивергенции), при этом вопрос их оптимальности там не исследуется. К обобщенным радикальным относятся некоторые популярные оценки параметра сдвига: оценки Мешалкина (Уэлша), Эндрюса, Смита, Бернулли, бивес-оценка Тьюки, оценка Хьюбера типа урезанного среднего, обобщенные оценки Шарбонье. Также в первой части работы предложено использовать функционал перекрестной энтропии. Перекрестная энтропия, применяемая в качестве оптимизируемого функционала вместо энтропии Шеннона, позволяет получить семейство оценок с наиболее широким диапазоном значений параметра, задающего это семейство. К задаче максимизации перекрестной энтропии сводится задача максимизации математического ожидания функции потерь оценок максимального правдоподобия в модели байесовского точечного засорения. По этой причине обобщенные радикальные оценки могут интерпретироваться как защищенные от намеренного искажения оценок максимального правдоподобия. Во второй части работы получено другое оптимальное решение на основе формализма А. Реньи (или эквивалентного с точки зрения нашей задачи формализма К. Цаллиса), дающее новое семейство оценок, частными случаями которого также являются некоторые известные оценки. Для выбора одной оценки из семейства, определяемого разными ограничениями на дивергенцию, предложен оптимизационный подход, аналогичный таковому, приводящему к стойким оценкам, но, в отличие от последнего, остающийся непараметрическим. Основные теоретические результаты, полученные в работе, иллюстрируются во второй ее части на примере оценивания параметра сдвига косинусного распределения.

Ключевые фразы: оценивание параметров, робастность, функция влияния, сниженные оценки, принцип максимальной энтропии, энтропия шеннона, дивергенция кульбака - лейблера, энтропия реньи, дивергенция реньи, энтропия цаллиса, дивергенция цаллиса, альфа-дивергенция, энтропия берга, расстояние хеллингера, косинусно-степенное распределение
Автор (ы): Лисицин Даниил Валерьевич, Гаврилов Константин Викторович
Журнал: ПРИКЛАДНАЯ МАТЕМАТИКА И ВОПРОСЫ УПРАВЛЕНИЯ

Предпросмотр статьи

Идентификаторы и классификаторы

SCI
Информатика
УДК
519.233.22. Точечное оценивание
Для цитирования:
ЛИСИЦИН Д. В., ГАВРИЛОВ К. В. ИСПОЛЬЗОВАНИЕ ПРИНЦИПА МАКСИМАЛЬНОЙ ЭНТРОПИИ ДЛЯ КОНСТРУИРОВАНИЯ РОБАСТНЫХ ОЦЕНОК ПРИ БАЙЕСОВСКОМ ТОЧЕЧНОМ ЗАСОРЕНИИ. ЧАСТЬ I // ПРИКЛАДНАЯ МАТЕМАТИКА И ВОПРОСЫ УПРАВЛЕНИЯ. 2024. № 1
Текстовый фрагмент статьи