Об оценке плотности распределения с помощью ряда Фурье

Автор(ы): Беломестный Д.В., Иосипой Л.С.

Выпуск: 82

Рубрика: Математическая теория управления

Год: 2019

Библиография: Беломестный Д.В., Иосипой Л.С. Об оценке плотности распределения с помощью ряда Фурье // Управление большими системами. Выпуск 82. М.: ИПУ РАН, 2019. С.28-43. DOI: https://doi.org/10.25728/ubs.2019.82.2

Дата опубликования: 30.11.2019

Ключевые слова: оценка плотности, ряд Фурье, расстояние Кульбака –Лейблера

Аннотация: Рассматривается классическая статистическая задача оценки плотности распределения по выборке из этого распределения. Данная задача возникает в различных прикладных областях при попытке изучить вероятностную структуру некоторого случайного процесса. Например, с помощью оценки плотности можно идентифицировать некоторую структуру в сложной системе, а затем сделать выводы о неизвестных параметрах этой системы. В данной работе предлагается новый способ оценивания плотности распределения, основанный на аппроксимации логарифма плотности рядом Фурье, коэффициенты которого вычисляются с помощью решения некоторой системы линейных уравнений. Анализ теоретических свойств такой оценки является основной задачей данной работы. Основными результатами данной работы являются оценка отклонения в супремум-норме и оценка расстояния Кульбака – Лейблера между аппроксимацией плотности и истинным значением. Полученные оценки являются параметрическими и имеют порядок сходимости «с большой верятностью» O(1/?N), что является стандартными порядками в задачах параметрического оценивания. Константы в порядках получены с точностью до некоторого абсолютного множителя, т.е. исследована ее зависимость от всех параметров задачи. В качестве численного примера рассматривается оценка плотности распределения Коши.

Author(s): Belomestny D., Iosipoi L.

Article title: On density estimation via Fourier series

Issue: 82

Year: 2019

Keywords: density estimation, Fourier series, Kullback–Leibler divergence

Abstract: In this paper, we consider the classical statistical problem of probability density estimation based on a sample from this distribution. This problem naturally arises in many applications when one aims at investigation of a probability structure in a random process. For instance, it is possible to identify some structure in a complex system using density estimation. In this paper, a new approach to estimate a density function is proposed. This approach is based on approximation of a log-density via Fourier series with coefficients obtained by solving a system of linear equations. Analysis of theoretical properties of such estimate is the main purpose of this work. As the main results, we prove bounds on the difference between target density and its approximation in the supremum norm and the Kullback-Leibler divergence. Obtained rates are parametric and have order with high probability, which is a standard rate in parametric estimation problems. The constants in the rates are obtained up to an absolute factor, which means that we investigated the dependence on all parameters. As a numerical example, we consider a problem of Cauchy density estimation.