Общие положения байесовской методологии

Формула Байеса является следствием теоремы умножения и формулы полной вероятности. Напомним, что событие В, вероятность которого надо определить, может произойти только при условии появления одного из событий Аь А2,... Ап, образующих полную группу. Иными словами, положим, что

где события BA* и BAj с разными индексами i и j несовместимы.

По теореме сложения вероятностей имеем:

Посмотрим, как изменятся после этого вероятности гипотез, т.е. найдем условную вероятность для каждой гипотезы. По теореме умножения имеем: P(AjB) = Р(В) P(AjB) = P(Aj)- P(BAj), откуда

п

Используя формулу полной вероятности: Р(В) = X P(Aj) P(BAj), получаем: i=i

Эта формула носит название формулы Байеса.

Формула Байеса применяется, когда событие В, которое может появиться только с одной из гипотез Аь А2, ..., Ап, образующих полную группу событий, произошло и необходимо произвести количественную переоценку априорных вероятностей этих гипотез P(Ai), Р(А2), ..., Р(АП), известных до испытания, т.е. надо найти апостериорные (полученные после проведения испытания) условные вероятности гипотез P(AjB), Р(А2В),..., Р(А„В).

Значение формулы Байеса состоит в том, что по мере получения новой информации, мы можем проверить и корректировать выдвинутые до испытания гипотезы (принятые решения, предполагаемые модели), основываясь на переходе от их априорных вероятностей к апостериорным. Такой подход, называемый байесовским, дает возможность корректировать управленческие решения, оценки неизвестных параметров распределения изучаемых признаков в статистическом анализе и т.п. [66]. Методологию байесовского подхода будем понимать в общепринятом для этого понятия смысле, т.е. как совокупность принципов построения форм и способов изучения.

Прежде всего, необходимо выяснить, какие положения составляют основу байесовского подхода. Нередко, говоря о байесовской теории, имеют в виду какой-либо отдельный ее аспект, например субъективное толкование вероятности, методологию, основанную на теореме Байеса, выборочную байесовскую теорию решения и т.д. В то же время байесовский подход в современном представлении является единой теорией, органично сочетающей в себе следующие три главных положения:

Положение 1

Параметр исследуемой системы или модели является случайным, причем случайность может трактоваться не только в общепринятом смысле, но также как неопределенность. Случайному параметру приписывается априорное распределение. Интерпретация суждений в байесовской методологии всегда носит вероятностный характер.

Положение 2

Результаты наблюдения и априорные распределения объединяются с помощью теоремы Байеса с целью получения апостериорного распределения параметра. Этот процесс можно представить в виде последовательного накопления информации. На начальной стадии изучения какого-либо явления исследователь, обладающий определенной квалификацией и опытом прошлых работ, имеет некоторое представление о свойствах объекта исследования. В это представление, помимо неформализованного опыта, входят эмпирические данные, полученные ранее при аналогичных исследованиях. В ходе испытаний объекта появляется новая информация в виде совокупности эмпирических данных, которые изменяют представление (вероятностное суждение) о свойствах объекта. Таким образом, происходит постепенный пересмотр и переоценка априорного представления. Причем в каждый момент времени мы можем дать полный ответ о свойствах объекта, и этот ответ будет исчерпывающим в том смысле, что мы использовали для него всю имеющуюся информацию.

Если два исследователя располагали разными априорными распределениями (в силу, быть может, различной первоначальной информации), их апостериорные распределения будут сближаться. Таким образом, по формуле Байеса можно более точно пересчитать вероятность, беря в учет как ранее известную информацию, так и данные новых наблюдений.

Положение 3

Статистический вывод или решающее правило принимается, исходя из максимальной ожидаемой полезности, в частности минимизации потерь, связанных с применением этого правила. Конечным результатом описанных выше байесовских процедур является апостериорное распределение параметра, характеризующего основные свойства изучаемой системы или явления. Это распределение дает ясное и исчерпывающее представление о состоянии неопределенности параметра. Тем не менее, в реальных практических ситуациях необходимо иметь более лаконичное решающее правило, позволяющее выразить представление о параметре в виде одной или нескольких числовых постоянных, служащих оценками неизвестного параметра [67].

Теорема Байеса является методической основой процесса перехода от априорной информации, формализованной в виде априорного распределения, к апостериорной путём добавления эмпирических данных. Весьма наглядной является представленная Зельнером схема на рисунке 3.1. процесса пересмотра вероятностей при получении новых данных. По мере накопления выборочной информации она начинает преобладать в апостериорном распределении. Плотность апостериорного распределения все больше концентрируется вокруг истинного значения параметра [68]. Приведенную ниже схему называют ортодоксальной байесовской процедурой. Её отличие от более поздних модификаций состоит в том, что при накоплении эмпирических данных априорное распределение остается неизменным.

Схема ортодоксальной байесовской процедуры

Рис. 3.1. Схема ортодоксальной байесовской процедуры

Димер приводит более сложную модификацию ортодоксальной схемы,предусматривающую возможность корректировки априорных уровней доверия. Полная схема по Димеру представлена на рис. 3.2. [63].

Полная ортодоксальная схема по Лимеру, предусматривающая возможность корректировки априорных уровней доверия

Рис.3.2. Полная ортодоксальная схема по Лимеру, предусматривающая возможность корректировки априорных уровней доверия.

Лимер исходит из того, что человек от рождения обладает неисчислимым множеством подсознательных суждений, каждому из которых соответствует некоторый врожденный уровень доверия. Опыт приводит к тому, что из набора подобных суждений выделяется сравнительно небольшой набор осознанных суждений, к которому добавляются представления, вновь появившиеся во время приобретения опыта. На основании совокупности указанных суждений формируется набор рабочих гипотез и им соответствующих уровней доверия.

В реальных практических ситуациях уровни доверия представляют собой грубые аппроксимации тех уровней доверия, которыми обладает, согласно байесовской теории, исследователь с неограниченной памятью и такими же познавательными способностями. Теоретическая деятельность оканчивается формированием уровней доверия гипотез. Затем с помощью теоремы Байеса эти уровни доверия пересчитываются в апостериорные путем добавления эмпирических данных. Особенности, обнаруженные в данных, могут заставить исследователя пересмотреть многие решения, которые были приняты ранее. Данные могут навести на мысль о том, что, например, одну из отброшенных гипотез следовало бы включить в число рабочих или ввести ранее совсем не рассматриваемую гипотезу. Пересмотрев одно или более из своих ранее принятых решений, исследователь повторно анализирует ту же совокупность данных, используя новые рабочие гипотезы или априорные распределения.

Эванс идет еще дальше. Он считает, что байесовцы всегда готовы изменить априорные вероятности при появлении наблюдений. В результате, когда новые априорные распределения объединены с количественными наблюдениями, байесовское апостериорное и субъективное априорное распределения становятся согласованными. Наибольший эффект достигается, когда имеется несколько априорных распределений и исследователь выбирает то из них, которое наиболее согласовано с эмпирическими данными. Эванс считает, что такой подход может убрать субъективные вероятности из байесовского подхода вообще. Последнее утверждение представляется спорным. Изложенные модификации относят к рациональным байесовским процедурам [63].

Главную особенность описанных байесовских процедур (как ортодоксальной, так и рациональной) является то, что они всегда могут быть использованы для конкретных расчетов и применимы для целей анализа широкого круга задач в теории надежности и других областях науки. Байесовский подход является универсальным и обладает свойством внутреннего единства.

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ     След >