Применение ЭВМ для расчета коэффициентов регрессионной модели

Систему уравнений (5.26) можно решить вручную, без применения ЭВМ, если число неизвестных в ней (т.е. число коэффициентов регрессии) не более трех-четырех. Это означает, что без применения ЭВМ можно обработать результаты многофакторного эксперимента, включающего не более трех факторов. Сказанное не относится к обработке результатов экспериментов, поставленных в соответствии с рекомендациями теории планирования эксперимента. Для многих таких планов существуют простые формулы, позволяющие обработать результаты эксперимента вручную.

В математическом обеспечении современных компьютеров имеются стандартные программы регрессионного анализа. В различных пакетах научных подпрограмм имеются подпрограммы множественной линейной регрессии, полиномиальной регрессии, а также обширный набор подпрограмм для проверки статистических гипотез и других статистических процедур.

Метод наименьших квадратов в матричной записи

Обратимся к записи системы нормальных уравнений в матричной форме, которая часто используется при обработке результатов эксперимента на ЭВМ. Все выкладки справедливы для натуральных и нормализованных обозначений факторов. Пусть поставлен эксперимент согласно матрице плана в табл. 5.4. Поскольку применение МНК для моделей в виде многочленов любого порядка сводится к линейному случаю, вернемся к линейной модели (5.25) и матрице базисных функций в табл. 5.5.

Перепишем данные из табл. 5.5 в виде матрицы в табл. 5.11. Слово «матрица» употребляется здесь уже в математическом смысле как таблица из букв или цифр, содержащая в общем случае п строк и т столбцов. Тогда говорят, что матрица имеет размеры пхт.

Т абл ица5.11

В табл. 5.11 приведена матрица базисных функций размером Nx(k + ). Результаты эксперимента также выпишем в отдельный столбец Y:

Аналогично можно выписать в отдельный столбец В искомые коэффициенты регрессии:

Столбец, а также строку можно считать частным случаем матрицы. Так, столбец Y можно рассматривать как матрицу размером jYxI, а столбец В - как матрицу размером (к +1) х 1. Оперируя введенными терминами, можно сказать, что отыскание коэффициентов регрессии по результатам эксперимента эквивалентно нахождению столбца В по известной матрице X и столбцу Y. Такой язык оказывается плодотворным, поскольку в математике могут выполняться определенные операции с матрицами и, в частности, со строками и столбцами. Элементы этого языка (матричной алгебры) можно почерпнуть из различных математических руководств, но проще всего в применении к рассматриваемой задаче они изложены в работе [1]. Здесь мы ограничимся только некоторыми определениями и перечислением основных операций над матрицами. Матрицу называют квадратной, если число ее строк равно числу столбцов. Общий вид квадратной матрицы А размером пхп

Элементы ап, а22,..., апп этой матрицы называют элементами, стоящими на главной диагонали. Квадратную матрицу, у которой все элементы, кроме элементов, находящихся на главной диагонали, равны нулю, называют диагональной. Единичной матрицей называется диагональная матрица, имеющая на диагонали единицы. Например, матрица вида

является единичной размером 3x3. Единичная матрица обозначается обычно через Е. Любой квадратной матрице можно поставить в соответствие некоторое число, называемое определителем матрицы. Например, для квадратной матрицы А размером 2x2

ее определитель А вычисляют по формуле |Л| = ad -сЪ.

Квадратную матрицу называют невырожденной, если ее определитель не равен нулю. Матрицы можно (по определенным правилам и в определенных условиях) складывать, умножать на число и друг на друга.

Кроме того, существуют операции отыскания обратной матрицы и транспонирования матрицы. Матрицу А~х называют обратной к квадратной матрице А, если произведение матрицы А на матрицу А~' равно единичной матрице Е, т.е. АА~Х = Е. Обратная матрица А~ существует только для невырожденной квадратной матрицы А.

Транспонировать матрицу означает заменить каждую ее строку столбцом с тем же номером. Будем обозначать через АТ матрицу, транспонированную к матрице А. Например, матрица, транспонированная к матрице

будет иметь вид

Запишем формулу, позволяющую по известной матрице X и столбцу Y отыскать столбец В коэффициентов регрессии по методу наименьших квадратов:

Таким образом, согласно формуле (5.28) для вычисления столбца коэффициентов регрессии В надо выполнить следующие операции: транспонировать матрицу X; полученную в результате матрицу Хт следует умножить на матрицу X; от полученной матрицы ХтX взять обратную; найденную матрицу ГХ)~' надо умножить на Тг, а результат - на столбец Y.

Формулу (5.28) можно использовать, если матрица тX) невырожденная. Эту матрицу называют матрицей моментов плана. Таким образом, формула (5.28) дает в матричной записи алгоритм получения и решения системы нормальных уравнений.

Применение метода наименьших квадратов для обработки эксперимента с дублированными опытами

Многие эксперименты предусматривают повторение каждого запланированного опыта некоторое число раз. Опыты, проводимые в одинаковых условиях, называют параллельными, или дублированными. Если каждый опыт плана повторяется одинаковое число раз, то говорят о равномерном дублировании опытов. В противном случае имеет место неравномерное дублирование. Равномерное дублирование является наиболее естественным и благоприятным случаем дублирования. При этом формулы для коэффициентов регрессии математической модели, рассчитываемых по МНК, остаются теми же, что и при отсутствии дублирования. Следует только в качестве выходной величины для каждой серии дублированных опытов брать среднее арифметическое результатов опытов этой серии.

Неравномерное дублирование возникает чаще всего из-за того, что приходится отбрасывать грубые наблюдения. В этом случае расчет коэффициентов регрессии существенно усложняется. Приведем матричную формулу для их расчета [1]. Условия проведения опытов задаются [1], как и ранее, матрицей плана в табл. 5.4. Опыты, запланированные этой матрицей, будем называть основными. Пусть каждый г'-й опыт матрицы повторяется и. раз. Составим из чисел и. диагональную матрицу Р, называемую матрицей дублирования:

Здесь на главной диагонали матрицы стоят числа «„=«,; а22 = п2, ...;аш =nN,а все остальные элементы матрицы - нули. Результаты наблюдений представим в виде столбца Y, каждый элемент которого - среднее арифметическое по серии дублированных опытов. По-прежнему X - матрица базисных функций. В этом случае матричная формула для расчета столбца В коэффициентов регрессии имеет вид [1]

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ     След >