Пример статистической обработки результатов измерений. Исключение промахов

Процесс анализа включает несколько стадий. Каждая из них вносит свой вклад в неопределенность окончательного результата. Мы рассмотрим лишь простейший вариант статистической обработки последней стадии анализа — измерения аналитического сигнала, используя пример 2.3.

Пример 2.3. При определении массы аскорбиновой кислоты в таблетках титриметрическим методом получены следующие результаты параллельных определений (мг в расчете на среднюю массу одной таблетки): 49,6; 49,9; 49,5; 44,3; 50,2; 49,9. Рассчитайте границы доверительного интервала (доверительная вероятность 95 %) и относительное стандартное отклонение результата анализа.

Решение

Перед началом статистической обработки необходимо проверить, не содержат ли полученные результаты грубых погрешностей. Измерения, в которых обнаружены такие погрешности, должны быть исключены: их нельзя использовать при дальнейшей статистической обработке результатов. Существуют несколько способов исключения грубых погрешностей. Для исключения промахов при работе с выборками малого объема можно воспользоваться величиной Q-критерия (тест Диксона). Для выборок больших объемов можно использовать, например, «правило 3S»: если значение отличается от среднего более чем на 3 стандартных отклонения, то его можно считать промахом.

Экспериментальное значение Q-критерия (при п = 3 7) рассчитывают по формулам

или

Формула (2.18) используется в том случае, если подозрительным является самый маленький представитель выборки, а формула (2.19) — если самый большой. Разность хп - xlf находящаяся в знаменателе обеих формул, называется выборочным размахом.

Полученное значение сравнивают с критической величиной для Q-критерия (табл. 2.3). Если оно превышает последнюю, то проверяемый результат является промахом и его необходимо исключить из дальнейших расчетов.

Преобразуем выборку, приведенную в примере 2.3, в вариационный ряд: 44,3; 49,5; 49,6; 49,8; 49,9; 50,2. Наименьший представитель данного ряда существенно отличается от остальных и вполне может оказаться промахом. Рассчитаем для него величину Q:

Таблица 2.3

Критические значения Q

п

Числовые значения для Q при степени риска а

0,10

0,05

0,01

3

0,87

0,94

0,99

4

0,68

0,77

0,89

5

0,56

0,64

0,76

6

0,48

0,56

0,70

7

0,43

0,51

0,64

Для п = 6 и а = 0,05 <Зкрит = 0,56. Следовательно, результат «44,3» действительно является промахом и его необходимо исключить.

При обработке оставшихся данных с помощью формул, представленных в табл. 2.1, получены следующие результаты:

Таким образом, т =(49,8±0,3) мг. _

Обратите внимание на то, что окончательное среднее значение содержит столько же значащих цифр (3), сколько их присутствует в исходных данных. Величина, характеризующая доверительный интервал среднего, имеет столько же десятичных знаков (2), сколько и само среднее.

 
Посмотреть оригинал
< Пред   СОДЕРЖАНИЕ   ОРИГИНАЛ     След >