Действующий
3.8 прецизионность (precision): Степень близости друг к другу независимых результатов измерений, полученных в конкретных регламентированных условиях.

,

,

,

- коэффициенты полинома для i-го компонента;

,

и т.д. - коэффициенты полинома для компонентов или групп компонентов, анализируемых методом прямых измерений как функции идентичных компонентов или групп в градуировочном газе;

- число повторных анализов пробы;

- число повторных анализов государственного стандартного образца (ГСО);
К - относительный коэффициент чувствительности по отношению к сравнительному компоненту;
m - порядок аппроксимирующей функции;
n - общее количество измерений, используемых в регрессионном анализе;
q - число компонентов, определяемых методом прямых измерений плюс число компонентов, определяемых методом косвенных измерений;
R - отклик прибора, полученный в виде площади или высоты пика, выраженный в единицах счета;

- градуировочный коэффициент (основанный на градуировке по одной точке);

- остаточное среднеквадратическое (MSE);

- среднеквадратическое, обусловленное регрессией (MSR);

- остаточная сумма квадратов (SSE);

- сумма квадратов, обусловленная регрессией (SSR);

- стандартное отклонение предсказанного значения;
s(x) - стандартное отклонение нормализованного значения молярной доли;

- стандартное отклонение ненормализованного значения молярной доли;

- стандартное отклонение значения молярной доли компонента в ГСО (по паспорту на ГСО);
s(R) - стандартное отклонение откликов для одного уровня молярной доли;

- разность между тангенсами углов наклона оптимальной градуировочной характеристики отклика в

и градуировочной характеристики, построенной только по одному ГСО;
t - значение t-распределения;

- значение молярной доли компонента в ГСО (по паспорту на ГСО);

- значение молярной доли, полученное по градуировочной характеристике;

- ненормализованное значение молярной доли;
х - нормализованное значение молярной доли;

- нижний предел измерений молярной доли компонента;

- верхний предел измерений молярной доли компонента;

- число степеней свободы.
j - j-e значение молярной доли;
h - порядковый номер измерения;
mc - компоненты или группы компонентов, анализируемые методом прямых измерений как функции идентичных компонентов или групп в градуировочном газе;
MSE - остаточное среднеквадратическое;
MSR - среднеквадратическое, обусловленное регрессией;
ос - прочие компоненты, которые не анализируются и/или могут рассматриваться как присутствующие при неизменном значении молярной доли;
rrf - компоненты или группы компонентов, анализируемые методом косвенных измерений по функции сравнительного компонента в градуировочном газе;
ref - сравнительный компонент;
SSE - остаточная сумма квадратов;
SSR - сумма квадратов, обусловленная регрессией;
U - наивысший (верхний предел);
wrm - рабочая эталонная газовая смесь (ГСО).