Modelación matemática y cálculo de incertidumbre en la

calibración de mesa de planitud

1. Nomenclatura

𝜈 Ángulo de medición del patrón.

𝐿0 Longitud efectiva del patrón.
𝐶[ ] Coeficiente de sensibilidad.
𝑎 Valor de la desalineación en segundos.
𝑢𝑐𝑒𝑟 Incertidumbre del patrón (certificado de calibración).
𝑑̅ Diferencia de medida en los ángulos de cada punto de la mesa.
𝑒𝑀𝑎𝑥 Error de cierre, entregado por certificación de calibración.
𝜈𝑑𝑒𝑟 Desviación de las mediciones debido al paso del tiempo.
ß Ángulo generado debido a la diferencia de temperatura
𝐸𝑅+ Error del patrón absoluto en el rango medido para la escala positiva
𝐸𝑅− Error del patrón absoluto en el rango medido para la escala negativa
𝑝 Suma de la incertidumbre más los errores del patrón.
𝑐 Altura de cada medición en µm.
𝐺 Numero de generadores.

2. Análisis de la incertidumbre de la medición

El análisis para la incertidumbre de la medición está basado sobre la Guía para la
expresión de la incertidumbre (GUM) JCGM100:2008.

2.1 Modelo matemático de la medición :

El nivel electrónico mide un ángulo ν (en segundos sexagesimales) generado al

ser posicionado en dos puntos de la cuadricula, o llamados también
generadores, trazados en el calibrando. Este ángulo es procesado por el
software para entregar la diferencia de altura entre cada punto, y una
referencia de un plano perfecto, en µm.
Para los cálculos realizados en la incertidumbre se transformaron las
mediciones o valores en seg a micras.
 Figura 1: representación altura medida por el nivel electrónico
Si suponemos que el ángulo ν es pequeño, podemos asumir que 𝑎 = 𝑏, por lo
tanto por trigonometría sabemos que:
𝑐 𝑐
tan(𝜈) = =
𝑏 𝑎
Como lo que necesitamos es la altura, en este caso representada por c,
entonces:
𝑐 = 𝑎 ∗ tan(𝜈) (1)

Si 1°=3600 segundo sexagesimal, y además el patrón tiene un largo a=100 mm

1
Entonces 1 𝑠𝑒𝑔 = 3600 °, reemplazando en (1):

1
𝑐 = 100 ∗ 1000 ∗ tan ( °) = 0.48481 ≈ 0.48 µ𝑚 (2)
3600

De esta forma se puede transformar cualquier ángulo a µm multiplicando por

el factor (2)

2.2 Incertidumbre típica combinada:

Esta incertidumbre viene expresada por incertidumbres estándar de los

valores de entrada, como se muestra en la ecuación (3)

̅ )2 + 𝐶 2 𝑢(𝑟)2 + 𝐶 2 𝑢(𝑎)2 + 𝐶 2 𝑢(𝑒)2 +𝐶 2 𝑢(ν )2 +

𝑢(ℎ)2 = 𝐶𝑝 2 𝑢(𝑝) 2 + 𝐶𝑑̅ 2 𝑢(𝑑 𝑟 𝑎 𝑒 νder der
𝐶𝛼 2 𝑢(𝛼)2
(3)
con:
 Tabla 1: valores de los coeficientes de sensibilidad para cada contribución de la incertidumbre
Coeficiente Valor algebraico Valor Unidad
𝐶𝑝 1 1 adimensional
𝐶𝑅 1 1 adimensional
𝐶𝑟 1 1 adimensional
𝐶𝑎 1 1 adimensional
𝐶𝑒𝑀𝑎𝑥 1 1 adimensional
𝐶νder 1 1 adimensional
𝐶𝛼 1 1 adimensional

3. Calculo de la incertidumbre en la calibración de una mesa de planitud

Se presentan los cálculos de cada componente de la incertidumbre mostrada en
la ecuación (3)

3.1 Incertidumbre del patrón:

Esta corresponde a la incertidumbre del nivel electrónico utilizado como

patrón y la cual se obtiene del certificado de calibración mediante la suma de
la incertidumbre del patrón más el error del patrón absoluto en el rango
medido para la escala positiva, más el error del patrón absoluto en el rango
medido para la escala negativa, es decir:

𝑝 = 𝑢𝑐𝑒𝑟 + 𝐸𝑅+ + 𝐸𝑅− (4)

Tabla 2: Información del certificado de calibración 1246866, para el nivel electrónico Taylor
Hobson Talyvel 4
Mayo 2015
Escala Positiva Escala Negativa
Indicación Patron (seg) Error abs (seg) Indicacion patrón abs (seg) Error (seg)
0,00 0,00 0,00 0,00
4,51 -0,01 -4,37 -0,13
9,10 -0,10 -8,94 -0,06
13,53 -0,03 -13,51 0,01
18,06 -0,06 -18,06 0,06
22,62 -0,12 -22,60 0,10
27,12 -0,12 -27,11 0,11
31,71 -0,21 -31,60 0,10
36,17 -0,17 -36,19 0,19
40,67 -0,17 -40,71 0,21
45,19 -0,19 -45,25 0,25
67,77 -0,27 -68,09 0,59
90,30 -0,30 -91,05 1,05
113,15 -0,65 -114,10 1,60
136,05 -1,05 -137,23 2,23
159,12 -1,62 -160,49 2,99
 Para la fecha de hoy el certificado de calibración del nivel electrónico utilizado
indica que tiene una incertidumbre expandida de 0.1 seg con k=2, entregando
una de confiabilidad de un 95 %. Los valores de 𝐸𝑅+ y 𝐸𝑅− se obtienen del
certificado de calibración del patrón, donde aparecen distintos errores que
corresponden a cada error en el rango de la medición realizada, estos se toman
en valor absoluto. Se evaluara la incertidumbre de la siguiente forma:

 Evaluación del tipo de incertidumbre: Tipo B

 Distribución de probabilidad : Normal

𝑝 ∗ 0.48 𝑝 ∗ 0.48
𝑢(𝑝) = = µ𝑚 (5)
𝑘 2

Donde 0.48 es el factor para la conversión de seg a µm

3.2 Incertidumbre debido a la repetibilidad:

Es la incertidumbre de la media debido a la desviación típica experimental de

las diferencia de los ángulos obtenidos en las distintas series realizadas. Se
calcula estimando una variación de 0.0 a 0.4 seg. Estos son pocos datos para
tener una buena distribución normal, así que se utilizó la t-Student. Se tienen 4
grados de libertad con un nivel de confianza del 95%, se evaluó de la siguiente
manera:
 Evaluación del tipo de incertidumbre: Tipo A
 Distribución de probabilidad: Normal (t-Student)

𝜎 ∙ 𝑡𝑠𝑡𝑢𝑑𝑒𝑛𝑡 (𝑛 − 1)
𝑢(𝑑̅) = ∗ 0.48 µ𝑚 (6)
√𝑛

3.3 Incertidumbre debido a la resolución del patrón :

Se define resolución del patrón como la mínima división observable para un

instrumento de medida o perceptible, la cual es entregada en el certificado de
 calibración, o al observar reiteradas muestras del instrumento. Para el patrón
de calibración utilizado se tiene una resolución de 0.1 seg.
 Evaluación del tipo de incertidumbre: Tipo B
 Distribución de probabilidad: Rectangular

𝑟𝑒𝑠𝑜𝑙𝑢𝑐𝑖ó𝑛 ∗ 0.48
𝑢(𝑟) = µ𝑚 (7)
2√3

3.4 Incertidumbre debido al error de alineamiento:

Esta incertidumbre se produce debido a un desajuste entre las marcas de los

generadores y el nivel electrónico. Se considerara este error como un 5% del
ángulo máximo medido durante el proceso (en seg).
 Evaluación del tipo de incertidumbre: Tipo B
 Distribución de probabilidad: Rectangular

𝑎 ∗ 0.48
𝑢(𝑎) = µ𝑚 (8)
√3

3.5 Incertidumbre debido al error de Cierre máximo :

El error de cierre representa la diferencia de elevación o altura de un punto de

la medición, calculado por diferentes trayectorias. El caso ideal sería que este
fuera cero para cada medición. Este valor es entregado por el informe de
calibración en µm y como el valor máximo (𝑒𝑚𝑎𝑥 ), ya que en esta calibración
pueden existir “G” valores de cierre, donde “G” será el número de
generadores. Dentro de las contribuciones que generan este error, existe una
gran incidencia de la temperatura, ya que por diferencias de esta en distintos
puntos de la mesa, existirán desviaciones considerables; también contribuyen
pequeñas oscilaciones de la mesa, desgastes entre otros.
 Evaluación del tipo de incertidumbre: Tipo B
 Distribución de probabilidad: Rectangular

𝑒𝑀𝑎𝑥
𝑢(𝑒) = µ𝑚 (9)
√3
3.6 Incertidumbre debido a la deriva del patrón :

La deriva del patrón es la variación lenta de un de una característica

metrológica, por lo que para cuantificar la incertidumbre debido a este
fenómeno, se consideró como el máximo de la magnitud de la diferencia de las
desviaciones declaradas en los últimos tres certificados de calibración, tanto
para la escala positiva como para la escala negativa, en el rango medido del
nivel electrónico.

 Evaluación del tipo de incertidumbre: Tipo B

 Distribución de probabilidad: Rectangular

ν𝑑𝑒𝑟 ∗ 0.48
𝑢(ν𝑑𝑒𝑟 ) = µ𝑚 (10)
√3

3.7 Incertidumbre debido al cambio de temperatura entre dos puntos de la mesa:

Para la estimación de esta fuente de incertidumbre, se realizó un estudio de

análisis de los soportes de la mesa, ya que en si la mesa de granito no se ve
afectada de forma significante al existir esta variación. Como los soportes de la
mesa son de acero, al existir una variación entre dos soportes de 1°C, el apoyo
que se encuentre más caliente tendrá una mayor altura, por lo que se generara
una desviación, que afectara a las mediciones tomadas con el nivel electrónico.
Se asume que el apoyo de acero de la mesa de planitud tiene un largo de 0.8
m, con lo que una variación de 1°C lo expandirá en 9.2µm, el desnivel
provocado se representa a continuación:

Figura 2: representación geométrica de la variación de altura por cambio de temperatura en la

mesa.
 Donde L representa el largo de la mesa, por lo tanto ese ángulo de desviación
será determinado por:
9.2 µ𝑚
ß = 𝑎𝑟𝑐𝑠𝑒𝑛 ( ) (11)
𝐿

Obteniendo este ángulo, es posible determinar la diferencia de altura que se

generara en cada medición (en micras) por efectos de la variación de
temperatura en distintos puntos de la mesa.
Luego el ángulo ß encontrado es llevado a micras de acuerdo a la ecuación (1),
tomando en consideración que ß = 𝜈, ambos en °, el valor en micras resultante
será la incertidumbre original, para luego obtener la incertidumbre estándar se
evaluó como:
 Evaluación del tipo de incertidumbre: Tipo B
 Distribución de probabilidad: Rectangular

𝑢(𝛼)𝑜𝑟𝑖𝑔𝑖𝑛𝑎𝑙
𝑢(𝛼) = (12)
√3

4. Incertidumbre combinada:

La incertidumbre combinada se calcula de la ecuación (3), las fuentes de

incertidumbre vienen de las ecuaciones (5), (6), (7), (8), (9), (10) y (12). Los
coeficientes de sensibilidad se obtienen de la tabla (1)
2
̅ ) + 𝐶 2 𝑢(𝑟)2 + 𝐶 2 𝑢(𝑎)2 + 𝐶 2 𝑢(𝑒)2 +𝐶
𝑢(ℎ) = √𝐶𝑝 2 𝑢(𝑝) 2 + 𝐶𝑑̅ 2 𝑢 (𝑑 2 2
νder 𝑢(νder ) + 𝐶𝛼 𝑢(𝛼)
2 2 (13)
𝑟 𝑎 𝑒

La incertidumbre expandida se calcula con un nivel de confianza de un 95% con k=2.

𝑈(ℎ) = 2𝑢(ℎ) (14)

A.1 Anexo 1

Verificación.
Se tiene una mesa de planitud de 1000 x 600 mm, la cual se determina un largo útil de
900x500 mm, se midió el defecto de planitud con un nivel electrónico Talyvel 4,Taylor
Hobson, de largo 100 mm, por lo que se crean 10 generadores longitudinales y 6
generador transversales. Se pueden observar los datos obtenidos en el informe de
calibración:

Error de planitud total encontrado (abs) 1,96 µm

Error de cierre máximo encontrado (abs) 0,79 µm
Lectura del ángulo máximo encontrado (abs) 11 arcsec

a) Incertidumbre del patrón:

Como se observa en la ecuación (4):
𝑝 = 𝑢𝑐𝑒𝑟 + 𝐸𝑅+ + 𝐸𝑅−
La incertidumbre dependerá del certificado y del rango en el que se mida. Para
este instrumento se tiene una incertidumbre entregada por el certificado N°
1246866 de 0.1 seg.
Además el registro de calibración nos entrega:
Tabla 3: Resumen certificado de calibración
Mayo 2015
Escala Positiva Escala Negativa
indicación instrumento abs (seg) Indicación Patron (seg) Error abs (seg) Indicacion patrón abs (seg) Error (seg)
0,0 0,00 0,00 0,00 0,00
4,5 4,51 -0,01 -4,37 -0,13
9,0 9,10 -0,10 -8,94 -0,06
13,5 13,53 -0,03 -13,51 0,01
18,0 18,06 -0,06 -18,06 0,06
22,5 22,62 -0,12 -22,60 0,10
27,0 27,12 -0,12 -27,11 0,11
31,5 31,71 -0,21 -31,60 0,10
36,0 36,17 -0,17 -36,19 0,19
40,5 40,67 -0,17 -40,71 0,21
45,0 45,19 -0,19 -45,25 0,25
67,5 67,77 -0,27 -68,09 0,59
90,0 90,30 -0,30 -91,05 1,05
112,5 113,15 -0,65 -114,10 1,60
135,0 136,05 -1,05 -137,23 2,23
157,5 159,12 -1,62 -160,49 2,99

En consecuencia, como el ángulo máximo es de 11 seg, estamos en la escala de

13.5 seg, por lo que los errores absolutos para ambas escalas son: 0.03 y 0.01 seg
respectivamente. Por lo tanto:
𝑝 = 0.1 + 0.03 + 0.1 = 0.14 𝑠𝑒𝑔
𝑝 = 0.14 ∗ 0.48 µ𝑚 = 0.067 ≈ 0.07 µ𝑚
Por lo que la incertidumbre estándar será
 0.07
𝑢(𝑝) = = 0.034 ≈ 0.035 µ𝑚
2

b) Incertidumbre debido a la repetibilidad:

Debido al tiempo que toma cada medición de esta calibración, es poco factible la
realización de una nueva serie. Por lo que se realizó una estimación de cuanto
varia cada ángulo en cada medición, para este caso varía entre un 0.00 y 0.04 seg.
A partir de los datos recogidos de la Tabla 4, se calcula la desviación estándar
como:
Tabla 4: Datos utilizados para cálculo de la desviación estándar.

arcseg μm
0,00 0,0000
0,10 0,0485
0,20 0,0970 Desviación Estándar
0,30 0,1454 0,077 µm
0,40 0,1939

Lo que falta por por determinar será el valor de la t-student; para 5 observaciones
se tiene una t de student de 1.14

0.077 ∗ 1.14
𝑢(𝑑̅ ) = = 0.04 µ𝑚
√5

c) Incertidumbre debido a la resolución del patrón :

Para el caso expuesto, la resolución del nivel electrónico, Talyvel 4, marca Taylor
Hobson, es de 0.1 seg. Utilizando la ecuación 7 se tiene:
0.1 ∗ 0.48
𝑢(𝑟) = = 0.01 µ𝑚
2√3

d) Incertidumbre debido al error de alineamiento:

Como se señaló en el punto 3.4, se considerara este error como el 5% del ángulo
máximo, por lo que el error será de 0.55 seg, por lo que la incertidumbre estándar
será:
0.55 ∗ 0.48
𝑢(𝑎) = = 0.15 µ𝑚
√3
e) Incertidumbre debido al error de cierre máximo:
 Se tomó el valor entregado en el informe de calibración, la incertidumbre
estándar será:
0.79
𝑢(𝑒) = = 0.46 µ𝑚
√3

f) Incertidumbre debido a la deriva del patrón:

Para la determinación de la deriva del patrón se realizó un estudio de las 3 últimas

calibraciones, revisando las diferencias en cada una de las escalas y rangos del
instrumento, determinando un valor mensual para cada periodo. Luego se
determinaron los máximos valores para esta diferencia por mes, y se realiza una
estimación a 12, 24, 36, 48, 60 meses y los que se necesiten.
En este caso se debe verificar la deriva a los 60 meses, ya que es el periodo
estipulado en la hoja de vida del instrumento.

Tabla 6: Resumen cálculo de la deriva del patrón.

Max. Diferencia 60 meses
Indicación instrumento abs (seg) Escala Positiva (seg/mes) Escala Negativa (seg/mes) Escala positiva seg Escala Negativa seg
0,0 0,0000 0,0000 0,0000 0,0000
4,5 0,0013 0,0014 0,0783 0,0870
9,0 0,0032 0,0023 0,1913 0,1391
13,5 0,0009 0,0014 0,0525 0,0870
18,0 0,0009 0,0024 0,0522 0,1425
22,5 0,0013 0,0016 0,0750 0,0975
27,0 0,0014 0,0030 0,0825 0,1826
31,5 0,0016 0,0038 0,0975 0,2261
36,0 0,0015 0,0038 0,0900 0,2261
40,5 0,0025 0,0038 0,1478 0,2261
45,0 0,0035 0,0058 0,2087 0,3478
67,5 0,0058 0,0089 0,3478 0,5325
90,0 0,0113 0,0140 0,6783 0,8400
112,5 0,0142 0,0206 0,8522 1,2375
135,0 0,0175 0,0289 1,0522 1,7325
157,5 0,0178 0,0400 1,0696 2,4000

De la tabla se observó que el rango trabajado el máximo será 0.087 Seg, el valor de
la incertidumbre estándar será:
0.087 ∗ 0.48
𝑢(ν𝑑𝑒𝑟 ) = ≅ 0.02 µ𝑚
√3

g) Calculo de la incertidumbre debido a la variación de la temperatura:

Por la variación de 1° entre la temperatura de un soporte con, 𝛼 = 11.5 ∙ 10−6 °𝐶 −1

∆𝐿 = 11.5 ∙ 10−6 °𝐶 −1 ∙ 0.8 𝑚 ∙ 1°𝐶 = 9.2 ∙ 10−6 𝑚

Supongamos una mesa de planitud de 1 m de largo, por lo que aplicando la

ecuación (11) se obtiene:
 9.2µ𝑚
ß = 1 ∗ 𝑎𝑟𝑐𝑠𝑒𝑛 ( ) = 9.2 ∗ 10−6 °
106 µ𝑚

Aplicando este ángulo en la ecuación 1, con 𝑎 = 100000 µ𝑚, por lo tanto:

𝑢𝑜𝑟𝑖𝑔𝑖𝑛𝑎𝑙 (𝛼) = 100000 ∗ tan(9.2 ∗ 10−6 °) = 0.016 ≈ 0.02 µ𝑚

Entonces la incertidumbre estándar será:

0.02
𝑢(𝛼) = = 0.01 µ𝑚
√3

h) Calculo de la incertidumbre de la fuente:

La incertidumbre total a partir de la ecuación (13) y los coeficientes de la tabla 1, se tiene

𝑢(ℎ) = 0.49 µ𝑚

Por lo que la incertidumbre total expandida, con k=2 y un nivel de confianza del 95%:

𝑈(𝐻) = 2𝑢(ℎ) = 0.98 ≈ 1 µ𝑚