GUIA DE REFERNCIA INTERNA

TRATAMENTO ESTATSTICO
1. OBJETIVO:

Estabelecer procedimentos para aplicao de clculos e demonstrar clculos para tratamento estatstico de
dados gerados em anlises na DFL.

2. REFERNCIAS:

VIERIA, S. Introduo Bioestatstica. 5 ed. Editora Campos. Rio de Janeiro. 1998.

MAGALHES, M. N., LIMA, A. C. P. Noes de Probabilidade e Estatstica. 5 ed. Editora da
Universidade de So Paulo. So Paulo. 2002.
USP 34 <1010>
Farmacopia Brasileira 5 edio

3. PROCEDIMENTO:

3.1 Mdia aritmtica.

Para um conjunto de n dados, indicados genericamente por xi, a mdia aritmtica calculada por:

x=
xi
n

3.2 Varincia (s2 ou V).

A varincia calculada dividindo o somatrio dos quadrados dos desvios de cada valor em relao
mdia, pelo nmero de graus de liberdade (n-1).
2

s 2
=
(x x )
i

n 1

3.3 Desvio padro (s ou DP).

Desvio padro igual a raiz quadrada positiva da varincia. Deve ser expresso com dois algarismos
significativos.
2

s=
(x x )
i

n 1
3.4 Desvio padro relativo (DPR) ou coeficiente de variao (CV%).
Desvio padro relativo igual ao desvio padro dividido pela mdia, multiplicado por 100.
s
DPR = 100
x

OBS: os clculos de mdia, varincia e desvio padro podem ser executados atravs do software
Excel.

3.5 Determinao de Valores Aberrantes.

Um resultado analtico afetado por erro grosseiro difere quase sempre de modo visvel, dos demais
Pgina 1 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
resultados do conjunto das determinaes executadas (replicadas) em paralelo na mesma amostra. Tais
resultados so denominados aberrantes, comprometendo a preciso e a exatido do resultado final. Portanto
o tratamento estatstico dos dados inicia-se pela deteco de valores aberrantes, que pode ser realizado
atravs do teste de Grubbs. Este teste estatstico pode ser aplicado quando se deseja verificar se o menor
valor ou o maior valor aberrante, denominado teste de Grubbs para um valor aberrante, onde n 3.

G =
(x x )
i

s
Onde :

xi = valor suspeito de ser aberrante

x = mdia dos valores obtidos.
s = desvio padro dos valores obtidos

Em funo do nmero de replicadas (n) e um nvel de significncia .

Se G calculado > G tabelado ----- valor suspeito considerado aberrante, e ento descartado.
Se G calculado < G tabelado ------- valor suspeito no considerado aberrante.

NOTA: Vide tabela de Grubbs no ANEXO 1.

3.5.1 Procedimento.

Organizar em ordem crescente os resultados obtidos.

Calcular a mdia dos valores obtidos (segundo item 4.1)

Calcular o desvio padro (segundo item 4.3)

Aplicar a frmula para o clculo de G (teste de Grubbs).

3.6 Intervalo de confiana (IC).

o intervalo dentro do qual o valor real se encontra.
ts
= x
n

Portanto:
= valor verdadeiro
x = mdia dos valores obtidos
ts
IC =
n
Onde,
s = desvio padro
n = tamanho da amostra (nmero de replicatas)
t = valor tabelado, em funo de:
no de graus de liberdade, = n 1.
nvel de significncia ().

OBS: o clculo do intervalo de confiana pode ser executado atravs do software Excel.
Pgina 2 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO

3.7 Homocedasticidade (avaliao de robustez de cuva de calibrao):

Verificar a homocedasticidade, ou seja, a independncia da varincia das respostas do mtodo com as
concentraes das amostras analisadas, atravs do teste de Cochran, aplicando a frmula que se segue.

s 2 maior
Ccal = Onde:
s2
s 2 = varincia
s 2 maior = maior varincia
s 2
= somatrio das varincias
Se C calculado < C tabelado Homocedasticidade
Se C calculado > C tabelado Heterocedasticidade

Se o critrio de homocedasticidade for aceito, ou seja, o mtodo analtico linear na faixa de

concentrao estudada, a regresso linear executada pelo mtodo dos mnimos quadrados, que estima
qual a melhor reta que passa pelos pontos obtidos experimentalmente a partir da curva de calibrao. Se
no houver relao linear, pode-se realizar transformao matemtica.

3.7.1 Procedimento:

Anotar em uma tabela os resultados obtidos para cada nvel de concentrao estudada.

Calcular as varincias para cada nvel de concentrao estudada.

Calcular o somatrio das varincias.

Verificar o valor da maior varincia.

Aplicar a frmula para o clculo de C (teste de Cochran)
NOTA: Vide tabela de Cochran no ANEXO 2.

3.8 Curva de calibrao:

A curva de calibrao, bem como os clculos dos coeficientes angular e linear, do coeficiente de
correlao (r), do erro padro da estimativa se, a soma dos quadrados dos resduos, resduos padro, fator
resposta, anlise de perda de linearidade e o respectivo grfico podem ser executados atravs do software
Excel.
A linearidade demonstrada a partir da elaborao da curva de calibrao (grfico das respostas, eixo
Y, em funo da concentrao, eixo X), onde y a varivel dependente que corresponde resposta medida
(por exemplo: rea para cromatografia; absorbncia para espectrofotometria); x a varivel independente
que corresponde concentrao do analito.
Realizada anlise de regresso deve-se apresentar o coeficiente de correlao linear (r), a inclinao
(coeficiente angular), o intercepto da reta (coeficiente linear), soma residual dos quadrados mnimos da
regresso linear e desvio padro. A regresso linear representada por uma equao do tipo:
y = a + bx
Onde, y o valor da resposta obtida para uma dada concentrao x do analito.

3.8.1 Clculo do coeficiente angular (b)

Pgina 3 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
b=
{(x x )(y y )}
i i
2
(x x ) i

3.8.2 Clculo do coeficiente linear (a)

a = y bx

3.8.3 Clculo do coeficiente de correlao linear (r)

r=
{(xi x ) ( yi y )}
{
(xi x ) ( yi y )
2 2
}
3.8.4 Clculo do erro padro da estimativa (desvio padro residual)
O erro padro da estimativa se mede a disperso dos desvios, denominados resduos, ao redor
da reta de regresso. O conceito do erro padro da estimativa ou desvio padro residual, equivalente
ao do desvio padro que mede a variabilidade dos valores da amostra ao redor da mdia aritmtica
desses valores. Atendidas as premissas de regresso linear, se espera que aproximadamente 95 % dos
valores da amostra y se encontrem no intervalo de + 2 x se de seus respectivos valores projetados
pela reta de regresso y , ou seja, que os valores dos resduos se encontrem neste intervalo (+ 2 x se).
O valor de se calculado pela frmula a seguir:

(y
2
i y i )
se =
n2

Onde,
se = erro padro da estimativa (desvio padro residual)
yi = valor observado experimentalmente (valor medido)
yi = valor previsto pela reta (valor projetado)
= n-2 graus de liberdade

Trabalha-se tambm com os resduos padro que so os valores dos resduos divididos pelo
erro padro da regresso (EPR), o que corresponde raiz quadrada da varincia estimada dos
resduos. Essa medida til para identificar outliers entre os resduos (p.ex. usando como critrio
valores maiores que 2).

3.8.5 Clculo da soma dos quadrados dos resduos (SSE)

O critrio da reta de regresso encontrar os coeficientes a e b, que minimizem a soma dos
quadrados dos resduos, procedimento denominado mtodo dos quadrados mnimos. Portanto, o
objetivo encontrar a e b de forma que a soma dos quadrados dos resduos seja um mnimo. Se os
pares de valores estiverem contidos na reta, ajustada a soma dos quadrados dos resduos ser igual a
zero e a explicao da reta ajustada ser completa (reta ideal), portanto o objetivo que a soma dos
quadrados dos resduos seja mais prxima de zero possvel.

SSE = ( yi yi )
2

Onde,
Pgina 4 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
SSE = soma dos quadrados dos resduos
yi = valor observado experimentalmente (valor medido)
yi = valor previsto pela reta (valor projetado)

3.8.6 Fator reposta

O fator reposta razo entre a reposta obtida e a concentrao. Deve-se avaliar o desvio padro
relativo dos fatores respostas, o qual convencionalmente admite-se 2, dependendo das caractersticas
da metodologia utilizada.

3.8.7 Anlise de perda de ajuste.

A partir dos dados da curva de calibrao, com as colunas concentrao e reposta obtida, para a
anlise de perda de ajuste necessrio criar:

1-Resposta Calculada (valor esperado da resposta, utilizando a concentrao preparada na

equao da reta gerada pela curva de calibrao);
2-Diferena entre a rea real Obtida e a Resposta Calculada;
3-Diferena entre a rea real Obtida e a Resposta Calculada elevada ao quadrado;
4-Diferena entre a resposta calculada e a mdia das reas obtidas;
5-Diferena entre a resposta calculada e a mdia das reas obtidas elevada ao quadrado;
Ao final, para os itens 3 e 5 aplica o somatrio dos dados e o valor mdio.
A soma dos dados do item 3 chamada residual. A soma dos dados do item 5 chamada
perda de ajuste ou perda de linearidade.
Com os dados de residual e perda de linearidade, calcula-se o erro puro, o qual a
diferena entre residual e perda de linearidade. Calcula-se os graus de liberdade (GL) para
residual, perda de linearidade, e erro puro,.
O GL do Residual igual ao total de pontos da curva menos 2. O GL do erro puro igual
ao total de pontos da curva dividido por 2. O GL da Perda de linearidade igual ao GL do erro
puro menos 2.
Calcula-se a mdia dos quadrados, para o erro puro e perda de linearidade. A mdia dos
quadrados, para o erro puro, o valor do erro puro dividido pelo seu respectivo GL. A mdia
dos quadrados, para a perda de linearidade, o valor da perda de linearidade dividido pelo seu
respectivo GL.
O valor de F calculado calculado pela diviso entre a mdia dos quadrados da perda de
linearidade e do erro puro.
O valor de F calculado deve ser menor que o tabelado.

3.9 Exatido:
3.9.1 geralmente expressa como porcentagem de recuperao (R%) da substncia de interesse,
calculada segundo a frmula, acrescida dos intervalos de confiana.
x 100
R(% ) =
x
Onde,
R (% ) = porcentagem de recuperao

x = mdia dos resultados (valor determinado experimentalmente).

x = concentrao terica correspondente (valor esperado).
Pgina 5 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
3.9.2 A exatido calculada tambm como porcentagem de recuperao (R%) de quantidades
conhecidas do padro na amostra. Esta tcnica usada quando no h possibilidade de preparar
matriz limpa da amostra, segundo a frmula.

100 [( xca xsa )]

R (% ) =
xa
Onde,
R (% ) = porcentagem de recuperao
xca = concentrao medida na amostra com adio do analito ou padro (fortalecida).
xsa = concentrao medida na amostra sem adio do analito ou padro (no fortalecida).
xa = concentrao adicionada.

3.10 Testes de Hipteses.

Os testes de hipteses podem ser executados atravs do software Excel.
A hiptese nula ( H 0 ) e a hiptese alternativa ( H1 ) descrevem dois possveis estados mutuamente
excludentes, pois as duas hipteses no podem ser aceitas ou rejeitadas ao mesmo tempo.

A hiptese nula H 0 uma afirmao ou ponto de partida do teste de hipteses, a hiptese

testada sempre a da igualdade (ou diferena nula).
Exemplos:
H0 : x =
H 0 : x1 = x2
H0 : d = 0

A hiptese alternativa H1 ser aceita somente se H 0 for rejeitada.

H1 : teste bilateral ou bicaudal

H1 : x > ou H1 : x < teste unilateral ou unicaudal

Os teste de hipteses podem ser aplicados em uma das duas caudas ou nas duas caudas da distribuio
de freqncia adotada.

Um teste de hiptese em duas caudas da distribuio um teste onde a hiptese alternativa

H1 define uma mudana da hiptese nula H 0 sem especificar nenhuma direo, incluindo
na especificao o smbolo .

Um teste de hiptese numa cauda da distribuio um teste onde a hiptese alternativa H1

define a mudana em alguma direo da hiptese nula H 0 , incluindo na especificao um dos
smbolos < ou >.

A no rejeio da hiptese nula no indica que ela seja verdadeira. Indica que, para aquele
nvel de confiana (P), no h diferena estatisticamente significativa.
Pgina 6 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
3.11 Comparao de varincias (s2): teste de F.
Para comparao de varincias pelo Teste-F, partimos da hiptese nula H 0 de que no h diferena
significativa entre as varincias comparadas, ou seja:

H 0 : s12 = s22

H1 : s12 s22

O parmetro do teste o F-calculado ( Fcalc ), que deve ser comparado com valor de F-crtico ( Fcrit ),
tambm denominado de F-tabelado ( Ftab ). Vide tabela ANEXO 3. Para que a hiptese nula H 0 seja aceita,
Fcalc deve ser menor que Fcrit ou Ftab . O valor de Fcalc obtido pela diviso da maior varincia
(numerador) pela menor varincia (denominador), portanto, sempre maior que a unidade.

s12
Fcalc = onde, s12 > s22
s22

O Fcrit encontrado na tabela de F , para o (nvel de significncia) definido e para os

graus liberdade 1 = n1 1 (para o numerador) e 2 = n2 1 (para o denominador).

O teste de hiptese aqui realizado ou seja para comparao de varincias, um teste em duas
caudas, portanto a tabela de F utilizada a bicaudal.

O teste de F aplicado para comparar a preciso, no nvel de preciso intermediria.

3.12 Para a comparao de mdias, utiliza-se o clculo estatstico de t de Student

3.12.1 Comparao de mdia com o valor verdadeiro ( )

A hiptese nula de que a mdia igual ao valor verdadeiro.

H0 : x =
H1 : x

Calcular o valor de t, a hiptese nula aceita se tcalc (t-calculado) for menor que ttab (t-
tabelado).

x n
tcalc =
s

Onde,
x = mdia.
= valor verdadeiro.
s = desvio padro
Pgina 7 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
n = tamanho da amostra (nmero de replicatas)
Comparar o tcalc , com ttab = valor tabelado, em funo de:
no de graus de liberdade, = n 1.
nvel de significncia ().

3.12.2 Comparao de dois valores medidos (mdias).

A hiptese nula de que as duas mdias so iguais.

H 0 : x1 = x 2
H1 : x1 x 2

Calcular o valor de t, a hiptese nula aceita se tcalc (t-calculado) for menor que ttab (t-
tabelado).
Para varincias iguais ( s12 = s22 ).

x1 x 2
tcalc =
1 1
sp +
n1 n2

Onde,
t t =
Comparar o calc , com tab valor tabelado, em funo de:
no de graus de liberdade, = (n1+n2 2).
nvel de significncia ().

Para varincias diferentes ( s12 s22 ).

x1 x 2
tcalc =
s12 s22
+
n1 n2

Comparar o tcalc , com ttab = valor tabelado, em funo de:

2
s12 s 22
+
no de graus de liberdade, = t calc = n1 n 2
2 2
s12 s 22

n1 + n 2
n1 1 n 2 1

nvel de significncia ().

Pgina 8 de 9
 GUIA DE REFERNCIA INTERNA
TRATAMENTO ESTATSTICO
3.13 Anlise de Varincia (A NOVA).

A ANOVA (anlise de varincia) utilizada para comparao de duas ou mais anlises, a partir da
distribuio F, utilizada para realizar o teste de hiptese, onde a hiptese nula H 0 de que no tem
diferenas estatisticamente significativas entre as anlises, se Fcalc < Ftab aceita-se H 0 .
Ftab para o nvel de significncia adotado.
O clculo da ANOVA executado pelo software Excel.

3.14Estatstica descritiva
Este parmetro serve para avaliar diferentes parmetros ao mesmo tempo. Entre eles, destaca-se os
valores de curtose e assimetria. Com estes parmetros possvel avaliar se os dados estudados encontram-
se na distribuio normal, tornando outros parmetros, tais como mdia e varincia, estatisticamente
relevantes. Os valores comumente utilizados so +/-3 para curtose e +/- 2 para assimetria.
O clculo da estatstica descritiva executado pelo software Excel.

4. ANEXOS:

ANEXO 1 Tabela de Grubbs

ANEXO 2 Tabela de Cochran
ANEXO 3 Tabela do teste F
ANEXO 2 Tabela do teste t

Pgina 9 de 9