You are on page 1of 80

1

Slide 1
Tpicos em Cincia de
Alimentos A e B -
Validao de mtodos:
aplicao em anlises de
alimentos Mdulos 1 e 2
ALM 826 e 879
Profa. Scheilla Vitorino C. de Souza
PPGCA
NOV 2012
Slide 2
Contedo
Por que validar.
O que validao.
Quando validar.
Seleo de mtodos de ensaio.
Como validar (processos intralaboratoriais versus interlaboratoriais).
Parmetros de desempenho.
Abrangncia da validao em funo dos diferentes tipos de mtodos.
Termos e definies aplicados validao de mtodos.
Procedimentos de validao de mtodos intralaboratoriais (delineamento
experimental, estatsticas para anlise de dados e premissas relacionadas,
critrios de aceitabilidade para avaliao dos resultados):
linearidade / faixa linear / sensibilidade;
efeitos de matriz / seletividade;
exatido / preciso (repetitividade e reprodutibilidade parcial);
limite de deteco / limite de quantificao.
Exemplos.
Exerccios.
2
Slide 3
Por que validar?
Slide 4
Resultados de ensaios qumicos
Do suporte a decises nos mais diversos segmentos da
sociedade.
Confiabilidade.
Comparabilidade.
Implementao de forte estrutura
metrolgica com foco no
reconhecimento mtuo e eliminao
de barreiras.
3
Slide 5
Principais medidas tcnicas que devem ser
tomadas para assegurar que os laboratrios
de ensaios produzem dados com a qualidade
requerida
Acreditao
Comprovao de rastreabilidade.
Estimativa de incerteza.
Uso de mtodos de ensaio validados.
Uso de procedimentos de controle de qualidade internos.
Uso de procedimentos de controle de qualidade externos
(participao em programas de comparao interlaboratorial).
No contexto de Sistemas de Gesto da
Qualidade em Laboratrios (SGQL)
Slide 6
SGQL conforme ABNT ISO/IEC 17025 -
Requisitos da direo
Organizao
4.1
Sistema de
gesto
4.2
Aquisio de
servios e
suprimentos
4.6
Auditorias
internas
4.14
Anlise
crtica
pela
direo
4.15
Anlise crtica
de pedidos,
propostas e
contratos
4.4
Subcontratao
4.5
Atendimento
ao cliente 4.7
Reclamaes
4.8
Controle de trabalhos
no-conformes
4.9
Melhoria 4.10
Ao corretiva 4.11
Ao preventiva 4.12
Controle de
documentos 4.3
Controle de
registros 4.13
4
Slide 7
Acomodaes e
condies
ambientais
5.3
Equipamentos
5.5
Amostragem
5.7
Manuseio de
itens de
ensaio
5.8
Pessoal
5.2
Padres e
materiais de
referncia
5.6.3
Apresentao dos
resultados
5.10
Rastreabilidade
5.6
Mtodos de
ensaio e
validao
5.4
Garantia da
qualidade
5.9
SGQL conforme ABNT ISO/IEC 17025 -
Requisitos tcnicos
Slide 8
O que validao?
5
Slide 9
Validao
Confirmao, por exame e evidncia objetiva, de
que os requisitos para um determinado uso
pretendido so atendidos.
Objetivos da validao de mtodos
Conhecer o potencial aplicativo e limitaes de um
mtodo de ensaio, visando decidir sobre sua
adequao para uso (fitness for purpose).
Slide 10
Quando validar?
6
Slide 11
De acordo com a
ABNT NBR ISO/IEC 17025 (2005)
Mtodos no normalizados.
Mtodos desenvolvidos pelos laboratrios.
Mtodos normalizados adaptados ou utilizados fora de
seu escopo.
Para mtodos normalizados a validao dispensada.
Entretanto, o laboratrio deve confirmar que tem
condies de operar adequadamente o mtodo normalizado
antes de implementar o ensaio na rotina.
Neste contexto, acredita-se que os mtodos
normalizados tenham sido submetidos validaes prvias,
em estudos interlaboratoriais.
Slide 12
Mtodos normalizados
Aqueles desenvolvidos por um organismo de normalizao ou
outras organizaes cujos mtodos sejam aceitos pelo setor
tcnico em questo.
Aqueles desenvolvidos pelo prprio laboratrio (ou outras
partes) ou adaptado a partir de mtodos normalizados e
validados.
Mtodos no normalizados
7
Slide 13
De acordo Eurachem (1998) e Thompson et
al (2002)
Novos mtodos desenvolvidos para problemas
particulares.
Mtodos estabelecidos revisados para incorporar
melhorias ou estendidos a um novo problema.
Para demonstrar a equivalncia entre dois
mtodos.
Quando o controle de qualidade indicar que um
mtodo estabelecido esteja mudando com o tempo.
Quando um mtodo estabelecido for utilizado em
um laboratrio diferente, ou por diferentes
analistas, ou empregando diferentes equipamentos.
R
e
v
a
l
i
d
a

o
(
p
r
o
c
e
s
s
o

m
a
i
s

s
i
m
p
l
e
s

q
u
e

a
v
a
l
i
d
a

o

o
r
i
g
i
n
a
l
)
Slide 14
Confirmao de
condies
para operao
Validao
Mtodo de ensaio
Normalizado?
No
Sim
Testes de implantao confirmao de que capaz de
alcanar as caractersticas de performance
publicadas (estudos de preciso, tendncia, linearidade)
8
Slide 15
Seleo de mtodos Seleo de mtodos Seleo de mtodos
Slide 16
Seleo de mtodos
Mtodos devem atender necessidades dos clientes e ser
apropriados para os ensaios em questo.
Sempre que possvel e prtico, o laboratrio deve usar um
mtodo de ensaio que tenha seus parmetros de desempenho
avaliados por um estudo interlaboratorial de acordo com
protocolos internacionais.
Laboratrios que trabalham com
controles oficiais nem sempre tm a
liberdade para selecionar os
mtodos, os quais geralmente so
regulamentados (estabelecidos em
legislaes especficas).
9
Slide 17
Dar preferncia para mtodos publicados
Em normas internacionais, regionais ou nacionais.
Por organizaes tcnicas respeitveis.
Em textos ou jornais cientficos relevantes.
Mtodos desenvolvidos pelo laboratrio.
Somente devem ser utilizados se
estiverem validados.
O laboratrio deve utilizar sempre a ltima edio
vlida de uma norma (a no ser que isto no seja
apropriado ou possvel).
N
o
r
m
a
l
i
z
a
d
o
s
N

o

n
o
r
m
a
l
i
z
a
d
o
s
Slide 18
Como validar?
10
Slide 19
Processos de validao
Interlaboratoriais / estudos colaborativos (avaliao do
mtodo envolvendo mais de um laboratrio) ou
intralaboratoriais / single-laboratory validation / in-house
validation (avaliao do mtodo por um nico laboratrio).
Slide 20
Avaliao do mtodo por meio de ensaios com uma mesma
amostra (ou amostras idnticas), por um mesmo mtodo, em
diferentes laboratrios.
Vantagens
Permitem avaliar o parmetro de desempenho preciso
nas suas condies extremas (repetitividade e
reprodutibilidade).
Consideradas por muitos um padro ouro de validao ou
validao completa.
Validaes interlaboratoriais
11
Slide 21
Desvantagens
Requer uma validao intralaboratorial prvia para avaliao
de outros parmetros de desempenho como
linearidade/faixa/sensibilidade, efeitos de matriz, seletividade,
exatido e limites.
Dificuldades para cobrir todas as combinaes
analito/matriz/concentrao, devido aos custos relativos ao
preparo de material e organizao.
Dificuldades no preparo das amostras, pois o material deve
ser homogneo e estvel.
Limitaes de escolha aleatria dos colaboradores e de
garantia que estes laboratrios operem de acordo com as
mesmas prescries.
Validaes interlaboratoriais
Slide 22
Validaes interlaboratoriais - Referncias
AOAC - Association of Official Analytical Chemists. Guidelines for
collaborative study procedures to validate characteristics of a method
of analysis. J. Assoc. Off. Anal. Chem., Appendix D, p. 1-12, 2002.
HORWITZ, W. Protocol for the design, conduct and interpretation of
method performance studies. Pure & Appl. Chem., v. 67, p. 331-343,
1995.
ISO - International Standards Organization. ISO 5725-2. Accuracy
(trueness and precision) of measurement methods and results. Part 2:
Basic method for the determination of repeatability and reproducibility
of a standard measurement method. 1994.
ISO - International Standards Organization. ISO 5725-4. Accuracy
(trueness and precision) of measurement methods and results. Part 4:
Basic method for the determination of the trueness of a standard
measurement method. 1994.
12
Slide 23
Validaes interlaboratoriais - Referncias
Slide 24
Principais pontos crticos - Organizador
Distribuio do material
Anlise estatstica
dos resultados
Procedimentos
especficos, testes
de homogeneidade
e estabilidade.
Garantia da
integridade
(matriz/analito) e
manuteno de
materiais para
controle.
Tratamento de outliers e
ANOVA para estimar
repetitividade e
reprodutibilidade (processos
diretos) e teste de t
emparelhado ou correlao
(processos comparativos).
Clareza,
objetividade e
descrio do
processo.
Definio das regras
Apresentao dos
resultados
(relatrios, publicaes)
Apresentao dos
resultados
(relatrios, publicaes)
A
c
r
e
d
i
t
a

o
Preparo do material
Mtodo, prazos, forma
de reportar os
resultados.
13
Slide 25
Principais pontos crticos - Colaborador
Realizao dos ensaios
Clculos, transferncia
e envio dos resultados
Manuteno da
integridade at
realizao dos
ensaios.
Atendimento s
determinaes do
organizador.
Relato de desvios aos
procedimentos e
correes.
Recebimento do material
Recebimento dos
relatrios
Recebimento dos
relatrios
A
c
r
e
d
i
t
a

o
Slide 26
Procedimentos de validao interlaboratoriais esto
bem estabelecidos e harmonizados:
nmero de materiais 5, podendo ser reduzido para 3;
nmero de laboratrios 8, podendo ser reduzido para 5;
nmero de replicatas 2, podendo ser um nvel dividido,
replicatas cegas, outros;
tratamento de valores extremos (outliers) pelo teste de
Cochran (unicaudal) e Grubbs (bicaudal), sendo 2,5% de
significncia para AOAC e IUPAC e 5% para ISO 5725;
anlise de varincia para estimativa de preciso sob
condies de repetitividade e reprodutibilidade.
14
Slide 27
Validaes interlaboratoriais - Exemplos
Determination of Semicarbazide in Baby Food by Liquid
Chromatography/ Tandem Mass Spectrometry: I nterlaboratory
Validation Study
Author(s): Richard Ginn
1
, | Lesley Wilson
2
, | Scheilla V.C. De Souza
3
, |
Maria B. Dela Calle
4
Collaborators: J . Barbosa; B. Berendsen; I. Bockhorn; M. Brandtner; P.
Delahaut; T. Doering; P. Fuerst; C. Griffin; T. Gude; A. J anosi; A. J aus; G.
Kennedy; M. Mandix; E. Matencio Hilla; S. Plonevez; A. Posyniak; L. Saari;
M. van Bruijnsvoort; E. Verdon; R. Wohlfarth
J ournal of AOAC INTERNATIONAL
Print ISSN: 1060-3271
Volume: 89 | Issue: 3
Cover date: May/J une 2006
Page(s): 728-734
Abstract text
An interlaboratory validation study funded by the European Commission, Directorate General for
Health and Consumer Protection (DG SANCO), was conducted to evaluate the effectiveness of a
liquid chromatography/tandemmass spectrometry (LC/MS/MS) method for the determination of
semicarbazide (SEM) in different types of baby food at a possible future European regulatory
limit (10 ng/g). The test portion of the sample was extracted with hydrochloric acid, and the
analyte was derivatized with 2-nitrobenzaldehyde, with 1,2-[
15
N2,
13
C] SEM as an internal
standard. The extract was neutralized and then purified on a solid-phase extraction cartridge.
The SEM was determined by reversed-phase LC with detection by MS/MS. Apple puree, rice
pudding, and meat/vegetable meal baby food materials, spiked with SEM at levels of about 3,
10, and 30 ng/g, respectively, were sent to 20 laboratories in 12 different European countries,
which submitted results from17 participants. Recoveries ranged from88.8 to 106.1%. Based
on results for spiked samples (blind pairs at 3 levels), the relative standard deviations for
repeatability (RSDr) ranged from4.2 to 6.9% and the relative standard deviations for
reproducibility (RSDR) ranged from16.6 to 24.3%. The method showed acceptable within- and
between-laboratory precision for all 3 matrixes, as evidenced by HorRat values, at the target
levels for the determination of SEM.
Slide 28
Avaliao do mtodo por meio de ensaio com uma mesma
amostra (ou amostras idnticas), por um mesmo mtodo, em um
nico laboratrio, sob diferentes condies, em curtos
intervalos de tempo.
Vantagens
Permitem realizar um nmero considervel de experimentos
utilizando diferentes combinaes de
analito/matriz/concentrao.
Fornecem resultados rpidos para caso de novos mtodos.
Permitem avaliar parmetros como linearidade/faixa,
sensibilidade, efeitos de matriz, seletividade, exatido,
preciso (repetitividade e reprodutibilidade parcial) e limites.
Validaes intralaboratoriais
15
Slide 29
Validaes intralaboratoriais
Internacionalmente aceitas em situaes como:
para garantir a viabilidade de um mtodo antes de
realizar uma dispendiosa validao interlaboratorial;
para fornecer evidncias da confiabilidade de um mtodo
quando validaes interlaboratoriais no forem disponveis
ou praticveis.
Desvantagens
Restritas em informaes relativas comparabilidade como
preciso sob condies de reprodutibilidade.
Slide 30
Validaes intralaboratoriais - Referncias
THOMPSON, M.; ELLISON, S.L.R.; WOOD, R. Harmonized guidelines
for singlelaboratory validation of methods of analysis. Pure & Appl.
Chem., v. 74, p. 835-855, 2002.
EURACHEM. The fitness for purpose of analytical methods. A
laboratory guide to method validation and related topics. 1998.
INMETRO Instituto Nacional de Metrologia, Normalizao e
Qualidade Industrial. Orientao sobre validao de mtodos analticos.
Rev. 03. 2010.
EC - European Commission. Commission Decision 2002/657/EC of 12
August 2002 implementing Council Directive 96/23/EC concerning
performance of analytical methods and the interpretation of results.
Official Journal of the European Communities, 2002, L 221/8.
(Especfico para resduos em alimentos de origem animal).
16
Slide 31
Validaes intralaboratoriais - Referncias
Slide 32
Apesar dos esforos nacionais e internacionais para
definio e harmonizao de procedimentos de
validao intralaboratoriais, a maioria dos
protocolos possui:
definio dos parmetros de desempenho;
roteiros gerais pouco detalhados, que no aprofundam
no delineamento experimental e nas estatsticas
aplicveis;
pontos de contradio;
equvocos conceituais.
17
Slide 33
Validaes intralaboratoriais - Exemplos
Analysis of semicarbazide in baby food by liquid
chromatography tandem mass spectrometry (LC-MS-MS) In-
house method validation
Author(s): Scheilla V. C. De Souza
1
, | Roberto G. Junqueira
1
, | Richard Ginn
2
Journal of Chromatography A
Volume: 1077
Cover date: 2005
Page(s): 151-158
Abstract text
A method for detection of semicarbazide (SEM) in baby food was validated. SEM was extracted with
hydrochloric acid and derivatised with 2-nitrobenzaldehyde, using [15N2,13C] semicarbazide as internal
standard. The extract was neutralised, purified on a solid phase extraction cartridge and SEM was
determined by reversed phase LC-MS-MS. Linearity was demonstrated in the ranges from 0.1 ng ml-1 to
1 ng ml-1 and from 2 ng ml-1 to 80 ng ml-1. Matrix effects were non significant for meat-based and
significant for apple and rice-based baby foods, in both ranges. Mean recoveries ranged from 87.8 % to
107.2 % with relative standard deviation from 0.2 % to 9.1 %, considering both ranges. Limits of detection
and quantification were 0.1 g kg-1 and 0.25 g kg-1, respectively. The results of the validation process
demonstrated the method suitability for use in food control.
Slide 34
Parmetros de
desempenho
18
Slide 35
Parmetro Experimento Anlise de dados
Linearidade/Faixa
Linear/
Sensibilidade
Curva de calibrao usual Regresso linear simples
Seletividade/Efeitos de
matriz
Curva de calibrao usual (sem matriz) e
curva de calibrao com matriz
Ensaios com amostras brancas e de
concentraes conhecidas do analito (MR
ou amostras adicionadas) na presena e
ausncia de interferentes
Regresso linear simples para cada curva e teste de
t para comparao das inclinaes e intersees das
duas curvas
Avaliao influncia dos interferentes nos
resultados (teste de t)
Exatido
Ensaios com amostras brancas e de
concentraes conhecidas do analito
(MRC, MR ou amostras adicionadas)
Teste de t, erro normalizado ou z-escore (MRC) ou
porcentagem de recuperao aparente (MR ou
amostras adicionadas)
Preciso
Ensaios com amostras brancas e de
concentraes conhecidas do analito (MR
ou amostras adicionadas) com repeties
em condies de repetitividade,
reprodutibilidade parcial e
reprodutibilidade
Anlise de varincia (ANOVA) para obteno dos
desvios padro de repetitividade, reprodutibilidade
parcial e reprodutibilidade
Limites
Ensaio com amostras brancas e de
concentraes conhecidas e baixas do
analito (MRC, MR ou amostras
adicionadas)
Avaliao dos resultados de exatido e preciso em
cada nvel de concentrao (para limite de
quantificao). Avaliao da capacidade de
distinguir do branco (para limite de deteco)
Slide 36
Linearidade / Faixa linear
Sensibilidade
Seletividade
Exatido
Preciso
Limite de deteco terico
e do mtodo
Limite de quantificao
terico e do mtodo
Robustez
Estimativa da incerteza
Principais parmetros ou caractersticas de
desempenho ou figuras de mrito
Adequao ao uso
(fitness for purpose)
Acurcia
19
Slide 37
Principais parmetros ou caractersticas de
desempenho ou figuras de mrito
Linearidade / Faixa linear
Sensibilidade
Limite de deteco terico
Seletividade / Efeitos de matriz
Limite de deteco do mtodo
Limite de quantificao do
mtodo
Exatido
Preciso
Parmetros relacionados
com anlise quantitativa
instrumental
Parmetros relacionados
com identificao e
determinao
Parmetros de
avaliao dos resultados
Slide 38
Abrangncia
20
Slide 39
Abrangncia da validao
A abrangncia de um procedimento de validao deve ser
suficiente para atender as necessidades de uma determinada
aplicao.
Dependente de:
balano entre necessidades, possibilidades, custos e prazos;
propsito de uso do mtodo (pesquisa, controle de qualidade, etc.);
experincia acumulada na tcnica em questo;
tipo de mtodo (quantitativo ou qualitativo, medio direta do
analito ou uso de curva de calibrao, determinao de analitos traos
ou do principal componente).
Slide 40
O processo de
validao
21
Slide 41
Princpios bsicos de validaes
Determinao do escopo da validao.
Analito(s).
Matriz(es).
Faixa de concentrao.
Tcnica.
Propsito ou aplicao.
Verificao de premissas.
Como os estudos de validao so baseados em testes de hipteses
estatsticas, uma verificao bsica das premissas relacionadas aos
testes fundamental para garantir que os princpios dos testes no
sejam afetados.
Fontes de erro.
Erros aleatrios (repetitividade preciso).
Erros sistemticos (bias ou tendncia - exatido).
Efeitos de variaes de matriz.
Slide 42
Demanda do ensaio
Condies para validao de mtodos
Seleo do mtodo
Sistema de gesto
da qualidade
implementado
Inexistncia de mtodo normalizado.
Adaptao de mtodo normalizado.
Uso de mtodo normalizado fora
do escopo.
Desenvolvimento de novo mtodo.
Validao
Intra ou interlaboratorial
Existe a necessidade e possibilidade de envolvimento de
mais laboratrios?
22
Slide 43
Delineamento experimental para validao
direta de mtodos quantitativos
Experimento 1
(ensaios com curvas de calibrao usuais)
Adequao para uso
(fitness for purpose)
Efeitos de matriz
1
Experimento 2
(ensaios com curvas de calibrao usuais e em
matriz)
Seletividade
Exatido
Preciso
Limites do mtodo
2
Experimento 3
(ensaios com curvas de calibrao,
MRC, MR e/ou amostras adicionadas )
1
Anlise instrumental com curvas
de calibrao.
2
Determinao de analitos traos.
Linearidade
1
Faixa linear
1
Sensibilidade
1
Limites tericos
1
Slide 44
Avaliao de adequao ao uso (fitness for purpose)
Possibilidade de
desenvolvimento
Avaliao da
Adequao ao uso
Atendimento aos
requisitos analticos
Possibilidade
de relaxar requisitos
Adequado ao uso
Impossibilidade
de atender demanda*
Sim No
* Subcontratar?
Sim
No
No
Sim
23
Slide 45
Validao processo dinmico
Otimizao e
Pr-validao
Desenvolvimento
Procedimento
analtico
Verso N
Validao
Registros
da validao
Procedimento
analtico
Verso N + 1
Revalidao
Aplicao do
mtodo validado
Ferramentas de
garantia da qualidade
Registros dos
ensaios
Cartas de
controle
Testes de robustez e seletividade preliminares
Slide 46
Maioria das referncias sobre validao
intralaboratorial limita-se a:
Grandes dificuldades
Definies dos parmetros de desempenho.
Descrio superficial de experimentos
e ferramentas anlise de dados.
Laboratrios interessados em validar seus mtodos.
24
Slide 47
Termos, definies e
procedimento proposto para
mtodos quantitativos
Slide 48
Linearidade, faixa linear e
sensibilidade
25
Slide 49
Mtodos de ensaio em qumica analtica
Uso de relaes
lineares
Avaliao de
linearidade
Atividades de rotina
Validaes
de mtodos
Slide 50
Linearidade, faixa linear e sensibilidade
Definies: Tabelas 1 a 12
Linearidade: habilidade de um mtodo produzir resultados
proporcionais concentrao do analito na amostra, em uma dada faixa
de concentrao.
Faixa linear: faixa de concentrao do analito ao longo da qual o
mtodo fornece resultados proporcionais concentrao do analito.
Faixa de trabalho: faixa de concentrao do analito na qual o mtodo
pode ser aplicado.
Sensibilidade: parmetro que demonstra a variao da resposta em
funo da concentrao do analito, expresso pela inclinao da curva
obtida por regresso linear.
Recomendaes para avaliao: Tabela 13
26
Slide 51
Teoria
Estatsticas da Regresso
Slide 52
Modelo de regresso linear simples
Equao de regresso linear simples estimada
sendo:
Y = varivel dependente
X = varivel independente

0
= coeficiente linear (interseo)

1
= coeficiente angular (inclinao)
= resduo (erro ou desvio)
x
i
= concentrao conhecida
= varivel dependente estimada pela equao da regresso
a = estimativa de
0
b = estimativa de
1
(DRAPER & SMITH, 1998)
0 1 i i i
Y X = + +

i i
y a bx = +
y
Regresso linear simples (ou
mtodo dos mnimos quadrados ordinrios - MMQO)
27
Slide 53
Varivel independente X
Regresso linear simples
b >b
a <a

i i
y a bx = +
e
1
e
3
e
6
e
8
e
10
2 2
1 1
( )
n n
i i
i i
e y y
= =
=
_ _
Slide 54
2
(0, )
i
N
2
(0, )
i
N
( , ) 0
i j
Cov = ( , ) 0
i j
Cov =
2
( )
i
Var Y =
2
( )
i
Var Y =
, ) , X Y , ) , X Y
2
x
2
x
1
x
1
x
3
x
3
x
4
x
4
x
XX
YY
--
--
--
--
1
| y x

1
| y x

2
| y x

2
| y x

3
| y x

3
| y x

4
| y x

4
| y x

| 0 1 Y X
X = +
| 0 1 Y X
X = +
0 1 i i i
Y X = + +

i i
y a bx = +

i i
e y y =
28
Slide 55
Modelo :
medidas analticas que seguem a lei de Lambert-Beer;
correes cuidadosas para o branco.
(STRONG, 1979; LEARY & MESSICK, 1985)
Escolha do modelo
versus

i i
y a bx = +
i i
y bx =

i i
y bx =
Modelo recomendado:
apesar de justificado sob um ponto de vista puramente
terico, a omisso de um parmetro do modelo uma
premissa muito forte que apresenta conseqncias
prticas como aumento do .
(ELLERTON, 1980; MEYER & ZUND, 1993; DRAPER & SMITH, 1998)
2
res
s

i i
y a bx = +
Slide 56
Varivel Y sujeita a erros e a magnitude de erro da
varivel X considerada negligencivel. Se a incerteza
do valor de referncia for considervel, regresso
linear simples no ser aplicvel. Alguns modelos so
sugeridos: (DRAPER & SMITH, 1998)
- mtodo dos mnimos quadrados ortogonais;
(DANZER & CURRIE, 1998)
- mtodo da mxima verossimilhana.
(RIPLEY & THOMPSON, 1987; RIU & RIUS, 1995)
Premissas da regresso linear simples
29
Slide 57
A relao entre e linear.
(DRAPER & SMITH, 1998)
O resduo de uma observao no-correlacionado com o
resduo em outra observao .
Os resduos so homoscedsticos, com distribuio
constante ao longo dos valores de .
Os resduos seguem a distribuio normal .
Premissas da regresso linear simples
Os resduos so variveis aleatrias com mdia zero
e varincia desconhecida .
i

( ) 0
i
E =
2
( )
i
V =
2
(0, )
i
N
i
X
i
X
i
Y
cov( , ) 0
i j
=
Slide 58
Teoria
Delineamento experimental
30
Slide 59
Nmero de nveis
Nmero de observaes disponveis deve ser maior do
que o nmero de parmetros da equao de regresso.
Para ajustar a regresso linear so necessrias, no
mnimo, 3 observaes.
(HOFFMANN & VIEIRA, 1987)
Maioria das referncias sugere um mnimo de 5 a 6
nveis de concentrao.
O equilbrio dos pontos ao longo do eixo X ir
influenciar no leverage e, conseqentemente, na deteco
de outliers.
Importante que os pontos sejam igualmente espaados.
(THOMPSON et al., 2002)
Slide 60
Nvel zero
O nvel zero
freqentemente utilizado
para ajustar o zero do
instrumento de medio.
A incluso do zero na anlise
de regresso no
recomendada:
- pontos prximos dos
extremos da faixa de
trabalho so sujeitos a
maiores oscilaes que os
pontos centrais;
- desvio de linearidade
comum no extremo inferior
da uma equao de calibrao
estimada.
(MONTGOMERY & RUNGER, 1994; DRAPER & SMITH, 1998)
(RCS/AMC Technical Brief, 2001)
Estimativa dos parmetros,
distribuio dos resduos e
Afeta
2
res
s
31
Slide 61
Replicatas
Replicatas de cada nvel fornecem informaes
sobre a variabilidade das respostas das medidas
(erro puro) em condies de repetitividade e no
reprodutibilidade parcial.
Replicatas devem ser verdadeiras no somente
repeties de leituras de uma mesma soluo,
preparadas independentemente.
(DRAPER & SMITH, 1998)
Indicao de
desvios de linearidade
no existentes
Subestimam
2
res
s
Indicao de
modelos lineares
no existentes
Superestimam
2
res
s
Slide 62
Leituras
Importante que seja feita em ordem aleatria:
(THOMPSON et al., 2002)
- evita influncia de efeitos temporais (flutuaes);
(RCS/AMC Technical Brief, 2000)
- depende da eficincia da programao analtica
para limpeza do sistema entre leituras de
diferentes pontos.
32
Slide 63
Teoria
Coeficientes de correlao
e de determinao
Slide 64
Coeficiente de correlao ou de
determinao
Apesar do amplo uso, no adequado
como teste de linearidade e deve ser
evitado.
(THOMPSON et al., 2002)
R
2
no mede a adequao de um modelo,
uma vez que pode ser inflado pela adio
de termos ao modelo.
(MONTGOMERY & RUNGER, 1994; MULHOLLAND & HIBBERT ,
1997)
Se os pontos de uma calibrao
estiverem bem ajustados curva,
certamente o valor experimental de R
2
ser prximo de 1. Contudo, R
2
prximo
de 1 no necessariamente resultado de
uma relao linear.
2
R
(RCS/AMC Technical Brief, 2000)
r
33
Slide 65
Coeficiente de correlao ou de
determinao
A significncia do
coeficiente de correlao
dependente do nmero de
observaes da regresso.
(BURKE, 2001A)
2
R
r
Graus de liberdade
(n-2)
Nvel de confiana
95% (o=0,05) 99% (o=0,01)
2 0,950 0.990
3 0,878 0,959
4 0,811 0,917
5 0,754 0,875
6 0,707 0,834
7 0,666 0,798
8 0,632 0,765
9 0,602 0,735
10 0,576 0,708
11 0,553 0,684
12 0,532 0,661
13 0,514 0,641
14 0,497 0,623
15 0,482 0,606
20 0,423 0,537
30 0,349 0,449
40 0,304 0,393
60 0,250 0,325
Slide 66
Coeficiente de correlao ou de
determinao
Exemplo clssico de ANSCOMBE (1973):
- 4 grupos de dados, com 11 observaes cada;
- mesmos valores numricos para: inclinao, interseo,
coeficiente de determinao, soma de quadrados do
resduo e soma de quadrados da regresso.
y = 0,5x + 3
R
2
= 0,667
0
5
10
0 5 10 15 20
2
R
r
y = 0,5x + 3
R
2
= 0,667
0
5
10
0 5 10 15 20
y = 0,5x + 3
R
2
= 0,667
0
5
10
0 5 10 15 20
y = 0,5x + 3
R
2
= 0,667
0
5
10
15
0 5 10 15 20
Figura 1 Figura 2 Figura 3 Figura 4
34
Slide 67
Teoria
Anlise de dados
Slide 68
Inspeo visual de grficos de resduos
e
i
Varivel
independente X
Varivel
independente X
e
i
Varivel
independente X
e
i
Varivel
independente X
e
i
Varivel
independente X
e
i
Varivel
independente X
e
i
Varivel
independente X
e
i
heteroscedasticidade
Desvio de linearidade
Leverage
Outlier
35
Slide 69
Regresso linear tem o inconveniente de ser muito
sensvel presena de pontos outliers e/ou leverages.
Valores dispersos: observaes de uma amostra to
separadas das demais que sugerem que possam
pertencer a uma populao diferente ou serem
resultados de um erro de medio.
- Valores dispersos detectados entre os nveis de
confiana de 95% e 99%: Stragglers.
- Valores dispersos detectados a nveis de confiana
maiores que 99%: Outliers.
(BURKE, 2001B)
Varivel
independente X
e
i
Outlier
Diagnstico de outliers
Slide 70
Diagnstico de outliers
(STATSOFT)
36
Slide 71
Diagnstico de outliers
(STATSOFT)
Slide 72
Grfico de resduos informativo sobre a presena
de outliers.
Testes formais para deteco de outliers:
- distncia de Cook;
- resduo padronizado;
- resduo Studentizado;
- resduo padronizado Jacknife.
Resduos maiores
Estimativa de
Inflam
2
res
s
Subestimam
Estimativa do desvio padro
excludo o ponto suspeito
Dificuldade na
deteco de outliers
Diagnstico de outliers
(BELSLEY et al., 1980)
Resduos padronizado
e Studentizado
37
Slide 73
Normalidade
Validade de procedimentos baseados em estatsticas
paramtricas depende crucialmente do modelo de
distribuio.
Distribuio normal necessria para utilizao das
distribuies de t e F para testar hipteses a
respeito dos valores dos parmetros e para construir
intervalos de confiana.
(HOFFMANN & VIEIRA, 1987; DUFOUR et al., 1998)
Slide 74
Normalidade
Se varivel no segue a distribuio normal possvel
criar uma varivel transformada: raiz quadrada, logaritmo,
inverso.
(BOX & COX, 1964)
Mais de 40 tipos diferentes de testes de normalidade:
- grficos
- testes de hipteses
(MARDIA, 1980; DAGOSTINO & STEPHENS, 1986; BARINGHAUS et al., 1989)
histogramas
Kolmogorov-Smirnov
Anderson-Darling
Shapiro-Wilk
Jarque-Bera
DAgostino
Filliben
Ryan-Joiner
Combina grfico e
teste de hiptese,
baseado em correlao,
simples, fcil de calcular e
dispensa tabelas especiais
(RYAN & JOINER, 1976)
38
Slide 75
Homoscedasticidade
Muitos mtodos de ensaio produzem dados
heteroscedsticos.
Em caso de heteroscedasticidade, a regresso linear
simples no recomendada.
Regresso
ponderada
e
i
Varivel
independente X
Homoscedasticidade Heteroscedasticidade Heteroscedasticidade
Varivel
independente X
e
i
Varivel
independente X
e
i
Slide 76
Homoscedasticidade
Testes para avaliao da homoscedasticidade:
- F
mx
(teste de Hartley)
- teste de F
- Bartlett
- Levene
- Brown & Forsythe
Sensveis premissa de
distribuio normal,
requerem mesmo nmero
de replicatas entre grupos e
no utilizam todos os pontos
Sensvel premissa de
distribuio normal e permite
diferente nmero de replicatas
Permite diferente nmero
de replicatas e perde a validade
com poucas observaes
Adaptaes ao Levene utilizando
estatstica mais robusta
(mediana)
(BROWN & FORSYTHE, 1974)
39
Slide 77
Independncia
Em caso de autocorrelao, a regresso linear simples
no recomendada.
Teste de Durbin-Watson.
e
i e
i
e
i
e
i-1
e
i-1
e
i-1
Independncia
Autocorrelao
negativa
Autocorrelao
positiva
Regresso
generalizada
(DURBIN & WATSON, 1951)
Slide 78
Ajuste ao modelo
Muitos mtodos de ensaio produzem dados em que o
modelo linear no aplicvel, sendo melhor ajustados a
modelos polinomiais ou outros modelos.
No possvel testar a linearidade o que se faz
demonstrar que o desvio de linearidade no
significativo, por ANOVA.
e
i
Varivel
independente X
Varivel
independente X
e
i
Varivel
independente X
e
i
Necessidade de
replicatas em cada nvel
Modelo linear Modelo no linear Modelo no linear
(DRAPER & SMITH, 1998)
40
Slide 79
Procedimento proposto
linearidade, sensibilidade e
faixa
Slide 80
Linearidade - Delineamento
experimental
Determinao da faixa de interesse (concentrao esperada
prxima do centro da faixa ou considerar o LQ do equipamento
para definir a faixa de analitos proibidos ou analitos traos).
Preparo de curva com solues padro em:
pelo menos 6 nveis de concentrao;
nveis igualmente espaados (ou evitando pontos de
alavanca);
pelo menos 3 replicatas independentes de cada nvel;
preparo do ponto zero como ferramenta de controle,
para avaliao do rudo e do zero do instrumento.
Leituras e preparo em ordem aleatria.
Obs.: quando for invivel estudar todos os analitos de um
mtodo que aplicvel a mltiplos analitos, pode ser necessrio
delinear experimentos com analitos representativos dos grupos
que se pretende validar.
41
Slide 81
Continuar
Linearidade Anlise de dados
MMQO e Tratamento de outliers
Outliers
(o = 0,05)
Outliers
(resduos
padronizados Jacknife)
Excluso do dado
(at um mximo de
22,2% dos dados)
Dados
experimentais
MMQO
(inclinao,
interseo, resduos,
varincias e R
2
)
Inspeo visual dos
dados e de
grficos (x-y e resduos)
Sim
No
Slide 82 Mtodos robustos
Resduos
do MMQO
Normalidade
(teste Ryan-Joiner)
Distribuio
normal
(o = 0,05)
No
Sim
Transformao
dos dados
(raiz, log, inverso)
Normalidade
(teste Ryan-Joiner)
Distribuio
normal
(o = 0,05)
No
Sim
Continuar
Linearidade Anlise de dados
Testes de premissas MMQO
Normalidade dos resduos
42
Slide 83 MMQP
Homoscedasticidade
(teste Brown-Forsythe)
Varincias
homogneas
(o = 0,05)
No
Sim
Transformao
dos dados
(raiz, log, inverso)
Varincias
homogneas
(o = 0,05)
No
Sim
Continuar
Linearidade Anlise de dados
Testes de premissas MMQO
Homoscedasticidade dos resduos
Homoscedasticidade
(teste Brown-Forsythe)
Slide 84 MMQG
Independncia
(teste Durbin-Watson)
Autocorrelao
(o = 0,05)
Sim
No
Transformao
dos dados
(raiz, log, inverso)
Autocorrelao
(o = 0,05)
Sim
No
Continuar
Linearidade Anlise de dados
Testes de premissas MMQO
Independncia dos resduos
Independncia
(teste Durbin-Watson)
43
Slide 85 Outro modelo
Dados
experimentais
Significncia da
regresso
(teste de F ANOVA)
Regresso
(o = 0,05)
Sim
No
Ajuste ao modelo
(teste de F - ANOVA)
Desvio da
linearidade
(o = 0,05)
Sim
Linearidade Anlise de dados
Testes de premissas MMQO
Adequao ao modelo (desvio da linearidade)
LINEARIDADE
No
Respostas
no explicadas
Slide 86
Estimativa dos parmetros
xy
xx
S
b
S
=
a y bx =
, ) , )
1 1 1 1
n n n n
xy i i i i i i
i i i i
S x x y y x y x y n
= = = =
= =
_ _ _ _
, )
2
2
2
1 1 1
n n n
xx i i i
i i i
S x x x x n
= = =
| }
= =
]
\
_ _ _
1
n
i
i
y
y
n
=
=
_
1
n
i
i
x
x
n
=
=
_
2
2 res
b
xx
s
s
S
=
2
2 2 1
n
i
i
a res
xx
x
s s
nS
=
=
_
Inclinao ou coeficiente angular, varincia e desvio padro
Interseo ou coeficiente linear, varincia e desvio padro
, )
, )
2
2
2
1 1 1
n n n
YY i i i
i i i
S Y Y Y Y n
= = =
= =
_ _ _
, )
, )
2
2
2
1 1 1
n n n
YY i i i
i i i
S Y Y Y Y n
= = =
= =
_ _ _
2
a a
s s =
2
b b
s s =
Inclinao ou coeficiente angular, varincia e desvio padro
Interseo ou coeficiente linear, varincia e desvio padro
44
Slide 87
Estimativa dos parmetros

i i i
e y y =
, )
2
2 1

2
n
i i
i
res
y y
s
n
=

=

_
, )
, )
2
2
2 1
2
1

n
i
i XX
n
YY
i
i
y y
b S
R
S
y y
=
=

= =

_
_
Resduo e varincia
Coeficiente de determinao
Obs.: R
2
mede a frao da variao total em torno da mdia
de Y (S
YY
) que explicada pela regresso (b
2
S
XX
).
Obs.: R
2
mede a frao da variao total em torno da mdia
de Y (S
YY
) que explicada pela regresso (b
2
S
XX
).
2
0 1 R s s
2
0 1 R s s
Slide 88
Resduo padronizado Jacknife - Outliers
Resduo Jacknife
2
1
i
e i
i
n p
J r
n p r

=

i
i
i
e
e
r
s
=
1
i
e res i
s s h =
, )
2
1
i
i
xx
x x
h
n S

= +
p
= leverage
(hcrtico
=p*2/n)
= erro padro do resduo
= resduo padronizado
= nmero de parmetros
J
ei
segue distribuio de t
= o ponto suspeito
considerado outlier
ei critico
J J >
(1 / 2)( 1) ei critico critico n p
J J t
=

45
Slide 89
= percentil de uma curva
normal reduzida
Curva normal
reduzida
q
i
q
i
00
zz
Teste de Ryan-Joiner Normalidade
, )
1
3 8
, 1,...,
( 1 4)
i
i
q i n
n


= =
`
+
)
Coeficiente de correlao entre e
i
(ordenados) e q
i
(percentis da normal)
, ) , )
1 1 1 1
n n n n
eq i i i i i i
i i i i
S e e q q e q e q n
= = = =
= =
_ _ _ _
, )
2
2
2
1 1 1
n n n
ee i i i
i i i
S e e e e n
= = =
| }
= =
]
\
_ _ _
, )
2
2
2
1 1 1
n n n
qq i i i
i i i
S q q q q n
= = =
| }
= =
]
\
_ _ _
1
n
i
i
e
e
n
=
=
_
1
n
i
i
q
q
n
=
=
_
eq
eq
ee qq
S
R
S S
=

2 critico
b c d
R a
n n n
~ + + +
o 0,01 0,05 0,10
a 0,9963 1,0063 1,0071
b -0,0211 -0,1288 -0,1371
c -1,4106 -0,6118 -0,3682
D 3,1791 1,3505 0,7780
= no rejeio da hiptese
nula de normalidade dos
resduos
eq critico
R R >
Interpolao polinomial para clculo dos valores crticos
i
p
Slide 90
Teste de Brown-Forsythe Homoscedasticidade
Estatstica t
L
L critico
t t s
= no rejeio da
hiptese nula de
homoscedasticidade
1 2
2
1 2
1 1
L
p
d d
t
s
n n

=
| }
+
]
\
| |
k k kj k
d e e n =
_

k
n
k
e
, )
, )
1 2 2
1 2
2
p
SQD SQD
s
n n
+
=
+
= nmero de observaes de cada grupo
= mediana de cada grupo
= varincia combinada
= soma dos quadrados dos
desvios das diferenas
1 2
(1 / 2)( 2) L critico n n
t t
+

tL segue distribuio de t
2
1
( )
k
n
k kj k
j
SQD d d
=
=
_
kj
d
46
Slide 91
Teste de Durbin-Watson Independncia
Estatstica d
2
1
2
2
1
( )
n
i i
i
n
i
i
e e
d
e

=
=

=
_
_
Interpolao polinomial
2
( )
critico
b c d
d a
n n n
~ + + +
d
L
d
U
o 0,050 0,025 0,010 0,050 0,025 0,010
a 1,96930 1,98448 1,99344 1,98323 1,94801 1,97836
b -2,86066 -3,68748 -4,59292 -3,05473 -3,16468 -4,29742
c -3,41482 -2,61362 -1,32284 1,38625 -0,64722 1,08124
d 16,64003 20,63934 20,22882 16,36623 31,57725 29,68625
= rejeio da hiptese
nula de no
autocorrelao
L
d d < = no rejeio da
hiptese nula de no
autocorrelao
4
L
d d >
L U
d d d < <
= resultado
inconclusivo
4
U U
d d d < <
4 4
U L
d d d < <
Slide 92
XX
YY

i
Y
i
Y

i i i
Y Y e =
i i i
Y Y e =
YY

i
Y Y
i
Y Y

( ) ( ) ( )
i i i i
Y Y Y Y Y Y = +

( ) ( ) ( )
i i i i
Y Y Y Y Y Y = +
Quadrados Quadrados
Somas de Somas de
(SQ) (SQ)
, ) , ) , )
2 2
2
1 1 1

n n n
i i i i
i i i
Y Y Y Y Y Y
= = =
= +
_ _ _
, ) , ) , )
2 2
2
1 1 1

n n n
i i i i
i i i
Y Y Y Y Y Y
= = =
= +
_ _ _
SQ Regresso SQ Regresso
SQ Resduo SQ Resduo
SQ Total SQ Total

Y a bX = +

Y a bX = +
i
Y
i
Y
i
X
i
X
--
i
Y Y
i
Y Y
Variao dos valores de Y em torno de sua mdia Variao dos valores de Y em torno de sua mdia
ANOVA Adequao ao modelo linear
47
Slide 93
SQTotal (considerando os nveis) SQTotal (considerando os nveis)
SQTotal = SQRegresso + SQResduo SQTotal = SQRegresso + SQResduo
Parties da Soma de Quadrados Total Parties da Soma de Quadrados Total
SQTotal (considerando a regresso) SQTotal (considerando a regresso)
SQTotal = SQEntre nveis + SQDentro dos nveis (Erro Puro) SQTotal = SQEntre nveis + SQDentro dos nveis (Erro Puro)
SQResduo = SQDesvio da linearidade + SQErro puro SQResduo = SQDesvio da linearidade + SQErro puro
Slide 94
QM
Resduo
n-2 GL
QM da
Regresso
1 GL
SQ devida
Regresso
2-1 GL
SQ em torno da
Regresso ou
Resduo
n-2 GL
ANOVA da regresso ANOVA da regresso
Estima
(variabilidade
explicada pela
regresso)
2
Reg

Estima
(variabilidade
no explicada)
2
res

SQ Total
n-1 GL
COMPARAO
Testa a
significncia
da regresso
Fornece
Fornece
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados mdios
n: nmero de pontos
48
Slide 95
SQ Resduo
n-2 GL
QM Erro
Puro
n-u GL
QM Desvio da
linearidade
u-2 GL
SQ Desvio da
linearidade
u-2 GL
(diferena)
SQ Erro
Puro
n-u GL
(replicatas)
ANOVA do desvio da linearidade ANOVA do desvio da linearidade
Estima
2
(modelo correto)
Estima

2
+tendncia
(modelo incorreto)
Estima
2
Fornece
Fornece
(Falta de Ajuste) (Falta de Ajuste)
Testa o desvio
da linearidade
COMPARAO
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados mdios
u: nmero de nveis
n: nmero de pontos
Slide 96
ANOVA Regresso e Desvio da linearidade
F
FV
GL SQ
QM
Entre nveis u - 1
Total
2
1
( )
n
i YY
i
y y S
=
=
_
n - 1
Resduo
Regresso QMRegr/QMres 2 2 2
1
( )
n
i XX
i
b x x b S
=
=
_
SQRegr/GLRegr
SQres/GLres
1
n - 2
(res)
(Regr)
FV: fonte de variao
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados mdios
u: nmero de nveis
n: nmero de pontos
Desvio da
linearidade
QMDesvio/QMErroPuro
u - 2
(Desvio)
SQ Desvio/GL Desvio
Erro Puro
n - u
SQErroPuro/GLErroPuro
(1 ; 2; ) critico u n u
F

critico
F F s
= no rejeio da
hiptese nula de
modelo linear simples
correto
(1 ;1; 2) critico n
F

critico
F F >
= rejeio da hiptese
nula de regresso no
significativa
2 2
2
k k
k 1 k 1 1 k 1 1 k
k 1
1 1
( )
u u nk u nk
kj kj u
j j
k
n y y y y
n
n
= = = = =
=
| } | }
=
] ]
\ \
_ _ _ __
_
Re Total gr
SQ SQ
res ErroPuro
SQ SQ
Total EntreNiveis
SQ SQ
49
Slide 97
Efeitos de matriz
Seletividade
Slide 98
Seletividade
Recomendaes para avaliao: Tabelas 14 e 15
Definies: Tabelas 1 a 12
Seletividade: habilidade de um mtodo em determinar o analito
acuradamente, na presena de interferentes (ou outros componentes
de comportamento similar).
50
Slide 99
Seletividade versus Especificidade
Slide 100
Efeitos de matriz
Afeta
significativamente
Inclinao ou interseo da curva
de calibrao
Efeito de matriz
A avaliao de outros
parmetros de validao
51
Slide 101
Varivel independente X

i i
y a bx = +
Efeito sobre a inclinao
b > b
b < b

i i
y a b x ' ' = +

i i
y a b x '' '' = +
Indica presena de interferente(s)
relacionado(s) com a quantidade de matriz e
com a concentrao do analito.
Slide 102
Varivel independente X

i i
y a bx = +
a > a
a < a

i i
y a bx ' ' = +

i i
y a bx '' '' = +
Efeito sobre a interseo
A matriz continha o analito (no era branca)? Ou seria
efeito de interferente(s) relacionado(s) somente com a
quantidade de matriz? Ou os dois ?
52
Slide 103
Varivel independente X

i i
y a bx = +
a > a e b > b
a < a e b < b

i i
y a b x ' ' ' = +

i i
y a b x '' '' '' = +
Efeito sobre a inclinao e a interseo
Slide 104
Teoria
Delineamento experimental
53
Slide 105
Efeitos de matriz
O experimento deve simular situaes em que o analito esteja na presena de
interferentes da matriz. Por exemplo: duas curvas, sendo uma curva de
calibrao usual (como feito no experimento para avaliar linearidade) e outra
curva do analito em matriz (mtodo de adio aplicado a uma soluo teste
derivada de amostra tpica).
Os interferentes da matriz estudados devem representar a realidade em
termos de espcies e quantidade.Por isso, este experimento deve ser feito
para todas as matrizes do escopo (ou matrizes representativas) e a adio do
analito deve ser feita de forma a evitar diluio dos interferentes e,
consequentemente, a no identificao de efeitos de matriz existentes.
As concentraes do analito devem ser idnticas nas duas curvas. Para evitar
que as perdas de analito devidas ao processo analtico sejam erroneamente
interpretadas como efeito de matriz, a adio do analito deve ser feita,
sempre que possvel, na soluo final derivada das amostras.
O preparo e leitura das curvas deve ser feito em uma nica bateria analtica.
Para evitar que a variabilidade devida a diferentes ensaios seja erroneamente
interpretada como efeito de matriz. Quando no for possvel conduzir o
experimento de efeito de matriz em uma nica bateria analtica, os pares de
pontos das duas curvas devem ser analisados de forma emparelhada.
Obs.: quando for invivel estudar todas as matrizes de um mtodo que
aplicvel a mltiplas matrizes, pode ser necessrio delinear experimentos com
matrizes representativas dos grupos que se pretende validar.
Slide 106
Teoria
Anlise de dados
54
Slide 107
R
e
q
u
e
r
e
m
d
i
s
t
r
i
b
u
i

o

n
o
r
m
a
l
Efeitos de matriz
Teste de t emparelhado indicado para faixas estreitas de
concentrao ou nos casos em que o erro analtico devido
concentrao for negligvel. Isto porque em faixas amplas o
erro pode ser dependente da concentrao do analito.
Teste de t para comparao das mdias das respostas para
cada nvel de concentrao estudado.
Teste de t para comparao das inclinaes e intersees,
todos os nveis de concentrao estudados so considerados.
Teste de F para verificar homogeneidade
das varincias das duas curvas (uso da varincia
combinada ou das varincias
distintas no clculos)
Um nico teste para toda a faixa.
O que uma faixa estreita?
Um nico teste para toda a faixa.
Aplicvel somente quando for
demonstrado que as calibraes so lineares.
Para modelos no lineares,
uma comparao visual dos grficos indicada
Vrios testes para cobrir
a faixa
(SNEDECOR & COCHRAN, 1989; ARMITAGE & BERRY, 1994)
Slide 108
Procedimento proposto
efeitos de matriz
55
Slide 109
Preparo de 2 curvas, na mesma bateria analtica, sendo:
-uma curva de calibrao usual e outra curva do
analito em matriz;
-pelo menos 6 nveis de concentrao;
-nveis igualmente espaados (ou evitando pontos de
alavanca);
-pelo menos trs replicatas independentes de cada
nvel (adaptaes possveis em funo da capacidade
analtica);
-preparo do nvel zero como ferramenta de controle,
para avaliao do rudo e do zero do instrumento;
-leituras e preparo em ordem aleatria.
Efeitos de matriz - Delineamento experimental
Slide 110
Dados experimentais
(curva usual)
Confirmao
das premissas
(o = 0,05)
Efeitos de matriz Anlise de dados
Dados experimentais
(curva em matriz)
Avaliao da
linearidade*
Avaliao da
linearidade*
No
Continuar
Estatsticas mais
complexas ou comparao
visual dos grficos
Sim
* Verificao das premissas do MMQO para
cada curva separadamente.
56
Slide 111
Homoscedasticidade
das varincias dos
resduos das curvas
(teste de F)
Varincias
homogneas
(o = 0,05)
Sim
No
Efeitos de matriz Anlise de dados
Diferenas
significativas
(o = 0,05)
Sim No
H EFEITOS
DE MATRIZ
NO H EFEITOS
DE MATRIZ
Comparaes entre
inclinaes e intersees
(teste de t varincias combinadas)
Comparaes entre
inclinaes e intersees
(teste de t varincias distintas)
Uso de curvas com
matriz ou do mtodo de
adio nas etapas
seguintes da validao e
na rotina
Uso de curvas usuais nas
etapas seguintes da
validao e na rotina
Slide 112
Teste de t Efeitos de matriz
Teste de F - Homoscedasticidade
2
2
res
res
s
F
s
>
<
=
min
(1 / 2; 2; 2)
numerador deno ador
critico n n
F

1 2
2 2
1 2
b
p p
b b
t
s s
Sxx Sxx

=
+
1 2
2 2 2 2
1 2
1 1 2 2
a
p p
a a
t
s x s x
n Sxx n Sxx

=
+
_ _
2 2
2 1 1 2 2
1 2
( 2) ( 2)
4
res res
p
n s n s
s
n n
+
=
+
1 2
2 2
1 2
1 2
b
res res
b b
t
s s
Sxx Sxx

'
=
+
1 2
2 2 2 2
1 1 2 2
1 1 2 2
a
res res
a a
t
s x s x
n Sxx n Sxx

'
=
+
_ _
(1 / 2; )
t

critico
F F s
= no rejeio da
hiptese nula de
homoscedasticidade
Teste de t -
Comparao de a e b
(homoscedasticidade)
Teste de t -
Comparao de a e b
(heteroscedasticidade)
(1 / 2; )
t
(1 / 2; )
t
(1 / 2; )
t

= no rejeio da hiptese
nula de que inclinaes e
intersees no diferem
, ) , )
2
2 2
1 2
1 2
2 2
2 2
1 1 2 2
1 2
2 2
res res
res res
s s
n n
s n s n
n n

| }
+
]
\
=
+

(1 / 2; ) critico
t

'
ab critico
t t s
= no rejeio da hiptese
nula de que inclinaes e
intersees no diferem
1 2
(1 / 2; 4) critico n n
t
+
ab critico
t t s
M
a
i
o
r

v
a
r
i

n
c
i
a


n
o
n
u
m
e
r
a
d
o
r
= no rejeio da hiptese
nula de que inclinaes e
intersees no diferem
1 2
(1 / 2; 4) critico n n
t
+
ab critico
t t s
= no rejeio da hiptese
nula de que inclinaes e
intersees no diferem
1 2
(1 / 2; 4) critico n n
t
+
ab critico
t t s
= no rejeio da hiptese
nula de que inclinaes e
intersees no diferem
1 2
(1 / 2; 4) critico n n
t
+
57
Slide 113
Teoria
Delineamento experimental
e Anlise de dados
Slide 114
Seletividade (experimentos complementares)
O experimento deve simular
situaes em que o analito
esteja na presena de
potenciais interferentes.
Depende da disponibilidade do
interferente, de amostras
com e sem analito (amostras
brancas).
A anlise dos resultados
embasada no efeito dos
interferentes sobre as
respostas obtidas para
amostras brancas e para
amostras com analito.
Depende de conhecimento
sobre o LD do mtodo. Por
exemplo:
Depende de conhecimento sobre
os possveis interferentes
Tipo de amostra
Resultado esperado
Quantitativo
Resultado esperado
Qualitativo
Amostra sem analito No detectado No detectado
Amostra sem analito
+ Interferente
No detectado No detectado
Amostra com analito
Detectado em
concentrao prxima
estabelecida para o
material
Detectado
Amostra com analito
+ interferente
Detectado em
concentrao prxima
estabelecida para o
material
Detectado
2 2
2 1 1 2 2
1 2
( 1) ( 1)
2
c
n s n s
s
n n
+
=
+
, )
1 2
2 2
1 2
c c
X X
t
s s
n n

=
+
critico
t t s
= no rejeio da hiptese
nula de que as respostas
ou concentraes no
diferem
1 2
(1 / 2; 2) critico n n
t
+
58
Slide 115
Exatido e preciso
Slide 116
Exatido e preciso
Avaliao: Tabelas 16 e 17
Definies: Tabelas 1 a 12
Exatido: proximidade de concordncia entre o valor mdio obtido de
um conjunto de resultados com o valor de referncia aceito. A medida
de exatido geralmente expressa em termos de tendncias.
Preciso: proximidade de concordncia entre resultados
independentes obtidos sob condies estipuladas. Depende somente da
distribuio de erros aleatrios e no est relacionada ao valor
especificado. Usualmente expressa em termos de impreciso como
desvio padro ou desvio padro relativo.
Acurcia: proximidade de concordncia entre o resultado e o valor
verdadeiro. Geralmente envolve erros sistemticos e aleatrios, sendo
normalmente estudada como dois componentes: exatido e preciso.
59
Slide 117
Incerteza
Incerteza: parmetro, associado ao resultado de uma MEDIO, f
medio, que caracteriza a disperso dos valores que podem ser
fundamentadamente atribudos a um mensurando.
Slide 118
Exatido, preciso e acurcia
Melhorando a preciso
M
e
l
h
o
r
a
n
d
o

a

e
x
a
t
i
d

o
60
Slide 119
Preciso
Sob condies de
Reprodutibilidade
Preciso
Reprodutibilidade
parcial
Repetitividade
Preciso intra-ensaio
Preciso inter-ensaio
Preciso intermediria
Reprodutibilidade intralaboratorial
Reprodutibilidade interlaboratorial
Reprodutibilidade total
Slide 120
Limite de deteco e
limite de quantificao do
mtodo
Limite de deteco e
limite de quantificao do
mtodo
61
Slide 121
Limites
Avaliao: Tabelas 18 e 19
O experimentos que envolvem curva de calibrao ou
aqueles com amostras brancas fornecem limites
tericos, que podem no representar os limites reais
do mtodo para amostras verdadeiras.
Definies: Tabelas 1 a 12
Limite de deteco: menor concentrao do analito que pode ser
detectada (distinguida do zero), mas no necessariamente
quantificada.
Limite de quantificao: menor concentrao do analito que pode ser
determinada com um nvel aceitvel de preciso e exatido.
Slide 122
Teoria
Delineamento experimental
e Anlise de dados
62
Slide 123
Exatido Delineamento experimental
O experimento depende do conhecimento sobre um valor de referncia da
concentrao do analito no material analisado. Diferentes tipos de materiais
podem ser utilizados, mas a qualidade destes materiais segue a seguinte
hierarquia:
- material de referncia certificado (MRC), caracterizado por um produtor de
material de referncia, com incerteza conhecida. Neste caso, importante
que a incerteza do material seja suficientemente pequena para garantir a
deteco de tendncias;
- material de referncia (MR), caracterizado por um produtor de material de
referncia, sem reportagem da incerteza, ou materiais caracterizados por um
fabricante ou pelo prprio laboratrio, ou materiais distribudos em ensaios
de proficincia;
- amostras adicionadas ou formulaes.
Obs.: devido aos elevados custos e pouca disponibilidade de MRC, a avaliao
da exatido usualmente conduzida por experimentos que combinam
diferentes tipos de materiais.
nico material
que garante uma avaliao
adequada da exatido
No garantem uma avaliao
da exatido, mas fornecem
informaes sobre inexatido
Slide 124
R
e
q
u
e
r
e
m

d
i
s
t
r
i
b
u
i

o

n
o
r
m
a
l
Exatido Anlise de dados
Para MRC:
- teste de t, quando os valores de incerteza certificados forem pequenos;
- erro normalizado, considerando a incerteza do resultado obtido pelo
laboratrio e a incerteza associada ao valor verdadeiro do certificado;
- ndice z-escore, sem considerar a incerteza do resultado obtido pelo
laboratrio, mas considerando o desvio padro de reprodutibilidade.
Obs.: estas estatsticas podem ser obtidas aps tratamento de outliers, pelo
teste de Grubbs, nas concentraes obtidas para replicatas independentes do
MRC, conforme recomendaes do ISO Guide 33.
Para MR ou amostras adicionadas ou formulaes:
- mdia de porcentagem de recuperao aparente, aps tratamento de
outliers, pelo teste de Grubbs.
Enquanto boas recuperaes
no so garantia de exatido,
pobres recuperaes so indicativas
de falta de exatido
Exatido dependente da concentrao do analito.
63
Slide 125
Slide 126
Preciso Delineamento experimental
O experimento depende de repeties, independentemente do valor de
referncia da concentrao do analito no material analisado.
O material deve representar aqueles ensaiados na rotina do laboratrio. O
uso de MRC nestes experimentos pode subestimar a variabilidade dos
resultados.
As repeties devem ser analisadas sob diferentes condies, dependendo da
capacidade operacional do laboratrio:
Sob condies de
Reprodutibilidade
Preciso
Reprodutibilidade
parcial
(Preciso intermediria)
Repetitividade
Requer experimentos
interlaboratoriais
Deve representar a maior
variabilidade no
laboratrio
Deve representar menor
variabilidade no
laboratrio
64
Slide 127
Preciso anlise de dados
Estimativa dos desvios padro relativos nas diferentes condies por ANOVA,
conforme estabelecido na srie ISO 5725.
Premissas para ANOVA:
- os resduos so variveis aleatrias, normalmente distribudas ;
- os resduos so homoscedsticos, com distribuio constante ao longo dos
valores de Xi;
- o resduo de uma observao no correlacionado com o resduo em outra
observao, com ;
- os efeitos dos diferentes fatores so aditivos.
Preciso dependente da concentrao do analito.
Testes de Ryan-Joiner
e Brown-Forsythe
2
(0, )
i
N
cov( , ) 0
i j
=
Testes de Ryan-Joiner
e Brown-Forsythe
Teste de Tukey
Controle experimental
Slide 128
Limites de deteco e de quantificao do mtodo
Delineamento experimental e anlise de dados
O experimento depende de ensaios com amostras brancas ou de concentrao
baixa do analito, em pelo menos 6 replicatas independentes.
Para limite de deteco:
Terico = correspondem a mdia mais trs desvios padro das respostas
obtidas para as amostras brancas ou trs desvios padro das respostas
obtidas para amostras de concentrao baixa do analito ou trs vezes o
maior sinal obtido para amostras brancas.
Obs.: sem supresso de valores negativos.
Do mtodo = a anlise dos resultados embasada na comparao dos
sinais (ou concentraes) obtidos para amostras de concentraes
conhecidas, dos experimentos de exatido e preciso, com os limites
tericos.
Para limite de quantificao:
Terico = correspondem a mdia mais dez desvios padro das respostas
obtidas para as amostras brancas ou dez vezes o maior sinal obtido para
amostras brancas.
Obs.: sem supresso de valores negativos.
Do mtodo = a anlise dos resultados embasada na avaliao da exatido
e da preciso para amostras de concentraes conhecidas.
65
Slide 129
Procedimento proposto
seletividade, exatido,
preciso e limites do mtodo
Slide 130
Seletividade, exatido, preciso e limites do mtodo
Delineamento experimental
Condies de repetitividade e reprodutibilidade parcial
Preparo de amostras adicionadas de padro do(s) analito(s)
ou MR, sendo:
pelo menos 3 nveis de concentrao (na faixa de
interesse ou na faixa em que linearidade foi
demonstrada para mtodos que utilizam curva), mais o
branco ou amostra no adicionada;
pelo menos 6 replicatas independentes de cada nvel;
replicatas analisadas independentemente em condies
de repetitividade (mnimo triplicata) e reprodutibilidade
parcial (dependendo da realidade operacional do
laboratrio);
leitura em ordem aleatria (junto com a curva de
calibrao para mtodos que utilizam curva).
66
Slide 131
Condies de repetitividade e reprodutibilidade parcial
Exemplo 12 replicatas por nvel
Analistas 1 e 2
equipamento 1
(seis replicatas de cada nvel)
Perodo de
tempo 1
(trs replicatas de cada nvel)
Analistas 1 e 2
equipamento 2
(seis replicatas de cada nvel)
Perodo de
tempo 2
(trs replicatas de cada nvel)
Perodo de
tempo 3
(trs replicatas de cada nvel)
Perodo de
tempo 4
(trs replicatas de cada nvel)
Amostras adicionadas ou MR
(5 nveis mais o branco,
em doze replicatas)
Slide 132
Ensaios complementares para avaliao da seletividade
Quando houver conhecimento prvio sobre potenciais interferentes,
preparar amostras brancas e adicionadas de padro do analito ou
materiais de referncia, com e sem padro do interferente (no
mnimo triplicata).
No h necessidade de testes complementares no caso de mtodos
multianalitos.
Ensaios complementares para avaliao da exatido
Quando houver disponibilidade, analisar MRC do escopo e faixa de
concentrao do mtodo em validao. Se possvel, em pelo menos 11
replicatas independentes.
Sempre que possvel, usar outras referncias externas.
Seletividade, exatido, preciso e limites do mtodo
Delineamento experimental
67
Slide 133
Continuar
Outliers
(o = 0,05)
Outliers
(teste de Grubbs)
Excluso do dado
(at um mximo de
22,2% dos dados)
Dados
experimentais
Estimativas de
C
iMRC
Inspeo visual dos
dados
Sim
No
Exatido Anlise de dados para MRC
Slide 134 Mtodos robustos
Resduos
das concentraes
Normalidade
(teste Ryan-Joiner)
Distribuio
normal
(o = 0,05)
No
Sim
Transformao
dos dados
(raiz, log, inverso)
Normalidade
(teste Ryan-Joiner)
Distribuio
normal
(o = 0,05)
No
Sim
Exatido Anlise de dados para MRC
Testes de premissa para z Normalidade
Continuar
68
Slide 135
z
Exatido Anlise de dados para MRC
Comparao com
valores crticos
No
No h exatido
Sim
EXATIDO
* Requisitos:
-
2 z s
Atendimento aos
requisitos analticos*
Slide 136
Continuar
Outliers
(o = 0,05)
Outliers
(teste de Grubbs)
Excluso do dado
(at um mximo de
22,2% dos dados)
Dados
experimentais
Inspeo visual dos
dados
Sim
No
Seletividade, exatido, preciso e limites
Anlise de dados para MR ou amostras adicionadas
(por nvel de concentrao estudado)
Estimativas de
C
iB
ou C
iNA
,C
iA
e R
i
69
Slide 137
R
i
e registros de
deteco/quantificao
Seletividade Anlise de dados
Anlise qualitativa dos
resultados e registros
No
No h seletividade
Sim
SELETIVIDADE
= recuperao aparente
i
R
Atendimento aos
requisitos analticos*
Tipo de amostra Resultado esperado
Amostra sem analito No detectado (sinal/rudo < 3)
Amostra sem analito +
Interferente
No detectado (sinal/rudo < 3)
Amostra com analito
Detectado (sinal/rudo > 3)
para nveis maiores ou iguais ao
LD e com recuperao
aceitvel para nveis maiores
ou iguais ao LQ
Amostra com analito +
interferente
Detectado (sinal/rudo > 3)
para nveis maiores ou iguais ao
LD e com recuperao
aceitvel para nveis maiores
ou iguais ao LQ
* Requisitos:
Slide 138
Exatido Anlise de dados
Comparao com
valores crticos
No
O mtodo inexato
Sim
O MTODO
NO INEXATO
* Requisitos:
- Exemplo de critrios de aceitabilidade para de amostras
adicionadas (EC, 2002):
R
R
Atendimento aos
requisitos analticos*
Frao de massa
Faixa de R aceitvel
(%)
c s 1,0 x 10
-9
50 a 120
1,0 x 10
9
< c < 1,0 x 10
-8
70 a 110
c > 1,0 x 10
-8
80 a 110
R = mdia de recuperao aparente, c = concentrao do analito adicionado matriz
expressa como frao de massa (por exemplo 10
-9
para 1 g/kg ou 1 g/L).
70
Slide 139 Mtodos robustos
Resduos
das recuperaes
Normalidade
(teste Ryan-Joiner)
Distribuio
normal
(o = 0,05)
No
Sim
Transformao
dos dados
(raiz, log, inverso)
Normalidade
(teste Ryan-Joiner)
Distribuio
normal
(o = 0,05)
No
Sim
Preciso Anlise de dados
Testes de premissas para ANOVA -
Normalidade
Continuar
Slide 140
Mtodos ponderados
Homoscedasticidade
(teste Brown-Forsythe)
Varincias
homogneas
(o = 0,05)
No
Sim
Transformao
dos dados
(raiz, log, inverso)
Varincias
homogneas
(o = 0,05)
No
Sim
Preciso Anlise de dados
Testes de premissas para ANOVA-
Homoscedasticidade
Homoscedasticidade
(teste Brown-Forsythe)
Estimativa de
DPR
r
e DPR
R
(ANOVA)
71
Slide 141
e
Preciso Anlise de dados
Comparao com
valores crticos
No
No h preciso
Sim
PRECISO
* Requisitos:
-Exemplo de critrios de aceitabilidade para DP
R
(EC, 2002) .
- Para DPR
r
so aceitos valores de at 2/3 os desvios aceitos para
DPR
R
.
r
DPR
R
DPR
Atendimento aos
requisitos analticos*
Concentraes de analito
DPR mximo aceitvel
(%)
<120ppb 0, 22
T
c
mr
=
>120ppb e s13,8%
0,8495
0, 02
H
c
mr
=
>13,8% 0,5
0, 01
T
c
mr
=
DPR= desvio padro sob condies de reprodutibilidade parcial, c = concentrao terica adicionada do
analito expressa como frao de massa (por exemplo 10
-9
para 1 g/kg ou 1 ppb), mr = frao de massa
(por exemplo 10
-9
para g/kg ou ppb),
T
= desvio padro de reprodutibilidade estimado pela equao de
THOMPSON (2000),
H
= desvio padro de reprodutibilidade estimado pela equao de HORWITZ (1982).
Slide 142
Atendimento aos
requisitos analticos*
, e
Limite de quantificao do mtodo
Anlise de dados
Comparao com
valores crticos
No
DETECO?
Sim
QUANTIFICAO
* Requisitos:
-Definidos para exatido e preciso
Sendo
= mdia de recuperao aparente
DPR
r
= desvio padro relativo sob condies de repetitividade
DPR
R
= desvio padro relativo sob condies de reprodutibilidade
r
DPR
R
DPR
R
R
72
Slide 143
e
Limite de deteco do mtodo
Anlise de dados pelas leituras
Comparao com
valores crticos
No
NO DETECO
Sim
DETECO
*Requisitos:
- ou
- Sendo
Yi
A
= sinais medidos para o analito nas amostras adicionadas ou MR
= mdia dos rudos medidos para o analito nas amostras brancas
ou brancos de solventes
sy
B
= desvio padro dos rudos medidos para o analito nas amostras
brancas ou brancos de solventes
iA
y
iB
y
3
iA B yB
y y s > +
Atendimento aos
requisitos analticos*
3
iA B
y y >
B
y
Slide 144
e
Limite de deteco do mtodo
Anlise de dados pelas concentraes
Comparao com
valores crticos
No
NO DETECO
Sim
DETECO
*Requisitos:
Sendo
Ci
A
= concentrao calculada para o analito nas amostras adicionadas
ou MR
= concentrao mdia calculada para o analito nas amostras
brancas
s
B
= desvio padro das concentraes calculadas para o analito nas
amostras brancas
iA
C
iB
C
3
iA B B
C C s > +
Atendimento aos
requisitos analticos*
B
C
73
Slide 145
Estimativas das concentraes
i
iA iNA iB iMRC
y a
C C C C
b

= = = =
Curva de calibrao obtida
para cada conjunto de
amostras analisadas em
condies de
repetitividade
Para mtodos que no utilizam curva de calibrao, as
concentraes das amostras adicionadas ou MR (C
iA
),
amostras brancas (C
iB
) ou amostras no adicionadas (C
iNA
) e
MRC (C
iMRC
) so obtidas diretamente.
Para mtodos que utilizam curva de calibrao, estas
concentraes so estimadas por:
Slide 146
Teste de Grubbs
G1
L
Dois valores extremos
polares.
Um valor extremo.
Dois valores extremos
vicinais.
Valores crticos tabelados para 95%
Um valor extremo.
G1
U
G2
G3
U
G3
L
(BURKE, 2001B)
n
1
G 2
G
3
G
3 1,153 2,00 -
4 1,463 2,43 0,9992
5 1,672 2,75 0,9817
6 1,822 3,01 0,9436
7 1,938 3,22 0,8980
8 2,032 3,40 0,8522
9 2,110 3,55 0,8091
10 2,176 3,68 0,7695
12 2,285 3,91 0,7004
13 2,331 4,00 0,6705
15 2,409 4,17 0,6182
74
Slide 147
1
1
MRC
L
C C
G
s

=
1
MRC n
U
C C
G
s

=
1
2
n
C C
G
s

=
, )
, )
2
2
3 2
3
1
1
n
U
n s
G
n s

| }
=
]
]

\
, )
, )
2
2
3 2
3
1
1
n
L
n s
G
n s

| }
=
]
]

\
= dado suspeito
outlier
critico
G G >
Teste de Grubbs para resultados de MRC Outliers
1
n
iMRC
i
MRC
C
C
n
=
=
_
2
( )
1
iMRC MRC
C C
s
n

_
2
2
2
( )
2 1
iMRC MRC
n
C C
s
n


=

_
2
2
( )
1
iMRC MRC
C C
s
n

_
n: nmero de replicatas independentes do MRC
C1: menor concentrao
Cn: : maior concentrao
= mdia das concentraes
= desvio padro das concentraes
= varincia das concentraes, excluindo dois valores
extremos (inferiores ou superiores)
= varincia das concentraes
Slide 148
Estimativa dos resduos das concentraes para
verificao da premissa para z Normalidade*
i iMRC MRC
e C C
'
=
Resduos das recuperaes
aparentes
iMRC
C
MRC
C
= i-sima concentrao
= mdia das concentraes, aps tratamento de
outliers
75
Slide 149
= percentil de uma curva
normal reduzida
Curva normal
reduzida
q
i
q
i
00
zz
Teste de Ryan-Joiner Normalidade
, )
1
3 8
, 1,...,
( 1 4)
i
i
q i n
n


= =
`
+
)
Coeficiente de correlao entre e
i

(ordenados) e q
i
(percentis da normal)
, )
, )
1 1 1 1
n n n n
e q i i i i i i
i i i i
S e e q q e q e q n
'
= = = =
' ' '
' = =
_ _ _ _
, )
2
2
2
1 1 1
n n n
e e i i i
i i i
S e e e e n
' '
= = =
| }
' '
' ' = =
]
\
_ _ _
, )
2
2
2
1 1 1
n n n
qq i i i
i i i
S q q q q n
= = =
| }
= =
]
\
_ _ _
1
n
i
i
e
e
n
=
'
' =
_
1
n
i
i
q
q
n
=
=
_
e q
e q
e e qq
S
R
S S
'
'
' '
=

2 critico
b c d
R a
n n n
~ + + +
o 0,01 0,05 0,10
a 0,9963 1,0063 1,0071
b -0,0211 -0,1288 -0,1371
c -1,4106 -0,6118 -0,3682
D 3,1791 1,3505 0,7780
Interpolao polinomial para clculo dos valores crticos
= no rejeio da
hiptese nula de
normalidade dos resduos
e q crit
R R
'
>
i
p
Slide 150
ndice z-escore
( )
MRC iC
L
C C
z

=
2 2
( )
laboratorio certificado
MRC iC
C C
En
U U

=
+
2 z s
1 En s

L
= desvio padro de reprodutibilidade, podendo ser substitudo pelo desvio padro
interlaboratorial certificado para o material ou pelo desvio padro obtido sob condies de
preciso intermediria
C
iC
= concentrao certificada para o analito
= mdia das concentraes obtidas para replicatas independentes do MRC, aps tratamento de
outliers
Estimativas de z-escore ou erro normalizado
para MRC
MRC
C
Erro normalizado
76
Slide 151
Estimativas das recuperaes aparentes para
MR ou amostras adicionadas
Recuperao aparente
, ) 100
iA NA
i
iTeorica
C C
R
C

=
Quando for utilizado
MR ou a adio for
feita em amostras
brancas, considerar
C
iNA
igual a zero.
Slide 152
1
1L
R R
G
s

=
1
n
U
R R
G
s

=
1
2
n
R R
G
s

=
, )
, )
2
2
3 2
3
1
1
n
U
n s
G
n s

| }
=
]
]

\
, )
, )
2
2
3 2
3
1
1
n
L
n s
G
n s

| }
=
]
]

\
= dado suspeito
outlier
critico
G G >
Teste de Grubbs para resultados de recuperao
Outliers
1
n
i
i
R
R
n
=
=
_
2
( )
1
i
R R
s
n

_
2
2
2
( )
2 1
i
n
R R
s
n


=

_
2
2
( )
1
i
R R
s
n

_
n: nmero de observaes do nvel
R1: menor porcentagem de recuperao aparente
Rn: : maior porcentagem de recuperao aparente
= mdia das recuperaes aparentes
= desvio padro das recuperaes aparentes
= varincia das recuperaes aparentes, excluindo dois
valores extremos (inferiores ou superiores)
= varincia das recuperaes aparentes
77
Slide 153
Estimativas das mdias de recuperaes
aparentes
Mdia de recuperao aparente
aps tratamento de outliers
1
n
i
i
R
R
n
=
=
_
Slide 154
100
r
s
DPR
R

=
2
( )
1
i
R R
s
n

_
Estimativa de desvio padro relativo se o
experimento for conduzido somente sob
condies de repetitividade
Desvio padro relativo aps
tratamento de outliers
78
Slide 155
Estimativa dos resduos das recuperaes
aparentes para verificao de premissas para
ANOVA Normalidade e Homoscedasticidade
i kj k
e R R
'
=
Resduos das recuperaes
aparentes
kj
R
k
R
= j-sima recuperao aparente do k-simo ensaio, no
nvel de concentrao estudado
= mdia das recuperaes aparentes de cada ensaio, no
nvel de concentrao estudado
Slide 156
= percentil de uma curva
normal reduzida
Curva normal
reduzida
q
i
q
i
00
zz
Teste de Ryan-Joiner Normalidade
, )
1
3 8
, 1,...,
( 1 4)
i
i
q i n
n


= =
`
+
)
Coeficiente de correlao entre e
i
'
(ordenados) e q
i
(percentis da normal)
, )
, )
1 1 1 1
n n n n
e q i i i i i i
i i i i
S e e q q e q e q n
'
= = = =
' ' '
' = =
_ _ _ _
, )
2
2
2
1 1 1
n n n
e e i i i
i i i
S e e e e n
' '
= = =
| }
' '
' ' = =
]
\
_ _ _
, )
2
2
2
1 1 1
n n n
qq i i i
i i i
S q q q q n
= = =
| }
= =
]
\
_ _ _
1
n
i
i
e
e
n
=
'
' =
_
1
n
i
i
q
q
n
=
=
_
e q
e q
e e qq
S
R
S S
'
'
' '
=

2 critico
b c d
R a
n n n
~ + + +
o 0,01 0,05 0,10
a 0,9963 1,0063 1,0071
b -0,0211 -0,1288 -0,1371
c -1,4106 -0,6118 -0,3682
D 3,1791 1,3505 0,7780
Interpolao polinomial para clculo dos valores crticos
= no rejeio da
hiptese nula de
normalidade dos resduos
e q crit
R R
'
>
i
p
79
Slide 157
Teste de Brown-Forsythe Homoscedasticidade
Estatstica F
L
L critico
F F s
= no rejeio da
hiptese nula de
homoscedasticidade
| |
kj k kj
d e e
' ' '
=
k
e
= mediana de cada ensaio
(1 / 2; 1; ) L critico u n u
F F

FL segue distribuio de F
pois so mais de 2 grupos, ou
seja, tantos grupos quantos os
ensaios do experimentos de
reprodutibilidade parcial
QM FV
GL
SQ
Entre ensaios
Total
2
1
( )
n
i
i
d d
=
'
'
_
n - 1
Dentro dos ensaios n - u
SQDEnsaio/GLDEnsaio
SQEEnsaio/GLEEnsaio
u 1
2 2
k 1 1 k 1 1 k
k 1
1 1
u nk u nk
kj kj u
j j
k
d d
n
n
= = = =
=
| } | }
' '

] ]
\ \
_ _ __
_
FL
Q
M
E
E
n
s
a
i
o
/
Q
M
D
E
n
s
a
i
o
FV: fonte de variao
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados mdios
u: nmero de ensaios ou tratamentos
nk: nmero de replicatas em cada ensaio
n: nmero total de replicatas
Total EntreEnsaios
SQ SQ
Slide 158
QMRepetitividade
QMEnsaio
SQ Ensaio
u - 1 GL
SQ
Repetitividade
n - u GL
Estima
(variabilidade de
ensaio)
Estima
(variabilidade de
repetitividade)
2
Ensaio

SQ Total
n - 1 GL
2
r

Fornece
Fornece
FV: fonte de variao
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados mdios
u: nmero de ensaios ou tratamentos
n: nmero total de replicatas
ANOVA Estimativa dos desvios padro relativos
(DPR) se o experimento for conduzido sob
condies de repetitividade (r) e
reprodutibilidade parcial (R)
80
Slide 159
ANOVA Estimativa dos DPR
r
e DPR
R
QM
FV
GL SQ
Ensaio
Total
2
1
( )
n
i
i
R R
=

_ n - 1
Repetitividade n - u SQRepetitividade/GLRepetitividade
SQEnsaio/GLEnsaio u 1
FV: fonte de variao
GL: graus de liberdade
SQ: soma de quadrados
QM: quadrados mdios
u: nmero de ensaios ou tratamentos
n: nmero total de replicatas
2 2
2
k k
k 1 k 1 1 k 1 1 k
k 1
1 1
( )
u u nk u nk
kj kj u
j j
k
n R R R R
n
n
= = = = =
=
| } | }
=
] ]
\ \
_ _ _ __
_
Total Ensaio
SQ SQ
Slide 160
Varincia Expresso
Repetitividade s
2
r
QM
Repetitividade
Entre ensaios s
2
EntreEnsaio
(QM
Ensaio
QM
Repetitividade
) / n*
Reprodutibilidade parcial s
2
R
s
2
r
+ s
2
EntreEnsaio
2
100
r
r
s
DPR
R
=
2
100
R
R
s
DPR
R
=
Estimativa da incerteza
(top-down)
QM: quadrados mdios
n*: mdia das replicatas estudadas nos
diferentes ensaios
ANOVA Estimativa dos DPR
r
e DPR
R