AjustamentoGerreferenciamento MUITO BOA

MEC
MINISTRIO DA EDUCAO
SECRETARIA DE EDUCAO MDIA E TECNOLGICA
CENTRO FEDERAL DE EDUCAO TECNOLGICA DO ESPIRITO SANTO
GERNCIA DE APOIO AO ENSINO
COORDENADORIA DE RECURSOS DIDTICOS
Curso: Formao Continuada em
Georreferenciamento Aplicado ao
Cadastro Rural
Mdulo 7: Ajustamento de Observaes
COORDENADORIA DE GEOMTICA
MEC
MINISTRIO DA EDUCAO
SECRETARIA DE EDUCAO MDIA E TECNOLGICA
CENTRO FEDERAL DE EDUCAO TECNOLGICA DO ESPIRITO SANTO
GERNCIA DE APOIO AO ENSINO
COORDENADORIA DE RECURSOS DIDTICOS
Mdulo 7: Ajustamento de Observaes
Prof. Geraldo Passos Amorim
Engenheiro Civil UFES (1987)
Mestre em Engenharia Civil: Transportes EESC-USP (2004)
CEFETES - Coordenadoria de Geomtica
JUNHO - 2005
Sumrio
CAPTULO 1 - NOES DE AJUSTAMENTO DE OBSERVAES 6
1.1 INTRODUO 6
1.2 MTODO DOS MNIMOS QUADRADOS 8
1.2.1 Representao Matricial da Mdia 10
CAPTULO 2 - TEORIA DOS ERROS 15
2.1 INTRODUO 15
2.2 ALGUNS CONCEITOS 15
2.2.1 Erro Verdadeiro 15
2.2.2 Erro Aparente (e) 15
2.2.3 Resduo (v) 15
2.2.4 Discrepncia 16
2.3 DESVIO PADRO 16
2.3.1 Erro Mximo Tolervel (Tolerncia) -
m
e 16
2.4 TIPOS DE ERROS: ORIGENS E CARACTERSTICAS 18
2.4.1 Erros Grosseiros (Equvocos) 18
2.4.2 Erros Sistemticos ou Acumulativos 18
2.4.3 Erros Acidentais ou aleatrios 19
2.5 CLASSIFICAO DAS OBSERVAES 20
2.5.1 Diretas 20
2.5.2 Indiretas 20
2.5.3 Diretas Condicionadas 20
2.6 VALOR MAIS PROVVEL DE UMA GRANDEZA 20
2.7 MEDIDAS DE DISPERSO 21
2.7.1 Varincia 22
2.7.2 Desvio Padro 22
CAPTULO 3 - DISTRIBUIO NORMAL 24
3.1 INTRODUO 24
3.1.1 Probabilidades 24
3.1.2 Varivel Contnua 24
3.2 DISTRIBUIES NORMAIS 26
3.2.1 Caractersticas das Distribuies Normais 28
3.2.2 Distribuio Normal como Modelo 30
3.2.3 Relao entre os Erros Acidentais ou Aleatrios e a Curva Normal 30
3.2.4 A distribuio Normal Padronizada 31
3.2.5 Tabela Normal Padronizada 34
CAPTULO 4 - PROPAGAO DE ERROS 40
4.1 INTRODUO 40
4.2 FUNO LINEAR 40
4.3 FUNO NO-LINEAR 43
4.4 LINEARIZAO 47
4.5 VARINCIA E CORRELAO 48
4.5.1 Varincia 48
4.5.2 Covarincia 48
4.5.3 Coeficiente de Correlao 49
4.6 PROPAGAO DA VARINCIA DE OBSERVAES INDEPENDENTES 51
4.7 PROPAGAO DE VARINCIA DE OBSERVAES CORRELACIONADAS 58
4.7.1 Propagao de uma nica Funo 58
4.7.2 Propagao de mais de uma Funo 59
CAPTULO 5 - AJUSTAMENTO PELO MTODO PARAMTRICO 73
5.1 INTRODUO 73
5.2 MODELO MATEMTICO DO MTODO PARAMTRICO 73
5.2.1 Equao Normal 75
5.3 VARINCIA 76
5.3.1 Matriz de Peso 76
5.3.2 Varincia a a priori 77
5.3.3 Varincia a Posteriori 77
5.4 ROTINA PARA APLICAO DO MTODO PARAMTRICO 78
5.5 EXERCCIOS 78
CAPTULO 6 - QUALIDADE DO AJUSTAMENTO 93
6.1 TESTE DE HIPTESES 93
6.2 DETECO OUTLIER E LOCALIZAO DE ERRO GROSSEIRO 95
6.2.1 Outliers 96
6.3 TESTES DE QUALIDADE DO AJUSTAMENTO 96
6.3.1 Teste Global da Varincia a Posteriori 96
6.3.2 Teste Bilateral 97
6.3.3 Teste Unilateral 98
6.3.4 Anlise dos Resultados do Teste Global 99
6.3.5 Teste Data Snooping 100
1 - Deteco de Outlier 101
CAPTULO 7 - ELIPSE DE ERROS 104
7.1 ANLISE CLSSICA DA ELIPSE DE ERRO 105
7.2 ANLISE DA ELIPSE DE ERRO ATRAVS DO CRCULO DE MOHR 106
7.3 PADRES DAS ELIPSES DE ERRO 108
CAPTULO 8 - LINEARIZAO DE ALGUNS MODELOS FUNCIONAIS 111
8.1 NGULOS 111
8.1.1 Equao dos ngulos: 111
8.2 AZIMUTES 114
8.2.1 Funo azimute 115
8.2.2 Derivada da equao do ngulo (Eq. 8.9) em relao X1 115
8.2.3 Derivada da equao do ngulo (Eq. 8.9) em relao Y1 115
8.2.4 Derivada da equao do ngulo (Eq. 8.9) em relao X2 116
8.2.5 Derivada da equao do ngulo (Eq. 8.9) em relao Y2 116
8.3 DISTNCIAS 117
8.3.1 Funo distncia 117
8.3.2 Derivadas parciais 117
CAPTULO 9 - NOES DE DERIVADAS 118
9.1 DEFINIO DE DERIVADA 119
9.2 REGRAS DE DERIVAO 120
CAPTULO 10 - NOES DE MATRIZ 121
10.1 CONCEITO DE MATRIZ 121
10.2 TIPOS DE MATRIZES 121
10.2.1 Matriz quadrada 121
10.2.2 Matriz identidade de ordem n 121
10.2.3 Matriz transposta 122
10.3 PRODUTO DE MATRIZ 122
10.4 MATRIZ INVERSA 123
10.4.1 Matriz inversa a partir da matriz adjunta e o determinante 125
BIBLIOGRAFIA 130
Georreferenciamento de Imveis Rurais Ajustamento de Observaes
Ca p t u l o 1 : No e s d e Aj u s t a me n t o d e Ob s e r va e s
6
Captulo 1 - Noes de Ajustamento de Observaes
1.1 Introduo
Ao obtermos uma medida de que se requer confiana, intuitivamente, ns repetimos as observaes e
no confiamos em apenas uma observao. Mas, a partir de vrias observaes de uma mesma
grandeza, que resultado final representa a melhor estimativa?
O ajustamento de observaes cuida da resoluo de problemas deste tipo, bem como da estimativa de
preciso da soluo adotada.
O ajustamento de observaes, alm de apresentar uma soluo nica, torna as observaes ajustadas
consistentes com modelos matemticos apropriados. Nos casos mais simples, as medies so
realizadas sobre as prprias grandezas incgnitas. Quando tais incgnitas se ligam por equaes de
condio, o problema torna-se menos simples. Outras vezes, medem-se grandezas que se vinculam s
incgnitas atravs de relaes funcionais conhecidas. o caso de observaes indiretas ou parmetros
(ex. coordenadas, altitudes, etc.). Em quaisquer dos casos, o que buscamos purificar as observaes
das inconsistncias que normalmente as acompanham, ou melhor, ajust-las, juntamente, com
parmetros (quando existem) a um modelo matemtico.
Algumas dificuldades surgem quando precisamos ponderar observaes, ou seja, quando devemos
atribuir "mais peso" s observaes de maior preciso (menor desvio padro). A atribuio de peso
pressupe o conhecimento da preciso das medidas so efetuadas.
Exemplo Aplicativo-1.1: A figura 1.1 esquematiza uma pequena rede de nivelamento geomtrico. Em
funo dos desnveis medidos, a altitude de RN1 pode ser transportada at RN2; como so diversos os
caminhos possveis, vrias so as solues.
Figura 1.1 - Rede de nivelamento.
GEOMTI CA - CEFETES
7
O ajustamento, entretanto, conduzir a uma soluo nica, tornando as observaes ajustadas
consistentes com o modelo matemtico adotado.
Alternativamente, a altitude de RN2 pode ser "fixada" como a de RN1; neste caso as observaes so
ajustadas de tal maneira que o transporte de altitudes a partir de RN1 produza em RN2 o valor
prefixado.
Exemplo 1.2: A Figura 1.2 mostra os vrtices P e Q de uma cadeia de triangulao j ajustada, razo
pela qual suas coordenadas so consideradas "fixas". Na poligonal PABCQ medem-se os ngulos e os
lados (eletronicamente). Admitindo que tais observaes sejam, num caso ideal, isentas de erros;
mesmo assim as coordenadas transportadas a partir de P podem no "fechar" em Q. Neste caso, em
que no h erros de observaes, as coordenadas calculadas a partir de P podem no "fechar" em Q
devido ao modelo matemtico do clculo do transporte, feito em superfcie diferente da superfcie em
que foram calculadas as coordenadas de P e Q. Por exemplo, pode-se considerar que P e Q foram
calculados na projeo UTM e o clculo da poligonal no plano topogrfico.
Figura 1.2 - Transporte de coordenadas com pontos atravs de pontos fixos (injuno)
Exemplo 1.3: A Figura 1.3 mostra os ngulos de um quadriltero completo de uma triangulao
geodsica. Depois de ajustados, a soma dos ngulos de cada um dos tringulos esfricos do
quadriltero dever ser igual a 180
o
mais o excesso esfrico do tringulo.
Figura 1.3 - ngulos de tringulos esfricos de triangulaes geodsicas.
8
1.2 Mtodo dos Mnimos Quadrados
Considerando o caso da medida direta de uma grandeza X; sejam l
1
, l
2
,...,l
n,
os valores obtidos em uma
srie de n observaes.
Na impossibilidade de obter o verdadeiro valor de X
, deve-se contentar com uma estimativa mais

provvel. Adotando, o valor X
como o mais provvel e calculando os resduos (diferena entre o

valor mais provvel e cada uma das observaes), tm-se:
1 1
l - X
v = .
2 2
l - X
v = .
L L L .
n
v =
n
l - X
(1.1)
Esses resduos so valores desconhecidos a priori que somados s observaes brutas reproduzem o
valor estimado X
.
Mudando o critrio, poderamos eleger um valor diferente
como o mais provvel, isto resultaria em

um novo conjunto de resduos:
l - X
i
v = (1.2)
e assim por diante:
l - X
i
v = (1.3)
Qual dos valores

X
, X
, X
deveramos adotar? Em outras palavras, como escolher um critrio que

permita extrair das observaes repetidas
i
l , discrepantes entre si, um valor nico para representar a
incgnita X?
GEOMTI CA - CEFETES
9
H mais de duzentos anos, os geodesistas fizeram sua opo, seguindo o caminho indicado por Gauss
e Legendre: aceitar como melhor estimativa de X, o valor que torne mnimo o somatrio dos
quadrados dos resduos.
Quando as observaes no oferecem o mesmo grau de confiana, elas devem ser "homogeneizadas"
atravs de pesos
i
p :
=
=
n
i
i i
v p
1
2
min (1.4)
Obs: Quanto melhor a preciso do equipamento de medida, maior o valor do peso.
Atualmente, a linguagem matricial mais usual devido a sua simplicidade e facilidade de clculo.
min = V P V
T
(1.5)
onde:
V: vetor coluna dos resduos.
P : matriz quadrada dos pesos.
=
n
v
v
v
M
2
1
V
=
n
p
p
p
0 0 0
0 0 0
0 0 0
0 0 0
2
1
M
P
Obs: A matriz de peso mostrada corresponde observaes independentes (observaes no
correlacionadas), pois apresenta elementos apenas na diagonal principal.
Suponha que adotemos X
como o valor mais provvel de uma grandeza sobre a qual foram

executadas n observaes, repetidas em condies supostamente similares. Assim, os resduos seriam:
1 1
l - X
v = ,
2 2
l - X
v = , L L L ,
n
v =
n
l - X
.
Conforme o princpio dos mnimos quadrados (MMQ), temos:
mnimo l X
n
i
i
= = =

=1
2
)
( V V
T
.
10
Derivando da funo e igualando-a a zero, obtemos o valor mnimo da funo:
0 )
( 2
1
= =
=
n
i
i
X
l X
.
0 )
( )
( )
(
2 1
= + + +
n
l X l X l X L .
0
2 1
=
n
l l l X n L .
n
l
X l X n
n
i
i
n
i
i
=
=
= =
1
1

.
A expresso obtida corresponde mdia aritmtica, portanto quando a mdia aritmtica adotada
como estimativa de uma grandeza, inconscientemente, estamos aplicando o principio dos mnimos
quadrados.
Concluso: A mdia aritmtica simples uma aplicao do mtodo dos mnimos quadrados usada
quando as observaes so diretas e de igual preciso.
1.2.1 Representao Matricial da Mdia
e e
L e
X
T
b
T
.
onde:
b
L : vetor coluna das observaes;
V: vetor coluna dos resduos;
e: vetor coluna unitrio
A soma dos resduos de um ajustamento pelo mtodo dos mnimos quadrados igual a zero. Esta
uma propriedade importante dos resduos.
0 = V e
T
(1.1)
GEOMTI CA - CEFETES
11
Exerccio aplicativo -1.4: Ajustar os valores de iguais precises: 10,45; 10,54; 10,40; 10,42 e 10,47.
Soluo:
Clculo do valor ajustado:
=
47 , 10
42 , 10
40 , 10
54 , 10
45 , 10
b
L

=
1
1
1
1
1
e
( ) 1 1 1 1 1 =
T
e .
( ) 47 , 10 42 , 10 40 , 10 54 , 10 45 , 10
47 , 10
42 , 10
40 , 10
54 , 10
45 , 10
1 1 1 1 1 + + + + =
=
b
T
L e
.
28 , 52 =
b
T
L e 5 = e e
T
.
456 , 10
5
28 , 52
= =
=
e e
L e
T
b
T
X
.
456 , 10
= X .
Clculo dos resduos:
006 , 0 45 , 0 1 - 456 , 0 1 v
1
= =
084 , 0 54 , 0 1 - 456 , 0 1 v
2
= =
056 , 0 40 , 10 456 , 10
3
= = v
036 , 0 42 , 0 1 - 456 , 0 1 v
4
= =
014 , 0 47 , 0 1 - 456 , 0 1 v
5
= =
12
Soma dos resduos:
( ) 014 , 0 036 , 0 056 , 0 084 , 0 006 , 0
014 , 0
036 , 0
056 , 0
084 , 0
006 , 0
1 1 1 1 1 + + =
= V e
T
.
0 = V e
T
.
Exemplo aplicativo 1.5: Determine o comprimento mais provvel da distncia entre os pontos A e
B, do esquema abaixo, sabendo-se que a distncia entre estes pontos foi obtida atravs de duas
medidas parciais m AC 89 , 23 = e m CB 70 , 30 = e uma medida total m AB 50 , 54 = .
A C B
x
y
.
Atravs dos dados podemos estabelecer as seguintes equaes das observaes:
x l
a
=
1
y l
a
=
2
y x l
a
+ =
3
Das equaes das observaes podemos obter as equaes dos resduos:
89 , 23
1
= x v
70 , 30
2
= y v
50 , 54
3
+ = y x v
Aplicando o princpio dos mnimos quadrados, temos:
mnimo y x y x v
i
i
= + + + =
=
2 2 2
3
1
2
) 50 , 54 ( ) 70 , 30 ( ) 89 , 23 (
GEOMTI CA - CEFETES
13
mnimo y x y y x x y y x x v
i
i
= + + + + + + + =
=
) 2970,25 109 109 2 ( ) 942,49 4 , 61 ( ) 570,73 78 , 47 (
2 2 2 2
3
1
2
2970,25 942,49 570,73 4 , 170 78 , 156 2 2 2
2 2
3
1
2
+ + + + + =
=
y x y x y x v
i
i
4483.47 4 , 170 78 , 156 2 2 2 ) , (
2 2
+ + + = y x y x y x y x f
Derivando a expresso ) , ( y x f em funo de cada uma das variveis e igualando a zero:
0 78 , 156 2 4 = + =
y x
x
f
0 4 , 170 2 4 = + =
x y
y
f
m x 86 , 23 = m y 67 , 30 =
Logo, o valor mais provvel da distncia m AB 53 , 54 = .
Exemplo aplicativo 1.6: Fazer o exemplo aplicativo 1.5, usando o clculo matricial.

=
5 , 54
70 , 30
89 , 23
b
L
=
1 1
1 0
0 1
A
=
y
x
X
X A L
a
=
A equao normal do ajustamento paramtrico, mostrada a seguir, ser demonstrada em captulos
posteriores.
0
=
b
L P A X A P A
T T
(1.2)
b
L P A A) P (A X
T 1 T
=

(1.3)
Resoluo:

=
1 1 0
1 0 1
T
A
=
1 0 0
0 1 0
0 0 1
P
14

+ + + +
+ + + +
=
= =
2 1
1 2
1 1 1 1 0 0 1 1 0 1 1 0
1 1 1 0 0 1 1 1 0 0 1 1
1 1
1 0
0 1
1 1 0
1 0 1
A A N
T
( )

= =

667 . 0 333 . 0
333 , 0 667 , 0 1
T 1
A A N

=
5 , 54
70 , 30
89 , 23
1 1 0
1 0 1
667 , 0 333 , 0
333 , 0 667 , 0
=
67 , 30
86 , 23
X
GEOMTI CA - CEFETES
15
Captulo 2 - Teoria dos Erros
2.1 Introduo
Na medio de uma determinada grandeza, a limitao humana, imperfeio instrumental e
instabilidade da natureza so fatores que impedem a exatido absoluta das medidas. Os resultados de
uma mesma medida, repetida vrias vezes por um mesmo operador, provavelmente no sero
idnticos, por maior que seja o cuidado empregado nas observaes. Assim, podemos afirmar que, de
uma forma ou de outra, todas as medidas contm erros.
A fim de conhecer melhor a teoria dos erros, apresentaremos alguns conceitos importantes e
corriqueiros no ajustamento de observaes.
2.2 Alguns Conceitos
2.2.1 Erro Verdadeiro
a diferena entre a observao de uma grandeza fsica e o seu verdadeiro valor. Na prtica, no se
conhece o valor verdadeiro da grandeza, mas o valor mais provvel desta grandeza.
2.2.2 Erro Aparente (e)
Erro aparente ou simplesmente erro (e) a diferena, entre a observao de uma grandeza (
i
l ) e seu
valor mais provvel ( l ).
l l e
i i
=
(2.1)
2.2.3 Resduo (v)
Denomina-se de resduo ao valor simtrico do erro aparente, ou seja, a grandeza com o mesmo valor
do erro aparente, porm com sinal contrrio (correo do erros). um dos elementos mais importantes
na aplicao do ajustamento de observaes, pois o mtodo dos mnimos quadrados e as anlises ps-
ajustamento fundamenta-se na qualidade desse resduos.
i i
l l v =
(2.1)
Ca p t u l o 2 : Te o r i a do s Er r o s
16
2.2.4 Discrepncia
a diferena entre os valores de duas observaes de uma mesma grandeza. Algumas vezes a
discrepncia chamada de erro.
2.3 Desvio Padro
O valor mais provvel de uma grandeza aquele para o qual a soma do quadrado dos resduos
mnima. Assim, baseado no principio dos mnimos quadrados, o desvio padro definido como a raiz
da mdia dos quadrados dos resduos.
1
) (
1
2
=

=
n
l l
n
i
i
(2.1)
Obs: Quando o nmero de observaes maior que 30, o divisor da Eq. (2.3) n.
2.3.1 Erro Mximo Tolervel (Tolerncia) -
m
e
o erro mximo admissvel, ou seja, observaes cujos erros excedam este valor devem ser
descartadas, pois podem conter erros grosseiros. Esse erro identificado atravs da curva distribuio
de probabilidades normal reduzida.
Tabela 2-1 - Probabilidade dos erros tolerveis.
Probabilidade de
rejeio
10%
5%
1%
0,1%
Nmero de
desvio padro
65 , 1
96 , 1
58 , 2
29 , 3
O erro tolervel pressupe a especificao a priori de um critrio estatstico de rejeio. A Tabela
2.1 mostra algumas probabilidades de erros tolerveis, baseados na curva de distribuio normal
reduzida (varivel reduzida - z).
Exemplo aplicativo 2.1 - Em uma operao de campo foram feitas 12 leituras de azimutes, mostradas
na Tabela 2.2. Calcule:
a) o desvio padro das observaes;
GEOMTI CA - CEFETES
17
b) o erro mximo de tolerncia para a probabilidade de rejeio do erro de 1%;
o desvio padro da mdia.
Tabela 2-2 Azimutes do Exemplo aplicativo 2.1.
Azimutes Azimutes (graus) Resduos (V)
V
2
61.3101.00 61.516944 10.83 117.36
61.3106.00 61.518333 5.83 34.03
61.3110.00 61.519444 1.83 3.36
61.3115.00 61.520833 -3.17 10.03
61.3102.00 61.517222 9.83 96.69
61.3113.00 61.520278 -1.17 1.36
61.3116.00 61.521111 -4.17 17.36
61.3120.00 61.522222 -8.17 66.69
61.3107.00 61.518611 4.83 23.36
61.3117.00 61.521389 -5.17 26.69
61.3125.00 61.523611 -13.17 173.36
61.3110.00 61.519444 1.83 3.36
Mdia Mdia (graus) Soma ( V )
Soma ( V
2
)
61.3111.83 61.519954 0.00 573.67
a) Clculo do desvio padro:
22 , 7
11
67 , 573
1
) (
1
2
= =
=

=

n
l l
n
i
i
b) Clculo do erro de tolerncia com probabilidade de rejeio de 1%:
62 , 18 22 , 7 58 , 2 = =
m m
e e
Examinando a Tabela 1.2, conclumos que no necessrio eliminar nenhum azimute, pois todos os
resduos ficaram abaixo do erro mximo tolervel ( 62 , 18 =
m
e ).
c) Clculo desvio padro da mdia:
08 , 2
12
22 , 7
= = =
M M
q
M
n
e

Obs.: A expresso do desvio padro da mdia obtida da teoria de propagao de erros.
Azimute mdio e preciso:
08 , 2 83 , 11 31 61 =
o
Az
Ca p t ul o 2: Te or i a dos Er r os
18
2.4 Tipos de Erros: Origens e Caractersticas
2.4.1 Erros Grosseiros (Equvocos)
Erros grosseiros so erros, em grande parte, proveniente de impercia e descuidos do operador ou falha
instrumental. Estes erros podem ser evitados com cuidado e ateno, criando-se operaes de controle,
comparando-se os valores obtidos com medidas j conhecidas, tomando-se cuidados no registro dos
dados de observaes para evitar enganos, instruindo e treinando os operadores e repetindo as
operaes. Exemplos de erros grosseiros: erro do nmero de metros de uma medida; desateno do
anotador na troca de dgitos ou da anotao de uma distncia, na leitura e/ou anotao de um ngulo.
Com o advento de instrumentos eletrnicos, ganhou importncia o estudo dos erros grosseiros. Essas
observaes (medies) so geralmente descarregadas automaticamente do instrumento e processadas
no computador sem uma crtica do observador. Essa nova metodologia de obteno de dados faz com
que erros grosseiros no sejam percebidos pelo operador. Assim conveniente que se introduza no
processamento das observaes testes que detectem os erros grosseiros. A parte do ajustamento de
observaes que estuda esse assunto denominada deteco de outliers.
Outliers so resduos que conforme determinado teste estatstico ultrapassam certo valor crtico.
2.4.2 Erros Sistemticos ou Acumulativos
Podem ser provenientes de uma causa permanente, conhecida ou no, que nos obriga a comet-lo
segundo uma lei determinada. Quando as causas desses erros so conhecidas, podemos model-lo
atravs de alguma funo matemtica e elimin-lo.
Esses erros caracterizam-se por ocorrer sempre em um mesmo sentido e conservarem em medies
sucessivas, o mesmo valor. Decorrem das deficincias do observador, do instrumento e ou do mtodo
usado. Da dizer-se que os erros sistemticos podem se originar das fontes que se seguem:
Erros sistemticos introduzidos pelo observador - Quando por algum problema de viso do
observador as medidas tm discrepncia sistemtica em relao ao valor mais provvel.
Erros sistemticos introduzidos pelo instrumento. Uso de instrumentos em condies diferentes
daquelas para as quais foram calibradas. Instrumento no calibrado: suponhamos uma distncia
obtida a partir de oito medies com trena, supostamente de 10 metros. A distncia total seria de 80
metros, mas detectando, posteriormente, que a trena tinha na realidade 10,10 m., conclumos que a
distncia possui um erro sistemtico de 0,80 m.
GEOMTI CA - CEFETES
19
Erros sistemticos introduzidos pelo modelo matemtico. Utilizao de um modelo baseado em
equao matemtica no representativa do fenmeno.
2.4.3 Erros Acidentais ou aleatrios
Ocorrem devido a causas desconhecidas e incontrolveis. Caracterizam-se por ocorrerem ao acaso
quaisquer que sejam os observadores, os instrumentos e os mtodos. Em geral so erros pequenos,
porm inevitveis, encontrados em todas as observaes. Causam discrepncias que a princpio se
apresentam sem qualquer conformidade matemtica. A sua influncia sobre as observaes aleatria,
portanto qualquer tratamento deve basear-se na teoria da probabilidade.
Podemos dizer que os erros acidentais ainda restam no valor de uma grandeza, em que foram
observados todos os procedimentos para eliminar as observaes com erros grosseiros, e os erros
sistemticos foram pesquisados, calculados e eliminados.
Quando se realizamos um grande nmero de observaes, a experincia tem demonstrado que estes
erros revelam alguma regularidade, ou seja, seguem uma distribuio de freqncia que se aproxima
da distribuio normal.
A teoria da distribuio dos erros acidentais baseada em postulados sugeridos pela experincia
prtica:
as medies tendem a agrupar-se em torno de um valor;
a probabilidade de ocorrncia de um evento mxima prximo ao valor mdio e diminui com o
afastamento deste ponto;
existe simetria nas probabilidades de ocorrncia em relao a mdia;
Os erros sistemticos se acumulam, enquanto que os acidentais se compensam.
Os erros acidentais pequenos so mais freqentes que os grandes, e que quando muito numerosos, a
todo erro em um sentido corresponde outro em sentido contrrio.
No ajustamento, somente as observaes que contm erros acidentais podem ser tratados. Os erros
grosseiros devem ser eliminados e os sistemticos corrigidos, para ento aplicarmos o mtodo dos
mnimos quadrados (MMQ).
20
2.5 Classificao das Observaes
2.5.1 Diretas
As medies so efetuadas diretamente sobre a grandeza, sem que existam meios para verificao do
erro, uma vez que no conhecemos os seus valores reais ou tericos. Exemplo: uma distncia ou
ngulo isolado.
2.5.2 Indiretas
As observaes no so feitas diretamente sobre as grandezas pesquisadas, mas sobre outras a elas
ligadas por meio de relaes conhecidas. Exemplo: coordenadas e reas.
2.5.3 Diretas Condicionadas
So observaes independentes entre si, feitas diretamente sobre as grandezas pesquisadas, entretanto,
porm ligadas por alguma equao de condio conhecida. Exemplo: Na medida de trs ngulos (a, b,
c) de um tringulo plano, tem-se que a + b + c = 180.
2.6 Valor mais Provvel de uma Grandeza
O valor mais provvel de uma grandeza, medida diversas vezes pelo mesmo operador, utilizando o
mesmo equipamento e mtodo, ou seja, medidas com idntico grau de preciso, a mdia aritmtica
dos valores observados.
n
l
n
i
i
l

=
=
1
(2.1)
No caso de observaes obtidas com diferentes graus de preciso, o valor mais provvel dever ser
obtido considerando-se a varincia de cada observao que pode ser expressa por um fator de
proporcionalidade denominado peso.
=
=

=
n
i
i
n
i
i i
p
p l
l
1
1
(2.2)
GEOMTI CA - CEFETES
21
2.7 Medidas de Disperso
Vrios termos so usados para descrever a qualidade das medidas. muito comum na Mensurao o
uso dos termos preciso e acurcia.
O termo preciso ou acurcia aparente o grau de refinamento com a qual uma grandeza medida;
em outras palavras, significa o quanto os valores de uma srie de medidas esto prximos uns dos
outros. Se uma grandeza medida vrias vezes, e o resultado desta operao so valores muito
prximos um dos outros; nestes casos, dizemos que a preciso alta. Normalmente, a preciso
expressa em termos do desvio padro ou da varincia das medies.
A acurcia (ou exatido) se refere ao grau de perfeio obtido numa medio, ou seja, representa o
quanto prximo do valor real (valor verdadeiro) foi obtida a medida. A Figura 2.1 ilustra a preciso e a
acurcia de uma srie de medida.
Figura 2.1 - Preciso e acurcia.
conveniente ressaltar que nem sempre uma operao de grande preciso seja necessariamente uma
operao acurada.
Para exemplificar o exposto, consideremos o seguinte caso: a distncia entre dois pontos foi obtida, de
maneira cuidadosa, com uma trena de 20,030 m; o operador mediu a distncia trs vezes, obtendo os
valores 653,235 m, 653,249 m e 653,252 m. Pelos valores encontrados, conclumos que esta operao
foi precisa, porm no foi acurada.
Nas medies os termos mais usados para expressar a preciso so a varincia e o desvio padro ou
erro mdio quadrtico.
22
2.7.1 Varincia
a medida de disperso das observaes em torno de um valor mais provvel. definida como a
mdia do quadrado dos erros aparentes. comum para o clculo da varincia, adotar o seguinte
critrio:
Se o nmero de observaes (n) for menor do que 30, a varincia obtida por:
1
) (
1
2
2
=

=
n
l l
n
i
i
(2.1)
Se o nmero de observaes n for maior do que 30:
n
l l
n
i
i
=

=
1
2
) (
2
(2.2)
2.7.2 Desvio Padro
Corresponde ao grau de incerteza da observao e obtido a partir da raiz quadrada da varincia.
1
) (
1
2
=

=
n
l l
n
i
i
ou
n
l l
n
i
i
=

=
1
2
) (
(2.1)
Atualmente, como as observaes so tratadas estatisticamente como variveis aleatrias extradas de
uma populao contnua e infinita, elas precisam ser associadas a uma preciso (ou grau de incerteza).
Por isso sempre devemos informar o valor da observao associada sua preciso. Sem esta
informao nada podemos inferir sobre a qualidade da observao.
Para algumas grandezas, tais como a distncia e linhas bases de GPS, comum informarmos a
preciso atravs do erro relativo. O erro relativo de uma medida definido como a razo entre o erro
cometido e o valor medido. Por exemplo, suponhamos uma distncia de 1280,160 m que tenha sido
medida com um erro estimado de 0,213 m; a preciso desta medida
160 , 1280
213 , 0
6000
1
= . Isto
significa que a cada 6000 m ocorre um erro de 1m na medida.
GEOMTI CA - CEFETES
23
Outra forma de apresentar a preciso de medidas de distncia atravs de uma parcela fixa e outra
parcela relativa expressa em partes por milho (ppm). Esta forma em so apresentadas as precises
dos medidores de distncia eletrnicos e dos receptores de sinais GPS. Assim, a preciso de uma linha
base (vetor) de 7,000 m medido por um receptor GPS de preciso 5,0 mm +2 ppm, ser de.
mm km mm
km
mm
19 ) 7 2 5 ( = + = .
Ca p t ul o 3: Di s t r i bui o Nor ma l
24
Captulo 3 - Distribuio Normal
3.1 Introduo
A tendncia moderna substituir a idia de erros de observaes pelo conceito de propriedades
estatsticas das observaes, visto serem estas consideradas amostras extradas de uma populao de
varivel contnua e infinita. Em outras palavras, as observaes so variveis aleatrias que seguem
uma determinada distribuio de probabilidade. Assim, imprescindvel que profissionais de
Mensurao conheam os conceitos bsicos de Estatstica e Probabilidade.
3.1.1 Probabilidades
Denomina-se probabilidade de um evento ao quociente entre o nmero de casos favorveis e os dos
casos possveis, ou seja, esta definio est intimamente relacionada com o conceito de freqncia
relativa. Este conceito foi proposto por Laplace, embora encerre uma conceituao viciosa, ela a
adequada para o objetivo deste texto devido sua simplicidade.
A probabilidade de um evento um nmero compreendido entre 0 e 1 (ou entre 0% e 100%).
3.1.2 Varivel Contnua
O ponteiro da Figura 3.1 ilustra o conceito de varivel continua. Uma vez tenha sido posto a girar, o
ponteiro pode parar em qualquer posio ao longo do crculo. No se pode esperar que venha a parar
exatamente num dos valores inteiros do crculo. Mesmo levando-se em conta as limitaes na
mensurao feita ao longo do crculo, ainda assim h um nmero extremamente grande de pontos de
paradas possveis.
Imaginemos, por exemplo, o crculo dividido em 8000 partes iguais, em lugar das 8 partes da Figura
3.1. Se cada posio constitui um ponto de parada to provvel quanto qualquer outra, somos levados
seguinte concluso: Como h tantos resultados possveis, a probabilidade de o ponteiro parar em
qualquer valor particular to pequena, para fins prticos, que deve ser considerada aproximadamente
igual a zero.
GEOMTI CA - CEFETES
25
0
1
2
3
4
5
6
7
Figura 3.1 - O ponteiro pode girar em qualquer dentre um nmero ilimitado de posies.
Na realidade, a tecnologia moderna nos permite identificar ao menos 1 milho de posies diferentes,
de modo que a probabilidade de o ponteiro parar exatamente numa delas seria de 1/ 1.000.000.
Em face dessa peculiaridade, realmente sem sentido falar-se da probabilidade de um resultado
especfico, assim a anlise de variveis continuas tende a focalizar a probabilidade de uma varivel
aleatria tomar um valor num determinado intervalo. Ento, enquanto a probabilidade de um ponteiro
parar no ponto 3, ou no 4, aproximadamente zero, a de para entre dois nmeros no zero. Como o
crculo est dividido em 8 setores, parece razovel a probabilidade 8 / 1 ao resultado parar entre 3 e
4, tal como ilustra a Figura 3.2.
4
3
1
8
0
Figura 3.2 - A probabilidade de o ponteiro parar entre dois pontos igual percentagem da
rea entre esses pontos.
Analogamente, atribuiramos uma probabilidade de 25% ao evento parar entre os pontos 4 e 6 (1/4 do
crculo). E no h razo para limitarmos os intervalos a nmeros inteiros, a no ser convenincia. Por
exemplo, a probabilidade de observarmos um valor entre 3,217 e 4,217 (note-se que
1 527 , 4 527 , 5 = ) seria tambm 1/8, e a probabilidade de um valor entre 3,5 e 4 ( 5 , 0 5 , 3 4 = ) seria
26
16
1
. Assim, a probabilidade de o ponteiro parar entre dois pontos quaisquer igual percentagem da
rea do crculo (setor) delimitada por esses pontos. Ver Figura 3.3.
6
4
0
5,527
4,527
0
4
0
25%
1
8 1
16
3,5
Figura 3.3 - Outros exemplos de probabilidade e rea entre dois pontos.
Alm disso, um crculo com o dobro do tamanho do da nossa ilustrao daria precisamente as mesmas
probabilidades, desde que seu permetro fosse subdividido da mesma maneira. Ver Figura 3.4. Logo,
com uma varivel contnua, probabilidade fica determinada como percentagem da rea entre dois
valores.
25%
25%
Figura 3.4 - O tamanho do crculo irrelevante.
3.2 Distribuies Normais
As distribuies normais representam, com bastante freqncia e com boa aproximao, as
distribuies de freqncias de muitos fenmenos naturais e fsicos.
As distribuies normais foram descobertas no sculo XVIII. Astrnomos e outros cientistas
observaram, no sem certa surpresa, que mensuraes repetidas de uma mesma grandeza (medidas de
ngulos ou medidas de distncia) tendem variar, e quando se coletava grande nmero dessas
mensuraes, dispondo-as numa distribuio de freqncia, elas se apresentavam repetidamente com a
forma anloga Figura 3.5. E como essa forma grfica vinha associada aos erros da mensurao, essa
GEOMTI CA - CEFETES
27
distribuio cedo comeou a ser conhecida como distribuio normal dos erros ou distribuio
normal.
50
F
40
30
20
10
V
1,0 0,9 0,8 0,7 0,6 0,5 0,4 0,3 0,2 0,1 0 -0,1 -0,2 -0,3 -0,4 -0,5 -0,6 -0,7 -0,8 -0,9 -1,0
Figura 3.1 - as distribuies de freqncia de observaes frequentemente apresentavam a
mesma forma
Constatou-se, subseqentemente, que a distribuio podia ser bem aproximada por uma distribuio
matemtica como da Figura 3.6. A distribuio normal costuma ser tambm designada por
distribuio de Gauss, em razo da contribuio de Karl F. Gauss (1777-1855) sua teoria
matemtica.
F
V
Figura 3.2 - A curva contnua que aproxima a distribuio de freqncias observadas.
28
3.2.1 Caractersticas das Distribuies Normais
As curvas normais apresentam algumas caractersticas bastante especiais em termos de sua forma, de
como se especificam e de como so utilizadas para obteno de probabilidades.
O grfico de uma distribuio normal se assemelha muito com um sino. suave, unimodal, e
simtrico em relao sua mdia. Menos bvio o fato de que a curva se prolonga indefinidamente
em qualquer das direes, a partir da mdia. Tende cada vez mais para o eixo horizontal medida que
aumenta a distncia, a partir da mdia, mas nunca chega a tocar o eixo. Teoricamente, os valores
possveis vo de a + . Ver figura 3.7.
Mdia
-
+
Figura 3.1 - Curva normal tpica.
Outra caracterstica importante que uma distribuio normal fica completamente especificada por
dois parmetros: sua mdia e seu desvio padro. Em outras palavras, existe uma nica distribuio
normal para cada combinao de uma mdia e um desvio padro. Diferentes combinaes de mdia e
desvio padro originam curvas normais distintas. Como mdias e desvios padres so medidos em
escala contnua, segue-se que o nmero de distribuies normais ilimitado. A Figura 3.8 ilustra
algumas dessas possibilidades.
Figura 3.2 - As combinaes de mdia e desvio padro so em nmero ilimitado.
GEOMTI CA - CEFETES
29
A rea total sob qualquer curva normal representa 100% da probabilidade associada varivel. Alm
disso, como a curva simtrica em relao sua mdia, a probabilidade de observar um valor inferior
mdia 50%, como o tambm a probabilidade de observar um valor acima da mdia. A
probabilidade de predizer exatamente igual mdia zero.
A probabilidade de uma varivel aleatria normalmente distribuda normalmente tomar um valor entre
dois pontos quaisquer igual rea sob a curva normal compreendida entre aqueles dois pontos. Ver
Figura 3.9.

a b
Figura 3.3 - P (a < x < b) = rea sob a curva entre a e b.
Em resumo, mostramos as caractersticas das curvas normais:
A curva normal tem forma de sino.
simtrica em relao mdia.
Prolonga-se de a + .
Cada distribuio normal fica completamente especificada por sua mdia e seu desvio padro;
h uma distribuio normal distinta para cada combinao de mdia e desvio padro.
A rea total sob a curva normal considerada como 100%.
A rea sob a curva entre dois pontos a probabilidade de uma varivel normalmente
distribuda tomar um valor entre esses pontos.
Como h um nmero ilimitado de valores de a + , a probabilidade de uma varivel
aleatria distribuda normalmente tomar exatamente determinado valor aproximadamente
zero. Assim, as probabilidades se referem sempre a intervalos de valores.
A rea sob a curva entre a mdia e um ponto arbitrrio funo do nmero de desvios padres
entre a mdia e aquele ponto.
A curva apresenta um ponto de inflexo no ramo esquerdo e outro no ramo direito, que
correspondem, respectivamente, ao desvio padro negativo e positivo.
30
3.2.2 Distribuio Normal como Modelo
essencial reconhecer que uma distribuio normal uma distribuio terica. Para mensuraes
fsicas grupadas numa distribuio de freqncia, uma distribuio ideal; nenhum conjunto de
valores efetivos se adaptar exatamente a ela. Assim que, por exemplo, os valores reais no variam
entre a + . E as limitaes do instrumental de mensurao eliminam efetivamente muitos outros
valores potenciais. No obstante, tais deficincias so amplamente contrabalanadas pela facilidade de
utilizao da distribuio normal na obteno de probabilidades, e pelo fato de que a referida
distribuio ainda constitui uma boa aproximao de dados reais. Assim, quando se diz que uma
varivel aleatria (fsica) distribuda normalmente, a afirmao deve ser interpretada como uma
implicao de que a distribuio de freqncia de seus resultados possveis pode ser satisfatoriamente
bem aproximada pela distribuio normal de probabilidades. Logo a curva normal um modelo.
3.2.3 Relao entre os Erros Acidentais ou Aleatrios e a Curva Normal
Como j dissemos anteriormente, o erros acidentais que ocorrem de forma aleatria, tendem a se
ajustar distribuio normal ou Lei de Gauss, em outras palavras, a distribuio de freqncia dos
erros acidentais so satisfatoriamente bem aproximada da distribuio normal de probabilidades.
Assim, em qualquer medio, efetuada repetidas vezes, nas mesmas condies (mesmo operador,
instrumento, mtodo, etc.), a teoria das probabilidades mostra e a experincia permite verificar que os
erros acidentais produzidos gozam de propriedades idnticas s propriedades da curva de distribuio
normal.
1. A um erro positivo corresponde um erro negativo de mesmo valor absoluto (os erros positivos e
negativos de mesmo valor absoluto tm igual probabilidade).
2. Os erros pequenos so os mais numerosos (o erro nulo o mais provvel.)
3. A probabilidade de se cometer um erro, em valor absoluto, menor que
(erro compreendido entre

+
e -
) igual a rea hachurada da Figura 3.10.

4. A rea total limitada pela curva a probabilidade de se cometer todos os erros , portanto, igual
unidade (100%).
GEOMTI CA - CEFETES
31
F

+
Figura 3.1 - A probabilidade de erros absolutos menores que a rea hachurada.
3.2.4 A distribuio Normal Padronizada
A distribuio normal constitui, na realidade, uma famlia infinitamente grande de distribuies
uma para cada combinao possvel de mdia e desvio padro. Consequentemente, seria intil
procurar elaborar tabelas que atendessem a todas as necessidades. Alm disso, a expresso da curva de
distribuio normal (Eq.3.1) no conveniente para tal objetivo, em vista de sua complexidade.

2
2
1
2
1
) (

x
e x f
(3.1)
onde:
2,71828182 = e : base de logaritmos neperiano ou natural.
x : valor arbitrrio;
: mdia da distribuio normal;
: desvio padro da distribuio normal.
H, entretanto, uma alternativa bastante simples que contorna o problema. Conceitualmente, anloga
determinao de probabilidades no caso do ponteiro. Vimos ali que o tamanho do crculo no
influa; mas era a forma que interessava. Desde que considerssemos a rea total do crculo como
100%, qualquer tamanho do crculo daria exatamente as mesmas probabilidades. Isso o se passa com
a distribuio normal: o fato de considerarmos a rea total sob a curva como 100% padroniza a curva.
Se uma varivel tem distribuio normal, cerca de 68% de seus valores cairo no intervalo de um
desvio padro a contar a partir de cada lado da mdia; cerca de 95,5% no intervalo de dois desvios
padres a contar da mdia, e cerca de 96,7% dentro de trs desvios padres a contar da mdia. A
Figura 3.11 ilustra a idia. Alm do mais, isto verdade quaisquer que sejam a mdia e o desvio
padro de uma distribuio normal particular; isto , valido para todas as distribuies normais.
32
68%
95,5%
99,7%
-3 -2 -1 X +1 +2 +3
Figura 3.1 - rea sob uma curva normal a 1, 2, 3 desvios padres a contar de cada lado da
mdia.
80 70 90 100 120 110 130
-3 -2 +1 -1 0 +2 +3
Escala efetiva
Escala padro-
nizada
X = 100,0
= 10,0
Figura 3.2 - Comparao entre escala efetiva e padronizada.
Vamos refletir um pouco sobre a significao deste fato. A implicao que o problema de lidar com
uma famlia infinita de distribuies normais podem ser completamente evitados desde que queiramos
trabalhar com valores relativos, ao invs de trabalhar com valores reais. Isto equivale a tomar a mdia
como ponto de referncia (origem) e o desvio padro, como medida de afastamento, a contar daquele
ponto (unidade de medida). Esta nova escala comumente como escala z.
Consideremos uma distribuio normal com mdia 100,0 e desvio padro de 10,0, conforme a Figura
3.12. Podemos converter esta escala efetiva numa escala relativa, substituindo os valores efetivos por
nmeros de desvios padres a contar da mdia da distribuio.
Embora a Figura 3.12 ilustre apenas uns poucos valores, o mesmo conceito pode ser aplicado a
qualquer valor da distribuio. Assim, que o valor 90 est a 20 abaixo da mdia; ou
1
10
10
=
desvio; 20 1 est a 20 + acima da mdia; ou
2
10
20
= +
desvio padres; 95 est a 5 abaixo da
GEOMTI CA - CEFETES
33
mdia; ou
5 , 0
10
5
=
desvio padro e 107 est a 7 + acima da mdia; ou
7 , 0
10
7
+ = +
desvio padro
acima da mdia.
Podemos resumir este processo da seguinte maneira: converte-se a diferena efetiva entre a mdia e
algum outro valor da distribuio para uma diferena relativa, exprimindo-a em temos do nmero de
desvios padres a contar da mdia.

=
x
z (3.2)
onde:
z : nmero de desvios padres a contar da mdia;
x : valor arbitrrio;
: mdia da distribuio normal;
: desvio padro da distribuio normal.
Note-se que z tem sinal negativo para valores de x inferiores mdia e sinal positivo para valores
superiores mdia.
A Tabela 3.1 mostra alguns exemplos de converso das diferenas efetivas entre mdia e um outro
valor, para distncia relativa em termo do nmero de desvios padres.
Tabela 3-1 - Distncias relativas em termos de desvio padres.

X
x ( x )/ = z
Mdia Desvio padro Valor considerado Diferena Diferena relativa
50 1 52 2 2
34 2 32 -2 -1
43 2.5 50.5 7.5 3
27 3 22.5 -4.5 -1.5
78 4 78 0 0
tambm necessrio sabermos trabalhar em sentido inverso, passando dos valores z para os valores
efetivos. Por exemplo, podemos querer saber que valor corresponde a z = 2. Supondo conhecidos a
mdia e o desvio padro e que estejamos lidando com uma distribuio normal, a converso toma a
forma:
z x + = (3.3)
34
Tabela 3-2 Clculo dos valores efetivos.

Z
+ z x
Mdia Desvio padro Nmero de desvios Diferena Valor efetivo
50 1 3 50 +3 * 1 53
34 2 1 34 +1* 2 36
43 2.5 -1 43 - 1* 2.5 40.5
27 3 -2 27 - 2 * 3 21
78 5 4 78 +4 * 5 98
H uma grande vantagem em podermos pensar e trabalhar com valores relativos. que, em vez de
lidarmos com uma famlia infinita de distribuies normais, precisamos de apenas uma distribuio
normal para todos os problemas. Podemos converter qualquer valor de qualquer distribuio normal
em um valor z, que nos diz quantos desvios padres o valor considerado dista da mdia. Isto nos
permite determinar todas as probabilidades da curva normal utilizando uma nica tabela padronizada,
elaborada exclusivamente com esse propsito.
3.2.5 Tabela Normal Padronizada
As reas sob a curva de qualquer distribuio normal podem ser achadas utilizando-se uma tabela
normal padronizada, aps fazer a converso da escala original para a escala em termos de desvios
padres. A mdia passa a servir como ponto de referncia (origem) e o desvio padro como unidade de
medida. A tabela padronizada construda de modo que pode ser lida em unidade de z (nmero de
desvios padres a contar da mdia). A tabela d a rea sob a curva (isto , a probabilidade de um valor
cair naquele intervalo) entre a mdia e valores escolhidos de z. A poro sombreada da Figura 3.13
corresponde rea sob a curva que pode ser lida diretamente na tabela. Note-se que a mdia da
distribuio agora zero, pois a mdia est a zero de si mesma.
0
z
Figura 3.1 - rea sob curva normal em escala padronizada.
GEOMTI CA - CEFETES
35
Como a distribuio normal simtrica em torno de sua mdia, a metade esquerda da rea sob a curva
a imagem reflexa da metade direita. Em razo de tal simetria, costuma-se dar apenas a metade da
distribuio numa tabela. Em outras palavras, para cada segmento esquerda existe um segmento
direita. comum apresentar a tabela para a metade direita da distribuio. Ento, caso se necessite de
uma poro da metade esquerda, basta considerar como desvios negativos os valores ali constantes.
Por exemplo, a rea entre a mdia e +1 desvio padro exatamente igual rea sob a curva entre a
mdia e -1 desvio padro, conforme se v na Figura 3.14.
0 +z
0 -z
Figura 3.2 - a rea sob a curva entre a mdia e +z igual rea sob a curva entre a mdia e z
Voltando agora nossa ateno tabela em si. A Tabela 3.3 dada em temos de valores de z com duas
decimais, tais como 78 , 2 , 04 , 1 , 45 , 2 , etc. Uma peculiaridade que os valores de z vm decompostos
em duas partes (o que pode causar certa confuso a quem estuda o assunto pela primeira vez, mas de
real vantagem na apresentao grfica): os valores da parte inteira e da primeira decimal integram a
coluna esquerda, enquanto a segunda decimal aparece na linha horizontal do topo. Vamos
determinar algumas reas entre a mdia e z para ilustrar o uso da tabela.
Suponhamos que queiramos determinar a rea entre a mdia e 25 , 1 = z . Devemos primeiro localizar
2 , 1 na coluna esquerda e, em seguida, 05 , 0 na linha horizontal do topo. A rea ser ento dada
pelo nmero formado pela interseo da linha 2 , 1 = z e da coluna 05 , 0 . O valor 3944 , 0 = z a
percentagem da rea sob a curva normal entre a mdia 0 e 25 , 1 = z . Ver Figura 3.15. Naturalmente,
tal percentagem nada mais do que a probabilidade de uma varivel aleatria normal tomar um valor
entre a mdia e um ponto situado a 25 , 1 desvios padres acima da mdia.
36
1,2
1,1
1,0
0,9
0,00 0,01 0,02 0,03 0,04 0,05 0,06
1,25
0,3944
Figura 3.3 - rea sob a curva normal entre a mdia e z = 1,25.
GEOMTI CA - CEFETES
37

0
z
Tabela 3-1 reas para a Distribuio Normal padronizada.
Z
0.00 0.01 0.02 0.03 0.04 0.05 0.06 0.07 0.08 0.09
0.0 0.0000 0.0040 0.0080 0.0120 0.0160 0.0199 0.0239 0.0279 0.0319 0.0359
0.1 0.0398 0.0438 0.0478 0.0517 0.0557 0.0596 0.0636 0.0675 0.0714 0.0753
0.2 0.0793 0.0832 0.0871 0.0910 0.0948 0.0987 0.1026 0.1064 0.1103 0.1141
0.3 0.1179 0.1217 0.1255 0.1293 0.1331 0.1368 0.1406 0.1443 0.1480 0.1517
0.4 0.1554 0.1591 0.1628 0.1664 0.1700 0.1736 0.1772 0.1808 0.1844 0.1879
0.5 0.1915 0.1950 0.1985 0.2019 0.2054 0.2088 0.2123 0.2157 0.2190 0.2224
0.6 0.2257 0.2291 0.2324 0.2357 0.2389 0.2422 0.2454 0.2486 0.2517 0.2549
0.7 0.2580 0.2611 0.2642 0.2673 0.2704 0.2734 0.2764 0.2794 0.2823 0.2852
0.8 0.2881 0.2910 0.2939 0.2967 0.2995 0.3023 0.3051 0.3078 0.3106 0.3133
0.9 0.3159 0.3186 0.3212 0.3238 0.3264 0.3289 0.3315 0.3340 0.3365 0.3389
1.0 0.3413 0.3438 0.3461 0.3485 0.3508 0.3531 0.3554 0.3577 0.3599 0.3621
1.1 0.3643 0.3665 0.3686 0.3708 0.3729 0.3749 0.3770 0.3790 0.3810 0.3830
1.2 0.3849 0.3869 0.3888 0.3907 0.3925 0.3944 0.3962 0.3980 0.3997 0.4015
1.3 0.4032 0.4049 0.4066 0.4082 0.4099 0.4115 0.4131 0.4147 0.4162 0.4177
1.4 0.4192 0.4207 0.4222 0.4236 0.4251 0.4265 0.4279 0.4292 0.4306 0.4319
1.5 0.4332 0.4345 0.4357 0.4370 0.4382 0.4394 0.4406 0.4418 0.4429 0.4441
1.6 0.4452 0.4463 0.4474 0.4484 0.4495 0.4505 0.4515 0.4525 0.4535 0.4545
1.7 0.4554 0.4564 0.4573 0.4582 0.4591 0.4599 0.4608 0.4616 0.4625 0.4633
1.8 0.4641 0.4649 0.4656 0.4664 0.4671 0.4678 0.4686 0.4693 0.4699 0.4706
1.9 0.4713 0.4719 0.4726 0.4732 0.4738 0.4744 0.4750 0.4756 0.4761 0.4767
2.0 0.4772 0.4778 0.4783 0.4788 0.4793 0.4798 0.4803 0.4808 0.4812 0.4817
2.1 0.4821 0.4826 0.4830 0.4834 0.4838 0.4842 0.4846 0.4850 0.4854 0.4857
2.2 0.4861 0.4864 0.4868 0.4871 0.4875 0.4878 0.4881 0.4884 0.4887 0.4890
2.3 0.4893 0.4896 0.4898 0.4901 0.4904 0.4906 0.4909 0.4911 0.4913 0.4916
2.4 0.4918 0.4920 0.4922 0.4925 0.4927 0.4929 0.4931 0.4932 0.4934 0.4936
2.5 0.4938 0.4940 0.4941 0.4943 0.4945 0.4946 0.4948 0.4949 0.4951 0.4952
2.6 0.4953 0.4955 0.4956 0.4957 0.4959 0.4960 0.4961 0.4962 0.4963 0.4964
2.7 0.4965 0.4966 0.4967 0.4968 0.4969 0.4970 0.4971 0.4972 0.4973 0.4974
2.8 0.4974 0.4975 0.4976 0.4977 0.4977 0.4978 0.4979 0.4979 0.4980 0.4981
2.9 0.4981 0.4982 0.4982 0.4983 0.4984 0.4984 0.4985 0.4985 0.4986 0.4986
3.0 0.4987 0.4987 0.4987 0.4988 0.4988 0.4989 0.4989 0.4989 0.4990 0.4990
4.0 0.49997 0.49997 0.49997 0.49997 0.49997 0.49997 0.49998 0.49998 0.49998 0.49998
38
Como a metade esquerda essencialmente a mesma da direita, se cada um dos valores de z na tabela
acima tivesse antes de si um sinal menos, as reas sob a cura ainda assim seriam as mesmas.
A tabela normal pode tambm ser usada para determinar a rea sob a curva alm de um dado valor z.
A chave aqui que a rea de uma das metades 50%, logo a rea alm de z 50% menos valor
tabelado. Por exemplo, se o valor tabelado 30%, a rea alm de z % 20 % 30 % 50 = . A rea
alm de z = +1 ser 1587 , 0 3413 , 0 50 , 0 = , pois a rea entre a mdia e 1 + = z 3413 , 0 . A
Figura 3.17 ilustra o conceito.
0
z
(Mdia)
rea tabelada = rea desejada
Figura 3.4 - Uma tabela normal d a rea sob a curva normal padronizada entre a mdia e um
valor de z.
0
z
rea desejada = 50% - rea tabelada
50%
rea na
tabela
Figura 3.5 - A rea alm de z se obtm subtraindo de 0,5 a rea entre a mdia e z.
No necessariamente ficamos restritos a situaes limitadas pela mdia. Quando um intervalo ou seu
complemento no limitado pela mdia da distribuio, a determinao da rea sob a curva um
processo de dois estgios. Por exemplo, seja determinar a rea sob a curva entre 1 = z e 1 + = z .
GEOMTI CA - CEFETES
39
Como a mdia sempre o ponto de referncia, devemos determinar a rea entre a mdia e cada um dos
dois limites. Acabamos de ver que a rea entre a mdia e 1 + = z 3413 , 0 . Analogamente, a rea
entre a mdia e 1 = z 3413 , 0 . Combinando os dois valores, temos a rea total: 6826 , 0 . Isso
ilustrado na Figura 1.18.
+
0
0,3413 0,3413
Figura 3.6 - A determinao da rea sob a curva entre dois valores de z problema de dois
estgios.
Analogamente, se os limites de um intervalo esto ambos do mesmo lado da mdia, e se queremos
achar a rea sob a curva entre esses limites, novamente devemos determinar a rea entre a mdia e
cada um deles. Mas nesse caso necessitamos da diferena entre as duas reas. Por exemplo, se
queremos a rea entre 1 + = z e 2 + = z (Figura 3.19), devemos achar a rea entre a mdia e
) 3413 , 0 ( 1 + = z e subtra-la da rea entre a mdia ) 4772 , 0 ( 2 + = z :
1359 , 0 3413 , 0 4772 , 0 = a rea entre 1 + = z e 2 + = z .
+1
0
0,1359
0,4772
0,3413
+2
Figura 3.7 - Quando dois valores de z tm o mesmo sinal e queremos achar a rea entre eles,
devemos achar a rea entre a mdia e cada um deles e ento subtrair o menor do maior.
Ca p t ul o 4: Pr opa ga o dos Er r os
40
Captulo 4 - Propagao de Erros
4.1 Introduo
Em Topografia, Geodsia, bem como de em muitas outras reas da cincia e da Engenharia, as
grandezas medidas diretamente no campo so, freqentemente, usadas para calcular outras grandezas
de interesse. Em muitos casos, o processamento dessas grandezas feito atravs de expresses cujas
variveis so as medidas do campo. Ento, se as medidas de campo possuem erros, inevitavelmente, as
grandezas derivadas delas, tambm, apresentaro erros. A transmisso do erro das medidas de campo
para a grandeza derivada denominada propagao de erros.
4.2 Funo Linear
Suponhamos que x uma grandeza medida e y a grandeza derivada, calculada de acordo com a
funo:
b x a y + = (4.1)
Representada na Figura 4.1. Os coeficientes a e b so conhecidos.
y
yi
i
x
b
d y d y = a . dx
a
d x
X
Y
Figura 4.1 - Representao grfica da funo.
Supondo que x represente o valor verdadeiro de x , ento
x
d representa o erro, assim:
x i
d x x + = (4.2)
GEOMTI CA - CEFETES
41
E o valor de
i
y pode ser expresso por:
b x a y + = (4.1)
Ento, substituindo a Eq. (4.2) na Eq. (4.1), e desenvolvendo, temos:
. b d x a y
x i
+ + = ) ( .
x i
d a b x a y + + = .
Substituindo a Eq. (4.3) na equao anterior, temos:
x i
d a y y + = (4.3)
Se
y
d representa o erro em y, ento da Eq. (4.4), temos:
x y
d a d = (4.4)
Se agora calcularmos a derivada da Eq. (4.1), em relao a x , teremos:
a b x a
x
y
x
y
x
y
=
) ( (4.5)
Assim, a Eq. (4.4) pode ser escrita como:
x
x
y
d dy
= (4.6)
Exemplo aplicativo: Um terreno de formato trapezoidal com as dimenses da Figura 4.2. Para uma
medida m d 560 , 23 = , necessrio determinar a ordenada h. Se o erro na medida da distncia
m 016 , 0 . Calcule o erro corresponde ao valor de h.
A inclinao da linha CD :
5 , 0
80
20 60
=
= a
42
Para um sistema de coordenadas com origem em A e eixo-X ao longo de AB, a equao da reta CD
ser:
20 5 , 0 + = x h
5 , 0
80
20 60
=
= a
d x
20,00
x1
x
h1
h
d h d h = a . dx
a
80,00
23,56
60,00
A
C
D
B
Figura 4.2 - Terreno trapezoidal.
5 , 0
80
20 60
=
= a
Para um sistema de coordenadas com origem em A e eixo-X ao longo de AB, a equao da reta CD
ser:
20 5 , 0 + = x h
Com as constantes 0,5 e 20 sem erro.
Para 56 , 23 = = d x , a correspondente coordenada y a ordenada h. ento:
GEOMTI CA - CEFETES
43
m h h 78 , 31 20 56 , 23 5 , 0 = + =
Da Eq.(4.5), o erro em h :
m d dx a d
h h
008 , 0 016 . 0 5 , 0 = = =
4.3 Funo No-Linear
Vamos analisar agora uma parbola de 2 grau (funo no-linear), mostrada na Figura 4.3:
2
x a y = (4.1)
2 2
) ( dx x x dy y y
i i
+ = = + = .
2 2
2 dx dx x x dy y
i i
+ + = + .
2
2 dx dx x dy + = (4.2)
dx
2
P
P
T
yi
y
y
2x . dx
dy
x
xi
dx
2
x
Figura 4.1 - Funo no linear (parbola de 2 grau)
Da Eq. (4.8), verificamos que x 2 a derivada de y em relao a x.
44
2
dx dx
y
dy
x
+
= .
Comparando as Eq. (4.8) e Eq. (4.7), verificamos que a diferena entre elas a parcela adicional (
2
dx )
que aparece na Eq. (4.8). Na prtica, entretanto, o erro dx muito pequeno em relao grandeza
medida, de tal sorte que podemos desconsiderar os termos de maior ordem, por exemplo, (
2
dx ).
Exemplo Aplicativo: Para a determinao da rea do terreno quadrado, mostrado na Figura 4.4, foi
medido o lado do quadrado com uma trena de ao de 30 m, resultando a medida de m 170 , 50 . Esta
medida foi usada para calcular a rea do quadrado. A rea
2
0289 , 2517 ) 170 , 50 (
2 2
m x y = = =
representada na Figura 4.4 pelo quadrado ABCD. Se a trena possui um erro para menos de 0,030 m,
pede-se determinar o erro no clculo da rea.
A B
C
D
A B
C
50,120
50,170
0,050
5
0
,
1
2
0
0
,
0
5
0
B2
B1
Figura 4.2 - rea do terreno.
Soluo:
Como cada trenada menor 0,030 m, a medida 30,00 m , na verdade, 29,970 m. Ento o
comprimento real do lado do quadrado :
m x
i
120 , 50 ) 170 , 50 (
000 , 30
970 , 29
= =
Ento, a rea correta :
GEOMTI CA - CEFETES
45
2
0144 , 2512 ) 120 , 50 (
2 2
m x y
i i
= = =
O valor do erro exato entre as reas :
2
0145 , 5 0144 , 2512 0289 , 2517 m y y dy
i
= = = .
Este mesmo valor pode ser obtido, na Figura 4.4, somando-se as reas dos retngulos BA B A
1
e
BC B C
2
, e o quadrado B B B B
2 1
.
Este valor exato, tambm, pode ser obtido diretamente de
x
d , o erro em x, usando a Eq. (4.9), isto :
m x x dx
i
050 , 0 120 , 50 170 , 50 = = =
Ento:
2
) ( . 2 dx x dy + =
m dy 0145 , 5 ) 050 , 0 ( ) 050 . 0 ( ) 120 , 50 ( . 2
2
= + =
Agora usando a Eq. (4.7), ns temos a
x
y
para m x
i
170 , 50 = , ento:
340 , 100 170 , 50 2 2
2
= = =
x x
x x
y
2
0170 , 5 050 , 0 340 , 100 m dx
y
dy
x
= =
=
Que na Figura 4.4 igual a soma dos quadrados BA B A
1
e BC B C
2
.
A diferena entre a determinao exata do erro da rea e a determinao de acordo com a Eq. (4.7)
de apenas
2
0025 , 0 m que corresponde a (
2
dx ), a rea do pequeno quadrado B B B B
2 1
. Esta
diferena de apenas 0,05% do erro.
At agora consideramos apenas o caso de uma varivel simples processada como funo de uma
varivel simples x . Vamos supor agora y representando a rea de um retngulo em vez de um
quadrado. Neste caso duas medidas de grandeza, o comprimento
1
x e a largura
2
x , esto envolvidas, e
y produto entre elas, isto ,
2 1
x x y = .
46
Quando mais de uma varivel est envolvida na funo, a regra da derivada parcial deve ser aplicada.
Assim o erro em y ser representado por:
n
n x x x
dx
y
dx
y
dx
y
dy
+ +
= L
2
2
1
1
(4.3)
Exemplo aplicativo: Usando o mesmo enunciado do exemplo anterior, considerar o terreno como
retangular, medindo m 170 , 50 por m 090 , 61 . Se a mesma trena de 30 m (0,030 m, tambm, para
menos) usada para fazer as medidas, avalie o erro no clculo da rea.
Soluo:
O clculo da rea:
2
90 , 3064 ) 09 , 61 ( ) 170 , 50 (
2 1
m x x y = = =
As derivadas parciais so avaliadas como:
m
y
x
x x y
x x x
090 , 61
) (
1
2
1
2 1
1
=
m
y
x
x x y
x x x
170 , 50
) (
2
1
2
2 1
2
=
Os erros,
1 x
d e
2 x
d , so processados na base de 30 m para menos 0,030 m, ento:
m dx 050 , 0 170 , 50
30
030 , 0
1
= =
m dx 061 , 0 090 , 61
30
030 , 0
2
= =
Usando a Eq. (4.10 ) para calcular o erro da rea:

n
n x x x
dx
y
dx
y
dx
y
dy
+ +
= L
2
2
1
1
(4.4)
2
1 , 6 ) 061 , 0 ( ) 170 , 50 ( ) 050 , 0 ( ) 090 , 61 ( m dy dy = + =
GEOMTI CA - CEFETES
47
4.4 Linearizao
Vimos que a propagao de erro em funo no-linear, os termos maiores (
2
dx ) podem ser
desconsiderados porque so muito pequenos. A propagao de erro em funes no-lineares, omitindo
o termo (
2
dx ), uma aproximao. Ao contrrio, na funo linear o valor da propagao do erro
exato.
A base terica para a linearizao da funo no-linear a expanso da srie de Taylor.
erior termo x
y
y y
xo
x
sup
0
+
+ = (4.1)
onde:
) (
0 0
x f y =
o
x x x =
A forma linearizada inclui somente os dois primeiros termos do lado direito da Eq. (4.11); todos os
termos de ordem superior so desconsiderados. Por exemplo, a forma linearizada da funo
2
x y = :
x x x y + =
0
2
2
0
Onde:
2
0 0
x y = e
0
2 x
y
x
=
. A funo em questo, mostrada na Figura (4.5), formada

por uma curva at o ponto T, e pela tangente curva no ponto T (isto ao longo da linha TP ). A
inclinao da linha TP
xo
x
y
.
dy
y
yO
T
P
P
x
xO
x
dx
( )
. x
xO
xO
( )
dx
dy
. x +
xO
( )
dx
dy
y = (xo)
X
Y
yo = (xo)
2
2
Figura 4.1 Curva at o ponto T e tangente at P
48
Exemplo aplicativo: Linearize a funo 7 4 2
2 3
+ + = x x x y at 2 = x . Se 2 = x e o erro
em x 0,01, calcule o erro em y .
x
y
y y
xo
x

+ =
0
, ento para 2 = x , temos:
x x x x x x y + + + + = ) 4 2 6 ( ) 7 4 2 (
0
2
0 0
2
0
3
0
x y + = 24 19
De acordo com a Eq. (4.7):
m dy dx x x dx
y
dy
x
24 , 0 01 . 0 24 ) 4 2 6 (
0
2
0
1
= = + =
=
4.5 Varincia e Correlao
4.5.1 Varincia
Quando definimos que o valor mais provvel de um conjunto de observaes, o somatrio do
quadrado das diferenas entre este valor mais provvel e cada uma das observaes mnimo (mtodo
dos mnimos quadrados). Este somatrio dividido pelo nmero de observaes resulta em uma mdia
denominada varincia, cuja expresso definida como:
=
n
i
i x
x x
n 1
2 2
) (
1
1
ou
1
2
=
n
x x
x
V V
T
(4.1)
Obs.: Quando o nmero de observaes maior que 30, o denominador da Eq. (4.12) igual ao
prprio nmero de observaes.
4.5.2 Covarincia
Todos os dias os meios de comunicao nos informam resultados de pesquisas, por exemplo: quanto
maior for o lucro futuro da empresa maior ser seu valor: quanto maior for a quantidade produzida
menor ser o custo unitrio do produto: o emprego depende da escolaridade do trabalhador. Quando
trabalhamos com mais de uma varivel, podemos avaliar o relacionamento entre elas atravs de uma
medida numrica denominada covarincia. Assim, a covarincia resume em um nico nmero a
tendncia e a fora da relao linear entre duas variveis.
GEOMTI CA - CEFETES
49
Covarincia (
y x
) que representa uma medida da correlao entre duas observaes expressa por:
) ( ) (
1
1
1
i
n
i
i y x
y y x x
n

=

=
ou
1
=
n
y x
y x
V V
T
(4.1)
Duas medidas (ou funes) so ditas no correlacionadas quando independentes entre si. Por exemplo,
os ngulos e as distncias de uma poligonal medidos com diferentes instrumentos e mtodos, cujas
fontes de erro so tambm diferentes. Ao contrrio, podemos citar como medidas correlacionadas, as
coordenadas obtidas atravs de ngulos e distncias.
4.5.3 Coeficiente de Correlao
A correlao entre duas observaes pode ser avaliada atravs do coeficiente de correlao
y x
.
y x
xy
y x

= (4.1)
O valor da correlao varia de menos 1 a mais 1 ( 1 1 < <
y x
).
Para 0 =
y x
, as observaes so no-correlacionadas.
Para 1 =
y x
, ento ocorre uma correlao linear perfeita e negativa.
Para 1 + =
y x
, ento ocorre uma correlao linear perfeita e positiva.
O coeficiente de correlao positivo indica que os valores de y tendem a crescer com o crescimento
dos valores de x, enquanto que correlao negativa indica que os valores de y tendem a decrescer com
valores crescentes de x;
Valores de coeficiente de correlao prximos de zero, indicam ausncia de relao linear entre as
variveis x e y.
Exemplo aplicativo: A partir de um ponto P so feitas medies a cada meia hora, durante 6 horas, da
distncia zenital (ngulo e distncia) para os pontos A e B de altitude conhecida. Em cada uma das 12
pocas, so feitas duas medidas para A (medidas
1
x e
2
x ) e duas medidas para B (medidas
1
y e
2
y ). Obtendo-se, assim, 48 medidas ou 24 pares de medidas, ou 12 pares de medidas dobradas. Cada
uma das medidas permite calcular uma altitude para o ponto P atravs de nivelamento trigonomtrico.
50
A altitude do ponto P, que foi determinada atravs de nivelamento geomtrico, igual a 63,319 m e
ser considerado como valor "quase verdadeiro", assim pode-se calcular, para todas as medidas, um
erro verdadeiro .
ObtenodaTabela 4-1 Altitudes do ponto P
Niv. Geo.
63.319
l

l

l

l

(m) (cm) (m) (cm) (m) (cm) (m) (cm)
10:00 63.356 -3,7 63.354 -3,5 63.456 -13,7 63.479 -16,0
10:30 63.351 -3,2 63.366 -4,7 63.338 -1,9 63.324 -0,5
11:00 63.360 -4,1 63.354 -3,5 63.423 -10,4 63.399 -8,0
11:30 63.343 -2,4 63.326 -0,7 63.316 0,3 63.302 1,7
12:00 63.367 -4,8 63.371 -5,2 63.479 -16,0 63.432 -11,3
12:30 63.392 -7,3 63.389 -7,0 63.470 -15,1 63.498 -17,9
13:30 63.363 -4,4 63.370 -5,1 63.348 -2,9 63.366 -4,7
14:00 63.349 -3,0 63.337 -1,8 63.413 -9,4 63.427 -10,8
14:30 63.337 -1,8 63.321 -0,2 63.466 -14,7 63.357 -3,8
15:00 63.256 6,3 63.259 6,0 63.114 20,5 63.119 20,0
15:30 63.296 2,3 63.294 2,5 63.171 14,8 63.166 15,3
16:00 63.280 3,9 63.268 5,1 63.260 5,9 63.227 9,2
Medida para o ponto A Medida para o ponto B
X
Y
1
Y
2
Hora
X
X
1
X
2
Correlao a partir dos 24 pares de medidas (correlao cruzada):
435 . =
x
T
x
cm s 3 , 4 =
x
3414 =
y y

T
cm s
y
9 , 11 =
1058 =
y x

T
1 , 44 =
xy
s
87 , 0 =
xy
Correlao a partir dos 12 pares de medidas (autocorrelao):

97 , 0
221 215
212 .
2 2 1 1
2 1
=
=
xx xx

x
T
x x
T
x
x
T
x

GEOMTI CA - CEFETES
51
95 , 0
1643 1771
1617
.
2 2 1 1
2
1
=
=
yy
y y y y
y y
xx

T T
T
4.6 Propagao da Varincia de Observaes Independentes
A Eq.(4.10) mostra a propagao do erro de uma grandeza medida uma nica vez.
2
2
1
1
dx
y
dx
y
dy
x x

= (4.1)
Quando uma determinada grandeza for medida mais de uma vez, devemos propagar a varincia
dessas medidas. Para a deduo da propagao da varincia, vamos elevar os dois membros ao
quadrado:
( )
2
2
2
1
1
2
= dx
y
dx
y
dy
x x
.
( )
2
2
2
2
2
1
1
2
1
1
2
2
= dx
y
dx
y
dx
y
dx
y
dy
x x x x
.
Considerando que as grandezas
1
x e
2
x foram medidas com vrias repeties, e somando os valores
obtidos devido a estas repeties, vem:
( ) ( ) ( ) ( )

= = = = = =

=
n
i
n
i x
n
i x x
n
i
n
i x
n
i
dx
y
dx dx
y y
dx
y
dy
1
2
1
2
1
2 1
2 1
1
1
1
1
1
2
2
2
2
2
2
(4.2)
Mas sendo
1
x e
2
x no-correlacionados, ( )
=
=
n
i
dx dx
1
2 1
0 , logo:
( ) ( ) ( )

= = = = =

=
n
i
n
i x
n
i
n
i x
n
i
dx
y
dx
y
dy
1
2
1
2
1
1
1
1
1
2
2
2
2
2
.
Dividindo pelo nmero de vezes que as grandezas forma medidas, vem:
( ) ( ) ( )

= = =

=
n
i
x
n
i
x
n
i
n
dx y
n
dx y
n
dy
1
2
2
2
1
1
2
1
1
2 2 2
.
52
Como:
( )
=
=
n
i
y
n
dy
1
2
2
( )
=
=
n
i
x
n
dx
1
1 2
1
2
( )
=
=
n
i
x
n
dx
1
2 2
2
2
2
2
2
2
2
1
2
1
2
x
x
x
x
y
y y

= (4.3)
A Eq. (4.16) apesar de deduzida uma funo y derivada de somente duas grandezas
1
x e
2
x , ela
vlida para funes de m outras grandezas, ou seja:
) , , , (
2 1 m
x x x f y L = , ento:
2
2
2
2
2
2
2
1
2
1
2
m
m x
x
x
x
x
y
y y y

+ +
= L (4.4)
A Eq. (4.17) a expresso algbrica geral da lei da propagao dos erros (varincia) para os casos que
no haja correlao entre as grandezas medidas, isto , as medidas so independentes.
A Eq. (4.17) pode ser escrita na forma matricial:
=
m x
x
x
xm
x
x
m x x x
y
y
y
y
y y y
L
L
L
2
1
2
2
2
2
1
2 1
2
0 0 0
0 0 0
0 0 0
0 0 0
(4.5)
T
A A =

ll
2
y
(4.6)
onde:
GEOMTI CA - CEFETES
53
2
y
: varincia da grandeza derivada;
A : vetor linha dos coeficientes;
T
A : vetor coluna transposto dos coeficientes;
ll
: matriz varincia-covarincia de correlao zero (matriz diagonal).
Exemplo Aplicativo: Uma distncia de aproximadamente 490 m deve ser medida com uma trena de
50 m de comprimento. Sendo conhecido o desvio padro de cada trenada e considerado igual
mm
d
5 = , qual seria o desvio padro da distncia D?
A funo que relaciona a distncia total D aos segmentos
i
d :
10 2 1
d d d D + + + = L
1
1
=
d
D
1
2
=
d
D
L 1
10
=
d
D
Aplicando a lei da propagao dos erros:
2
10
2
2
2
1
2
+ + + = L
d d D
2 2
250 mm
D
=
mm
D
8 , 15
2
=
Exemplo Aplicativo: Qual o desvio padro da rea de lote retangular que tm os seguintes lados:
m l 30
1
= mm 50
1
= .
m l 10
2
= mm 30
2
=
2 1
l l A =
2
1
l
A
l
=

1
2
l
A
l
=

54
( ) ( ) ( )
2 2 2 2 2
030 , 0 30 05 , 0 10 + =
A
2 2 2
) ( 060 , 1 810 , 0 250 , 0 m
A
= + =
2
029 , 1 m
A
=
Exemplo Aplicativo: As coordenadas
A
x ,
A
y do ponto A so conhecidas e so consideradas livres de
erros. Calcular as coordenadas
B
x ,
B
y e os respectivos desvios padres
B
x
e
B
y
do ponto B,
sabendo-se que os desvios padres da distncia e do azimute so cm
d
2 = e 10 =
AB
Az
.
Dados:
m x
A
00 , 1000 = , m x
B
00 , 750 =
m d 00 , 500 =
o
AB
Az 30 =
Soluo:
Transformando o desvio do azimute para radiano:
10 =
AB
Az
ou rd
AB
Az
0000484 , 0 =
As funes para o clculo do das coordenadas so:
AB A B
Az sen d x x + =
AB A B
Az d y y cos + =
As coordenadas so consideradas sem erros, portanto na derivao elas so consideradas como
constantes para a aplicao da lei da propagao dos erros.
As derivadas so:
500 , 0 30 = = =
sen Az sen
x d
Az sen
Az sen
d
x
AB
d
B
d
AB
d
AB
d
B
013 , 433 30 cos 500 cos = = =
AB
Az
B
Az
AB
Az
AB
Az
B
Az d
x d
Az sen
Az sen
d
x
AB AB AB AB
GEOMTI CA - CEFETES
55
866025 , 0 30 cos cos cos
cos
= = =
AB
d
B
d
AB
d
AB
d
B
Az
x d
Az
Az
d
y
00 , 250 30 500 cos
cos
= = =
sen Az sen d
y d
Az
Az
d
y
AB
Az
B
Az
AB
Az
AB
Az
B
AB AB AB AB
Aplicando a lei da propagao dos erros, lembrando que o desvio do azimute 10 =
AB
Az
deve se
posto em radianos:
Clculo do desvio na coordenada
B
X :
( ) ( ) ( )
2
2
2 2
AB
AB
Az
Az
B
d
e
d
B
XB
x x

=
( ) ( ) ( ) ( ) ( )
2 2 2 2 2
0000484 , 0 013 , 433 02 , 0 500 , 0 + =
XB
( ) 0004407 , 0 0001 , 0
2
+ =
XB
( ) m
xB XB
023 , 0 0005407 , 0
2
= =
Clculo do desvio na coordenada
B
Y :
( ) ( ) ( )
2
2
2 2
AB
AB
Az
Az
B
d
e
d
B
YB
y y

=
( ) ( ) ( ) ( ) ( )
2 2 2 2 2
0000484 , 0 250 02 , 0 866 , 0 + =
YB
( ) 00014641 , 0 0003 , 0
2
+ =
YB
( ) m
xB YB
021 , 0 0004464 , 0
2
= =
Exemplo Aplicativo: Para determinar a diferena de nvel entre dois pontos distantes m 250 , 2 ser
realizado um nivelamento geomtrico, procurando colocar sempre o nvel a iguais distncias da mira.
Assumindo-se que as visadas de vante e r sero de 25 m, determine o erro estimado para a obteno
da diferena de nvel desejada. Determine tambm a frmula geral pra estimar este erro. Suponha o
erro de cada leitura mm
l
5 , 0 = .
56
h45 h2 h1 H
+ + + = L
Mas:
1 R1 h1
l l
V
=
V2 R2 h2
l l =
.....
45 45 45 V R h
l l =
) l (l ) l (l ) l (l
V45 R45 V2 R2 V1 R1 H
+ + + = L
Aplicando a lei de propagao dos erros:
( ) ( ) ( ) ( ) ( ) ( ) ( )
2
l
2
l
2
l
2
l
2
l
2
l
2
45 V 45 R 2 V 2 R 1 V 1 R H
+ + + + + + = L
Mas, como: ( ) ( ) ( )
2
l
2
l
2
l

1 V 1 R
= = , ento:
( ) ( )
2
l
2
90
H
=
( ) ( )
2 2
2 2
mm 22,5 0,5 90
H H
= =
mm 4,74
H
=
Frmula Geral:
n
l
H
=
2
onde:
H
: desvio do nivelamento;
n : nmero de mudana do nvel;
l
: desvio padro das leituras de r e de vante.
GEOMTI CA - CEFETES
57
Exemplo aplicativo: Determine a equao geral para obter o desvio da mdia de uma grandeza
medida n vezes.
Soluo:
n
X X X
X
n 2 1
+ + +
=
L
n 2 1
X
n
1
X
n
1
X
n
1
X + + + = L
Aplicando a lei de propagao de erros:
2
X
2
2
X
2
2
X
2
2
X
) (
n
1
) (
n
1
) (
n
1
) (
n 2 1
+ + + = L
Considerando:
2
X
2
X
2
X
2
o
) ( ) ( ) ( ) (
n 2 1
= = = = L , ento:
n
n n
o
X
2
o 2
X 2
2
o 2
X

) (
) (
) ( n
) ( = = =
Exemplo aplicativo: Os ngulos internos de uma poligonal fechada de 5 lados foram medidos com
teodolito de preciso 5. O fechamento angular foi de 15, verificar a aceitao desse fechamento,
supondo o erro admissvel para o fechamento angular dessa poligonal com confiana de 90%.

5 4 2 2 1
5
1 i
i
+ + + + =
=
( )
2
5
2
2
) ( ) ( ) ( ) ( ) (
4 3 2 1
+ + + + =
n
Como:
2
5
2
2
o
) ( ) ( ) ( ) ( ) ( ) (
4 3 2 1
= = = = = , ento:
( ) n
n n o
2
o
2
) ( n = =
Para a confiabilidade de 90%, o nmero de desvio padres 65 , 1 = z . Assim, o erro admissvel
n
mx o
65 . 1 =
5 5 65 . 1
max
= 44 , 18
max
=
Resposta: o fechamento aceito porque menor que o erro admissvel.
58
4.7 Propagao de Varincia de Observaes Correlacionadas
Na maioria dos casos, as grandezas observadas em Topografia e Geodsia so correlacionadas. Assim,
no caso de observaes correlacionadas, no podemos desconsiderar a covarincia da Eq. (4.21).
4.7.1 Propagao de uma nica Funo
( ) ( ) ( ) ( )

= = = =

=
n
i
x
n
i
x x
n
i
x
n
i
dx
y
dx dx
y y
dx
y
dy
1
2
2
2
1
2 1
2 1
1
1
2
1
1
2 2 2
2 (4.1)
( ) ( ) ( ) ( )

= = = =

=
n
i
x
n
i
x x
n
i
x
n
i
n
dx y
n
dx dx y y
n
dx y
n
dy
1
2
2
2
1
2 1
2 1
1
1
2
1
1
2 2 2
2
Considerando as seguintes expresses:
( )
=
=
n
i
y
n
dy
1
2
2

( )
=
=
n
i
x
n
dx
1
1 2
1
2

( )
=
=
n
i
x
n
dx
1
2 2
2
2
( )
=
n
i
x x
n
dx dx
1
2 1
2 1
temos:
2 1
2 1
2
2
2
2
2
1
2
1
2
2
x x
x x
x
x
x
x
y
y y y y

= (4.2)
Quando a funes apresenta grande nmero de variveis prefervel a representao matricial devido
sua capacidade de sntese e facilidade de clculo.
=
m x
x
x
xm x xm x xm
xm x x x x
xm x x x x
m x x x
y
y
y
y
y y y
L
L
L L L L
L
L
L
2
1
2
2 1
2
2
2 1 2
1 2 1
2
1
2 1
2

(4.3)

T
ll A 1 m m m
m 1
2
y
A =

(4.4)
GEOMTI CA - CEFETES
59
onde:
2
y
: varincia da grandeza derivada;
A : vetor linha dos coeficientes;
T
A : vetor coluna transposta dos coeficientes;
ll
: matriz varincia-covarincia completa.
4.7.2 Propagao de mais de uma Funo
Se y representa um vetor de n variveis derivadas e x representa um vetor de m variveis aleatrias
tal que:
( )
n
x x x x f y , ...... , , ,
3 2 1 1 1
= .
( )
n
x x x x f y , ...... , , ,
3 2 1 2 2
= .
M .
M .
( )
m m m
x x x x f y , ...... , , ,
3 2 1
= (4.1)
Assim, podemos representar a propagao da varincia:
m
n
n
n
m m
xm x xm x xm
xm x x x x
xm x x x x
m
n
m
m
n n ym y ym y ym
ym y y y y
ym y y y y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
x
y
M
L
M
L
L
L
M M
L
L L L L
L
L
M
L
M
L
L
L
M M
L
L L L L
L
L
2
1
2
2
2
1
2
1
2
1
1
1
2
2 1
2
2
2 1 2
1 2 1
2
1
2
1
2
2
2
2
1
1
1
2
1
1
2
2 1
2
2
2 1 2
1 2 1
2
1

(4.2)
T
A A =

ll yy
(4.3)
60
onde:
yy
: matriz varincia-covarincia da grandeza derivada;
A : matriz dos coeficientes;
T
A : matriz transposta dos coeficientes;
ll
: MVC - matriz varincia-covarincia das observaes completa.
Observaes:
A Eq. (4.25) a frmula geral da propagao dos erros;
Quando as observaes so correlacionadas, a matriz

ll
simtrica (no-diagonal);
Quando as observaes so independentes, a matriz

ll
diagonal, isto , todas as varincias
so nulas;
Quando as observaes so independentes e de mesma preciso, a matriz

ll
diagonal, e
todos os elementos da diagonal so iguais.
Exemplo Aplicativo: Estabelecer a matriz varincia-covarincia para os ngulos obtidos a partir de 3
direes independentes. As direes A, B e C foram obtidas com os desvios padres, 2, 3 e 5,
respectivamente.
A
C
B
P
2
Figura 4.1 - Esquema da obteno dos ngulos
Soluo:
GEOMTI CA - CEFETES
61
Modelo funcional para obteno dos ngulos
1
e
2
:
C
B
A
2
1
d
d
d
1
0
1
1
0
1
As funes para a obteno dos ngulos so lineares. Assim, a matriz dos coeficientes so os prprios
coeficientes das equaes, sem necessidade de deriv-las.
=
1
0
1
1
0
1
A
A matriz varincia-covarincia das direes A, B, C:
=
25 0 0
0 9 0
0 0 4
xx
Aplicando a lei da propagao dos erros, temos:
T
A A =

ll
1 0
1 1
0 1
25 0 0
0 9 0
0 0 4
1
0
1
1
0
1
34
9
9
13
Exemplo Aplicativo: Deseja-se medir a distncia AB (Figura 4.8) situada em lados opostos de um
vale, no observvel diretamente. Obtm-se esta distncia, primeiramente como soma das distncias
1
l e
2
l observada do topo do edifcio que constitui o obstculo, em seguida como diferena das de
distncias
4
l e
4
l observadas de uma colina vizinha.
As 4 distncias foram medidas com um dispositivo de medio eletrnica cuja preciso pode ser
calculada por , 5 3 ppm mm + = . A correlao 7 , 0 = r para as duas medidas feitas de um
mesmo ponto e em um mesmo momento.
Dados:
62
km l 6 , 1
1
= mm km 11 6 , 1 5 3
1
= + =
km l 8 , 1
2
= mm km 12 8 , 1 5 3
2
= + =
km l 0 , 2
3
= mm km 13 0 , 2 5 3
3
= + =
km l 4 , 5
4
= mm km 30 4 , 5 5 3
4
= + =
l4
l3
l1 l2
A
B
Figura 4.2 - Esquema das medidas.
Soluo:
Equaes das observaes:
4 3 2 1 1
. 0 . 0 1 1 l l l l y + + + =
4 3 2 1 2
. 1 . 1 0 0 l l l l y + + =
Clculo das covarincias entre medidas de mesmo ponto e medidas mesmo instante, ento a correlao
7 , 0
2 1
= e 7 , 0
4 3
= .
2 1
12
2 1

=
2 1 2 1 12
=
12 11 7 , 0
12
=
2
12
92 mm =
30 13 7 , 0
34
=
2
34
273 mm =
GEOMTI CA - CEFETES
63
=
1 1 0 0
0 0 1 1
A

=
1 0
1 0
0 1
0 1
T
A
=
2
4 3 4
4 3
2
3
2
2 1 2
2 1
2
1
0 0
0 0
0 0
0 0

xx

=
900 273 0 0
273 169 0 0
0 0 144 92
0 0 92 121
xx
T
A A
xx YY
=
=
1 0
1 0
0 1
0 1
900 273 0 0
273 169 0 0
0 0 144 92
0 0 92 121
1 1 0 0
0 0 1 1
YY
=
523 0
0 449
YY
449
1
=
y
mm
y
19 , 21
1
=
523
2
=
y
mm
y
87 , 22
1
=
Exerccio 1: Calcular o desvio padro de uma distncia horizontal entre dois pontos A e B, sabendo-se
que o ngulo zenital medido igual 30 84
o
Z = e a distncia inclinada igual a m d
i
1000 = . As
precises dos equipamentos usados para as medidas de ngulo e distncia so de " 10 =
z
e
ppm mm
i
d
5 10 + = , respectivamente.
Clculo das precises:
A preciso angular em segundos deve ser transformada para radianos para execuo dos clculos:
rd 14 0,00004848 " 1 10 " 10 = = =
z z
sen
A preciso da distncia inclinada:
64
mm km ppm mm
i i
d d
15 1 5 10 5 10 = + = + =
Equao de clculo da distncia horizontal ) (
h
d em funo do ngulo horizontal e )
( Z e da distncia
inclinada ) (
i
d .
)
(Z sen d d
i h
=
Aplicando a lei da propagao dos erros, temos:
2
2
2
2
2
) (
) ( ) (
Z
h
d
i
h
d
Z
d
d
d
i h

=
Clculo das derivadas parciais:
)
(Z sen
d
d
i
h
=
cos(
Z d
Z
d
i
h
=
, ento:
( )
2
2 2 2
2
2
) ( ) 30 84 (cos ) 1000 ( ) ( 30 84 ) (
Z
o
d
o
d
i h
sen + =
( )
2 2 2 2 2 2
) 14 0,00004848 ( ) 3 0,09584575 ( ) 1000 ( ) 015 , 0 ( 8 0,99539619 ) ( + =
h
d
2 0,00002159 3 0,00022293 ) (
2
+ =
h
d
2 2
m 5 0,00024452 ) ( =
h
d
mm
h
d
6 , 15 m 0,0156 ) (
2
= =
Obs: Neste exemplo, percebe-se que a maior contribuio para o erro da distncia
h
d corresponde
distncia observada
i
d (ou seja, 3 0,00022293 bem maior que 2 0,00002159 ). Portanto, se o erro
mm 6 , 15 estiver fora de um limite de tolerncia, um procedimento lgico para melhorar a preciso
escolher um equipamento de medida de distancia de melhor preciso.
Exerccio 2: A altitude de um ponto B foi obtida por meio de nivelamento trigonomtrico a partir de
um ponto A de altitude e preciso, respectivamente, iguais a m H
A
345 , 250 = e m
A
085 , 0 = .
Calcular o desvio padro da altitude B, desconsiderando os efeitos da refrao e da curvatura da Terra.
Os dados observados so os seguintes:
GEOMTI CA - CEFETES
65
m d
h
00 , 1500 = ppm mm
h
d
10 20 + =
" 25 45 86
o
Z = " 20 =
z
m i
a
45 , 1 = m
a
i
002 , 0 =
m hp 70 , 1 = m
hp
002 , 0 =
Passo: Formular a equao do nivelamento trigonomtrico (modelo matemtico):
p a h A B
h i Z g d H H + + =
cot
Passo: Expresso da propagao dos erros:
2
) (
2
2
) (
2
2
)
(
2
2
) (
2
2 2
2
) (
p h
p
h
B
H
a
i
a
i
B
H
Z
Z
B
H
h
d
h
d
B
H
A
H
H
B
H
B
H
A

Passo: Diferenciar a equao em funo de cada uma das variveis independentes

1 =
A
H
B
H
Z g
h
d
B
H
cot =

2
) (
Z sen
h
d
Z
B
H
=
1 =
a
i
B
H
1 =
p
h
B
H
Passo: Aplicando as derivadas na expresso da propagao dos erros, temos:
( )
( )
2
) (
2
) (
2
)
(
2
2
) (
2
cot
2
) (
2
) (
2
p h
a
i
Z
h
d
Z
HA
B
H
Z sen
d
h
+ + + + =
Passo: Substituindo os elementos:

Transformando a preciso angular do ngulo vertical para radiano temos:
rd sen
z z
27 0.00009696 81 0.00000484 20 " 1 20 " 20 = = = =
Calculando o desvio da distncia horizontal
66
mm km mm ppm mm
h i i
d d d
35 5 , 1 10 20 10 20 = + = + =
( ) ( )
( )
2
) 002 , 0 (
2
) 002 , 0 (
2
) (
2
2
) 035 , 0 (
2
17 0.05666252
2
085 , 0
2
) ( 27 0.00009696
45 0.99839853
1500
2
+ + + + =

B
H
0.000004 0.000004 2 0.02129004 30 0.00000393 0.007225

2
) ( + + + + =
B
H
2
m 0.02852
2
) ( =
B
H
mm m 0.1688 8 , 68 1 = =
B
H
B
H

Obs: Considerando os outros elementos isentos de erros, a influncia da preciso de cada elemento
particular na preciso de
B
H seria:
mm 5 8 =
B A
H H
mm 1,9 =
B
H D
mm 145,9
=
B
H Z
mm 0 , 2 = =
B p a
H h i
Exerccio 3 Dada a poligonal aberta com os pontos 0, 1 , 2, 3 da figura abaixo:
2
3
Figura 4.3 Esquema do exerccio2
GEOMTI CA - CEFETES
67
Considerando o azimute
0
Az conhecido e livre de erro. Se os ngulos
3 2 1
, , foram medidos
com preciso " 5 =
i
, definir a preciso dos

3 2 1
, , Az Az Az ?
Passo: estabelecer as equaes (modelo matemtico):
o
n
i
i i
i Az Az 180 ) 1 (
1
0
+ =

=
, ento:
1 0 1
+ = Az Az
o
Az Az 180
2 1 0 2
+ + =
o
Az Az 180 2
3 2 1 0 3
+ + + =
o
o
Az
Az
Az
Az
Az
Az
360
180
1 1 1
0 1 1
0 0 1
0
0
0
3
2
1
3
2
1
Passo: Calculo da matriz dos coeficientes A :
=
3
3
2
3
1
3
3
2
2
2
1
2
3
1
2
1
1
1

Az Az Az
Az Az Az
Az Az Az
A
=
1 1 1
0 1 1
0 0 1
A
Passo: Determinao da matriz varincia-covarincia das observaes:
=
25 0 0
0 25 0
0 0 25
ll
Passo: Aplicar a lei da propagao dos erros:
T
Az
A ll A =
68
=
1 0 0
1 1 0
1 1 1
25 0 0
0 25 0
0 0 25
1 1 1
0 1 1
0 0 1
Az
=
1 0 0
1 1 0
1 1 1
25 25 25
0 25 25
0 0 25
Az
=
75 50 25
50 50 25
25 25 25
Az
( ) " 5 25
1
2
1
= =
Az Az

( ) " 07 , 7 50
2
2
2
= =
Az Az

( ) " 7 , 8 75
3
2
3
= =
Az Az

Exerccio 4 No exerccio anterior, supondo-se o ponto 0 como origem do sistema de coordenadas e
o azimute Az
0
igual a 500000, determinar a preciso das coordenadas do vrtice 3 da poligonal.
2
3
Figura 4.4 Esquema do exerccio 4
ngulo Observaes Preciso Lados Observao
152035 5 L1 5500 m
2
2301020 5 L2 4300 m
3
1201040 5 L3 2700 m
GEOMTI CA - CEFETES
69
Observao: As distncias foram medidas com um medidor de distncia eletrnica de preciso 5 mm +
10 ppm.
No clculo da poligonal as variveis so os azimutes e as distncias. Assim fazemos a MVC dos
azimutes a partir dos ngulos observados. Neste caso seguimos o modelo do exerccio anterior.
o
n
i
i i
i Az Az 180 ) 1 (
1
0
+ =

=

" 35 20 65
1 0 1
= + = Az Az
" 55 30 115 180
2 1 0 2
= + + =
o
Az Az
" 35 41 55 180 2
3 2 1 0 3
= + + + =
o
Az Az
o
o
Az
Az
Az
Az
Az
Az
360
180
1 1 1
0 1 1
0 0 1
0
0
0
3
2
1
3
2
1
Utilizando a equao propagao de erro

T
Az
A A = , e transformando a matriz
varincia-covarincia dos azimutes de segundos para radianos atravs da multiplicao por
2
) " 1 (sen .
Esta transformao necessria para uniformizar as unidades em metros.
2 2 2
) (
75 50 25
50 50 25
25 25 25
) " 1 ( ) ("
75 50 25
50 50 25
25 25 25
rd sen
Az
=
Clculo das coordenadas do vrtice 3
i
i
i
Az sen L x .
3
1
3

=
=
Az L y
i
i
cos .
3
1
3

=
=
3 2 2 2 1 1 3
Az sen L Az sen L Az sen L x + + =
3 3 2 2 1 1 3
cos cos cos Az L Az L Az L y + + =
Clculo das precises das distncias:
70
mm km mm ppm mm
l l l
60 5 , 5 10 5 10 5
1 1 1
= + = + =
mm km mm ppm mm
l l l
48 3 , 4 10 5 10 5
2 2 2
= + = + =
mm km mm ppm mm
l l l
32 7 , 2 10 5 10 5
2 3 3
= + = + =
A matriz varincia-covarincia (MVC) das distncias observadas :
2 6
1024 0 0
0 2304 0
0 0 3600
10 m
l l
=

A MVC das distncias e azimutes ser a matriz
laz
, que ter dimenso 6x6:
=
az
ll
laz
0
0

=
2 2 2
2 2 2
2 2 2
) " 1 ( 75 ) " 1 ( 50 ) " 1 ( 25 0 0 0
) " 1 ( 50 ) " 1 ( 50 ) " 1 ( 25 0 0 0
) " 1 ( 25 ) " 1 ( 25 ) " 1 ( 25 0 0 0
0 0 0 001024 , 0 0 0
0 0 0 0 002304 , 0 0
0 0 0 0 0 0036 , 0
sen sen sen
sen sen sen
sen sen sen
laz
9 9 10
9 9 10
10 10 10
3
3
3
10 764 , 1 10 176 , 1 10 881 , 5 0 0 0
10 176 , 1 10 176 , 1 10 881 , 5 0 0 0
10 881 , 5 10 881 , 5 10 881 , 5 0 0 0
0 0 0 10 024 , 1 0 0
0 0 0 0 10 304 , 2 0
0 0 0 0 0 10 6 , 3
laz
A matriz varincia-covarincia da coordenadas do vrtice 3:
T
laz x3y3
A A =
GEOMTI CA - CEFETES
71
=
3
3
2
3
1
3
3
3
2
3
1
3
3
3
2
3
1
3
3
3
2
3
1
3
Az
y
Az
y
Az
y
L
y
L
y
L
y
Az
x
Az
x
Az
x
L
x
L
x
L
x
A
Fazendo-se as derivaes do modelo matemtico (equaes das coordenadas)

3 3 2 2 1 1 3
Az sen L Az sen L Az sen L x + + =
3 3 2 2 1 1 3
cos cos cos Az L Az L Az L y + + =
1
1
3
Az sen
L
x
=

2
2
3
Az sen
L
x
=

3
3
3
Az sen
L
x
=
1 1
1
3
cos Az L
Az
x
=

2 2
2
3
cos Az L
Az
x
=

3 3
3
3
cos Az L
Az
x
=
1
1
3
cos Az
L
y
=

2
2
3
cos Az
L
y
=

3
3
3
cos Az
L
y
=
1 1
1
3
Az sen L
Az
x
=

2 2
2
3
Az sen L
Az
x
=

3 3
3
3
Az sen L
Az
x
=
Subs t i t ui ndo os va l or e s da s de r i va da s , obt e mos a ma t r i z A:

=
3 cos cos cos
cos cos cos
3 2 2 1 1 3 2 1
3 3 2 2 1 1 3 2 1
Az sen L Az sen L Az sen L Az Az Az
Az L Az L Az L Az sen Az sen Az sen
A
=
2230.281 - 3880.623 - 4998.521 - 0.56362 - 0.43075 - 0.41718
1521.791 1852.233 - 2294.513 0.82603 0.90247 0.90882
A
T
laz x3y3
A A =
2
0.0988 0.0126 -
0.0126 - 0.0092
m
=
x3y3
2 2
3
2 2
3
0.0988 0.0092 m m
y x
= =
72
mm
x
1 , 6 9
3
=
mm
y
3 , 14 3
3
=
e covarincia
x3y3
= 0.0126 - m
2
GEOMTI CA - CEFETES
73
Captulo 5 - Ajustamento pelo Mtodo Paramtrico
5.1 Introduo
No ajustamento de observaes denominam-se parmetros (ou observaes indiretas) as grandezas
que no so obtidas diretamente, ou seja, aquelas que so calculadas em funo de grandezas medidas
diretamente. Exemplos tpicos de parmetros so: coordenadas, altitudes, reas, etc.
O mtodo dos mnimos quadrados estima o valor dos parmetros, usando o mtodo de ajustamento
paramtrico ou mtodo das equaes de observaes. A aplicao deste mtodo exige a formulao
das equaes de observaes que correspondem aos modelos matemticos que relacionam os
parmetros e as observaes.
Aps o processamento do ajustamento, so obtidos os valores dos parmetros e das observaes
ajustadas.
O mtodo paramtrico tem grande aplicao no tratamento de dados corriqueiros da engenharia de
posio, como o caso do nivelamento, poligonao, triangulaes, trilateraes, ou ainda,
combinando-se mais de um dos mtodos de obteno de coordenadas.
5.2 Modelo Matemtico do Mtodo Paramtrico
O modelo matemtico bsico para o ajustamento paramtrico baseia-se na formulao das equaes de
observao. Para cada observao formula-se ao menos uma equao. Considerando-se que se tenha n
observaes e u parmetros, ento obtm-se um conjunto de n equaes com u parmetros com a
seguinte representao matricial:
) (X F L
a a
= (5.1)
onde:
a
L : vetor (n x 1) de observaes ajustadas;
a
X : vetor (u x 1) de parmetros desconhecidos ajustados;
) (X F
a
: funo representativa do modelo matemtico que relaciona as observaes ajustadas
com os parmetros ajustados.
Ca p t ul o 5: Aj us t a me nt o pe l o M t odo Pa r a m t r i c o
74
O modelo matemtico expressa explicitamente as relaes entre as observaes e os parmetros
ajustados.
O objetivo primordial do mtodo paramtrico estimar os parmetros desconhecidos que compem o
vetor X. Como veremos adiante, o vetor X composto por valores das correes dos parmetros
aproximados X
o
. Uma vez estimado os valores das correes x, os parmetros ajustados so obtidos
por:
X X X
o a
+ = (5.2)
Em que:
o
X : vetor (u x 1) dos valores aproximados dos parmetros desconhecidos;
X: vetor (u x 1) das correes dos parmetros aproximados (
o
X ).
Atravs do ajustamento pelo mtodo dos mnimos quadrados, podemos obter as observaes
ajustadas:
V L L
b a
+ = (5.3)
onde:
b
L : vetor (n x 1) das observaes brutas;
V: vetor (n x 1) dos resduos (ou correes).
Substituindo a Eq. (6.1) na Eq. (5.3), temos:
( ) V L X F
b a
+ = (5.4)
X
X
F
) (X F X) (X F V L ) (X F
X X
o o b

+ = + = + =
=
o
a
a
a
(5.5)
Substituindo alguns elementos da Eq. (5.5):
) X ( F L
o o
= (5.6)
onde:
GEOMTI CA - CEFETES
75
o
L : vetor (n x 1) das observaes aproximadas obtidas da aplicao das funes F aos valores
aproximados dos parmetros
o
X .
Chamando de A a matriz (n x u) das derivadas parciais da funo F. A matriz A calculada
aplicando os valores aproximados dos parmetros,
o
X , nas derivadas parciais:
X
X
F
A
X X
=
=
o
a
a
(5.7)
Assim, a Eq. (5.5) pode ser reescrita como:
o b
L X A V L + = + (5.8)
o b
L L X A V + = (5.9)
E, finalmente, fazendo:
o b
L L L = (5.10)
Obtm-se o modelo linearizado das equaes das observaes para o mtodo dos parmetros:
1 1 1
L X A V
n u u n n
= (5.11)
Esta ltima equao sintetiza matricialmente as n equaes de observaes, sob a forma dos resduos.
5.2.1 Equao Normal
Aplicando o princpio do mtodo dos mnimos quadrados na equao matricial dos resduos obtm-se,
sucessivamente:
) ( ) ( L X A P L A X V P V
T T T T
= (5.1)
L P L X A P L L P A X X A P A X V P V
T T T T T T T
+ = (5.2)
X A P L L P A X
T T T
= (5.3)
76
Obs.: Os dois termos da Eq. (5.14) so escalares, portanto eles so iguais.
L P L L P A X X A P A X V P V
T T T T T T
+ = 2 (5.4)
Derivando a Eq. (5.15), em funo de X e igualando a zero, obtemos:
0 L P A . 2 X A P A 2
X
V P V
T T
T
= =
) (
.
0 = L P A A P A
T T
(5.5)
Fazendo-se:
A P A N
T
= e L P A n
T
= .
Obtemos:
n N X n X N
1
= =

(5.6)
O termo da Eq. (5.17),
1
N (inversa da matriz dos coeficientes dos parmetros desconhecidos da
equao normal), igual matriz co-fator dos parmetros (
xx
Q ) que multiplicada pela varincia a
posteriori, resulta na matriz varincia-covarincia dos parmetros ajustados (
xx
).
5.3 Varincia
5.3.1 Matriz de Peso
As observaes podem ser consideradas como uma amostra de uma populao cujos parmetros,
mdia e varincia
2
, podem ser estimados pelas estatsticas amostrais, e
2
, que
representam, respectivamente, a mdia da amostra e o indicativo de preciso das observaes. Esse
indicativo de preciso, denominado varincia, muito importante para a anlise da qualidade do
ajustamento.
GEOMTI CA - CEFETES
77
Normalmente, as observaes no oferecem o mesmo grau de confiana, entretanto, pode-se
homogeneiz-las, atribuindo-lhe pesos, tanto maior quanto maior for a confiana nas observaes.
Os valores dos pesos so inversamente proporcionais aos valores das varincias
2
ll
.
Designando por
ll
a matriz simtrica varincia-covarincia (estimada) do vetor observaes; e por
2
o
um fator de escala, valor adimensional numericamente igual varincia da observao a qual se
atribuiu peso unitrio (varincia a priori), ento dividindo
ll
por
2
o
obtm-se uma nova
matriz simtrica, denominada matriz dos coeficientes do peso (ou matriz dos co-fatores das
observaes):
ll
o
ll
=
2
1
Q (5.1)
A matriz dos pesos obtida pela inverso da matriz
ll
Q .
P Q = =
1 2 1
l l o ll
(5.2)
A matriz peso uma matriz quadrada e simtrica. Para observaes independentes (observaes no
correlacionadas), essa matriz diagonal.
5.3.2 Varincia a a priori
A varincia da unidade de peso a priori
2
o
arbitrada, mas a relao mostrada pela Eq. (5.19) deve
ser observada. Na maioria das vezes, a unidade escolhida com valor da varincia a priori, nesses
casos, a matriz peso igual a matriz inversa da varincia-covarincia das observaes (
1
l l
).
5.3.3 Varincia a Posteriori
Aps o ajustamento pode-se estimar o valor de
2
o
em funo dos resduos. A esse valor escalar
2
o
denomina-se varincia da unidade de peso a posteriori (sigma zero a posteriori). O valor da

varincia a posteriori pode ser estimado pela Eq. (5.20):

r
V P V
T
2
o
= (5.1)
onde:
78
r : nmero de graus de liberdade obtido pela diferena entre n (nmero de observaes) e u
(nmero de parmetros)
O valor da varincia a posteriori calculado com a Eq. (5.20) deve ser estatisticamente igual ao valor
da varincia a priori.
5.4 Rotina para Aplicao do Mtodo Paramtrico
Com a finalidade de facilitar a aplicao do mtodo paramtrico devemos seguir os seguintes passos:
5. Estudar o problema e formular as equaes matemticas para cada uma das observaes, e
organiz-las na forma: ) (X F L
a a
= .
6. Obter o vetor dos valores aproximados dos parmetros desconhecidos ) (X
o
.
7. Encontrar a matriz dos pesos
1 2
=
l l o
P
8. Calcular o vetor das observaes aproximadas ) (X F L
o o
= .
9. Calcular o vetor das diferenas entre as observaes brutas e as observaes aproximadas.
10. Encontrar a matriz A.
11. Resolver o sistema de equaes normais 0 = L P A X A P A
T T
12. Encontrar os parmetros ajustados X X X
o a
+ =
13. Encontrar os resduos L X A V =
14. Calcular a matriz varincia-covarincia dos parmetros estimados (preciso dos parmetros
estimados)
xx o o xx
Q N = =
2 1 2

15. Encontrar as observaes ajustadas V L L
b a
+ = .
5.5 Exerccios
Exerccio 1 A Figura que se segue refere-se um nivelamento geomtrico que partiu da referncia de
nvel A, de altitude igual a 656,260 m; as setas indicam o sentido em que o terreno se eleva.
GEOMTI CA - CEFETES
79
Estimar, pelo mtodo paramtrico, as altitudes das estaes I, II e III, com as correspondentes
precises.
Soluo:
1. Analisando o problema verificamos que os parmetros desconhecidos so as 3 altitudes incgnitas.
Aps o ajustamento chegaremos ao seguinte vetor de parmetros ajustados:
=
3
2
1
H
H
H
a
X
Figura 5.1 Rede de Nivelamento
Vetor das observaes brutas:
=
5,77
11,88
1,02
6,15
12,78
6,67
b
L
Resolvendo o problema obedecendo seqncia de passos sugerida anteriormente, temos:
2. Elaborao das equaes de observaes envolvendo os parmetros, na forma algbrica e
matricial.
80
III I
III II
A III
I II
A II
A I
H H dn
H H dn
H H dn
H H dn
H H dn
H H dn
=
=
=
=
=
=
6
5
4
3
2
1

III
II
I
A
6
5
4
3
2
1
H
H
H
H
1 0 1 0
1 1 0 0
1 0 0 1
0 1 1 0
0 1 0 1
0 0 1 1
dn
dn
dn
dn
dn
dn
3. Os parmetros aproximados
o
X

+
+
+
=
280 , 657
040 , 669
930 , 662
dn H
dn H
dn H
4 A
2 A
1 A
o
X
4. No nivelamento, o peso pode ser considerado como o inverso do comprimento das de cada seo
nivelada. No exemplo, temos 6 sees, portanto, a uma matriz peso ser quadrada (6 x 6) com
elementos diferentes de zero apenas na diagonal principal(sees independentes).

=
1/4 0 0 0 0 0
0 1/2 0 0 0 0
0 0 1/4 0 0 0
0 0 0 1/2 0 0
0 0 0 0 1/2 0
0 0 0 0 0 1/4
P
5. Estimativa da varincia a priori
2
o
. A varincia a priori relaciona-se com a matriz varincia-
covarincia e o peso atravs da expresso -
1 2
o ll
P

= , ento:
Adotando-se 0004 , 0 =
2
o
, a matriz-varincia ser:
ll
0.00160
0.00000
0.00000
0.00000
0.00000
0.00000
0.00000
0.00080
0.00000
0.00000
0.00000
0.00000
0.00000
0.00000
0.00080
0.00000
0.00000
0.00000
0.00000
0.00000
0.00000
0.00160
0.00000
0.00000
0.00000
0.00000
0.00000
0.00000
0.00080
0.00000
0.00000
0.00000
0.00000
0.00000
0.00000
0.00160
=
Isso significa que os desvios padres das observaes so:
GEOMTI CA - CEFETES
81
mm
40
28
40
28
28
40
6
5
4
3
2
1
dn
dn
dn
dn
dn
dn
6. O vetor de observaes aproximadas, calculadas em funo dos parmetros aproximados

( )
o o
X F L =

= =
5,65
11,76
1,02
6,11
12,78
6,67
) F(X L
o o
7. Vetor das diferenas entre as observaes brutas e as observaes aproximadas:

+
+
+
=
= =
12 , 0
12 , 0
00 , 0
04 , 0
00 , 0
00 , 0
65 , 5
76 , 11
02 , 1
11 , 6
78 , 12
67 , 6
77 , 5
88 , 11
02 , 1
15 , 6
78 , 12
67 , 6
L Lo Lb L
8. As seis equaes das observaes so lineares e relacionadas a trs parmetros (desconhecidos).
Assim, a matriz resultante A ser (6 x 3). Da equao original (1 passo) foi retirado o parmetro
A (conhecido) e a primeira coluna referente a este parmetro
=
1 0 1
1 1 0
1 0 0
0 1 1
0 1 0
0 0 1
A
III
II
I
A
6
5
4
3
2
1
H
H
H
H
1 0 1 0
1 1 0 0
1 0 0 1
0 1 1 0
0 1 0 1
0 0 1 1
dn
dn
dn
dn
dn
dn
9. Efetuar as multiplicaes de matrizes para resolver o sistema de equaes normais.
82
L P A ) A P A ( X
T 1 T
= (equao soluo dos parmetros)

=
25 , 0 5 , 0 25 , 0 0 0 0
0 5 , 0 0 5 , 0 5 , 0 0
25 , 0 0 0 5 , 0 0 25 , 0
P A
T

=
1 5 , 0 25 , 0
5 , 0 5 , 1 5 , 0
25 , 0 5 , 0 1
A P A
T
( )
6 , 1 8 , 0 8 , 0
8 , 0 2 , 1 8 , 0
8 , 0 8 , 0 6 , 1
1
T
A P A
+
+
=
090 , 0
080 , 0
010 , 0
L P A
T
( )
+
+
= =

072 , 0
032 , 0
008 , 0
PL A PA) (A X
T 1 T
Parmetros ajustados

+
+
+
= + =
072 , 0
032 , 0
008 , 0
280 , 657
040 , 669
930 , 662
X Xo Xa
=
208 , 657
072 , 669
938 , 662
a
X
10. Vetor dos resduos do ajustamento:

=
080 , 0
104 , 0
072 , 0
024 , 0
032 , 0
008 , 0
AX
+
+
+
=
12 , 0
12 , 0
00 , 0
04 , 0
00 , 0
00 , 0
L
GEOMTI CA - CEFETES
83

+
+
+
= =
040 , 0
016 , 0
072 , 0
016 , 0
032 , 0
008 , 0
12 , 0
12 , 0
00 , 0
04 , 0
00 , 0
00 , 0
080 , 0
104 , 0
072 , 0
024 , 0
032 , 0
008 , 0
V L AX V
11. Matriz varincia covarincia dos parmetros
Sigma zero a posteriori
m n
PV V
T
2
o
=
0008 , 0
3 6
0025 , 0
2
=
=
o
MVC dos parmetros ajustados

1 2

= N
o xx

12. Comparao da varincia a priori com a varincia a posteriori
A varincia a priori foi adotada como 0004 , 0
2
=
o
e a varincia a posteriori foi calculada
0008 , 0
2
=
o
Hiptese bsica:
2 2
:
o o o
H =
Hiptese alternativa:
2 2
:
o o a
H
Estatstica qui-quadrado (
2
) calculada:
2 , 6
0004 , 0
3 0008 , 0
2
2
2
=
=
o
o
r
Qui-quadrado terico (
2
) com % 5 = (analisando as duas caudas da curva de distribuio qui-
quadrado)
975 , 0
2
1
1 ; 025 , 0
2
1
=
=
84
Entrando na tabela de distribuio qui-quadrado (Tabela 5.1) em funo do nmero de redundncia e a
probabilidade, achamos os valores crticos para o nvel de significncia 5%.
35 , 9 ; 22 , 0
975 , 0 ; 3
2
025 , 0 ; 3
2
= =
Como a estatstica calculada ( 2 , 6
2
= ) est entre os valores crticos, a hiptese bsica no
rejeitada.
= =

6 , 1 8 , 0 8 , 0
8 , 0 2 , 1 8 , 0
8 , 0 8 , 0 6 , 1
0008 , 0
1 2
o xx
N
=
0013 , 0 0006 , 0 0006 , 0
0006 , 0 001 , 0 0006 , 0
0006 , 0 0006 , 0 0013 , 0
xx
Os valores encontrados no passo 8 agora podem ter sua qualidade avaliada, dessa forma as altitudes
calculadas tm as seguintes precises:
m III Alt
m II Alt
m I Alt
036 , 0 208 , 657
031 , 0 072 , 669
036 , 0 938 , 662
=
=
=

=
208 , 657
072 , 669
938 , 662
a
X
13. Observaes ajustadas:
= + =
73 , 5
864 , 11
948 , 0
134 , 6
812 , 12
678 , 6
040 , 0
016 , 0
072 , 0
016 , 0
032 , 0
008 , 0
5,77
11,88
1,02
6,15
12,78
6,67
La V Lb L
a
Preciso das observaes ajustadas:
T 1
LL
A N A Q =

GEOMTI CA - CEFETES
85
QLL
1.6
0.8
0.8
0.8
0
0.8
0.8
1.2
0.4
0.8
0.4
0
0.8
0.4
1.2
0
0.4
0.8
0.8
0.8
0
1.6
0.8
0.8
0
0.4
0.4
0.8
1.2
0.8
0.8
0
0.8
0.8
0.8
1.6
=
LL
2
o LL
Q =
LL
0.0013
0.0007
0.0007
0.0007
0.0000
0.0007
0.0007
0.0010
0.0003
0.0007
0.0003
0.0000
0.0007
0.0003
0.0010
0.0000
0.0003
0.0007
0.0007
0.0007
0.0000
0.0013
0.0007
0.0007
0.0000
0.0003
0.0003
0.0007
0.0010
0.0007
0.0007
0.0000
0.0007
0.0007
0.0007
0.0013
=
036 , 0 73 , 5
031 , 0 864 , 11
036 , 0 948 , 0
031 , 0 134 , 6
0,031 812 , 12
0.036 678 , 6
3
3
3
3
2
1
=
=
=
=
=
=
a
a
a
a
a
a
L
L
L
L
L
L
Exerccio 2 So conhecidas as coordenadas dos vrtices P
1
, P
2
, P
3
, P
4
,

dos quais foram observadas
as distncias a uma estao desconhecida P
A
, bem como o ngulo P
1
P P
2
. A Figura 5.2 mostra o
esquema da medio. A tabela inferior esquerda da figura apresenta as coordenadas dos pontos
conhecidos, enquanto a tabela da direita mostra as observaes com os respectivos erros mdios
quadrticos (desvio padro). Calcular as coordenadas ajustadas da estao P
A
, bem como suas
precises (GEMAEL, 1994).
Figura 5.2 Esquema do exerccio 2
86
PONTOS X (m) Y (m) Observaes Distncia (m) Desvio (m)
P1 842,281 925,523 l
1
244,512 0,012
P2 1337,544 996,249 l
2
321,570 0,016
P3 1831,727 723,962 l
3
773,154 0,036
P4 840,408 658,345 l
4
279,992 0,014
ngulo
l
5
123
o
3801,4 2,0
Modelo Matemtico
Designando por
T
, ) ( X
a a a
y x = , o vetor coordenadas ajustadas e por
ai
l , os valores observados
ajustados, podemos escrever:
( ) ( ) [ ]
2
1
2 2
bi ai
l l
a i a i i
y y x x v + = + = ; ) 4 , 3 , 2 , 1 ( = i .
( ) ( )
= + =
a
a
a
a
y y
x x
tg arc
y y
x x
tg arc v
1
1
2
2
5 b5 a5
l l
.
Equaes que satisfazem o modelo matemtico que caracteriza o mtodo paramtrico: ) (X F L
a a
=
Obter o vetor dos valores aproximados dos parmetros desconhecidos ) (X
o
.
l5
l
1
D
2
=
3
2
1
,
5
7
0
P2
P1
PA
A
z

=
1
1
4
1
3
4
2
D = 500,287
3
2
2
1
1
9

AZ = 815222
Aplicando alei dos senos:
( ) ( )
19 21 32
287 , 500
1
5
2
1
= = P
l sen
d
P sen
GEOMTI CA - CEFETES
87
Clculo do azimute de P
1
para P
A
42 13 114 19 21 32 22 52 81
1 1
= + =
PA P PA P
AZ AZ
Clculo das coordenadas provisrias P
A
m X Sen X
o o
PA PA
25 . 1065 ) 42 13 114 ( 512 , 244 281 , 842 = + =
m Y Cos Y
o o
PA PA
18 , 825 ) 42 13 114 ( 512 , 244 523 , 925 = + =
Assim:
=
18 , 825
25 , 1065
o
X
Encontrar a matriz dos pesos
1 2
=
l l o
P
Considerando as observaes independentes entre si, a matriz varincia-covarincia se reduz a uma
matriz diagonal cuja inversa se obtm tomando na diagonal principal o inverso da varincia de cada
observao, fazendo ainda 1
2
=
o
:
2
2
2
2
2
2 0 0 0 0
0 014 , 0 0 0 0
0 0 038 , 0 0 0
0 0 0 016 , 0 0
0 0 0 0 012 , 0
P .
Calcular o vetor das observaes aproximadas ) (X F L
o o
= .
=
18 , 825
25 , 1065
o
X .
( ) ( ) [ ] ( ) 4 , 3 , 2 , 1 ;
2
1
2 2
= + + + = i y y x x l
o i o i oi
.
( ) ( ) [ ] m l l
o o
453 , 244 2 , 825 523 , 925 2 , 1065 281 , 842
1
2 2
1
2
1
= + + + = .
88
( ) ( ) [ ] m l l
o o
603 , 321 2 , 825 249 , 996 2 , 1065 544 , 1337
2
2 2
2
2
1
= + + + = .
( ) ( ) [ ] m l l
o o
183 , 773 2 , 825 962 , 723 2 , 1065 727 , 1831
3
2 2
3
2
1
= + + + = .
( ) ( ) [ ] m l l
o o
950 , 279 2 , 825 345 , 658 2 , 1065 408 , 840
4
2 2
4
2
1
= + + + = .
( ) ( )
=
0 1
0 1
0 2
0 2
o5
l
y y
x x
tg arc
y y
x x
tg arc
.
( ) ( )
=
2 , 825 523 , 925
2 , 1065 281 , 842
2 , 825 249 , 996
2 , 1065 544 , 1337
l
o5
tg arc tg arc .
87 , 19 38 123 638853 , 123 l
o5
= = .
Por fim, temos o vetor das observaes aproximadas:
=
87 , 19 38 123
950 , 279
183 , 773
603 , 321
453 , 244
L
o
.
Calcular o vetor das diferenas entre as observaes brutas e as observaes aproximadas.
= =
87 , 19 38 123
950 , 279
183 , 773
603 , 321
453 , 244
40 , 01 38 123
992 , 279
154 , 773
570 , 321
512 , 244
L
o b
L L
=
87 , 18
041 , 0
030 , 0
034 , 0
058 , 0
L .
.
Modelo Linearizado
A funo representativa do modelo matemtico no linear, ento o modelo deve ser linearizado para
encontrarmos a Matriz A.
GEOMTI CA - CEFETES
89
Conforme equaes Eq. (6.13) e Eq. (6.14), temos:
=
=
ya
l
xa
l
ya
l
xa
l
ya
l
xa
l
ya
l
xa
l
ya
l
xa
l
a a
a a
a a
a a
a a
a
a
5 5
4 4
3 3
2 2
1 1
o
X X
X
F
A , ) 4 , 3 , 2 , 1 (
a i
a i ia
a i
a i ia
l
y y
ya
l
i
l
x x
xa
l
.
Conforme equaes Eq. (6.3) e Eq. (6.4), temos:
( )
( )
( )
( )
2
1
1
2
2
2 5
a
a
a
a
a
a
l
y y
l
y y
x
l
+
,
( )
( )
( )
( )
2
1
1
2
2
2 5
a
a
a
a
a
a
l
x x
l
x x
y
l
.
No ponto Xa = Xo e Ya = Yo:
911907 , 0
453 , 244
2 , 1065 281 , 842
1
1 1
o
=
= o
o
a
a
l
x x
xa
l
X X
.
410397 , 0
453 , 244
2 , 825 523 , 925
1
1 1
o
=
= o
o
y ya
a
l
y y
ya
l
.
Analogamente;
( ) 846831 , 0
2
=
xo xa
l
a
( ) 531862 , 0
2
=
xo
ya
l
a
.
( ) 991391 , 0
3
=
xo xa
l
a
( ) 130937 , 0
3
=
xo
ya
l
a
.
( ) 802972 , 0
4
=
xo xa
l
a
( ) 596017 , 0
4
=
xo
ya
l
a
.
( ) ( )
2 2
5
512 , 244
2 , 825 523 , 925
603 , 321
2 , 825 249 , 996
o
=X Xa
a
xa
l
.
90
163394 , 5 0000250 , 0
o
5
= =
=
rad
xa
l
a
a
X X
.
( ) ( )
2 2
5
512 , 244
2 , 1065 281 , 842
603 , 321
2 , 1065 544 , 1337
o
=X Xa
a
ya
l
.
7 1312.57378 0.00636354
o
5
= =
=
rad
ya
l
a
a
X X
.
Resulta:

=
573787 , 1312 163394 , 5
596017 , 0 802972 , 0
130937 , 0 991391 , 0
531862 , 0 846831 , 0
410397 , 0 911907 , 0
A .
Resolver o sistema de equaes normais 0 = L P A X A P A
T T
= =
5411 , 434811 0430 , 3208
0430 , 3208 0196 , 12533
A P A N
T
.
( )

= =

5411 , 434811 0430 , 3208

0430 , 3208 0196 , 12533
1
1
A P A N
T

= =
984978 , 6031
61871 , 649
L U P A
T
( )

= =

014281 , 0
055400 , 0
PL A PA) (A X
T 1 T
.
Parmetros ajustados

= + =
014281 , 0
05540 , 0
2 , 825
2 , 1065
X Xo Xa
=
1867 , 825
2554 , 1065
a
X
Vetor dos resduos do ajustamento:
GEOMTI CA - CEFETES
91

= =
87 , 18
041 , 0
030 , 0
034 , 0
058 , 0
4589 , 18
3597 , 0
05680 , 0
03932 , 0
05638 , 0
L AX V
=
0112 , 0
00597 , 0
02727 , 0
0055 , 0
0019 , 0
V .
Varincia a posteriori
281 , 0
2 5
8436 , 0
2 2
=
=
o o
u n

V P V
T
Matriz varincia-covarincia dos parmetros:

1 2
0 X
N

= =
X XA
2
00000230 , 0 00000059 , 0
00000059 , 0 00007981 , 0
m
XA

=
m
xa
009 , 0 = m
ya
002 , 0 =
2
00000059 , 0 m
ya xa
=
0044 , 0 =
ya xa
Observaes ajustadas

= + =
0112 , 0
00597 , 0
02727 , 0
0055 , 0
0019 , 0
40 , 01 38 123
992 , 279
154 , 773
570 , 321
512 , 244
V Lb La

=
39 , 01 38 123
986 , 279
127 , 773
564 , 321
510 , 244
La
Comparao da varincia a priori com a varincia a posteriori
92
A varincia a priori foi adotada como 1
2
=
o
e a varincia a posteriori foi calculada
281 , 0
2
=
o
Hiptese bsica:
2 2
:
o o o
H =
Hiptese bsica:
2 2
:
o o a
H
Estatstica qui-quadrado (
2
) calculada:
84 , 0
1
3 28 , 0
2
2
2
=
=
o
o
r
Qui-quadrado terico (
2
) com % 5 = (analisando as duas caudas da curva de distribuio qui-
quadrado)
975 , 0
2
1
1 ; 025 , 0
2
1
=
=
Entrando na tabela de distribuio qui-quadrado em funo do nmero de redundncia e a
probabilidade, achamos os valores crticos para o nvel de significncia 5%.
348 , 9 ; 216 , 0
975 , 0 ; 3
2
025 , 0 ; 3
2
= =
Como a estatstica calculada ( 84 , 0
2
= ) est entre os valores crticos a hiptese bsica no
rejeitada
GEOMTI CA - CEFETES
93
Captulo 6 - Qualidade do Ajustamento
O controle de qualidade de ajustamento dispe de mecanismo de teste estatstico para detectar e
remover possveis erros grosseiros e, alm disso, avaliar os efeitos dos erros grosseiros no detectveis
nos parmetros desconhecidos. A eficincia desses testes depender da controlabilidade (nmero de
redundncia) das observaes, ou seja, quanto mais controlveis forem as observaes, maior ser a
probabilidade de se detectar falhas atravs dos testes estatsticos. Esse controle sobre as observaes
expressa a confiabilidade do ajustamento.
6.1 Teste de Hipteses
Testes hipteses consistem em ferramentas estatsticas amplamente usadas por engenheiros e cientistas
em combinao com o mtodo dos mnimos de quadrados. Esses testes so freqentemente usados
para comparar resultados experimentais com determinado padro. Nestes testes busca-se avaliar,
atravs de certas estatsticas amostrais (mdia e desvio padro), a consistncia da suposio de que
uma certa amostra foi realmente extrada de uma populao com determinada funo de distribuio.
As suposies (hipteses) estatsticas formalizam-se atravs de sentenas (explcita ou implcita) sobre
a probabilidade de distribuio de uma determinada varivel estocstica. Assim, os testes de hipteses
so procedimentos que conduzem a uma deciso acerca de suposies (com base em uma amostra).
Por exemplo, a deteco dos erros grosseiros feita atravs da formulao de hipteses estatsticas
sobre existncia ou no de erros grosseiros nas observaes de determinado ajustamento.
No ajustamento, o modelo matemtico e modelo estocstico so baseados em um conjunto de
suposies que correspondem s hipteses estatsticas. Neste caso, testes estatsticos so usados para
verificar a validade dessas hipteses. Por exemplo, os pressupostos bsicos dos modelos matemticos
e estatsticos dos ajustamentos de observaes geodsicas ou topogricas so:
Inexistncia de erros grosseiros nas observaes;
O modelo matemtico fornece uma descrio correta das relaes entre as observaes e os
parmetros desconhecidos;
O modelo estocstico escolhido para as observaes descreve corretamente as propriedades
estocsticas das observaes.
A deciso de um teste de hiptese implica a no rejeio ou a rejeio da hiptese nula, que
correspondem a quatro casos possveis, mostrados na Figura 6.1:
Ca p t ul o 6: Qua l i d a de do Aj us t a me nt o
94
no rejeio de uma hiptese realmente verdadeira;
rejeio de uma hiptese realmente verdadeira erro tipo I;
rejeio de uma hiptese realmente falsa;
no rejeio de uma hiptese realmente falsa erro tipo II.
O erro indicado na letra (b) conhecido como erro do tipo I (ou erro alfa - ). A probabilidade
mxima admitida de se correr o risco de um erro tipo I conhecida como nvel de significncia. Em
outras palavras, nvel de significncia probabilidade de se rejeitar uma hiptese H
0
verdadeira:
) ( verdadeira H H rejeitar P
o o
= .
O nvel de significncia geralmente fixado a priori, e os valores usuais em Geodsia so
%) 5 ( 05 , 0 = ou %) 10 ( 1 , 0 = .
O erro indicado na letra (d) conhecido como erro do Tipo II (ou erro beta - ). A probabilidade de se
incorrer em um erro desse tipo expressa por:
) ( falsa H H aceitar P
o o
= .
Chama-se potncia do teste probabilidade de rejeitar a hiptese nula quando a hiptese alternativa
verdadeira, ou seja, tomar a deciso correta de rejeitar observao com erros grosseiros. A importncia
da potncia do teste sua capacidade de revelar a falsidade de H
0
quando a hiptese alternativa H
a
verdadeira.
) ( 1 falsa H H rejeitar P
o o
= .
importante ressaltar que as observaes obtidas na Mensurao so consideradas amostras extradas
de uma populao, por isso a razo de test-las por meio de testes de hipteses, a fim de concluir sobre
sua aceitao ou no. Os dados de amostras que resultem em valores discordantes da hiptese nula
devem ser testados para verificar: se a discordncia significativa (no aleatria), o que implicaria sua
rejeio, ou se essa discordncia pode ser simplesmente atribuda ao acaso, o que no invalidaria a
hiptese.
GEOMTI CA - CEFETES
95
Figura 6.1 - Quadro de decises e suas probabilidades.

O investigador deve planejar os testes de hipteses que suportaro suas decises, buscando minimizar
o risco de uma deciso incorreta. Entretanto, a Figura 6.2 ressalta uma situao paradoxal; pois a rea
hachurada da direita mostra a regio de rejeio da hiptese nula H
0
, ou seja, a probabilidade de um
erro do tipo I, j a rea hachurada da esquerda corresponde probabilidade de no rejeio de H
0
quando H
a
verdadeira; ou seja, probabilidade de se cometer um erro do tipo II. No possvel tornar
ambos os erros, e , arbitrariamente pequenos, pois a tentativa de diminuir a probabilidade de um
erro implica o aumento da probabilidade do outro.
1
1
/2
regio de rejeio de Ho
aceitao de Ha
regio de aceitao de Ho
/2
Hiptese
alternativa - Ha
Hiptese
nula - H0
regio de
rejeio de Ho
Figura 6.2 - Representao dos erros Tipo I () e Tipo II ()
6.2 Deteco Outlier e Localizao de Erro Grosseiro
A teoria do ajustamento pelo MMQ pressupe a eliminao dos erros grosseiros e os sistemticos por
algum processo anterior ao ajustamento, portanto apenas erros aleatrios deveriam perturbar os dados.
Mas como nem sempre esses pressupostos so atendidos, imprescindvel a verificao da
96
confiabilidade das observaes e do modelo matemtico. Assim, os resduos das observaes ajustadas
so submetidos a testes estatsticos que buscam detectar outliers, localizar e eliminar de erros
grosseiros. importante relembrar que os procedimentos de ps-ajustamento buscam detectar e
eliminar, somente, erros grosseiros de pequena magnitude, pois assumido que erros grosseiros de
grande magnitude j foram eliminados por procedimentos de controle anteriores ao ajustamento.
6.2.1 Outliers
A existncia de erro grosseiro eleva a amplitude dos resduos que se manifesta pelo aparecimento dos
outliers. Outlier pode ser definido como um resduo que, conforme determinado teste estatstico,
excede certo valor limite, baseado em suposies das propriedades dos parmetros estocsticos das
observaes. Assim, na maioria das vezes, os outliers correspondem a resduos causados por erros
grosseiros.
6.3 Testes de Qualidade do Ajustamento
6.3.1 Teste Global da Varincia a Posteriori
Este teste estatstico multidimensional que foi proposto por Baarda (1968) para detectar a existncia de
inconsistncias do ajustamento sempre o primeiro teste a ser aplicado aps o ajustamento. Ele ,
tambm, conhecido como teste do modelo geral, pois testa o modelo como um todo. Por ser muito
geral, esse teste no capaz de definir a natureza das inconsistncias detectadas e muito menos
localiz-las. Entretanto, uma qualidade importante deste teste a simplicidade e a capacidade de
indicar as provveis causas da falha da suposio bsica.
Este teste faz a comparao entre a varincia a priori e a varincia a posteriori. Obviamente esse
teste somente tem significado quando varincia a priori (
2
o
) conhecida, isto , quando se tem
algum conhecimento prvio sobre a preciso das observaes. J a varincia a posteriori (
2
o
)
uma estimativa imparcial da varincia a priori e obtida, aps o ajustamento das observaes, a
partir da matriz dos resduos ( V), pela Eq. (6.1):
r
V P V
T
=
2
o
(6.1)
onde:
V : Matriz dos resduos do ajustamento;
GEOMTI CA - CEFETES
97
P : Peso das observaes;
r : Grau de liberdade, obtido pela diferena entre o nmero de equaes e o nmero de
incgnitas a ser determinado.
A comparao entre a varincia a priori e a varincia a posteriori um indicador da qualidade do
ajustamento. Caso haja discrepncia entre a varincia a priori e a varincia a posteriori, aplica-se
o teste de hiptese que se baseia na distribuio qui-quadrado (
2
) para verificar a significncia da
discrepncia em relao ao nvel de confiana pr-estabelecido.
O teste de hiptese da varincia a posteriori baseia-se na estatstica definida pela expresso:

2
o
2
o
2
o
*
) (
2
r

= =
V P V
T
(6.2)
Portanto:
(r) ~
r
2
2
o
2
o

(6.3)
A esperana matemtica da distribuio qui-quadrado grau de liberdade - r , a qual somente ser
atendida se a relao entre a varincia a posteriori e a varincia a priori for igual a um. Ento,
pode-se formular a hiptese bsica a seguir:

1
:
2
o
2
o
0
=
H
(6.4)
6.3.2 Teste Bilateral
Conforme os propsitos do teste definido pela hiptese nula, podemos aplicar um teste bilateral (duas
caudas) ou unilateral (uma cauda).
As hipteses para o teste bilateral so:
2
o
2
o 0
: H = (6.1)

2
o
2
o
: H
a
(6.2)
98
Ento para o nvel de significncia , de acordo com o princpio do teste estatstico bilateral, a
hiptese nula no ser rejeitada, se:
2
2
,
2
*
r
> (6.3)
ou
2
2
1 ,
2
*

<
r
(6.4)
onde:
2
*
: Valor calculado para o teste qui-quadrado Eq. (6.2);
2
: Valor obtido da tabela de distribuio qui-quadrado.
, /2
2
, 1/2
2
=
Figura 6.1 - Regies de aceitao e rejeio do teste bilateral.
6.3.3 Teste Unilateral
Quando o teste global usado para detectar outliers temos a expectativa de que a varincia a
posteriori seja maior que a varincia a priori (
2
o
2
o
> ). Portanto, as hipteses a serem
testadas so:
2
o
2
o 0
: H = (6.1)
GEOMTI CA - CEFETES
99

2
o
2
o
: H
a
> (6.2)
Assim o teste recomendado :
r
r
2
1 ,
2
o
2
o

< ou

<
1 ; ,
2
o
2
o
F
(6.3)
onde:
1 , ,
F
r
: Teste F para os graus de liberdade do numerador igual e a r e do denominador
, e nvel de significncia 1 .
6.3.4 Anlise dos Resultados do Teste Global
Quando a hiptese zero do teste global falhar, uma anlise cuidadosa do ajustamento deve ser feita,
pois ou a matriz varincia-covarincia das observaes foi mal estimada, ou os resduos mostram-se
grandes devido a erros grosseiros ou sistemticos, ou ento, o modelo matemtico escolhido pode ser
inconsistente.
Para verificar qual das hipteses alternativas anteriores causou a falha da hiptese zero, inicia-se a
anlise pela estimativa de peso.
2
o
2
o
2
o
*

) (
2
r
ll
V V V P V
1 T
T

= = .
V V
1 T

) (
2
*
=
ll
r (6.1)
A Eq. (6.12) mostra que o clculo da estatstica ) (
2
*
r no depende da varincia a priori, mas
diretamente proporcional aos resduos V
e inversamente proporcional matriz varincia-covarincia

ll
das observaes.
Assim, uma estimativa muito pessimista dos erros aleatrios (suposio da matriz varincia-
covarincia das observaes com grande incerteza) tornar o valor ) (
2
*
r menor que o limite inferior
do nvel de significncia (Eq. 6.7).
100
J uma estimativa muito otimista dos erros aleatrios (suposio da matriz varincia-covarincia
pequena incerteza) tornar o valor ) (
2
*
r maior que o limite superior do nvel de significncia (Eq.
6.8).
Assim, no teste bilateral, uma estimativa muito pessimista ou muito otimista dos erros aleatrios das
observaes gera valores para ) (
2
*
r alm dos limites de aleatoriedade da hiptese zero, o que
provoca sua rejeio.
No caso do teste unilateral, a rejeio do teste global s ocorre quando a estimativa dos erros
aleatrios muito otimista.
Conforme Kuang (1996), a rejeio da hiptese zero H
0
causada por uma estimativa imprpria da
matriz varincia-covarincia facilmente reconhecida. Pois, nesses casos, os resduos obedecem
funo de distribuio normal, com esperana de mdia igual a zero, e provavelmente nenhuma
observao produz resduos excessivos. Portanto se o teste global for rejeitado, mas amplitude dos
resduos se mostrarem compatveis com a preciso dos equipamentos usados nas medies, tem-se
razo suficiente para acreditar que a preciso das observaes no foi corretamente estimada e por isso
uma nova matriz varincia-covarincia
ll
pode ser proposta. Na prtica, isso pode ser feito
escalonando a matriz
ll
com varincia a posteriori estimada
2
o
, ou seja:

ll ll
=
2
o
(6.2)
onde:
ll
: matriz varincia-covarincia das observaes escalonada.

Ento, o ajustamento ser refeito usando essa nova matriz varincia-covarincia
ll
, que testar
aceitao da hiptese nula.
6.3.5 Teste Data Snooping
A aplicao da tcnica data snooping um processo combinado para deteco de outlier,
localizao e eliminao dos erros grosseiros. Este mtodo pesquisa por outlier e em seguida
investiga quais observaes contm os erros grosseiros que causaram os outliers e, ento, as elimina,
caso necessrio.
GEOMTI CA - CEFETES
101
1 - Deteco de Outlier
O ajustamento de observaes torna explicito os resduos, mas no revela os erros grosseiros, que os
causaram, em outras palavras, aps o ajustamento no se tm informaes suficientes para apontar as
observaes incorretas.
Baarda (1968), props a denominada hiptese alternativa convencional, que uma relao simples e
especfica entre os vetores dos resduos estimados V
e o erro grosseiro
l
, a qual assume a existncia
de erro grosseiro em apenas uma observao de cada vez.
( ) n i e H
l i i l ac
, , 2 , 1 0 : = = (6.1)
onde:
( )
T
i
n e , , 1 , 0 , 0 = : um vetor com elementos iguais a zeros, exceto do valor 1 na
ensima posio;
i l
: o valor do erro grosseiro da ensima observao
i
l .
A concepo da hiptese nula para anlise de ajustamento pelo MMQ supe observaes contento
somente erros aleatrios, ou seja, as observaes se ajustam funo de densidade probabilstica
normal. Assim os resduos ajustados, tambm, devem obedecer a essa distribuio. A hiptese nula
proposta para os resduos de que sua distribuio obedea distribuio normal -
( )
vv
V , 0 ~
:
0
N H . A diviso dos resduos por seus respectivos desvios padro resulta em
uma estatstica conhecida como resduo normalizado ou resduo reduzido que so expressos por pela
Eq. (6.15)
i l
i
v
i
i
r
v v
w
i
i

= =

(6.2)
Esses resduos normalizados ajustam-se funo de distribuio normal reduzida, portanto sua
esperana matemtica de mdia zero e varincia igual a 1. Assim, uma outra hiptese nula mais
especfica pode ser proposta:
) 1 , 0 ( ~ :
o
n w H
i
(6.3)
102
onde:
) 1 , 0 ( n : Distribuio de densidade normal reduzida.
Assim, para um nvel de significncia pr-definido
o
do teste bilateral, a hiptese nula
o
H ser
rejeitada, ou seja, um outlier ser detectado, se:
2
o
n w
i
< ou
2
1
o
n w
i
> (6.4)
A tcnica data snooping consiste de um teste unidimensional que examina apenas um resduo de
cada vez. Esse procedimento repetido tantas vezes quantas forem as observaes supostamente
eivadas de erros grosseiros. O nvel de significncia sugerido por Baarda (1968) 001 , 0 =
o
(0,1%),
que corresponde a 3,29 desvios padro. Para este nvel de significncia a hiptese zero ser rejeitada,
se:
29 , 3 >
i
w ou
i
v i
v > 29 , 3 (6.5)
GEOMTI CA - CEFETES
103

2
Tabela 6-1 Distribuio Qui-quadrada (inversa)
Grau de
Liberdade
1
0.000 0.00 0.00 0.00 0.02 0.06 0.15 0.45 1.07 1.64 3.84 5.02 6.63 7.88
2
0.010 0.02 0.05 0.10 0.21 0.45 0.71 1.39 2.41 3.22 5.99 7.38 9.21 10.60
3
0.072 0.11 0.22 0.35 0.58 1.01 1.42 2.37 3.66 4.64 7.81 9.35 11.34 12.84
4
0.207 0.30 0.48 0.71 1.06 1.65 2.19 3.36 4.88 5.99 9.49 11.14 13.28 14.86
5
0.412 0.55 0.83 1.15 1.61 2.34 3.00 4.35 6.06 7.29 11.07 12.83 15.09 16.75
6
0.676 0.87 1.24 1.64 2.20 3.07 3.83 5.35 7.23 8.56 12.59 14.45 16.81 18.55
7
0.989 1.24 1.69 2.17 2.83 3.82 4.67 6.35 8.38 9.80 14.07 16.01 18.48 20.28
8
1.344 1.65 2.18 2.73 3.49 4.59 5.53 7.34 9.52 11.03 15.51 17.53 20.09 21.95
9
1.735 2.09 2.70 3.33 4.17 5.38 6.39 8.34 10.66 12.24 16.92 19.02 21.67 23.59
10
2.156 2.56 3.25 3.94 4.87 6.18 7.27 9.34 11.78 13.44 18.31 20.48 23.21 25.19
11
2.603 3.05 3.82 4.57 5.58 6.99 8.15 10.34 12.90 14.63 19.68 21.92 24.72 26.76
12
3.074 3.57 4.40 5.23 6.30 7.81 9.03 11.34 14.01 15.81 21.03 23.34 26.22 28.30
13
3.565 4.11 5.01 5.89 7.04 8.63 9.93 12.34 15.12 16.98 22.36 24.74 27.69 29.82
14
4.075 4.66 5.63 6.57 7.79 9.47 10.82 13.34 16.22 18.15 23.68 26.12 29.14 31.32
15
4.601 5.23 6.26 7.26 8.55 10.31 11.72 14.34 17.32 19.31 25.00 27.49 30.58 32.80
16
5.142 5.81 6.91 7.96 9.31 11.15 12.62 15.34 18.42 20.47 26.30 28.85 32.00 34.27
17
5.697 6.41 7.56 8.67 10.09 12.00 13.53 16.34 19.51 21.61 27.59 30.19 33.41 35.72
18
6.265 7.01 8.23 9.39 10.86 12.86 14.44 17.34 20.60 22.76 28.87 31.53 34.81 37.16
19
6.844 7.63 8.91 10.12 11.65 13.72 15.35 18.34 21.69 23.90 30.14 32.85 36.19 38.58
20
7.434 8.26 9.59 10.85 12.44 14.58 16.27 19.34 22.77 25.04 31.41 34.17 37.57 40.00
21
8.034 8.90 10.28 11.59 13.24 15.44 17.18 20.34 23.86 26.17 32.67 35.48 38.93 41.40
22
8.643 9.54 10.98 12.34 14.04 16.31 18.10 21.34 24.94 27.30 33.92 36.78 40.29 42.80
23
9.260 10.20 11.69 13.09 14.85 17.19 19.02 22.34 26.02 28.43 35.17 38.08 41.64 44.18
24
9.886 10.86 12.40 13.85 15.66 18.06 19.94 23.34 27.10 29.55 36.42 39.36 42.98 45.56
25
10.520 11.52 13.12 14.61 16.47 18.94 20.87 24.34 28.17 30.68 37.65 40.65 44.31 46.93
26
11.160 12.20 13.84 15.38 17.29 19.82 21.79 25.34 29.25 31.79 38.89 41.92 45.64 48.29
27
11.808 12.88 14.57 16.15 18.11 20.70 22.72 26.34 30.32 32.91 40.11 43.19 46.96 49.64
28
12.461 13.56 15.31 16.93 18.94 21.59 23.65 27.34 31.39 34.03 41.34 44.46 48.28 50.99
29
13.121 14.26 16.05 17.71 19.77 22.48 24.58 28.34 32.46 35.14 42.56 45.72 49.59 52.34
30
13.787 14.95 16.79 18.49 20.60 23.36 25.51 29.34 33.53 36.25 43.77 46.98 50.89 53.67
40
20.707 22.16 24.43 26.51 29.05 32.34 34.87 39.34 44.16 47.27 55.76 59.34 63.69 66.77
50
27.991 29.71 32.36 34.76 37.69 41.45 44.31 49.33 54.72 58.16 67.50 71.42 76.15 79.49
60
35.534 37.48 40.48 43.19 46.46 50.64 53.81 59.33 65.23 68.97 79.08 83.30 88.38 91.95
70
43.275 45.44 48.76 51.74 55.33 59.90 63.35 69.33 75.69 79.71 90.53 95.02 100.43 104.21
80
51.172 53.54 57.15 60.39 64.28 69.21 72.92 79.33 86.12 90.41 101.88 106.63 112.33 116.32
90
59.196 61.75 65.65 69.13 73.29 78.56 82.51 89.33 96.52 101.05 113.15 118.14 124.12 128.30
100
67.328 70.06 74.22 77.93 82.36 87.95 92.13 99.33 106.91 111.67 124.34 129.56 135.81 140.17
0.975 0.99 0.995 0.5 0.7 0.8 0.95 0.05 0.1 0.2 0.3 0.005 0.01 0.025
Ca p t ul o 7: El i ps e de Er r o
104
Captulo 7 - Elipse de Erros
Aps o ajustamento das observaes GPS, obtm-se a matriz varincia-covarincia dos parmetros
ajustados em cuja diagonal se encontram as varincias das coordenadas ajustadas. As razes dessas
varincias fornecem o erro mdio ou preciso (x, y e z) das coordenadas ajustadas. Uma anlise
de preciso da posio fornecida pela teoria da elipse de erros bidimensional atravs da qual se
avalia a preciso em todas as direes do plano, e no somente na direo X, Y.
Neste captulo sero mostradas duas abordagens de estudo da teoria da elipse de erros bidimensionais:
a clssica e outra usando a tecnologia do crculo de Mohr.
A determinao da elipse erro consiste, basicamente, em calcular o valor dos seus semi-eixos
principais e a direo do semi-eixo maior. Esses valores so obtidos atravs da aplicao da teoria de
propagao erros matriz varincia-covarincia das coordenadas ajustadas e equao de rotao de
eixos. A matriz varincia-covarincia, que representada por
xx
, obtida pela Eq. (7.1).
( )

= =

2
2
1
2
o
y yx
xy x
A P A
T
xx
(7.1)
onde:
xx
: matriz varincia-covarincia das coordenadas ajustadas;
2
o
: varincia a posteriori;
A: matriz dos coeficientes das equaes de observao;
P : matriz dos pesos das observaes;
1
) (

= A P A Q
T
xx
: matriz co-fatores da matriz varincia-covarincia das coordenadas
ajustadas;

2 2
,
y x
: varincia das coordenadas ajustadas X e Y, respectivamente;
xy
: covarincia x, y;
GEOMTI CA - CEFETES
105
7.1 Anlise Clssica da Elipse de Erro
Aplicando-se a teoria de propagao dos erros matriz varincia-covarincia, atravs dos coeficientes
da funo de rotao dos eixos coordenados X, Y, obtm-se a matriz varincia-covarincia
correspondente a uma direo qualquer
2
2
y
yx
xy
x
xx
(7.1)
Os valores dos elementos da matriz
xx
podem ser calculados pelas equaes: (7.3), (7.4) e (7.5).

cos sen sen cos

xy y x
. . 2
2 2 2 2 2 2
+ + = (7.2)

cos sen cos sen

xy y x y
. . 2
2 2 2 2
= + (7.3)
) ( ) (
2 2 2 2

sen cos cos sen

xy y x xy
= + (7.4)
A Eq. (4.3) a expresso de uma curva conhecida como podria com origem no ponto, (GEMAEL,
1994), desta curva obtm-se o valor da varincia para qualquer direo
desejada. Derivando essa

equao e igualando-a a zero, obtm-se a Eq. (7.6), que fornece o ngulo correspondente direo da
maior ou menor varincia da curva podria. A raiz quadrada da varincia calculada com esse ngulo
corresponde a um dos semi-eixos principais da elipse de erro. O outro eixo principal da elipse
perpendicular a esse primeiro eixo principal. Neste estudo, foram considerados positivos os ngulos de
sentido anti-horrio, e tendo por origem, o eixo das abscissas do sistema de coordenadas X, Y.

2 2
2
) 2 (
y x
xy
tg

= (7.5)
A fim de diferenciar do ngulo , correspondente a uma direo qualquer da podria, o ngulo do
eixo principal determinado pela Eq. (7.6) ser representado por . E em funo deste ngulo pode-se
determinar os valores dos semi-eixos principais da elipse de erro (
mx
e
mn
), a partir das Eq. (7.7) e
(7.8).
106
) (
2 2 2 2
2
max

2 sen sen cos

xy y x
+ = +
(7.6)
) 2 (
2 2 2 2
2

sen cos sen

xy y x
mn
+ =
(7.7)
As Eq. (6.7) e (6.8) podem ser reescritas atravs do uso de identidades trigonomtricas para substituir
as funes quadrticas
2 2
cos e sen por outras mais simples. Ento, tm-se as Eq. (7.9) e (7.10)
que so idnticas s que aparecem na literatura sobre elipse de erro.
) ( ) (
2 2
2
2 sen 2 cos
2

2
xy
2
y
2
x
y x
mx

+
= + +

(7.8)
) ( ) (
2
2 sen 2 cos
2

2

xy
2
y
2
x
2
y
2
x
mn

=
+
(7.9)
Os valores mximos e mnimos da varincia, tambm, podem ser expressos de forma mais compacta
pelas Eq. (7.11) e (7.12). Essas expresses, embora mais simples, so pouco encontradas na literatura.
cotg
2
2
+ =

xy
y
mx
(7.10)
cotg
2
2
=

xy
x
mn
(7.11)
7.2 Anlise da Elipse de Erro atravs do Crculo de Mohr
A tcnica do crculo de Mohr foi desenvolvida pelo engenheiro Otto Mohr em 1882, e usada
normalmente para representao grfica do estado plano de tenses, anlise de esforos cisalhantes da
mecnica dos solos.
O uso dessa tcnica para avaliar a preciso de ajustamento, da mesma forma que na anlise clssica,
baseia-se nos valores da matriz varincia-covarincia dos parmetros desconhecidos ajustados (
xx
).
Os valores de varincia e covarincia dos pontos so representados em posies diametralmente
opostas no crculo de Mohr, atravs de dois pontos X e Y. As coordenadas desses pontos
correspondem aos valores da varincia ( ) e covarincia (
y x
). A varincia marcada no eixo

horizontal (abscissa) e covarincia na vertical (ordenada), (HAUG,1984).
GEOMTI CA - CEFETES
107

+

2
Figura 7.1 - Crculo de Mohr para anlise da elipse de erro. Fonte: Adaptado de Haug,1984
O uso da tcnica do crculo de Mohr, por ser uma soluo grfica, torna fcil a obteno dos valores
mximos e mnimos da varincia, bem como dos ngulos correspondentes a esta direo, (HAUG,
1984). A Figura 7.1 mostra os elementos do crculo de Mohr para a anlise da elipse de erro. Nessa
figura, a varincia da direo-X foi assumida como maior que a da direo-Y. Assim as coordenadas
dos pontos X ) , (
2
xy
x
e Y ) , (
2
yx
y
correspondem s varincias e covarincias da posio
ajustada na direo-X e na direo-Y, respectivamente.
A linha XY entre estes pontos o dimetro do crculo de Mohr para esta posio. Embora, as
covarincias xy
e yx
tenham valores iguais, elas so consideradas de sinais contrrios na anlise
com crculo de Mohr. Assim, o centro C do crculo situa-se sobre o eixo de varincia, exatamente no
meio da linha XY. As varincias principais, mxima e mnima, so encontradas pela construo do
crculo atravs dos pontos X e Y, e centro em C. A interseo do crculo com o eixo de varincia em B
e A, corresponde aos valores mximo e mnimo da varincia, respectivamente (HAUG, 1984).
108

+

Figura 7.2 - Outras relaes do crculo de Mohr

As expresses das varincias mxima e mnima, Eq. (7.9) e (7.10), podem ser facilmente observadas
na Figura 7.1, enquanto as Eq. (7.11) e (7.12) so observadas na Figura 7.2.
7.3 Padres das Elipses de Erro
Os valores de
,
2
y
2
x
e
xy
so os indicadores do comportamento da elipse de erro em relao ao
sistema cartesiano X, Y. A covarincia, por exemplo, o elemento que caracteriza a existncia do
ngulo de rotao ( ) dos eixos principais da elipse. A anlise da Eq. (7.6), mostra que o valor do
ngulo zero, quando a covarincia (
xy
) igual a zero. Como conseqncia, os eixos principais
da elipse correspondero s razes dos valores
2
x
e
2
y
, conforme Figura 7.3.
Quando os valores
2
x
e
2
y
so iguais e
xy
igual a zero, a elipse de erro se degenerar em um
crculo.
GEOMTI CA - CEFETES
109
a) xy = 0 e x > y b) xy = 0 e x < y
X X
Y
Y
Figura 7.1 - Padro da elipse para 0 =
xy
Mais dois casos podem ser analisados: o primeiro quando 0 >
xy
e o segundo quando 0 <
xy
. O
primeiro caso mostrado na Figura 7.4, na qual pode-se perceber o eixo principal maior da elipse
orientado na direo na NE SW do sistema de eixo cartesiano X, Y.
X
Y
X
a) xy > 0 e x > y b) xy > 0 e x < y
Figura 7.2 - Padres da elipse para 0 >
xy
O segundo caso, quando 0 <

xy
, mostrado na Figura 7.5, nesse caso o eixo principal maior da
elipse est orientado na direo na NW SE do sistema de eixo cartesiano X, Y.
a) xy < 0 e x > y b) xy < 0 e x < y
X X
Y Y
Figura 7.3 - Padres da elipse para 0 <

xy

110
Analisando as Figuras 7.3, 7.4, 7.5, algumas caractersticas da elipse de erro em relao aos eixos
coordenados X, Y podem ser destacadas. A primeira corresponde ao fato de o eixo principal maior da
elipse sempre se aproximar do eixo que possui maior valor de varincia. A segunda caracterstica, no
to bvia quanto a primeira, mostra o fato de que o ngulo obtido pela Eq. (7.6), tanto pode
corresponder ao eixo principal maior como ao eixo principal menor da elipse (Figuras 7.4.b e 7.5.b).
Embora no retratado claramente nas trs figuras anteriores, quando 0
xy
e
2
2
y
x
= , o ngulo
o
45 = , que a situao desejvel para a elipse erro, pois nesse caso particular, as varincias
2
x
e
2
y
contribuem de forma idnticas para formao da elipse.
As Figuras 7.4.a e 7.5.a mostram o caso em que 0
xy
e
2
2
y
x
> , no qual se observa que o
ngulo formado entre o semi-eixo maior da elipse de erro e a abscissa do sistema de eixos
coordenados X, Y menor que 45.
J as Figuras 7.4.b e 7.5.b mostram o outro caso em que o ngulo anterior maior que 45 que
corresponde situao de 0
xy
e
2
2
y
x
< .
Vale salientar que os valores dos eixos da elipse de erro obtidos pelas Eq. (7.9), (7.10), (7.11) e (7.12)
correspondem a um desvio padro (39%).
Este captulo mostrou um dos aspectos da qualidade do ajustamento pelo MMQ, a preciso das
coordenadas, que obtida a partir da matriz varincia-covarincia (
xx
). Essa preciso , na verdade,
a propagao da matriz varincia-covarincia das observaes atravs do modelo matemtico, sem
qualquer influencia do valor das observaes, supostas eivadas apenas de erros aleatrios.
GEOMTI CA - CEFETES
111
Captulo 8 - Linearizao de alguns Modelos Funcionais
8.1 ngulos
3 (x3, y3)
2 (x2, y2)
d
1
-
2
d
1
-
3
1 (x1, y1)
Figura 8.1 - Esquema de ngulos

8.1.1 Equao dos ngulos:
=
1 2
1 2
1 3
1 3
tan tan
y y
x x
arc
y y
x x
arc (8.1)
2
1
1
) tan (
x
x arc
+
= (8.2)
A Eq. (6.2) a expresso da a derivada da funo arco tangente.
8.1.1.1 Derivada da equao do ngulo (Eq. 8.1) em relao X1 (coordenada
do vrtice)
Ca p t ul o 8: Li ne a r i z a o de a l guns Mode l o s Func i ona i s
112
( )
( )
( )
( )
1 2
1 2
1
2
1 2
1 2
1 3
1 3
1
2
1 3
1 3
1
1
1
1
1
y y
x x
x
y y
x x
y y
x x
x
y y
x x
x
+
=
.
( ) ( )
( )
( ) ( ) ( )
( )
( )
1 2
2
1 2
2
1 2
2
1 2 1 3
2
1 3
2
1 3
2
1 3 1
1 1 1 1
y y
y y
x x y y y y
y y
x x y y x
+
+
+
=
.
( )
( ) ( )
( )
( ) ( )
2
1 2
2
1 2
1 2
2
1 3
2
1 3
1 3
1
x x y y
y y
x x y y
y y
x +

+
+

=
.

( )
( )
( )
( )
2
2 1
1 2
2
3 1
1 3
1
d
y y
d
y y
x
(8.1)
8.1.1.2 Derivada da equao do ngulo (Eq. 8.1) em relao Y1 (coordenada
do vrtice)
( ) ( ) ( ) ( ) ( ) ( )
1 1
1
1 2 1 2
1
2
1 2
1 2
1
1 3 1 3
1
2
1 3
1 3
1
1
1
1
1
x x
d y y x x
y
y y
x x
d y y x x
y
y y
x x
y

+
=
.
( ) ( )
( )
( )
( ) ( ) ( )
( )
( )
( )
2
1 2
1 2
2
1 2
2
1 2
2
1 2
2
1 3
1 3
2
1 3
2
1 3
2
1 3 1
1 1
y y
x x
y y
x x y y y y
x x
y y
x x y y y
+
=
.
( )
( ) ( )
( )
( ) ( )
2
1 2
2
1 2
1 2
2
1 3
2
1 3
1 3
1
x x y y
x x
x x y y
x x
y +

+

=
.
( )
( )
( )
( )
2
2 1
1 2
2
3 1
1 3
1
d
x x
d
x x
y
(8.1)
8.1.1.3 Derivada da equao do ngulo (Eq. 7.1) em relao X2
( )
( )
1 2
1 2
2
2
1 2
1 2
2
1
1
y y
x x
x
y y
x x
x
+
=
.
GEOMTI CA - CEFETES
113
( ) ( )
( )
( )
1 2
2
1 2
2
1 2
2
1 2 2
1 1
y y
y y
x x y y x
+
=
.
( )
( ) ( )
2
1 2
2
1 2
1 2
2
x x y y
y y
x +

=
.
( )
( )
2
2 1
1 2
2
d
y y
x
(8.1)
8.1.1.4 Derivada da equao do ngulo (Eq. 8.1) em relao Y2
( ) ( ) ( )
1
1 2 1 2
2
2
1 2
1 2
2
1
1

+
=
y y x x
y
y y
x x
y
.
( ) ( )
( )
( )
( )
2
1 2
1 2
2
1 2
2
1 2
2
1 2 2
1
y y
x x
y y
x x y y y
+
+ =
.
( )
( ) ( )
2
1 2
2
1 2
1 2
2
x x y y
x x
y +

+ =
.
( )
( )
2
2 1
1 2
2
+ =
d
x x
y
(8.1)
8.1.1.5 Derivada da equao do ngulo (Eq. 7.1) em relao X3
+
=
1 3
1 3
1
2
1 3
1 3
3
1
1
y y
x x
x
y y
x x
x
.
( ) ( )
( )
( )
1 3
2
1 3
2
1 3
2
1 3 3
1 1
y y
y y
x x y y x
+
=
.
( )
( ) ( )
2
1 3
2
1 3
1 3
3
x x y y
y y
x +

=
.
114
( )
( )
2
3 1
1 3
3
d
y y
x
(8.1)
.
8.1.1.6 Derivada da equao do ngulo (Eq. 8.1) em relao y3
( ) ( ) ( )
1
1 3 1 3
3
2
1 3
1 3
3
1
1

+
=
y y x x
y
y y
x x
y
.
( ) ( )
( )
( )
( )
2
1 3
1 3
2
1 3
2
1 3
2
1 3 3
1
y y
x x
y y
x x y y y
+
=
.
( )
( ) ( )
2
1 3
2
1 3
1 3
3
x x y y
x x
y +

=
.
( )
( )
2
3 1
1 3
3
d
x x
y
(8.1)
8.2 Azimutes
1 (x1, y1)
d
1
-
2
2

(
x
2,

y
2)
N
A
Z
Figura 8.1 - Esquema do azimute
GEOMTI CA - CEFETES
115
8.2.1 Funo azimute
1 2
1 2
2 1
tan
y y
x x
arc Az (8.1)
8.2.2 Derivada da equao do ngulo (Eq. 8.9) em relao X1
+
=
1 2
1 2
1
2
1 2
1 2
1
1
1
y y
x x
x
y y
x x
x
A
Z .
( ) ( )
( )
( )
1 2
2
1 2
2
1 2
2
1 2 1
1 1
y y
y y
y y x x x
A
Z
+
=
.
( )
( ) ( )
2
1 2
2
1 2
1 2
1
y y x x
y y
x
A
Z
+

=
.
( )
( )
2
2 1
1 2
1
d
y y
x
A
Z
(8.1)
.
8.2.3 Derivada da equao do ngulo (Eq. 8.9) em relao Y1
+
=
1 2
1 2
1
2
1 2
1 2
1
1
1
y y
x x
y
y y
x x
y
A
Z .
( ) ( )
( )
( )
( )
2
1 2
1 2
2
1 2
2
1 2
2
1 2 1
1
y y
x x
y y
y y x x y
A
Z
+
=
.
( )
( ) ( )
2
1 2
2
1 2
1 2
1
y y x x
x x
y
A
Z
+

=
.
116
( )
( )
2
2 1
1 2
1
d
x x
y
(8.1)
8.2.4 Derivada da equao do ngulo (Eq. 8.9) em relao X2
+
=
1 2
1 2
2
2
1 2
1 2
2
1
1
y y
x x
x
y y
x x
x
A
Z .
( ) ( )
( )
( )
1 2
2
1 2
2
1 2
2
1 2 2
1 1
y y
y y
y y x x x
A
Z
+
=
.
( )
( ) ( )
2
1 2
2
1 2
1 2
2
y y x x
y y
x
A
Z
+

=
.
( )
( )
2
2 1
1 2
2
d
y y
x
A
Z
.
8.2.5 Derivada da equao do ngulo (Eq. 8.9) em relao Y2
+
=
1 2
1 2
2
2
1 2
1 2
2
1
1
y y
x x
y
y y
x x
y
A
Z .
( ) ( )
( )
( )
( )
2
1 2
1 2
2
1 2
2
1 2
2
1 2 2
1
y y
x x
y y
y y x x y
A
Z
+
=
.
( )
( ) ( )
2
1 2
2
1 2
1 2
2
y y x x
x x
y
A
Z
+

=
.
( )
( )
2
2 1
1 2
2
d
x x
y
A
Z
(8.1)
GEOMTI CA - CEFETES
117
8.3 Distncias
8.3.1 Funo distncia
( ) ( )
2
1 2
2
1 2
2
y y x x d + =
8.3.2 Derivadas parciais
( ) ( ) ( ) ( )
2 1 2 1 1 2 2 1 2 1 1 2
2 2 2 2 2
Y Y X X d
y y y y x x x x d + + =

( ) ( ) ( ) ( )
2
1 2
1
1 2
2
1 2
1
1 2
Y Y X X d
d
y y
d
y y
d
x x
d
x x

=
( )
d
x x
X
d 1 2
1
(8.1)

( )
d
y y
Y
d 1 2
1
(8.2)
( )
d
x x
X
d 1 2
2
(8.3)
( )
d
y y
Y
d 1 2
2
(8.4)
Ca p t ul o 9: No e s de De r i va da s
118
Captulo 9 - Noes de Derivadas
Uma reta secante a uma curva quando a intersecta ("corta") em 2 pontos distintos. tangente curva
quando tem com ela um s ponto comum ("a toca num s ponto").
O declividade da reta secante ou da reta tangente curva da figura o quociente:
Figura 9.1 Reta secante
Figura 9.2 Reta tangente
Observando a Fig. 8.3 na qual est representada uma funo f(x), verifica-se que quando o valor de x
aumenta de a para b a funo f(x) tambm passa de f(a) para f(b). Portanto variao de a para b
sucede a variao de f(a) para f(b). Para calcular a variao mdia da funo basta fazer o quociente
entre estas duas variaes. No fundo estamos calculando a declividade da reta secante curva em a e
b.
GEOMTI CA - CEFETES
119
Figura 9.3 Declividade mdia.
, por exemplo, o que se passa quando se pretende calcular a velocidade mdia de um mvel cuja
trajetria a curva f(x).
9.1 Definio de derivada
Quando os dois pontos da curva se aproximam indefinidamente, a secante (reta que passa por esses
dois pontos) acaba por transformar-se na tangente curva no ponto a, ou seja, calculamos o limite da
razo incremental quando a distncia entre os dois pontos tende para zero.
Geometricamente, a derivada a declividade da reta r no ponto a quando h tende para zero, em outras
palavras: calcular a derivada duma funo num ponto a determinar a tangente trigonomtrica da
tangente geomtrica a curva nesse ponto.
Definio analtica. : f derivvel em a se existe
h
a f b a f
h
) ( ) (
lim
0
+
h
a f b a f
a f
h
) ( ) (
lim ) (
0
+
=

At aqui temos designado a derivada de uma funo f por f '(x). Mas existe outra notao, devida a
Leibniz, para traduzir a derivada duma funo:
) ( ) ( x f
dx
d
x f =
Ca p t ul o 9: No e s de De r i va da s
120
9.2 Regras de derivao
0 ' = k
' log ' ) (
1 '
u u v u v u u
v v v
+ =

1 ' = x
' ' ) (
'
v u v u =

a
a
u
u
u
log
'
)' log (
=
' ' ) (
'
u v v u v u + = ' cos )' ( u u u sen =
' )' cos ( u u sen u =
2
'
' '
) (
v
v u u v
v
u
=
' ) (sec )' (
2
u u u tg =
' ) (
'
u k u k =
' sec )' sec ( u u tg u u =
' ) (
1 '
u u k u
k k
=

' cotg cosec )' cosec ( u u u u =
k
k
k
u k
u
u

=
1
'
'
) (
2
1
'
)' a (
u
u
u sen rc
=
' ) (
'
u e e
u u
=
a
u u
u a a log ' ) (
'
=

2
1
'
)' cos a (
u
u
u rc
=

GEOMTI CA - CEFETES
121
Captulo 10 - Noes de Matriz
10.1 Conceito de Matriz
Matriz de ordem m x n: consideramos uma matriz como sendo uma tabela retangular de nmeros
reais (ou complexos) dispostos em m linhas e n colunas. Diz-se ento que a matriz tem ordem m x n
(l-se: ordem m por n).
Exemplos:
A = ( 1 0 2 -4 5) Uma linha e cinco colunas (matriz de ordem 1 por 5 ou 1 x 5).

=
3
0
6
4
B Quatro linhas por uma coluna (matriz de ordem 4 por 1 ou 4 x 1).
10.2 Tipos de Matrizes
10.2.1 Matriz quadrada
Se m = n, ento dizemos que a matriz quadrada de ordem n.
Exemplo:
=
1 6 2
5 2 0
1 4 2
X
A matriz X uma matriz quadrada de ordem 3 x 3, dita simplesmente de ordem 3 .
Uma matriz A de ordem m x n, pode ser indicada como
n x m ij
a ) ( = A
, em que
ij
a um elemento
da linha i e coluna j da matriz. Assim, por exemplo, na matriz X do exemplo anterior, temos
5
23
= a , 2
31
= a , 1
33
= a , 1
13
= a , etc.
10.2.2 Matriz identidade de ordem n
Ca p t ul o 10: No e s de Ma t r i z
122
A matriz
( )
n x n
ij n
a = I
, onde 1 =
ij
a se j i = , e 0 =
ij
a se j i .
Assim a matriz identidade de 3 ordem, ou seja, de ordem 3x3 ou simplesmente de ordem 3 :
=
1 0 0
0 1 0
0 0 1
3
I
10.2.3 Matriz transposta
a matriz
T
A
obtida de A permutando-se as linhas pelas colunas Se,
T
A A = , ento dizemos que a
matriz A simtrica e vice-versa.
Exemplo:
=
1 6 0
9 4 1
5 2 3
A
=
1 9 5
6 4 2
0 1 3
T
A
A matriz
T
A a matriz transposta da matriz A.
Observaes:
a) Se,
T
A A =
, ento dizemos que a matriz A simtrica.
b) Se,
T
A A = , ento dizemos que a matriz A anti-simtrica.
bvio que as matrizes simtricas e anti-simtricas so quadradas. Sendo A uma matriz anti-
simtrica, temos que 0 = +
T
A A (matriz nula).
10.3 Produto de Matriz
Para que exista o produto de duas matrizes A e B, o nmero de colunas de A, tem de ser igual ao
nmero de linhas de B.
q x m q x n n x m
C B x A =
Observe que se a matriz A tem ordem m x n e a matriz B tem ordem n x q, a matriz produto C tem a
ordem m x q:
GEOMTI CA - CEFETES
123
L3C3 L3C2 L3C1

L2C3 L2C2 L2C1
L1C3 L1C2 L1C1
8 5 7
3 0 2
6 4
0 2
1 3
x
Onde L1C1 o produto escalar dos elementos da linha 1 da 1 matriz pelos elementos da coluna1 da
segunda matriz, obtido da seguinte forma:
L1C1 = 3.2 + 1.7 = 13.
Analogamente, teramos para os outros elementos:
L1C2 = 3.0 + 1.5 = 5
L1C3 = 3.3 + 1.8 = 17
L2C1 = 2.2 + 0.7 = 4
L2C2 = 2.0 + 0.5 = 0
L2C3 = 2.3 + 0.8 = 6
L3C1 = 4.2 + 6.7 = 50
L3C2 = 4.0 + 6.5 = 30
L3C3 = 4.3 + 6.8 = 60, e, portanto, a matriz produto ser igual a:
=
60 30 50
6 0 4
17 5 13
P
Observe que o produto de uma matriz de ordem 3 x 2 por outra 2 x 3, resultou na matriz produto P de
ordem 3 x 3.
Nota: O produto de matrizes uma operao no comutativa, ou seja: A x B B x A .
10.4 Matriz Inversa
Na lgebra dos nmeros reais, um nmero n chamado de inverso de um nmero m e indicado por
1
m se, e somente se, 1 x x = = m n n m .Assim,
5
3
inverso de
3
5
, pois 1
15
15
3
5
5
3
= =
124
Todo nmero real inversvel em relao multiplicao, ou seja, sempre existe o nmero
m
1
tal que: 1
1
= =
m
m
m
m
O conceito de inverso usado para resolver equaes do tipo 0 = + b a x . Observe o exemplo
abaixo:
4x = 12
Multiplicando-se ambos os membros pelo inverso de 4 : ( )
4
1
12 x 4
4
1
=
Pela propriedade associativa: ( ) 3 x 4
4
1
=
Pela definio de inverso: 1 x = 3
Pela propriedade do elemento neutro: x = 3
A necessidade de resolver equaes matriciais do tipo AX = B, em que A, X e B so matrizes, fez com
que se estendesse a teoria de inverso de nmeros reais para as matrizes.
ou seja:
AB = BA = I
n
Matriz inversa a partir da definio
Exemplo:
Obter a matriz inversa da matriz
=
1 2
1 3
A , se existir.
Resoluo
Supondo que
=
d c
b a
B a matriz inversa da matriz A, temos:
=
0 1
0 1
d c
b a
1 2
1 3
B A
GEOMTI CA - CEFETES
125
+ +
+ +
0 1
0 1
d 2b c 2a
d 3b c 3a
Assim:
= +
= +
0 c 2a
1 c 3a

= +
= +
1 d 2b
0 d 3b
Resolvendo os sistemas:
3 , 2 , 1 , 1 = = = = d c b a
Portanto:
=
3 2 -
1 - 1
B
Calculando:
=
0 1
0 1
1 2
1 3
3 2 -
1 - 1
A B
Portanto a matriz A inversvel e sua inversa a matriz:
= =

3 2 -
1 - 1
1
A B
Existem outros processos de inverso de matriz, mas no sero discutidos neste texto.
10.4.1 Matriz inversa a partir da matriz adjunta e o determinante
Menor Complementar denomina-se menor complementar
ij
D de um elemento
ij
a de uma matriz
quadrada A, ao determinante que se obtm eliminando-se a linha i e a coluna j da matriz.
Assim, dada a matriz quadrada de terceira ordem (3 x 3) A, a seguir:
=
1 5 3
9 7 5
3 0 2
A
126

23
D = menor complementar do elemento 9
23
= a da matriz A. Pela definio,
23
D ser igual ao
determinante que se obtm de A, eliminando-se a linha 2 e a coluna 3, ou seja:
Podemos escrever:
10 0 3 5 2
5 3
0 2
23
= =
= D
Da mesma forma determinaramos D11, D12, D13, D21, D22, D31, D32 e D33.
Cofator - Cofator de um elemento
ij
a de uma matriz:
ij
j i
ij
D a cof =
+
) 1 ( ) ( .
Assim por exemplo, o cofator do elemento 9
23
= a da matriz do exemplo anterior, seria igual a:
10 10 ) 1 ( ) ( ) 1 ( ) ( ) 1 ( ) (
5
3 2 23
3 2
3 2 23
3 2
3 2
= = = =
+ +
a cof D a cof D a cof
Determinante O determinante de uma matriz quadrada igual soma dos produtos dos elementos
de uma fila qualquer (linha ou coluna) pelos respectivos cofatores (teorema de Laplace).
Este teorema permite o clculo do determinante de uma matriz de qualquer ordem. Como existem
regras prticas para o clculo dos determinantes de ordem 2 e de ordem 3 (todas elas baseadas neste
conceito), s recorremos este teorema para o clculo de determinantes de 4 ordem em diante. O uso
desse teorema possibilita baixar a ordem do determinante. Assim, para o clculo de um determinante
de 4 ordem, a sua aplicao resultar no clculo de quatro determinantes de 3 ordem. O clculo de
determinantes de 5 ordem, j justifica o uso de planilhas eletrnicas, a exemplo do Excel for
Windows, Ltus 1-2-3, Mathcad, entre outros.
Para expandir um determinante pelo teorema de Laplace, mais prtico escolher a fila (linha ou
coluna) que contenha mais zeros, pois isto vai facilitar e reduzir o nmero de clculos necessrios.
Matriz cofator - Matriz dos cofatores da matriz A: a matriz obtida substituindo-se cada elemento
pelo seu respectivo cofator. A matriz transposta da matriz cofator denominada matriz adjunta.
Exemplo: Dada a matriz quadrada de ordem 3, a seguir:
=
33 32 31
23 22 21
13 11 11
a a a
a a a
a a a
A .
GEOMTI CA - CEFETES
127
=
+ + +
+ + +
+ + +
22 21
21 11 3 3
23 21
13 11 3 2
23 22
13 12 1 3
32 31
12 12 3 2
33 31
13 12 2 2
33 32
13 12 1 2
32 31
22 21 3 1
33 31
23 21 2 1
33 32
23 22 1 1
(-1) (-1) (-1)
(-1) (-1) (-1)
(-1) (-1) (-1)
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
Cof A .
A matriz adjunta :

=
+ + +
+ + +
+ + +
22 21
21 11 3 3
32 31
12 12 3 2
32 31
22 21 3 1
32 31
12 12 3 2
33 31
13 12 2 2
33 31
23 21 2 1
23 22
13 12 1 3
33 32
13 12 1 2
33 32
23 22 1 1
(-1) (-1) (-1)
(-1) (-1) (-1)
(-1) (-1) (-1)
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
a a
Adj A
.
Expresso para o clculo da inversa de uma matriz:
A
A
A Adj =
det
1
1
Exemplo aplicativo: Calcular a matriz inversa de A usando expresso que envolve os conceitos de
determinante e matriz adjunta.
=
1 5 3
9 7 5
3 0 2
A
Clculo dos cofatores:
( ) 38 5 9 1 7 1
1 5
9 7
) 1 ( ) (
1 1
11
= =
=
+
a cof
( ) 22 3 9 1 5 1
1 3
9 5
) 1 ( ) (
2 1
12
= =
=
+
a cof
128
( ) 4 3 7 5 5 1
5 3
7 5
) 1 ( ) (
3 1
13
= =
=
+
a cof
( ) 15 5 3 1 0 1
1 5
3 0
) 1 ( ) (
1 2
21
= =
=
+
a cof
( ) 7 3 3 1 2 1
1 3
3 2
) 1 ( ) (
2 2
22
= =
=
+
a cof
( ) 10 3 0 5 2 1
5 3
0 2
) 1 ( ) (
3 2
23
= =
=
+
a cof
( ) 21 7 3 9 0 1
9 7
3 0
) 1 ( ) (
1 3
31
= =
=
+
a cof
( ) 3 5 3 9 2 1
9 5
3 2
) 1 ( ) (
2 3
32
= =
=
+
a cof
( ) 14 5 0 7 2 1
7 5
0 2
) 1 ( ) (
3 3
33
= =
=
+
a cof
Matriz cofator:
=
14 3 - 21 -
10 - 7 - 15
4 22 38 -
A Cof
Matriz adjunta:
=
14 10 - 4
3 - 7 - 22
21 - 15 38 -
A Adj
Determinante
64 det 4 3 22 0 ) 38 ( 2 det = + + = A A
64 det ) 3 ( 5 ) 7 ( 7 22 0 det = + + = A A
GEOMTI CA - CEFETES
129
Matriz inversa de A
= =

14 10 - 4
3 - 7 - 22
21 - 15 38 -
64
1
det
1
1 1
A A
A
A Adj
219 . 0 0.156 0.063 -

0.047 0.109 0.344 -
0.328 0.234 - 0.594
1
A
130
BIBLIOGRAFIA
AMORIM, G. P. (2004). Confiabilidade de Redes GPS de Referncia Cadastral Municipal. Estudo de
Caso: Rede do Municpio de Vitria (ES). Dissertao (Mestrado). Escola de Engenharia de So
Carlos USP. So Carlos. So Paulo.
DUPRAZ, H. (1985). Theorie des erreurs 2 Statistique et calculs de compensation applliqus la
Godesie et la Mensuration. Institut des Mensurations. Ecole Polytechinique Federale de Lausanne
(1985).
GEMAEL, C. (1994). Introduo ao ajustamento de observaes: aplicaes de Geodsia. 1.ed.
Curitiba: UFPR. 319p.
HAUG, M. D. (1984). Application of Mohrs circle technique in error analysis. Survey and Mapping,
Vol. 44, No 4, pp. 309-321.
JUNIOR, J. G; SIMES, A.S. Ajustamento de Observaes. Apostila. Universidade Federal de
Viosa. Viosa. Minas Gerais.
MIKHAIL, E. M; ACKERMANN, F. (1976). Observations and Least Squares. 1st.ed. New York: IEP.
MORAES, C. V. (1998b). Aplicao do ajustamento s poligonais. 162p. Dissertao (Mestrado)
Universidade Federal do Paran. Curitiba. Paran. 1998.
SPIEGEL, M. R. (1993). Estatstica. Trad. Joo Consentino. 3.ed. So Paulo: Makron Books. 643p.
STEVENSON. W.J. (1981). Estatstica Aplicada Administrao. Trad. Alfredo Alves de Farias. So
Paulo. Harper & Row do Brasil.
Derivadas. Site: http://sapp.telepac.pt/criarplus/mat/deriv/derivadas.htm . Acesso em primeiro de
junho de 2005.
Matemtica. http://pessoal.sercomtel.com.br/matematica/medio/matrizes/matrizes.htm#mat03. Acesso
em 03 de junho de 2005.
Matemtica Livro 2. http://www.cocemsuacasa.com.br/ebook/pages/1803.htm.
Matrizes e Determinantes. http://myspace.eng.br/mat/matriz1.asp.

AjustamentoGerreferenciamento MUITO BOA

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

AjustamentoGerreferenciamento MUITO BOA

Uploaded by

Copyright:

Available Formats

MEC

, deve-se contentar com uma estimativa mais

como o mais provvel e calculando os resduos (diferena entre o

como o mais provvel, isto resultaria em

deveramos adotar? Em outras palavras, como escolher um critrio que

como o valor mais provvel de uma grandeza sobre a qual foram

(erro compreendido entre

) igual a rea hachurada da Figura 3.10.

. A funo em questo, mostrada na Figura (4.5), formada

Correlao a partir dos 12 pares de medidas (autocorrelao):

Aplicando a lei da propagao dos erros:

Passo: Diferenciar a equao em funo de cada uma das variveis independentes

Passo: Substituindo os elementos:

0.000004 0.000004 2 0.02129004 30 0.00000393 0.007225

, definir a preciso dos

Passo: Calculo da matriz dos coeficientes A :

Utilizando a equao propagao de erro

Fazendo-se as derivaes do modelo matemtico (equaes das coordenadas)

Subs t i t ui ndo os va l or e s da s de r i va da s , obt e mos a ma t r i z A:

denomina-se varincia da unidade de peso a posteriori (sigma zero a posteriori). O valor da

6. O vetor de observaes aproximadas, calculadas em funo dos parmetros aproximados

MVC dos parmetros ajustados

5411 , 434811 0430 , 3208

Figura 6.1 - Quadro de decises e suas probabilidades.

e inversamente proporcional matriz varincia-covarincia

: matriz varincia-covarincia das observaes escalonada.

cos sen sen cos

cos sen cos sen

sen cos cos sen

desejada. Derivando essa

2 sen sen cos

sen cos sen

). A varincia marcada no eixo

Figura 7.2 - Outras relaes do crculo de Mohr

Mais dois casos podem ser analisados: o primeiro quando 0 >

O segundo caso, quando 0 <

Figura 7.3 - Padres da elipse para 0 <

Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Figura 8.1 - Esquema de ngulos

L3C3 L3C2 L3C1

219 . 0 0.156 0.063 -

You might also like