Vous êtes sur la page 1sur 95

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS

AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

SUMRIO
1.

Introduo
1.1.

2.

3.

4.

5.

Definio

Conceito de Observao

1
3
4

2.1.

Modelo Matemtico

2.2.

Propriedade dos Erros de Observao

2.3.

O conceito de preciso e exatido

Propagao das Covarincias

13

3.1.

Varivel aleatria.

13

3.2.

Matriz varincia-covarincia (M.V.C.)

13

3.3.

Matriz de correlao

14

3.4.

Lei de Propagao das Covarincias

16

Sistema de Equaes Lineares e o Mtodo dos Mnimos Quadrados

27

4.1.

Resoluo de Sistema de Equaes Lineares

27

4.2.

O Mtodo dos Mnimos Quadrados

28

4.3.

Condicionamento de Sistemas

30

Ajustamento de Observaes

33

5.1.
Ajustamento de observaes diretas
5.1.1.
Estimativa pontual: mdia.
5.1.2.
Estimativa da preciso: Desvio Padro.
5.1.3.
Estimativa por intervalo
5.1.3.1. Intervalo de confiana para a mdia
5.1.3.2. Intervalo de confiana para a varincia

34
34
34
36
37
38

5.2.
Ajustamento de observaes indiretas
5.2.1.
Mtodo Paramtrico
5.2.1.1. Qualidade do ajustamento.
5.2.1.2. Matriz varincia covarincia dos parmetros, das observaes e dos resduos
5.2.1.3. Sequncia prtica de clculo

47
49
50
53
54

5.3.
Ajustamento de observaes diretas condicionadas
5.3.1.
Mtodo dos Correlatos

62
62

5.4.

68

Mtodo Combinado

Referncias Bibliobrficas

78

Apndice A

79

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

1. INTRODUO
Ao serem feitas medidas, pela prpria condio da imperfeio dos homens e
dos instrumentos, estas esto impregnadas dos erros de observao. Tanto assim, que
normalmente se procedem a mais de uma medida para se ter garantias sobre o valor
encontrado. Se as medidas forem de uma nica grandeza como, por exemplo, distncias ou
ngulos, a mdia uma boa soluo. Contudo, quando esto envolvidas ao mesmo tempo
grandezas de naturezas diferentes e que se relacionam atravs de uma funo matemtica,
a soluo no to imediata. Outro fato importante reside na premissa de que somente o
valor da grandeza no suficiente, do ponto de vista tcnico-cientfico. preciso saber qual
o grau de confiana no valor obtido. Isto proporcionado pela estimativa de preciso da
medida que numericamente igual ao desvio-padro.
Como exemplo, vamos imaginar que se pretenda determinar as coordenadas de
um ponto P a partir de uma estao E (com coordenadas conhecidas), da distncia entre a
estao e o ponto, e do azimute da direo estao-ponto. Este um problema clssico da
topografia cuja soluo a seguinte:
N
P

XP = XE + d E-P senAE-P

AE-P

dE-P

YP = YE + d E-P cosAE-P
B

onde :

(XP,YP)

- coordenadas do ponto (incgnitas);

(XE,YE)

- coordenadas da estao;

d E-P

- distncia entre a estao e o ponto;

AE-P

- azimute da direo estao ponto.

Observa-se que para resolver o sistema so necessrias duas observaes: a


distncia e o Azimute. No caso, a soluo nica.
1

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Agora imaginemos o mesmo problema s que introduzindo mais uma estao


E2. Este tambm um problema clssico. A soluo dada por:
N

N
P
AE1-P

XP = XE1 + d E1-P senAE1- P


B

YP = YE1 + d E1-P cosAE1- P

dE2-P

dE1-P

XP = XE2 + d E2-P senAE2- P


B

E1

E2

YP = YE2 + d E2-P cosAE2- P


B

AE2-P

onde :

(XP,YP)
B

- coordenadas do ponto (incgnitas);

(XE1,YE1)

- coordenadas da estao 1;

d E1-P

- distncia entre a estao 1 e o ponto;

AE1- P

- azimute da direo estao 1 ponto.

(XE2,YE2)

- coordenadas da estao 2;

d E2-P

- distncia entre a estao 2 e o ponto;

AE2- P

- azimute da direo estao 2 ponto.

Observa-se agora que existem duas maneiras de se obter as coordenadas do


ponto P. Uma atravs da estao 1 e outra da estao 2. Se as medidas fossem isentas de
erros, qualquer uma das solues levaria ao mesmo resultado, contudo isso no ocorre e a
soluo que parece obvia adotar a mdia como resposta ao problema.
Imaginemos ainda que de cada uma das estaes mediu-se com equipamentos
com precises diferentes e com operadores diferentes. Qual das solues a mais correta?
neste tipo de problema que as tcnicas de ajustamentos so importantes porque
permitem que se equacionem todas as nuances do problema.

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

1.1. Definio
O ajustamento o ramo da matemtica aplicada que tem por objetivo a soluo
nica para problemas onde o nmero de observaes (ou medidas) redundante e o
sistema de equaes inconsistente, bem como a preciso da soluo adotada
Camargo (2000).

A redundncia representada pelo nmero de medidas a mais do que as


necessrias para se obter a soluo e, a inconsistncia, pelas diferentes solues que se
obtm quando o nmero de observaes excede o de incgnitas.
A figura a seguir mostra um problema passvel de ajustamento. Trata-se de uma
rede de nivelamento onde Lb1, Lb2 ... Lb12 so os desnveis medidos nas linhas de
nivelamento independentes. Para se determinar o desnvel entre o ponto P e a RN existem
vrias possibilidades, como por exemplo:
Lb1

RN

h = Lb1 + Lb8
Lb2

h = Lb2 + Lb5 + Lb7 + Lb11


Lb4

Lb5
Lb3
Lb6

h = Lb3 + Lb10 +Lb12

Lb8

h = Lb1 + Lb4 + Lb7 + Lb11

Lb7
Lb9

h = Lb3 + Lb6 + Lb5 + Lb7 + Lb11

Lb11
P

Lb10
Lb12

h = Lb3 + Lb10 + Lb9 + Lb11


..

Estas so algumas das possibilidades de soluo. Todavia a probabilidade de


cada uma delas gerar uma resposta diferente muito grande.
O processo de ajustamento neste caso vai possibilitar que independentemente
da soluo adotada a resposta ser nica.
possvel ainda, com base nas tcnicas do ajustamento, detectar a presena de
erros grosseiros em um conjunto de observaes, efetuar o planejamento da coleta de
dados e saber, a priori, se atendero as prescries estabelecidas.
3

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

2. CONCEITO DE OBSERVAO
Segundo Camargo (2000) o termo observao ou medida frequentemente
usado na prtica para referir-se operao, bem como para o resultado da operao. O
valor numrico da observao de fundamental importncia para a cincia e engenharia,
pois submete o instrumento anlise e manipulao.
Ainda em Camargo (2000), so listadas as propriedades fundamentais da
medida:
Medir significa realizar uma operao fsica, e o processo de medida consiste de vrias
operaes elementares; tais como: preparao, calibrao, pontaria, leitura e etc.;
O resultado do processo representa a medida;
A no ser na contagem de certos eventos, a medida sempre realizada com auxlio de
instrumentos;
As medidas esto referenciadas a um padro, os quais so estabelecidos por conveno.
Medir comparar uma grandeza a um padro, tendo dimenso e unidade;
A medida um conceito terico, tal como uma abstrao geomtrica usada para
distncia e ngulo, os quais no tm equivalente direto na natureza fsica. No entanto,
tais conceitos permitem descrever certos elementos da natureza, como localizao, rea
e etc.

Para descrever certos elementos da natureza necessrio utilizar modelos,


como o caso da forma da Terra, onde se utiliza a esfera ou o elipside de revoluo. No
caso do ajustamento, o modelo que interessa o matemtico que relaciona as medidas
efetuadas com as grandezas procuradas. Este o caso das equaes que unem a distncia e
o azimute com as coordenadas do ponto.

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

2.1. Modelo Matemtico


Define-se modelo matemtico ao sistema terico ou abstrato que descreve uma
situao fsica ou uma srie de eventos. Tal descrio no necessita explicar totalmente a
situao fsica, mas relacionar somente os aspectos, ou propriedades de interesse. Tendo
em vista que o modelo tem o propsito de atender um interesse particular, dependendo do
propsito, ele pode assumir formas diferentes.
Costuma-se dividir o modelo matemtico em funcional e estocstico. O modelo
funcional constitui a parte determinstica da realidade fsica e o estocstico descreve as
propriedades estatsticas das observaes.
Um exemplo de modelo funcional, j explorado no incio desta apostila, o da
determinao das coordenadas de um ponto a partir da distncia e do azimute da direo
entre esse ponto e outro de coordenadas conhecidas. Esse modelo funcional do tipo
geomtrico, como a maioria dos modelos adotados na rea de geomtica.
O modelo estocstico aborda a variabilidade dos resultados oriundos de
influncias fsicas que no podem ser controladas, da falibilidade humana e das
imperfeies dos instrumentos de medida. De qualquer modo, ambos os modelos devem
ser tratados no ajustamento de forma conjunta.
2.2. Propriedade dos Erros de Observao
As observaes so representaes numricas de quantidades fsicas como
comprimento, ngulo, peso, entre outras. Estas observaes so obtidas atravs de
medidas e, portanto possuem o que classicamente se chamava de erros de observao.
Embora este conceito esteja sendo gradualmente substitudo por propriedades estatsticas
das observaes, ainda comum o uso convencional do conceito de erro.
Sabe-se que, mesmo se cercando de precaues e cuidados especiais no
momento da obteno de uma medida, estas esto acompanhadas dos inevitveis erros de
observao. Este fato esta relacionado falibilidade humana, imperfeio dos
equipamentos e as condies ambientais nas quais se processa a mensurao.
5

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Estes erros so classificados em:


a)

erros grosseiros quando o valor medido extrapola a 3 vezes o valor do desvio


padro da medida. Esse erro normalmente de fcil deteco e est associado
desateno do operador ou mesmo do anotador;

b)

erros sistemticos quando o valor medido acrescido ou diminudo de uma


quantidade constante. Estes erros so de causas conhecidas e podem ser evitados
ou minimizados por tcnicas de observao ou por formulaes matemticas. o
caso do erro causado pela catenria de uma trena que pode ser posteriormente
eliminado;

c)

erros aleatrio quando existe uma flutuao do valor medido ao redor de um


valor dito mdio. Este erro tambm conhecido como acidentais, estocstico ou
randmico no tem causa conhecido e est intimamente ligado as propriedades
estatsticas das observaes.

Para se proceder ao ajustamento necessrio que no existam os erros


grosseiros e os sistemticos nas observaes. No entanto, os aleatrios so modelados pelo
processo de ajustamento e distribudos pelo critrio desenvolvido separadamente por
Gauss em 1795 e Legendre em 1805, denominado mtodo dos mnimos quadrados
(M.M.Q.).
Segundo Gemael (1994), a experincia tem demonstrado que ao aumentar o
nmero de observaes de uma mesma grandeza, os erros aleatrios tendem a ter um
comportamento regular, de modo que a distribuio de frequncia dos erros se aproxima
muito da distribuio normal (curva de Gauss). Este fato foi notado por Bradley no incio do
sculo XVII, quando visando obter a posio do ponto vernal atravs de 462 determinaes
da asceno reta do Sol, verificou que ao retirar as influncias sistemticas conhecidas na
poca e calcular os desvios em relao mdia aritmtica existia uma grande simetria e o
predomnio de valores ao redor da mdia.

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Tabela 1 -Experincia de Bradley


INTERVALOS

Frequncia
(fi)

f2i
P

PB

fivi
B

fiv2i
B

PB

Fi

0,9

1,0

2,85

2,7075

2,3

0,8

0,9

25

4,25

3,6125

4,1

0,7

0,8

49

5,25

3,9375

7,1

0,6

0,7

13

169

8,45

5,4925

11,4

0,5

0,6

18

324

9,9

5,4450

17,0

0,4

0,5

25

625

11,25

5,0625

24,9

0,3

0,4

29

841

10,15

3,5525

31,7

0,2

0,3

39

1521

9,75

2,4375

38,7

0,1

0,2

44

1936

6,60

0,9900

44,3

0,0

0,1

47

2209

2,35

0,1175

47,4

0,0

-0,1

47

2209

-2,35

0,1175

47,4

-0,1

-0,2

44

1936

-6,60

0,9900

44,3

-0,2

-0,3

39

1521

-9,75

2,4375

38,7

-0,3

-0,4

29

841

-10,15

3,5525

31,7

-0,4

-0,5

26

676

-11,70

5,2650

24,9

-0,5

-0,6

18

324

-9,90

5,4450

17,0

-0,6

-0,7

13

169

-8,45

5,4925

11,4

-0,7

-0,8

49

-5,25

3,9375

7,1

-0,8

-0,9

25

-4,25

3,6125

4,1

-0,9

-1,0

16

-3,80

3,6100

2,3

462

15474

-1,40

67,8150

Onde fi a frequncia real e Fi a terica.


Ao se observar a Tabela 1, que reproduz os dados de Bradley, nota-se a partir da
coluna das frequncias que existem 230 desvios positivos e 232 desvios negativos. Esses
desvios foram determinados pela diferena entre o valor medido e a mdia aritmtica
desses valores. A simetria e o predomnio de valores ao redor da mdia dos desvios (zero)
sugerem claramente a distribuio normal, visualizada no histograma e no polgono de
frequncia a seguir. Ao se comparar a frequncia real com a terica (Fi) verifica-se uma
impressionante concordncia de valores.

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Existem outros exemplos prticos que demonstram esta tendncia. A partir


desta constatao pode-se afirmar que quando o nmero de observaes cresce:
Os resduos de mesmo mdulo e sinais opostos so equiprovveis;
Os resduos menores ocorrem com menor frequncia;
A mdia dos resduos praticamente nula.

O predomnio de resduos com um sinal deve servir de alerta para a existncia


de algum erro sistemtico.
2.3. O conceito de preciso e exatido
O termo acurcia utilizado na rea de geomtica para indicar a qualidade de
uma grandeza observada ou de um parmetro estimado. No entando, o termo preciso
tambm usado com o mesmo emprego. Isto demonstra haver uma confuso quanto ao
significado destes dois vocbulos. Inicialmente preciso esclarecer que essas palavras tm
origem na lngua inglesa, accuracy e precision, que foram traduzidas respectivamente por
acuracidade (exatido) e preciso. A relao desses dois conceitos est intimamente ligada
aos erros sistemticos e aos aleatrios. Em Monico (2009), onde se discute essa temtica,
citada a seguinte definio proposta por Mikhail e Ackermann (1976, p. 64):

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Acurcia o grau de proximidade de uma estimativa com seu parmetro (ou valor
verdadeiro), enquanto preciso expressa o grau de consistncia da grandeza medida com
sua mdia. A acurcia reflete a proximidade de uma grandeza estatstica ao valor do
parmetro para o qual ela foi estimada e que preciso est diretamente ligada com a
disperso da distribuio das observaes.

Analisando essa definio percebe-se que a preciso est ligada apenas aos
efeitos aleatrios da medida (erro aleatrio) enquanto que acurcia envolve erros
sistemticos (tendncia) associados aos erros aleatrios.
Os mesmos autores citados por Monico (2009) apresentam uma medida de
acurcia proposta por Gauss denominada Erro Mdio Quadrtico (EMQ) ou em ingls
mean square error (MSE) dada por:

onde:

{( )}

= {( {( )} )} =

+( )

Esperana matemtica ou valor esperado para a varivel p

representa a disperso das medidas (varincia ou incerteza)

representa a tendncia ou vcio do estimador

quadrado dos erros verdadeiros


nmero de elementos da amostra ou de observaes

Essa expresso, para amostras grandes, praticamente igual mdia


quadrtica dos erros verdadeiros (). Por definio o erro verdadeiro a diferena entre
um valor observado (ou medido) e o tomado como referncia (conhecido).
Para se entender a idia imagine dois atiradores a e b e um alvo onde os dois
atiraram. Observa-se que o atirador a tem os tiros mais concentrados enquanto o atirador

Esperana matemtica E{ } ou valor esperado a mdia ponderada dos valores que a varivel aleatria
ou funo assume, usando-se, como pesos para ponderao, as probabilidades correspondentes a cada
valor.
1

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

b tem os tiros mais dispersos. No entanto o centro da concentrao dos tiros de b est mais
prximo do centro do alvo do que a do atirador a. Pode-se ento afirmar que:
o atirador a tem uma preciso maior que o
b.

a
b

existe um erro sistemtico maior


conduzindo os tiros mais precisos de a.

a acurcia ou exatido depender da


disperso (preciso) e do erro sistemtico.

Mikhail e Ackermann (1976) apud Monico (2009) fazem a anlise do problema atravs

dos histogramas que representam trs conjuntos de medidas (p1, p2 e p3) de uma mesma
grandeza.
Frequncia
f(p)

b
tendncia

(1)
(3)

(2)

^p )}
E{(
3

^p )} =
p = E{(
1

^p )}
E{(

Grandeza

Observando os histogramas pecebe-se que as esperanas E{( )} e E{( )}


coincidem com o valor de referncia p (correto). A diferena reside na disperso que
maior em p2. Assim pode-se afirmar que p1 e p2, embora no apresentem erro sistemtico
(tendncia), no so igualmente acurados uma vez que possuem precises distintas, ou
10

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

seja, p1 mais acurado que p2. Por outro lado, a esperana E{( )} apresenta um erro
sistemtico ou tendncia, representado pelo valor b, o que implica em se afirmar que p3
no possui acurcia.
Analisando s o aspecto da preciso, deixando de lado as questes de
tendncia, pode-se afirmar pela ordem que p1 a mais precisa que p3 que por sua vez
mais precisa que p2.
Para a rea das mensuraes, como dito anteriormente, a acurcia representa a
qualidade da observao ou, a confiana que se tem no resultado obtido a partir de um
nmero de medidas. Se o valor de referncia da medida for conhecido, possvel se
estimar a tendncia e eliminar os possveis efeitos sistemticos nas medidas. Porm,
quando isso no acontece, utiliza-se a prpria preciso como um indicador da acurcia. A
adoo da preciso como acurcia no implica em dizer que a tendncia no exista, mas
que apenas no se conhece o seu valor. Esse o caso da maioria dos processos de medida
e assim, para evitar a presena dos erros sistemticos, necessrio que se utilizem
equipamentos aferidos e mtodos consagrados de observao. Este procedimento no
garante a total ausncia de tendncia, mas, com certeza, um mtodo seguro de minimizla.
Finalmente podem-se extrair as seguintes afirmaes de Monico (2009):
Dois valores mdios iguais podem ter precises diferentes;
No faz sentido dizer que um valor acurado preciso ou no, pois a preciso faz
parte da prpria definio de acurcia;
Dada a preciso de uma grandeza, o valor de sua acurcia no mnimo igual a ela;
Conhecido o valor da tendncia, a acurcia , no mnimo, igual a ela.

11

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 1 - Suponha que voc quer testar a capacidade profissional de trs topgrafos. Para
tanto voc mediu uma distncia com uma estao total que ser, para efeito de clculo,
considerada correta. Os trs topgrafos fizeram a mesma medida com trena. Baseado nos
valores obtidos por eles, qual o mais acurado?

Topgrafo

Distncia

Preciso

99,90 m

2 cm

100,01 m

3 cm

100,00 m

5 cm

Distncia com estao = 100 m => valor de referncia


Partindo-se da equao proposta por Gauss => EMQ = m = + (b) e considerando que 100 m o
valor de referncia, podem-se obter os erros sistemticos para as trs medidas, ou seja:
b1 = 99,90m 100m = -0,10m; b2 = 100,01m 100m = 0,01m; b3 =100m 100m = 0m.
Aplicando a equao para o trs casos:
m1 = (0,02 m) + (-0,10 m) = 0, 0104 m
m2 = (0,03 m) + (0,01 m) = 0,0010 m
m3 = (0,05 m) + ( 0,0 m) = 0,0025 m
Extraindo-se a raiz quadrada dos trs valores obtidos, tem-se a acurcia de cada topgrafo.
m 1 = 0,102 m;
m 2 = 0,032 m;
m 3 = 0,050 m;
Observa-se que se no fosse conhecido o valor de referncia, o topgrafo 1 seria o mais preciso, pois o
desvio padro de suas medidas o menor. No entanto, nota-se que o topgrafo 2 apresenta a maior acurcia
e, na sequncia, o topgrafo 3, que o de pior preciso. Como na maioria das vezes no se tem conhecimento
de valores de referncia, refora-se assim a afirmativa de que se devem utilizar equipamentos aferidos e
seguir as normas de levantamento indicadas.

12

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

3. PROPAGAO DAS COVARINCIAS


3.1. Varivel aleatria.
Varivel aleatria (v.a.) uma funo que associa a cada elemento de um
espao amostral um nmero real, ou aquela, cujo valor o resultado numrico de um
experimento aleatrio. Considerando que cada medida resulta em um nico valor, o
conjunto destas medidas constitui uma v.a.
Dependendo dos valores numricos, a varivel aleatria poder ser discreta ou
contnua. Ela dita:
discreta quando assume valores em pontos isolados ao longo de uma escala (nmero
finito ou infinito enumervel de valores). Exemplo: os valores possveis de se obter
quando se joga um dado ou uma moeda.
contnua quando assume qualquer valor ao longo de um intervalo (nmero infinito no
enumervel de valores). Exemplo: conjunto de medidas de um mesmo ngulo dentro de
uma srie.

Se o conjunto que constitui a v.a. de mesma natureza, diz-se que ele uma
varivel aleatria unidimensional. Entretanto, quando no conjunto tm-se grandezas de
natureza diversa, diz-se que uma v.a. multidimensional. Por exemplo, o conjunto
constitudo por uma srie de medidas angulares uma v.a. unidimensional, e o conjunto
constitudo por azimute e distncia, multidimensional.
3.2. Matriz varincia-covarincia (M.V.C.)
A estimativa de preciso de uma v.a. fornecida pelo desvio padro dessa
varivel (i). Quando se tem uma v.a. multidimensional, a preciso representada pela
B

matriz varincia covarincia () que formada pelas varincias ( i2 ) dos i indivduos ou


elementos que compe a v.a., e pelas covaricias (ij) desses mesmos elementos. A raiz
quadrada das varincias fornece a preciso e a covarincia indica o grau de dependncia ou
relao entre dois elementos dessa v.a.

13

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

Por exemplo, as varincias

2
i

DE

NAZARENO

e covarincias ij de um conjunto de n

observaes (Lb) podem ser dispostas de maneira a formar uma matriz quadrada (nxn),
representada por Lb, ou seja:
B

Lb

12 12 1n

21 22 2 n

2
n1 n 2 n

A matriz Lb, simtrica (ij = ji), recebe o nome de matriz varincia-covarincia


B

(M.V.C.), ou simplesmente matriz covarincia (M.C.). No caso das observaes serem


independentes entre si, as covarincia sero nulas e Lb se degenera numa matriz diagonal.
B

3.3. Matriz de correlao


Na matriz varincia-covarincia, como dito anteriormente, a varincia ( i2 )
fornece, atravs da extrao da raiz quadrada, a preciso de cada v.a. e a covarincia ij)
indica que existe dependncia entre elas.
A matriz dos coeficientes de correlao, derivada da matriz varinciacovarincia, fornece o grau de dependncia entre as diversas v.a.

21

n1

12 1n
1 2 n

n2 1

onde :

ij

ij
coeficiente de correlao entre a
i j
v.a. i e a j;

BijB

covarincia entre a v.a. i e a j;

BiB , BjB

desvio padro das v.a. i e j .

Os valores dessa matriz variam entre -1 e 1, sendo que se:


| BijB | = 1 dependncia total
| BijB | = 0 independncia total

Na diagonal principal o valor igual a 1, mostra que a correlao entre uma


varivel com ela mesma de 100%, o que uma constatao lgica.
14

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 2 Dada a matriz varincia-covarincia da v.a. A, calcule a matriz de correlao


associada.
36 18 12
A= 18 9
0 m
12 0 16
Extraindo-se a raiz quadrada dos elementos da diagonal principal tm-se as precises dessas variveis.

a1 = 36 = 6 m; a2 = 9 = 3 m; a3 = 16 = 4 m.
Aplicando-se a equao da correlao:

18
= 1 = 100%
63

12
= 0,5 = 50%
64

1 1 0,5
A= 1 1 0
0,5 0 1

0
= 0 = 0%
34

A matriz de correlao mostra que o grau de dependncia entre as v.a. a1 e a2 de 100%, ou


seja, existe 100% de probabilidade de que um erro cometido na medida ou clculo de a1 interfira no clculo
de a2.
No caso de a1 com a3 essa dependncia de 50% e entre a2 e a3 de 0% o que mostra a total
independncia entre essas duas ltimas variveis.

15

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

3.4. Lei de Propagao das Covarincias


Consideremos duas v.a. multidimensionais Y e X, ligadas por um modelo
funcional linear:

Y m Gn n X 1 m C1

m 1

onde :

matriz dos coeficientes;

matriz dos termos independentes.

A Lei de propagao das Covarincias nos diz que se conhecermos a matriz


varincia-covarincia da v.a. X (X) e o modelo funcional que a relaciona com a v.a. Y, a
B

matriz varincia-covarincia dessa matriz (Y) calculada por:


B

Y = G.X.GT
Ou seja, obtida pela simples multiplicao de matrizes.
Quando o modelo funcional no linear, a Lei de Propagao toma a seguinte
forma:
Y = D. X.DT
onde D a derivada da funo em relao aos valores medidos.
Este conceito muito importante porque atravs dele possvel se determinar
qual a preciso das coordenadas de um ponto obtidas com um equipamento de onde se
conhece a sua preciso.

16

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 3 - Foram realizadas as medidas de 5 direes (d1, d2, d3, d4 e d5) com um
equipamento cuja preciso angular de 5. Pretende-se calcular os ngulos a1, a2, a3 e a4
entre essa direes conforme a figura a seguir. Ao se determinar o ngulo entre duas
direes, qual ser a preciso do resultado obtido?

A priori algum poderia imaginar que a preciso seria


os mesmos 5. Outro acharia que seria o dobro. A
propagao das covarincias resolve o problema.

O primeiro passo determinar o modelo funcional,


ou seja, aquele que mostra a relao entre as direes e os
ngulos:

a1 = d2 d1

a1 = -1 d1 + 1 d2 + 0 d3 + 0 d4 + 0 d5

a2 = d3 d1

a2 = -1 d1 + 0 d2 + 1 d3 + 0 d4 + 0 d5
ou

a3 = d4 d3

a3 = 0 d1 + 0 d2 1 d3 + 1 d4 + 0 d5

a4 = d5 d4

a4 = 0 d1 + 0 d2 + 0 d3 1 d4 + 1 d5

Este modelo pode ser escrito na forma matricial e assume o seguinte formato:

a1 1
a 2 1

a3 0

a4 0

d1
0 0 0
d2
0 0 0
d 3
0 - 1 1 0 0
d4
0 0 - 1 1 0
d 5
1
0

0
1

< = > A = G.D + C

O segundo passo reside em se determinar a matriz varinia-covarincia das direes (d). Sabendo-se
que a determinao das direes independente, pois o erro cometido em uma no afeta a outra, conclui-se
2

que a matriz em questo possui elementos apenas na diagonal principal e iguais a varincia ( i 25" ), ou
seja :

17

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

25 0 0 0 0
0 25 0 0 0

2
d 0 0 25 0 0 "

0 0 0 25 0
0 0 0 0 25

Finalmente no terceiro passo procede-se multiplicao.

1
1
A
0

25 0 0 0 0 1 1 0 0
0 0
0 25 0 0 0 1 0 0 0
0 0
0 0 25 0 0 0
1 1 0
0 1 1 0

1 1
0 0 0 25 0 0 0
0 0 1 1
0 0 0 0 25 0 0 0
1
1
0

0
1

25
0
0
50
25
50 25
0 2
A
"
0 25
50 25

0 25
50
0
A partir desta matriz varincia-covarincia podem-se fazer algumas consideraes:

a preciso dos ngulos a1, a2, a3 e a4 so iguais a BiB = 7,07 ( = 50);


existe covarincia entre as variveis a1 com a2, a2 com a3 e a3 com a4;
no existe covarincia entre as variveis a1 com a3, a1 com a4 e a2 com a4;
o fator de correlao entre a1 com a2, a2 com a3 e a3 com a4, a menos do sinal,
numericamente igual ao valor determinado pela equao de correlao.

a1a 2

25
0,5 ou 50%
7,07 7.07

Este fator de correlao indica que o grau de dependncia da ordem de 50% ou seja, que existe 50%
de probabilidade de que um erro cometido no clculo da varivel a1 interfira no clculo da varivel a2. No
caso das correlaes entre a2 com a3 e a3 com a4, o valor negativo, ( a2a3 = -50% e a3a4 = -50%) o que indica
que existe 50% de chances de que um erro cometido no clculo da varivel a2 ou a3 interfira no clculo da
varivel a3 ou a4 respectivamente e, se isso ocorrer, afetar no sentido inverso.

18

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 4 - Um observador com uma estao total mediu o azimute da direo 01 e a


distncia entre as estaes 0 e 1 a partir do ponto 0 cujas coordenadas so (0, 0). Os valores
obtidos foram respectivamente, A01 = 60 e d01 = 2.000 m. Considere que ele utilizou um
B

equipamento cuja preciso angular de 5 e a linear de 5mm 5ppm. Quais so as


coordenadas do ponto 1 (x1,y1) e a respectiva preciso?
B

Da mesma forma que no exemplo anterior, o primeiro


passo estabelecer qual o modelo matemtico que faz a
ligao entre os valores medidos (AB01B e dB01B) com os valores

A01

d01

procurados (xB1,y
B B1).
B
A frmula bastante conhecida da topografia:

x1 x0 d 01senA01

y1 y0 d 01 cosA01

Observa-se que esta frmula do tipo no linear e, portanto o modelo de propagao o seguinte:

xy D Ad DT
A matriz D obtida derivando-se as equaes de xB1B e yB1B em relao ao azimute AB01B e a distncia dB01,B
obtendo-se as seguintes expresses:

x
d 01 cos A01 1.000 m
A

x
senA01 0,866025
d

y
d 01 senA01 - 1.732,05 m
A

y
cos A01 0,500000
d

colocando-se estes valores na matriz D, vem :

1.000,00m 0,866025
D

1.732,05m 0,500000

19

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Definida a matriz D, o passo seguinte montar a matriz varincia-covarincia das observaes.

A2 Ad
Ad
2
dA d
O valor da varincia do Azimute oriundo da preciso angular do equipamento.

A2

2P

= (5)P P = 25P

Embora este valor esteja correto, necessrio pass-lo para radianos porque, ao se proceder a
multiplicao entre as matrizes, se estar misturando metro com segundo de arco.

Ento o valor de


5"
-10
A2

= 5,876107 x 10P P radianos.


3600 180

A varincia da distncia tambm originada da preciso do equipamento.

5 2.000m

2
2
0,005m
= (0,015 m)P P = 0,000225 mP
1
.
000
.
000

2
d

As correlaes

BAdB = BdAB = 0

porque no existe nenhuma dependncia entre o azimute e a

distncia, ou seja, um erro no azimute no afeta a distncia e vice-versa.


Finalmente a matriz varincia covarincia das coordenas obtida da seguinte multiplicao:

1000,00m 1.732,05m
1.000,00m 0,866025 5,876107 1010
0
xy

2
0
0,000225m 0,866025 0,500000
1.732,05m 0,500000

20

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

0.00075636 - 0.00092034 2
xy
m
- 0.00092034 0.0018191

Da matriz varincia-covarincia obtm-se as precises das coordenadas xB1 Be yB1B . Ento :


xB1B = 0 + 2000sen(60) = 1.732,05 m e x1 0.00075636
yB1B = 0 + 2000cos(60) = 1.000,00 m e y1 0.0018191
ou seja,
xB1B = 1.732,05 m 0,0275 m
y1 = 1.000,00 m 0,0426 m

O grau de dependncia entre as v.a. xB1B e yB1B calculada pelo coeficiente de correlao

x1 y 2

- 0.00092034
0,7846 ou - 78,5%
0,0275 0,0426

Este valor mostra que existe uma forte correlao entre as duas variveis e que um erro em
uma delas afeta a outra em -78,5% e no sentido inverso.

O exemplo proposto acima teve apenas o propsito de demonstrar como se


propagam as covarincias, e por esta razo, no enunciado, o observador mediu
diretamente o azimute. Na prtica, isso no acontece, o que se faz determinar o ngulo
azimutal atravs da tcnica das direes. Neste caso necessrio se fazer a propagao dos
azimutes. No prximo exemplo este processo ser abordado e ficar mais claro.

21

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 5 - Executou-se uma poligonal eletrnica a partir de um vrtice e do azimute de


uma direo.

Com os dados do levantamento calcule as coordenadas do ponto 3 e

verifique qual a preciso dessas coordenadas considerando um equipamento cuja preciso


angular de 2 e a linear de 3mm + 10 ppm.

A2

a2

A0
A1

Lb2

a3

A3

2 Lb
3

a1

Lb 1

0
Obs.: AB0B = 45

dados:

40

20

10

Lb1 =

6.000 m

209

47

59

Lb2 =

3.000 m

202

00

17

Lb3 =

1.500 m

1 Passo Modelo funcional

x3 x0 x01 x12 x23


y3 y0 y01 y12 y23

(1)

onde:

xi Lbi senAi
yi Lbi cos Ai

(2)

Na equao observa-se que apenas o valor observado LbBiB aparece. Isto ocorre porque na prtica
no se l o azimute diretamente, e sim a direo. Ento necessrio se estabelecer a equao que envolve os
ngulos medidos BiB com os azimutes.

22

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Da figura se extrai as seguintes equaes:


AB1B = AB0B + B1

= 85 2010
B

AB2B = AB0B + B1B + B2B 180

= 115 08 09

AB3B = AB0B + B1B + B2B + B3B 360

= 137 08 26

(3)

que genericamente pode ser escrita como :


n

Ai A0 i (n 1) 180
i 1

Escrevendo as equaes acima sob a forma matricial vem:

A1 1 0 0 1 A0
A 1 1 0 A 180 A G C
2
2 0

A3 1 1 1 3 A0 360
analisando a equao, conclui-se que ela do tipo linear e a propagao utiliza a frmula
A = GGTP

Assim
2
1 0 0 4"

A 1 1 0 0

1 1 1 0

0
4"2
0

1 1 1 4 4 4


2
0 1 1 4 8 8 "
4"2 0 0 1 4 8 12
0
0

Os valores desta matriz esto em 2P P . Para no se ter problemas com unidades, estes devem ser
2

convertidos em radianos. Existe um modo prtico quando os valores esto em P P que multiplicar por senP P(
1).
Ento:

9,402 9,402 9,402


A 9,402 18,804 18,804 10 11 radianos
9,402 18,804 28,205

23

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Calculada a propagao para o azimute passa-se propagao para as coordenadas. Substituindo as


equaes (2) em (1).

x3 x0 Lb1 senA1 Lb2 senA2 Lb3 senA3


y3 y0 Lb1 cos A1 Lb2 cos A2 Lb3 cos A3
Estas equaes, por causa das funes trigonomtricas so do tipo no linear e, portanto,
utilizam outra forma de propagao.

xy = D Lb DPT
A matriz D obtida derivando-se as equaes de xB3B e yB3B em relao aos azimutes ABi Be as distancia lBiB,
obtendo-se as seguintes expresses:

x
Lb1 cos A1
A1

487,862 m

x
senA1
Lb1

0,99668883

x
Lb2 cos A2 =
A2

-1.274,297 m

x
senA2 =
Lb2

0,90530332

x
Lb3 cos A3 =
A3

-1.099,537 m

x
senA3
Lb3

0,68020218

y
Lb1 senA1 =
A1

-5.980,133 m

y
cos A1 =
Lb1

0,08131035

y
Lb2 senA2
=
A2

-2.715,910 m

y
Lb3 senA3
=
A3

-1.020,303 m

y
cos A2
=
Lb2

y
cos A3 =
Lb3

-0,42476569

-0,73302455

24

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

x
A2
y
A2

x
A3
y
A3

DE

NAZARENO

Substituindo os valores na matriz D

x
A
D 1
y
A1

x
Lb1
y
Lb1

x
Lb2
y
Lb2

x
Lb3
y
Lb3

487,862m 1.274,297m 1.099,537m 0,99668883 0,90530332 0,68020218


D

5.980,133m 2.715,910m 1.020,303m 0,08131035 0,42476569 0,73302455


Finalmente monta-se a matriz varincia-covarincia das observaes.

A21
A1 A2 A1 A3 A1Lb1 A1Lb2 A1Lb3

A2 2
A2 A3 A2 Lb1 A 2 Lb 2 A 2 Lb3
A 2 A1

A3 A 2
A2 3
A3 Lb1 A3Lb 2 A3Lb3
Al A3 A1

2
Lb1 A1 Lb1A 2 lLb1 A3 Lb1 Lb1Lb2 Lb1Lb3
2

Lb2 A2 Lb2 A3 Lb 2 Lb1 Lb


Lb2 Lb3
2
Lb 2 A1

2
Lb3 A1 Lb3 A 2 Lb3 A3 Lb3 Lb1 Lb3Lb 2 Lb3
Os valores da matriz varincia-covarincia dos azimutes j foram determinados na propagao dos
ngulos para os azimutes e basta substituir na matriz Al. Contudo falta ainda calcular as varincia das
distncias. Como as distncias no so correlacionadas entre si e nem com os azimutes, as covarincias que
relacionam estas variveis so nulas. Ento:

10 6.000m
2
2
0,063m Lb
1 0,003969 m
1.000.000
10 3.000 m
2
2
0,003m
0,033m Lb
2 0,001089 m
1.000.000
10 1.500m
2
2
0,003m
0,018m Lb
3 0,000324 m
1.000.000

Lb1 0,003m
Lb 2
Lb 3

Substituindo-se pelos valores numricos:


9,402 10 11 9,402 10 11

11
18,804 10 11
9,402 10

11
9,402 10
18,804 10 11
Al
0
0

0
0

0
0

9,402 10 11
18,804 10 11
28,205 10 11
0
0
0

0
0
0
0,003969 m 2
0
0

0
0
0
0
0,001089 m 2
0

0
0
0
0
0
0,000324 m 2

25

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Finalmente basta proceder multiplicao para obter a matriz varincia-covarincia das


coordenadas xB3B,yB3.
0,0059631
x3 y 3
0,0024035

0,0024035
m 2
0,010683

A partir da matriz varincia-covarincia extraem-se as precises das coordenadas do ponto 3.


xB3B = 9.716,346 m 0,0772 m
yB3B = -1.885,972 m 0,1034 m
O grau de dependncia entre as v.a. xB3 Be yB3B calculada pelo coeficiente de correlao

x3 y3

0,0024035
0,3011 30,1%
0,0772 0,1034

Este valor mostra que existe uma baixa correlao entre as duas variveis e que um erro em uma delas
tem 30,1% de probabilidade de afetar a outra.
Os exemplos 4 e 5 demonstram que a priori no se pode prever qual o grau de correlao entre
duas variveis antes de se efetuar a propagao.

No exemplo anterior, o grau de correlao de -78,5%

enquanto neste, atinge 30,1 %.


Neste exemplo calculou-se o valor da preciso do terceiro ponto diretamente. Para se saber
qual o valor do ponto 1 e 2 basta eliminar alguns elementos das matrizes D e Al. Procedendo-se desta forma
encontram-se os seguintes valores.
xB1B = 5.980,133 m 0,0630 m
yB1 =B

487,862 m 0,0582 m

xB1ByB1B = 1,3 %

xB2B = 8.696,043 m 0,0710 m


yB2B = -786,435 m 0,0896 m

xB2yB B2B = 13,7 %

26

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

4. SISTEMA DE EQUAES LINEARES E O MTODO DOS MNIMOS QUADRADOS


4.1. Resoluo de Sistema de Equaes Lineares
Dada uma equao do tipo
ax = L
onde: x um valor incgnito, L um valor conhecido e a uma constante
qualquer. Ento a soluo :
L
a

No entanto, quando se tem um conjunto de equaes formando um sistema, a


soluo no to direta.
Vamos imaginar um sistema de equaes
a1 x1 + a2 x2 + a3 x3 = L1
B

a4 x1 + a5 x2 + a6 x3 = L2

a7 x1 + a8 x2 + a9 x3 = L3
B

Escrevendo este sistema na forma matricial


nAuuX1

onde :

= nL1

matriz formada pelos coeficiente ai

vetor formado pelos valores incgnitos xi

vetor formado pelos termos conhecidos Li

nmero de linhas (3)

nmero de colunas (3)

27

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

No caso de matrizes as operaes possveis so a soma, a subtrao e a


multiplicao, no existindo a diviso. Deste modo a soluo dada por:

X 1 u Au1 u L1

onde: A-1 a matriz inversa de A.


P

4.2. O Mtodo dos Mnimos Quadrados


Quando um sistema de equaes possui o nmero de equaes iguais ao de
incgnitas a soluo nica. No entanto, quando existem mais equaes que as
necessrias, deve-se agrupa-las de forma que se tenham vrios sistemas formados pelas
combinaes lineares destas equaes. Na teoria, independentemente do conjunto que se
escolha, tem-se sempre a mesma soluo.
Entretanto, quando se trabalha com dados reais, pela prpria caracterstica
estocstica das observaes, via de regra, se faz mais medidas que as necessrias. Cada
observao (Lb) resulta em uma equao e como, toda medida vem acompanhada de erros
aleatrios, o sistema de equaes resultante inconsistente. necessrio ento se
proceder a uma homogeneizao do sistema de modo que independente do conjunto de
equaes que se escolha tenha-se sempre a mesma soluo.
Esta homogeneizao alcanada adicionando uma correo, tambm
conhecida como resduo, a cada observao de modo a tornar o sistema consistente.
a1 x1 + a2 x2 = Lb1 + v1
B

a3 x1 + a4 x2 = Lb2 + v2
B

a5 x1 + a6 x2 = Lb3 + v3
B

ou no formato matricial

AX Lb V

28

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Dependendo do critrio que se escolha para definir os valores desses resduos,

tm-se solues diferentes para a incgnita X , que agora um valor estimado. Entretanto,
o critrio aceito o do Mtodo dos Mnimos Quadrados (M.M.Q.), proposto por Gauss em
1795 e Legendre em 1805 que estudaram o problema de forma independente e sem que
um, conhecesse o estudo do outro.
O M.M.Q. diz que a soma do quadrado dos resduos tem que ser mnima, e
pode ser expresso matematicamente:
n

2
i

min

i 1

Na forma matricial:
VTV = min
P

Para o caso de observaes com graus diferentes de confiana introduz-se o


critrio de peso, e as equaes passam a ser escritas:
n
2
i i

p v

min ou

VTPV = min
P

i 1

Isolando o vetor dos resduos na equao matricial, vem:

V A X Lb
Substituindo no critrio de M.M.Q.

T
AX Lb AX Lb min < = > X T AT Lb T AX Lb min

X T AT AX Lb T AX X T AT Lb Lb T Lb min

29

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Para se determinar o mnimo da funo deriva-se esta em relao s incgnitas


e iguala a zero:

2 AT AX AT Lb AT Lb 0
X

2 AT AX 2 AT Lb 0

Finalmente

X AT A

A
1

Lb

Se derivarmos novamente

2
X

2 AT A 0

o resultado maior que zero indicando que a funo resultante da 1 derivada


representa um ponto de mnimo.
Considerando observaes com graus diferentes de confiana a equao
assume o seguinte aspecto:

X AT PA

A
1

PLb

Esta equao representa a soluo dos mnimos quadrados.

4.3. Condicionamento de Sistemas


Um sistema dito mal condicionado quando, pequena variao nos valores dos
coeficientes ou dos termos independentes significa uma grande variao na soluo. Este
fato ficar compreendido com o exemplo a seguir:

30

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Dado o sistema de equaes


1 1 x1 10
1 2 x 5

cuja soluo

x1 = 5 e x2 = 5
B

Se introduzirmos uma pequena variao no termo independente, por exemplo,


1 x1 10,01
1
1 2 x 5

o resultado passa a ser x1 = 5,007 e x2 = 5,003.


B

Observa-se que esta pequena variao introduziu uma pequena variao na


resposta do problema. Este o exemplo de um sistema bem condicionado.
Agora repetindo a experincia com outro sistema
1 1 x1 10

1,001 1 x 10,005

cuja soluo x1 = 5 e x2 = 5
B

Efetuando uma pequena alterao no termo independente, vem


1 x1 10
1
1,001 1 x 10,1

o resultado passa a ser x1 = 100 e x2 = -90.


B

Nota-se agora que uma variao no muito significativa resultou numa soluo
completamente diferente. Quando isso acontece, diz-se que o sistema mal condicionado.

31

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Este tipo de problema importante porque os sistemas de equaes utilizados


na rea da geomtica so formados por valores observados e sabe-se que os erros de
observao acompanham estes nmeros.
Embora no seja um critrio conclusivo, quando o determinante da matriz dos
coeficientes resulta em um nmero pequeno e em contra posio a matriz inversa
composta por elementos grandes, geralmente este um indicador de mal
condicionamento.
Nos exemplos acima se verifica que no primeiro caso o determinante igual a
A 3 e sua inversa vale :

1 2 1
A1
3 1 1

e no segundo caso

A 0,001

1000 1001
A 1

1000 1000

32

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5. AJUSTAMENTO DE OBSERVAES

As observaes so classificadas em diretas, indiretas e diretas condicionadas.


As diretas so aquelas onde se utiliza um medidor de mesma natureza que a
grandeza procurada. Por exemplo, quando se emprega uma trena para medir uma distncia
ou um teodolito para um ngulo.
Ao contrrio, so classificadas como indiretas quando se mede uma grandeza
que se relaciona funcionalmente ou fisicamente com o valor procurado. o caso de se
determinar uma distncia por estadimetria, onde se l os fios, superior e inferior, da estdia
e se obtm a distncia entre o aparelho e ela.
Finalmente classificada como direta condicionada quando alm de ser direta,
existir uma condio funcional. o caso da medida dos ngulos de um tringulo. Se forem
medidos apenas dois, a medida direta, no entanto se o terceiro ngulo for medido, passa
a existir a condio de que o somatrio tem que ser 180.
Em qualquer das situaes, quando os valores no forem do mesmo grau de
confiana, emprega-se o critrio de pesos diferentes.
Cada um destes casos utiliza um processo de ajustamento especfico.

33

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.1. Ajustamento de observaes diretas


5.1.1. Estimativa pontual: mdia.
Quando se mede vrias vezes a mesma grandeza, o melhor estimador para ela
a mdia aritmtica ou a ponderada dependendo da amostra. Pode-se demonstrar que este
critrio atende o dos mnimos quadrados, no entanto isso no ser feito aqui. A equao
para a mdia a seguinte:

i 1

onde:

Lbi

- mdia aritmtica

~
x

- mdia ponderada

ou

Lbi

- valores observados

pi

- pesos das observaes

- nmero de elementos da amostra

~
x

n
i 1 i
n

p Lb
p
i1

A primeira equao a da mdia aritmtica e a segunda da ponderada.

5.1.2. Estimativa da preciso: Desvio Padro.


No tpico 2.3 foi demonstrada a diferena entre acurcia e preciso. L fica
claro que a preciso refere-se a disperso das medidas ao redor de um valor mdio e est
intimamente ligada aos erros aleatrios. Esta grandeza calculada atravs do desviopadro () que, no caso, deve considerar o duplo sinal ().

34

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Gauss definiu que o desvio-padro a raiz quadrada da mdia do quadrado dos


erros verdadeiros (Gemael, 1994, p. 88), ou seja:

i 1 i

onde:

- desvio-padro

i2

- quadrado dos erros verdadeiros

- nmero de elementos da amostra ou de observaes

Entretanto, a no ser em alguns casos como os ngulos de um polgono


fechado, no se tm como determinar o erro verdadeiro. Neste caso, se utilizam os erros
aparentes que so calculados atravs dos resduos em relao mdia, ou seja:

v2
i 1 i

n 1

lb x

i 1

n 1

Observa-se que esta equao calcula o desvio padro amostral.


Na rea de geomtica, os valores utilizados nos clculos, geralmente so
resultado de uma srie de observaes de onde se determina o valor mais provvel, ou
seja, a mdia. Neste caso, a estimativa de preciso que se necessita no diz respeito
amostra, mas sim mdia. Assim necessrio que se calcule o desvio padro dela.

n
2
i 1 i

nn 1

A demostrao de como se chega a esta equao pode ser encontrada em


Gemael, 1994, p. 89.

35

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

No caso de medidas de desigual confiana as equaes ficam assim


modificadas:

p v2
i 1 i i

~~x

n 1

n
i 1

pi vi2
n

(n 1)i 1 pi

n
i 1

pi

5.1.3. Estimativa por intervalo


A estimativa por intervalo de confiana fornece dois valores entre os quais,
deve estar um parmetro populacional estimado, com certa probabilidade, ou nvel de
confiana. Escrevendo em linguagem matemtica:
P(a b) = 1-
onde: a e b - extremos do intervalo

- valor estimado

- nvel de significncia

- grau de confiana

O valor do nvel de significncia normalmente prefixado. Supondo o valor =


5%, ento:
P(a b) = 0,95
A expresso acima indica que h 95% de probabilidade que a varivel estimada
esteja entre os valores a e b.

36

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.1.3.1. Intervalo de confiana para a mdia


O intervalo de confiana pode ser aplicado na mdia em funo da varincia
amostral. A expresso para o clculo a seguinte:

P x X t x X t 1
1
1
2
2

onde:

- mdia amostral

X - desvio-padro da mdia aritmtica


n
t
1

- nmero de elementos da amostra


- valor interpolado da tabela de distribuio de STUDENT
- mdia populacional

Esta expresso indica que existe (1-)% de probabilidade de que a mdia


populacional esteja entre os valores extremos.
No caso de medidas com desigual confiana, a expresso acima assume a
seguinte forma:

P ~
x ~x t ~
x ~x t 1
1
1

2
2

onde:

- mdia amostral ponderada

~x

- desvio-padro da mdia ponderada

37

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.1.3.2. Intervalo de confiana para a varincia


Da mesma forma que para a mdia, pode-se aplicar o intervalo de confiana
para a varincia. A expresso para este caso a seguinte:

2 n 1
2 n 1
2
P

1
2
2

1

2
2

onde:

- varincia amostral
- nmero de elementos da amostra

n-1 - graus de liberdade

- valor interpolado da tabela de Qui-Quadrado

Na rea de geomtica substituem-se os valores medidos pelo valor mdio e


neste caso na frmula, se substitui a varincia amostral pela varincia da mdia.

n 1

1
P n 2
2 n 2

1
2
2

ou

2
x2 n 1

P
2 x 2
1
2


1
2
2

38

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

No caso de medidas com desigual confiana a expresso acima assume a


seguinte forma:
2

~x2 n 1
~x n 1
2
P

1
2
2

2
2

Para se obter o intervalo do desvio padro basta extrair a raiz quadrada dos
extremos calculados, ou seja:

x2 n 1
x n 1
P

1
2
2

1
2
2

< = Para medidas de igual confiana

~x2 n 1
~x2 n 1
P

1
2
2

1
2
2

< = Para medidas de desigual confiana.

Exemplo 6 - Um ngulo foi medido dez vezes, com o resultado mostrado na tabela a seguir.
Calcule os estimadores pontuais e os por intervalo.
Medida

Lbi

Medida

Lbi

120

31

40,1

42,4

41,2

43,0

40,8

40,7

42,1

41,9

42,9

10

41,5

39

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Clculo dos estimadores pontuais:

Medida

lbi

(lbi -

x)

(lbi -

x )2

120

31

40,1

-1,56

2,4336

41,2

-0,46

0,2116

40,8

-0,86

0,7396 2

42,1

0,44

0,1936 2

42,9

1,24

1,5376

42,4

0,74

0,5476

43,0

1,34

1,7956 2

40,7

-0,96

0,9216 2

41,9

0,24

0,0576 2

10

41,5

-0,16

0,0256 2

1200

8,4640 2

310 416,6

a) mdia aritmtica

lb

i 1

1200 310' 416,6"


10

x 120 31' 41,66"

b) desvio-padro

2
i

n 1

lb x

8, 4640
0,9698
10 1

8,4640
0,3067
10(10 1)

n 1

c ) desvio-padro da mdia

2
i

nn 1

40

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Clculo dos estimadores por intervalo de confiana:


Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia. Ento
supondo um nvel de significncia = 5%.
a) Clculo do intervalo para a mdia:

P x
t x
t 1
n 1 2
n 1 2

Dos estimadores pontuais se obtm os valores

x 120 31' 41,66"

O valor de

1
2

x 0,3067"
n

obtido na tabela de distribuio de Student (pg. 42) com

GL = n - 1 graus de liberdade

GL = 10 1 = 9
P = 1 0,05 = 95%

P = 1 - de probabilidade

ento

9
t0GL
, 975 2,26

1 - 0,05/2 = 0,975

assim,

P12031'41,66"0,3067"2,26 12031'41,66"0,3067"2,26 95%


P12031'41,66"0,6931 12031'41,66"0,6931 95%

P 12031'40,97" 12031'42,35" 95%


Esta expresso nos diz que a mdia populacional tem probabilidade de 95% de estar entre os
valores 1203140,97 e 1203142,35.
Se diminuirmos o nvel de significncia e consequentemente aumentarmos o nvel de confiana
este intervalo ampliado.

41

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

1-
t

t1-

Percentis da distribuio de Student (t1-


P 0,550 0,600 0,650 0,700 0,750 0,800 0,850 0,900 0,950 0,975 0,990 0,995
GL
1
2
3
4
5

0,158
0,142
0,137
0,134
0,132

0,325
0,289
0,277
0,271
0,267

0,510
0,445
0,424
0,414
0,408

0,727
0,617
0,584
0,569
0,559

1,000
0,817
0,765
0,741
0,727

1,376
1,061
0,979
0,941
0,920

1,963
1,386
1,250
1,190
1,156

3,078
1,886
1,638
1,533
1,476

6,314 12,71 31,82 63,65


2,920 4,30
6,96 9,43
2,353 3,18
4,54 5,84
2,132 2,78
3,75 4,60
2,015 2,57
3,36 4,03

6
7
8
9
10

0,131
0,130
0,130
0,129
0,129

0,265
0,263
0,262
0,261
0,260

0,404
0,402
0,400
0,398
0,397

0,553
0,549
0,546
0,544
0,542

0,718
0,711
0,706
0,703
0,700

0,906
0,896
0,889
0,883
0,879

1,134
1,119
1,108
1,100
1,093

1,440
1,415
1,397
1,383
1,372

1,943
1,895
1,860
1,833
1,813

2,45
2,36
2,31
2,26
2,23

3,14
3,00
2,90
2,82
2,76

3,71
3,50
3,36
3,25
3,17

11
12
13
14
15

0,129
0,128
0,128
0,128
0,128

0,260
0,259
0,259
0,258
0,258

0,396
0,395
0,394
0,393
0,393

0,540
0,539
0,538
0,557
0,536

0,697
0,696
0,694
0,692
0,691

0,876
0,873
0,870
0,868
0,866

1,088
1,083
1,080
1,076
1,074

1,363
1,356
1,350
1,345
1,341

1,796
1,782
1,771
1,761
1,753

2,20
2,18
2,16
2,14
2,13

2,72
2,68
2,65
2,62
2,60

3,11
3,05
3,01
2,98
2,95

16
17
18
19
29

0,128
0,125
0,127
0,127
0,127

0,258
0,257
0,257
0,257
0,257

0,392
0,392
0,392
0,391
0,391

0,535
0,534
0,534
0,533
0,533

0,690
0,689
0,688
0,688
0,687

0,865
0,863
0,862
0,861
0,860

1,071
1,069
1,067
1,066
1,064

1,337
1,333
1,330
1,328
1,325

1,746
1,740
1,734
1,729
1,725

2,12
2,11
2,10
2,09
2,09

2,58
2,57
2,55
2,54
2,53

2,92
2,90
2,88
2,86
2,85

21
22
23
24
25

0,128
0,125
0,127
0,127
0,127

0,257
0,256
0,256
0,256
0,256

0,391
0,390
0,390
0,390
0,390

0,533
0,532
0,532
0,531
0,531

0,686
0,686
0,685
0,685
0,684

0,859
0,858
0,858
0,857
0,856

1,063
1,062
1,060
1,059
1,058

1,323
1,321
1,320
1,318
1,316

1,721
1,717
1,714
1,711
1,708

2,08
2,07
2,07
2,06
2,06

2,52
2,51
2,50
2,49
2,49

2,83
2,82
2,81
2,80
2,79

26
27
28
29
30

0,128
0,125
0,127
0,127
0,127

0,256
0,256
0,256
0,256
0,256

0,390
0,389
0,389
0,389
0,389

0,531
0,531
0,530
0,530
0,530

0,684
0,684
0,683
0,683
0,683

0,856
0,855
0,855
0,854
0,854

1,058
1,057
1,056
1,055
1,055

1,315
1,314
1,313
1,311
1,310

1,706
1,703
1,701
1,699
1,697

2,06
2,05
2,05
2,05
2,04

2,48
2,47
2,47
2,46
2,46

2,78
2,77
2,76
2,76
2,75

40
50
60
70
80

0,127
0,126
0,126
0,126
0,126

0,255
0,255
0,255
0,254
0,254

0,388
0,388
0,387
0,387
0,387

0,529
0,528
0,527
0,527
0,527

0,681
0,679
0,679
0,678
0,678

0,851
0,849
0,848
0,847
0,846

1,050
1,047
1,046
1,044
1,043

1,303
1,299
1,296
1,294
1,292

1,684
1,676
1,671
1,667
1,664

2,02
2,01
2,00
1,99
1,99

2,42
2,40
2,39
2,38
2,37

2,70
2,68
2,66
2,65
2,64

90
100
200
300
400

0,126
0,126
0,126
0,126
0,126

0,254
0,254
0,254
0,253
0,253

0,387
0,386
0,386
0,386
0,386

0,526
0,526
0,525
0,525
0,525

0,677
0,677
0,676
0,675
0,675

0,846
0,845
0,843
0,843
0,842

1,042
1,042
1,039
1,038
1,037

1,291
1,290
1,285
1,284
1,283

1,662
1,660
1,652
1,649
1,648

1,99
1,98
1,97
1,97
1,96

2,37
2,36
2,34
2,34
2,33

2,63
2,63
2,60
2,59
2,58

500
600
700
800
900

0,126
0,126
0,126
0,126
0,126

0,253
0,253
0,253
0,253
0,253

0,385
0,385
0,385
0,385
0,385

0,525
0,525
0,525
0,524
0,524

0,675
0,675
0,675
0,675
0,675

0,842
0,842
0,842
0,842
0,842

1,037
1,037
1,037
1,037
1,037

1,283
1,283
1,282
1,282
1,282

1,647
1,647
1,646
1,646
1,646

1,96
1,96
1,96
1,96
1,96

2,33
2,33
2,33
2,33
2,33

2,58
2,58
2,58
2,58
2,58

0,126 0,253 0,385 0,524 0,675 0,842 1,037 1,282 1,645

1,96

2,33

2,58

42

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

b) Clculo do intervalo para a varincia da mdia:

2
x2 n 1

2
x
P

1
2
2

1

2
2

Adotando o mesmo procedimento do clculo anterior vem:

x2 ( 0,3067 " ) 2 0,09406489 "2


o valor da varivel 2 obtida de uma tabela (pg. 43) com

GL = 9

L 9
0G,975
19,02

P1 =1- /2 = 0,975

0GL,025 9 2,70

P2 = /2 = 0,025.
substituindo os valores na frmula vem:

0,09406489 (10 1)
0,09406489 (10 1)
P
2
95%
19
,
02
2,70

P 0,0445"2 2 0,3135"2 95%


Extraindo-se a raiz quadrada da expresso acima se obtm o intervalo para o desvio padro.

P0,211" 0,560" 95%


Se o nvel de significncia for diminudo e, consequentemente o nvel de confiana aumentado, o
intervalo tende a aumentar.

43

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

1-
2

21-

Distribuio de Qui-Quadrado (2)


0,005

0,010

0,025

0,050

0,100

0,250

0,750

0,900

0,950

0,975

0,990

0,995

GL
1
2
3
4
5

0,00
0,01
0,07
0,21
0,41

0,00
0,02
0,12
0,30
0,55

0,00
0,05
0,22
0,49
0,83

0,00
0,10
0,35
0,71
1,15

0,02
0,21
0,58
1,06
1,61

0,10
0,58
1,21
1,92
2,68

1,32
2,77
4,11
5,39
6,63

2071
4,61
6,25
7,78
9,24

3,84
5,99
7,82
9,49
11,07

5,02
7,38
9,35
11,14
12,83

6,64
9,21
11,35
13,28
15,09

7,88
10,60
12,84
14,86
16,75

6
7
8
9
10

0,68
0,99
1,34
1,74
2,16

0,87
1,24
1,65
2,09
2,56

1,24
1,69
2,18
2,70
3,25

1,64
2,17
2,73
3,33
3,94

2,20
2,83
3,49
4,17
4,87

3,46
4,26
5,07
5,90
6,74

7,82
9,04
10,22
11,39
12,55

10,65
12,02
13,36
14,68
15,99

12,59
14,07
15,51
16,92
18,31

14,45
16,01
17,54
19,02
20,48

16,81
18,48
20,09
21,67
23,21

18,55
20,28
21,96
23,59
25,19

11
12
13
14
15

2,60
3,07
3,57
4,08
4,60

3,05
3,57
4,11
4,66
5,23

3,82
4,40
5,01
5,63
6,26

4,58
5,23
5,89
6,57
7,26

5,58
6,30
7,04
7,79
8,55

7,58
8,44
9,30
10,17
11,04

13,70
14,85
15,98
17,12
18,25

17,28
18,55
19,81
21,06
22,31

19,68
21,03
22,36
23,69
25,00

21,92
23,34
24,74
26,12
27,49

24,73
26,22
27,69
29,14
30,58

26,76
28,30
29,82
31,32
32,80

16
17
18
19
29

5,14
5,70
6,27
6,84
7,43

5,81
6,41
7,02
7,63
8,26

6,91
7,56
8,23
8,91
9,59

7,96
8,67
9,39
10,12
10,85

9,31
10,09
10,67
11,65
12,44

11,91
12,79
13,68
14,56
15,45

19,37
20,49
21,61
22,72
23,83

23,54
24,77
25,99
27,20
28,41

26,30
27,59
28,87
30,14
31,41

28,85
30,19
31,53
32,85
34,17

32,00
33,41
34,81
36,19
37,57

34,27
35,72
37,16
38,58
40,00

21
22
23
24
25

8,03
8,64
9,26
9,89
10,52

8,90
9,54
10,20
10,86
11,52

10,28
10,98
11,69
12,40
13,12

11,59
12,34
13,09
13,85
14,61

13,24
14,04
14,85
15,66
16,47

16,34
17,24
18,14
19,04
19,94

24,94
26,04
27,14
28,24
29,34

29,62
30,81
32,01
33,20
34,38

32,67
33,92
35,17
36,42
37,65

35,48
36,78
38,08
39,36
40,65

38,93
40,29
41,64
42,98
44,31

41,40
42,80
44,18
45,56
46,93

26
27
28
29
30

11,16
11,81
12,46
13,12
13,79

12,20
12,88
13,57
14,26
14,95

13,84
14,57
15,31
16,05
16,79

15,38
16,15
16,93
17,71
18,49

17,29
18,11
18,94
19,77
20,60

20,84
21,75
22,66
23,57
24,48

30,42
31,53
32,62
33,71
34,80

35,56
36,74
37,92
39,09
40,26

38,89
40,11
41,34
42,56
43,77

41,92
43,19
44,46
45,72
46,98

45,64
46,96
48,28
49,59
50,89

48,29
48,29
50,99
52,37
53,67

35
40
45
50
55

17,19
20,71
24,31
27,99
31,74

18,51
22,16
25,90
29,71
33,57

20,57
24,43
28,37
32,36
36,40

22,47
26,51
30,61
34,76
38,96

24,80
29,05
33,35
37,69
42,06

29,05
33,66
38,29
42,94
47,61

40,22
45,62
50,99
56,33
61,67

46,06
51,81
57,51
63,17
68,80

49,80
55,76
61,66
67,51
73,31

53,20
59,34
65,41
71,42
77,58

57,34
63,69
69,96
76,15
82,29

60,28
66,77
73,17
79,49
85,75

60
65
70
75
80

35,53
39,38
43,28
47,21
51,17

37,49
41,44
45,44
49,48
53,54

40,58
44,60
48,76
52,94
57,15

43,19
47,45
51,74
56,05
60,39

46,46
50,88
55,33
59,80
64,28

52,29
56,99
61,70
66,42
71,15

66,98
72,29
77,58
82,86
88,13

74,40
79,97
87,53
91,06
96,58

79,08
84,82
90,53
96,22
101,9

83,30
89,18
95,02
100,8
106,6

88,40
94,42
100,4
106,4
112,3

91,95
98,11
104,2
110,3
116,3

85
90
95
100
110

55,17
59,20
63,25
67,33
75,55

57,63
61,75
65,90
70,07
78,46

61,39
65,65
69,93
74,22
82,87

64,75
69,13
73,52
77,93
86,79

68,78
73,29
77,82
82,36
91,47

75,88
80,63
85,38
90,13
99,67

93,39
98,65
103,9
109,1
119,6

102,1
107,6
113,0
118,5
129,4

107,5
113,1
118,8
124,3
135,5

112,4
118,1
123,9
129,6
140,9

118,2
124,1
130,0
135,8
147,4

122,3
128,3
134,2
140,2
151,9

120
130
140
150
200

83,85
92,22
100,7
109,1
152,2

86,92
95,45
104,0
112,7
156,4

91,57
100,3
109,1
118,0
162,7

95,71
104,7
113,7
122,7
168,3

100,6
109,8
119,0
128,3
174,8

109.2
118.8
128.4
138.0
186.2

130.1
140.5
150.9
161.3
213.1

140.2
151.0
161.8
172.6
226.0

146.6
157.6
168.6
179.6
234.0

152.2
163.5
174.6
185.8
241.1

159.0
170.4
181.8
193.2
249.4

163.6
175.3
186.8
198.4
255.3

250
300
400
500
600

196,2
240,7
330,9
422,3
514,5

200,9
246,0
337,2
429,4
522,4

208,1
253,9
346,5
439,9
534,0

214,4
260,9
354,6
449,1
544,2

221,8
269,1
364,2
459,9
556,1

234.6
283.1
380.6
478.3
576.3

264.7
316.1
418.7
521.0
523.0

279.1
331.8
436.6
540.9
644.8

287.9
341.4
447.6
553.1
658.1

295.7
350.0
457.3
553.1
658.1

304.9
359.9
468.7
576.5
683.5

311.3
366.8
476.6
585.2
893.0

700
800
900
1000

607,4
700,7
794,5
888,6

615,9
709,9
804,3
898,9

628,6
723,5
818,8
914,3

639,6
735,4
831,4
927,6

652,5
749,2
846,1
943,1

674.4
772.7
871.0
969.5

724.9
826.6
928.2
1030.0

748.4
851.7
954.8
1058.0

762.7
866.9
970.9
1075.0

762.7
866.9
970.9
1090

790.0
896.0
1002.0
1107.0

800.1
907.0
1013.0
1119.0

44

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 7 - Um ngulo foi medido em quatro etapas, conforme a tabela abaixo. Adotando
pesos proporcionais ao nmero de observaes calcule os estimadores pontuais e por
intervalo de confiana.

ngulo ( lbi )

n de
obs

pi

pilbi

(lbi -

x)

pi(lbi -

x )2

80

50

12

160

100

24

-1,75

6,12502

14

80

50

14

0,25

0,0625

12

240

150

36

-1,75

9,1875

18

160

100

36

4,25

36,1252

24

640

400

110

51,5002

Estimadores pontuais:
a) Mdia ponderada

pl

i i

i 1
n

640 400 '110 "


80 50 '13,75"
8

i 1

b) Desvio padro de uma observao isolada

pi vi2
n 1

51,500
4,14"
4 1

c) Desvio padro da mdia ponderada

~x

pi vi2
(n 1) pi

~x

51,500
1,46"
(4 1) 8

45

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Clculo dos estimadores por intervalo de confiana:


Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia. Ento
supondo um nvel de significncia = 5%.
a) Clculo do intervalo para a mdia:

P ~
x ~x t ~
x ~x t 1
1
1
2
2

da tabela de Student

3
t0GL
, 975 3,18 ento :

P8050'13,75" 1,46"3,18 8050'13,75" 1,46"3,18 95%

P8050'09,09" 8050'18,41" 95%


b) Clculo do intervalo para a varincia da mdia

x~2 n 1
~x n 1
2
P

1
2
2

1
2
2

da tabela de qui-quadrado
GL 3

2 0 , 025 0, 22

GL 3

2 0,975 9,35

1,462 (4 1)
1,462 (4 1)
95%
P
2
9,35
0,22

ento:

P 0,68"2 2 29,07"2 95%

Extraindo-se a raiz tem-se o intervalo de confiana para o desvio padro

P 0,83" 5,39" 95%

46

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.2. Ajustamento de observaes indiretas


As observaes so classificadas como indiretas quando se mede uma grandeza
de natureza diferente da procurada. Por exemplo, um ngulo para se determinar uma
distncia.
A soluo deste problema reside em se determinar qual o modelo matemtico
que expressa a relao entre o valor medido e o procurado. Dependendo do tipo de
equao encontrada se pode ter trs solues: a soluo pelo mtodo paramtrico, pelo
correlato ou pelo combinado.
Vamos supor que existam trs incgnitas (x, y e z) que se ligam aos valores
medidos (lbi) pelas equaes abaixo:
aix + biy +ciz + lbi = 0
onde: i = 1,n (n 3)
Se n = 3 a soluo nica, porm como lbi so observaes, e seus valores
esto contaminados com os erros de observao, so feitas mais medidas que as
necessrias. Para resolver o problema da inconsistncia do sistema formado (cada conjunto
de 3 equaes fornece uma soluo diferente) aplica-se o principio dos mnimos quadrados.
VTPV = min
O sistema de equaes pode ser matricialmente representado como:
AX + Lb =0
onde:

A - a matriz formada pelos coeficientes do sistema (ai; i=1,n);


X - so os valores incgnitos (x,y e z)
b - so os valores medidos (Lbi).

47

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Aps aplicarmos o M.M.Q. os valores observados no sero mais os originais e


sim ajustados (La), assim como, os parmetros calculados sero denominados de ajustados
(Xa).
Se ao montarmos o sistema de equaes for possvel isolar pela igualdade os
valores incgnitos (parmetros) dos valores observados, resolve-se pelo mtodo
paramtrico.

F(Xa) = La

Se ao montarmos o sistema de equaes s aparecerem valores medidos e


nenhum parmetro, a soluo dada pelo mtodo correlato.

F(La) = 0

Finalmente, se no sistema de equaes no for possvel isolar os parmetros


dos valores observados, a soluo dada pelo mtodo combinado.

F(Xa, La) = 0

48

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.2.1. Mtodo Paramtrico


As equaes que relacionam os valores medidos com os incgnitos, tambm
denominados parmetros, so conhecidas como equaes de observao. A caracterstica
delas que se pode separar observao de incgnita.
F(Xa) = La

fazendo

Xa = X0 + X
La = Lb + V

onde :

Ento

Xa

parmetros incgnitos ajustados

Xo

parmetros aproximados

correes aos parmetros aproximados

La

valores observados ajustados

Lb

valores observados

correes aos valores observados (resduos)

F(X0 + X) = Lb + V

O primeiro termo da igualdade normalmente uma funo do tipo no linear,


portanto a sua linearizao feita por Taylor:

F(X 0)

F
X a

X Lb V
xa x 0

49

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

fazendo

PROF . NILTON RICETTI XAVIER

L0 = F(X0)

L0 + AX = Lb + V
fazendo

L = L0 - Lb

Finalmente

AX + L = V

F
X a

DE

NAZARENO

vem:
xa x 0

AX + L0 Lb = V

Aplicando o mtodo dos mnimos quadrados

= VTPV = ( AX + L )TP(AX + L ) = min


Derivando essa equao e igualando a zero encontra-se um ponto de mnimo.
Esse procedimento j foi realizado no item sobre o M.M.Q. Assim:

X = - (ATPA) -1(ATPL)

Fazendo

N = (ATPA)
X = - N -1U

U = (ATPL)
<=>

Xa = Xo + X

Que a soluo de M.M.Q. para o mtodo paramtrico.

5.2.1.1. Qualidade do ajustamento.


Aps o ajustamento preciso verificar a qualidade dos resultados. No mtodo
dos mnimos quadrados aplica-se um teste de hiptese para verificar se estatisticamente o
sigma a priori ( 02 ), valor terico normalmente igual a 1, igual ao sigma a posteriori (

02 ), valor calculado.
50

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

O valor do sigma a posteriori calculado pela seguinte equao

02

onde :

V T PV
nu

vetor dos resduos

matriz dos pesos

nmero de equaes superabundantes

nmero de parmetros incgnitos

A diferena entre n u

denominado de graus de liberdade (GL).

A matriz peso normalmente definida como sendo a inversa da matriz


varincia-covarincia das observaes vezes o fator sigma a priori.
P 02 Lb1

Para essa comparao utiliza-se um teste de hiptese que pode ser bicaudal ou
unicaudal. No teste bicaudal, a hiptese bsica (Ho) define que estatisticamente sigma a
priori igual ao sigma a posteriori, contra a hiptese alternativa (H1) que sigma a priori
diferente do sigma a posteriori.
No caso do teste unicaudal, a hiptese bsica (Ho) define que estatisticamente
sigma a priori igual ao sigma a posteriori, contra a hiptese alternativa (H1) que sigma a
priori maior que o sigma a posteriori.
Hiptese
Ho :

BICAUDAL

UNICAUDAL

H1 :

>

Para fazer essas comparaes utiliza-se a distribuio de qui-quadrado ( 2 )


onde se define valores tericos, formando um intervalo onde Ho vlida, no caso da
bicaudal, ou apenas, um nico valor terico, no caso da unicaudal (figura 1).
51

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Esses valores tericos so definidos a partir do nvel de significncia () e


dos grau de liberdade (GL = n u).

Ho

H1

GL = n - u
/2

Ho

H1

GL = n - u
1 /2

H1

Teste bicaudal

GL = n - u
1

Teste unicaudal

Figura 1 Teste de hiptese com a distribuio 2 . Caso bicaudal e unicaldal.

A partir do estabelecimento dos limites calcula-se um qui-quadrado amostral


pela seguinte expresso:
2

V T PV
02

Para a hiptese Ho ser considerada vlida esse valor calculado deve estar na
rea de aceitao, como mostra a figura 1, ou seja:

P( 2 / 2GL n -u 2 12GL/ 2 n -u ) 1

=>

P( 2 12GL n -u ) 1

=> caso unicaudal

caso bicaudal

Se a hiptese Ho for considerada vlida o ajustamento no apresenta


problemas e a qualidade dele est atestada.

52

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

No caso da hiptese alternativa H1 ser vlida, o ajustamento apresenta


problemas que podem ter como causa:
a) modelo matemtico inadequado;
b) modelo estocstico inadequado ao se superestimar as observaes e gerando uma
matriz dos pesos com valores muito grandes;
c) presena de erros grosseiros na amostra, o que afeta os valores dos resduos;

Embora existam as duas possibilidades de teste (uni e bicaudal), atualmente


utiliza-se o unicaudal para testar a qualidade do ajustamento

5.2.1.2. Matriz varincia covarincia dos parmetros, das observaes e dos


resduos
Neste mtodo a matriz varincia-covarincia dos parmetros obtida
diretamente da matriz normal invertida (N-1) mais um fator de varincia da unidade de peso
a posteriori. ( 02 )

02 N 1

A matriz varincia-covarincia dos valores ajustados obtida pela seguinte


equao:

02 A N 1 AT

e a matriz varincia-covarincia dos resduos por:

02 ( A N 1 AT P 1 )

53

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.2.1.3. Sequncia prtica de clculo


Quando se pretende ajustar pelo mtodo paramtrico existe uma sequncia de
procedimentos que facilitam o clculo.
1 Passo Define-se o modelo matemtico que liga parmetros com observaes;
2 Passo A partir da matriz varincia-covarincia das observaes, se estabelece a matriz dos
pesos;
3 Passo atribuem-se valores aproximados aos parmetros incgnitos gerando o vetor X0;
4 Passo Calcula-se o vetor L = L0 - Lb. O vetor L0 obtido substituindo-se nas equaes de
observao os parmetros por seus valores aproximados e o vetor Lb montado com as
observaes.
5 Passo Gera-se a matriz dos coeficientes (A). Se o modelo no linear necessrio derivar as
equaes de observao em relao aos parmetros e substituir nestas derivadas, os parmetros
por valores aproximados;
6 Passo Calculam-se as matrizes N = ATPA (matriz normal) e a matriz U = ATPL;
7 Passo Inverte-se a matriz normal (N-1);
8 Passo Calcula-se o vetor de correo aos parmetros aproximados X= - N-1 U;
9 Passo Calculam-se os parmetros ajustados (Xa) e retorna-se ao quarto passo no caso de
modelo no linear. Procede-se desta forma at que o vetor das correes (X) tenda a um valor
que ns consideremos igual a zero.
10 Passo Encerrado o processo de iterao, calcula-se o valor das observaes ajustadas
substituindo-se os parmetros ajustados nas equaes de observao.
La = F (Xa)
11 Passo Calcula-se o vetor dos resduos fazendo a diferena entre os valores observados
ajustados e os observados. V = La Lb;
12 Passo Calcula-se o valor de sigma a posteriori

54

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

02

DE

NAZARENO

V T PV
nu

13 Passo Aplica-se o teste de hiptese. Se o teste for bem sucedido calculam-se as matrizes
varincia-covarincia dos parmetros, dos valores observados e dos resduos.
14 Passo Clculo das matrizes varincia-covarincia dos parmetros, das observaes e dos
resduos.

Esta sequncia de clculo no precisa ser seguida exatamente nesta ordem,


mas, ela privilegia uma lgica no clculo.
Exemplo 8 - A partir de quatro marcos com coordenadas conhecidas foi medida a distncia
a um ponto central. Calcule as coordenadas desse ponto, ajuste as distncias observadas e
determine a preciso dos valores ajustados.

M1

Marco

M2
l1

l2

X (m)

Y (m)

M1

842,281

925,523

M2

1337,554

996,249

M3

1831,727

723,962

M4

840,408

658,345

l4

l3
M3

M4

Caderneta de Campo
Lbi

Distncia (m)

(m)

244,512

0,012

321,570

0,016

773,154

0,038

279,992

0,014

1 Passo Modelo matemtico


Inicialmente devemos levar em conta que os parmetros procurados so as coordenadas do ponto
central P, que foram observadas distncias e finalmente, que se conhece as coordenadas dos marcos. Ento a
equao que envolve todos esses valores a equao da reta, ou seja:

55

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

La i

PROF . NILTON RICETTI XAVIER

m
i

x Pa

DE

NAZARENO

( yim y Pa ) 2

i 1, 4

onde :

x im , y im

so as coordenadas dos quatro marcos

xPa , yPa

so os parmetros incgnitos ajustadas

Lai

so as distncias observadas ajustadas

Observa-se que neste modelo os parmetros esto de um lado da igualdade e as observaes do outro.

2 Passo Matriz dos Pesos


A matriz dos pesos e formada pela matriz inversa da varincia-covarincia das observaes. As
observaes no so correlacionadas. Ento:

0,012 2

0
Lb
0

0,0162
0
0

0
0
0,0382
0

0 2
m
0

0,014 2

1
0,012 2

P
0

0
1

0,0162
0
0

0
0
1

0,0382
0

0
1
2
m
0

0,014 2
0

3 Passo Atribuio de valores aproximados aos parmetros.


Podem-se utilizar vrios critrios para se estabelecer um valor inicial, como por exemplo, obter
o valor mdio entre os quatros marcos, ou ainda, escolher arbitrariamente um valor. Independentemente do
valor escolhido, aps algumas iteraes, os parmetros convergem para uma nica resposta. Adotaremos,
para efeito de exemplo, os valores da penltima iterao como valores iniciais aproximados.

X0 =

1065,2 m
825,2 m

56

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

4 Passo Clculo do valor L


L = L0 - Lb

L0 = F(X0)

842,281 1065, 2 2 925,523 825,2 2 244, 45365m

1337,544 1065, 2 2 996, 249 825, 2 2 321,60382 m


L0

2
2

1831,727 1065, 2 723,962 825, 2 773,18353m


840,408 1065, 2 2 658,345 825,2 2 279,95006 m

244 , 45365 244 ,512 0, 05835 m


321,60382 321,570 0 ,03382 m

L
773 ,18353 773 ,154 0, 02953 m

279 ,95006 279 ,992 0 , 04194 m


5 Passo Matriz dos coeficientes (A)
O modelo matemtico do tipo no linear. Deste modo necessrio se determinar as equaes
derivadas da funo em relao a xp e yp e substituir nelas os parmetros aproximados.

La i

m
i

x Pa

( yim y Pa ) 2

xm xp
F (la1 )
1
= 0,911907
x p
lo1

ym y p
F (la1 )
1
0,410397
y p
lo1

xm xp
F (la 2 )
2
-0,846831
x p
lo 2

ym y p
F (la2 )
2
0,531862
y p
lo2

xm xp
F (la3 )
3
0,991391
x p
lo3

y 3m y p
F (la3 )

0,130937
y p
lo3

xm x p
F (la4 )
4
0,802972
x p
lo4

ym yp
F (la4 )
4
0,596017
y p
lo4

Colocando estes resultados na matriz dos coeficientes:


0,911907 0,410397
0,846831 0,531862

A
0,991391 0,130937

0,596017
0,802972

57

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

6 Passo Clculo da matriz N (normal) e da matriz U


N = ATPA e U = ATPL

0
0
0
6.944, 44
0,911907 0,410397

0,846831 0,531862
0
3.906,25
0
0
0,911907 0,846831 0,991391 0,802972

0,991391 0,130937
0
0
692,52
0
0, 410397 0,531862 0,130937 0,596017

0
0
0
5.102,04 0,802972
0,596017

12.546,340 3 1.512,3141
N

1.512,3141 4.098,9158

0
0
0 0,05835
6.944,44

3.906,25
0
0 0,03382
0,911907 0,846831 0,991391 0,802972 0

0
692,52
0 0,02953
0,410397 0,531862 0,130937 0,596017 0

0
0
5.102,04 0,04194
0

- 673,5104
U

- 28,8255

7 Passo Clculo da matriz inversa de N

0,083414 - 0.03078
3
N 1
10
0.03078
0,25532

8 Passo Vetor de correo aos parmetros.


-1

X=-N U

X = [0,055294 -0,013371]

58

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

9 Passo Parmetros ajustados.

1 .065 ,2 m 0 ,055294 m 1.065,2553 m


Xa

825 , 2 m 0 ,013371 m 825,1866m


Voltando com esses valores no 4 Passo fazendo Xo = Xa, obtem-se
X = [0,000000 -0,000002]T
Este vetor de correo pode ser considerado igual a zero e, portanto chegou-se ao valor
ajustado para as coordenadas do ponto P.

1.065,2553 m
Xa

825,1866 m

10 Passo Clculo dos valores observados ajustados


842,281 1.065,25532 925,523 825,18662 244,50956m

1337,544 1.065,25532 996,249 825,18662 321,56411m


La

2
2

1831,727 1.065,2553 723,962 825,1866 773,12696m


840,408 1.065,25532 658,345 825,18662 279,98649m

11 Passo Clculo dos resduos

V = La - Lb

244,50956 m 244,512m - 0,0024m


321,56411m 321,570m - 0,0059m

V
773,12696m 773,154 m - 0,0270m

279,98649 m 279,992m - 0,0055m

12 Passo Clculo do sigma a posteriori.


VTPV = 0,8383

0,8383

02
0,4191
42

59

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

13 Passo Teste de Hiptese


Embora exista o teste bicaudal, alguns autores entendem que o unicaudal mais representativo e por
essa razo ele ser empregado nesse exerccio.
Hiptese bsica
Hiptese alternativa

Ho:
H1:

qui-quadrado amostral

Com 02 1

=
>

V T PV
02

2 0,8383

Determinao do2 terico.

Considerando

= 5% de nvel de significncia 1 = 95%

GL = n u = 4 2 = 2 (graus de liberdade)

GL2

Da tabela de 2 obtm-se : 2
5,99
0, 95

P0,8383 5,99 95%


Como o qui-quadrado amostral menor que o terico, ento a hiptese H0 considerada vlida, e
neste caso considera-se que o ajustamento no apresenta problemas.

14 Passo Clculo das matrizes varincia-covarincia

02 N 1

0,00003496 - 0,00001290 2
Xa
m
- 0,00001290 0,00010703

60

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

02 A N 1 AT

1,856 44,147
3,328
56,753
1,856
43,732
16,520 45,680
La
10 6 m 2
44,147
16,520
39,546 13, 218

48,203
3,328 45,680 13,218

A partir destes resultados monta-se uma tabela resumo:


lbi

Distncia medidas (m)

(m)

Distncia ajustadas (m)

(m)

244,512

0,012

244,50955

0,008

321,570

0,016

321,56411

0,007

773,154

0,038

773,12697

0,006

279,992

0,014

279,98649

0,007

Coordenadas (m)

(m)

xp

1.065,2551

0,006

yp

825,1866

0,010

xBpByBpB = -21,09 %

A partir desse exemplo, observa-se que a grande diferena entre um processo de compensao,
comum em topografia, com o de mnimos quadrados, que no segundo, alm de se ter a coordenadas
ajustadas, tem-se tambm a estimativa de preciso dos valores envolvidos.

61

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.3. Ajustamento de observaes diretas condicionadas


As observaes diretas condicionadas so aquelas onde as observaes so
obtidas diretamente com um mensurador de mesma natureza que a grandeza procurada e
se relacionam atravs de uma equao ou funo de condio. Neste caso a soluo de
mnimos quadrados dada pelo mtodo conhecido como Correlatos.
5.3.1. Mtodo dos Correlatos
O modelo matemtico do mtodo dos correlatos ou das equaes de condio
envolve apenas os valores observados e dado por:
F(La) = 0
onde :

La = Lb + V

La

valores observados ajustados

Lb

valores observados

correes aos valores observados (resduos)

Aplicando a equao no modelo, vem


F(Lb + V) = 0
Fazendo-se uma linearizao por Taylor, obtm-se

F ( La ) F ( Lb V ) F ( Lb )

chamando por

onde :

W = F(Lb)

F
La

F
La

L a Lb 0
Lb

Lb

que corresponde a um vetor erro de fechamento;

a matriz das derivadas derivadas parciais das equaes de


condio em relao as observaes.

62

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

BV + W = 0
Equao correspondente ao modelo dos correlatos ou das equaes de condio
linearizado.
Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:

V T PV 2K T ( BV W ) min

onde :

correes aos valores observados (resduos)

matriz dos pesos

vetor dos multiplicadores de Lagrange ou dos


correlatos

matriz das derivadas parciais

vetor erro de fechamento

Derivando a equao acima parcialmente em relao aos resduos e aos multiplicadores


de Lagrange e igualando a zero as duas equaes resultantes, tem-se :

2 PV 2 B T K 0
V

PV - B T K 0 (1)

2( BV W ) 0
K

BV W 0 (2)

isolando V na equao (1)


V =P-1BTK
e substituindo na (2), vem:
K = -(BP-1BT)-1W

ou

K = -M-1W
63

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Reescrevendo as equaes numa sequncia lgica.


W = F(Lb)

F
La

Lb

M = BP-1BT
K = -M-1W
V =P-1BTK

La = Lb + V
Essa sequncia a soluo de M.M.Q para o mtodo dos correlatos.
Neste mtodo a matriz varincia-covarincia dos valores ajustados obtida pela
seguinte equao:

02 P 1 I B T M 1 BP 1

e a matriz varincia-covarincia dos resduos pela equao:

V P
2
0

B T M 1 BP 1

o valor de sigma a posteriori pode ser calculado como no mtodo paramtrico ou pela seguinte
frmula:

K TW

02
r
onde :

nmero de equaes de condio ou graus de liberdade


do problema

A qualidade do ajustamento tambm, neste caso feita com a aplicao do


mesmo teste de hiptese utilizado no mtodo paramtrico.
64

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Exemplo 9 - Ajustar a rede de nivelamento geomtrico dado, pelo mtodo das equaes de
condio (correlato). A preciso da observao dada por : 20mm K , sendo K em
quilmetros.
Linha

h (m)

Dist. (km)

6,16

4,5

12,57

2,0

6,41

1,8

1,09

4,0

11,58

2,2

5,07

4,5

3
1

RNA
Obs.: as setas indicam o sentido em que
o terreno se eleva.

1 - Modelo Matemtico
Observando o esquema se extrai trs circuitos diferentes que corresponde a trs equaes de
condio. Considerando que todas as vezes que o sentido de caminhamento for contrrio a seta (elevao do
terreno) adota-se o sinal negativo na equao, vem:
Lb1 - Lb2 + Lb3 = 0
Lb2 - Lb4 - Lb5 = 0

que so as equaes de condio

Lb3 - Lb5 + Lb6 = 0


2 - Vetor das observaes (LB) e dos erros de fechamento (W)

6,16
12,57

6,41
Lb

1,09
11,58

5,07

6,16 12,57 6,41 0,00


W F (Lb) 12,57 1,09 11,58 0,10
6,41 11,58 5,07 0,10

65

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

3 - Matriz das derivadas parciais (B) e dos Pesos (P)

F ( La )
B
La

0 0
1 1 1 0

1 0 1 1 0
Lb 0
0 0 1 0 1 1

Como as observaes so no correlacionadas, a matriz dos pesos s ter valores na diagonal principal.
Estes valores sero calculados multiplicando-se a raiz das distncias em quilmetros por 0,004 m e
quadrando-se em seguida o resultado. No mtodo correlato necessita-se do peso invertido. Neste caso ser
gerada a matriz inversa diretamente. No caso de matrizes diagonais, basta inverter os valores da diagonal.
Ento a matriz invertida de P recebe os seguintes valores:
0
0
0
0
0
0,00180
0
0
,
00080
0
0
0
0

0
0
0,00072
0
0
0
P 1

0
0
0
0
,
00160
0
0

0
0
0
0
0,00088
0

0
0
0
0
0,00180
0

4 - Clculo da Matriz M e dos vetores dos coeficientes de Lagrange (K), dos resduos (V) e dos valores
observados (La)

0,00332 0,0008 0,00072


M BP 1 B T 0,0008 0,00328 0,00088
0,00072 0,00088 0,0034

0,9742
K M 1W 24,5979
22,8390

113,4371 103,6954
351,0272
M 1 113,4371
364,2868 118,3080
103,6954 118,3080 346,6976

0,0018
0,0189

0,0171
1 T
V P B K

0,0394
0,0417

0,0411

6,162
12,589

6,427
La Lb V

1,051
11,538

5,111

66

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

2
5 - Clculo de sigma a posteriori ( 0 ) e da Matriz varincia-covarincia dos valores observados ajustados
(La)

K T W 4,743

02

1,581
r
3
10,48
5,41

5,07
1
2 1
La 0 P ( I BT M 1P1 ) 10000 5,17

0,24

5,31

5,41 5,07
7,71
2,30
5,08
2,63
0,33

5,17

0,24

5,31
2,30
5,08
2,63
0,33
7,37 0,09 2,39 4,98

0,09 10,55 5,48 5,39


2,39 5,48 8,11
5,72

4,98 5,39 5,72 10,70

A partir desta matriz obtm-se as precises dos valores observados ajustados


Linha
1
2
3
4
5
6

hobs (m)
6,16
12,57
6,41
1,09
11,58
5,07

Dist. (km)
4,5
2,0
1,8
4,0
2,2
4,5

Calculando o qui-quadrado amostral para o problema

Considerando

hajust (m)
6,162
12,589
6,427
1,051
11,538
5,111

h(m)
0,032
0,028
0,027
0,032
0,028
0,033

2 4,7437

= 5% de nvel de significncia 1 = 95%


GL = n u = 6 3 = 3 (graus de liberdade)
2

Da tabela de obtm-se : 02,95;GL3 7,82

P4,7437 7,82 95%


Como o qui-quadrado amostral menor que o terico, ento a hiptese H0 considerada vlida, e
neste caso considera-se que o ajustamento no apresenta problemas.

67

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5.4. Mtodo Combinado


Quando no for possvel explicitar as observaes em funo dos parmetros a
soluo por M.M.Q. dada pelo mtodo Combinado, cuja equao de definio a
seguinte:
F(La,Xa) = 0
onde :

La = Lb + V

- valores observados ajustados

Xa = Xo + X

- parmetros ajustados

Aplicando a equao no modelo, vem


F(Lb + V, Xo + X) = 0
Fazendo-se uma linearizao por Taylor, obtm-se

F ( La ) F ( Lb V , X 0 X ) F ( Lb , X 0 )

chamando por

onde :

W = F(Lb; Xa) ;

F
X a

F
X a

X a X 0
Xo

e
X0

F
La

F
La

L a Lb 0
Lb

Lb

que corresponde a um vetor erro de fechamento;

a matriz das derivadas derivadas parciais das equaes de


observao em relao aos parmetros.

a matriz das derivadas derivadas parciais das equaes de


observao em relao s observaes.
AX + BV + W = 0

Equao correspondente ao modelo Linearizado do mtodo combinado.

68

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:

V T PV 2K T ( AX BV W ) min

onde :

correes aos valores observados (resduos)

matriz dos pesos

vetor dos multiplicadores de Lagrange ou dos


correlatos

Matriz das derivadas parciais (parmetros)

matriz das derivadas parciais (observaes)

vetor erro de fechamento

Derivando a equao acima parcialmente em relao aos resduos (V), aos


multiplicadores de Lagrange (K) e as correes (X) e igualando a zero as trs equaes
resultantes, tem-se :

2 PV 2 B T K 0
V

2( AX BV W ) 0
K

2 AT K 0
X

PV - B T K 0 (1)

AX BV W 0 (2)

AT K 0 (3)

isolando V na equao (1)

V =P-1BTK

69

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

e substituindo na equao (2), vem:

AX + BP-1BTK + W = 0

Fazendo M = BP-1BT
AX + MK + W = 0

Isolando K
K = -M-1(AX +W )
Substituindo em (3)

-ATM-1(AX +W ) = 0

< = > X = -(ATM-1A)-1ATM-1W

Reescrevendo numa sequncia lgica


W = F(Lb;Xo)

F
X a

X0

F
La

Lb

M = BP-1BT
X = -(ATM-1A)-1ATM-1W
K = -M-1(AX +W )
V =P-1BTK

La = Lb + V
Xa = Xo + X
70

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

O conjunto destas equaes a soluo de M.M.Q para o mtodo combinado.

Neste mtodo a matriz varincia-covarincia dos parmetros obtida pela


seguinte equao

02 AT M 1 A

A matriz varincia-covarincia dos valores observados ajustados obtida pela


seguinte equao:

02 P 1 I B T M 1 BP 1

Exemplo 10 Um agrimensor precisa medir a rea coberta por um piv central e s dispe,
no momento, de um GPS de Navegao. Uma soluo possvel seria a de se obter as
coordenadas do centro e de um ponto na periferia do piv e calcular o seu raio. Ocorre que
a definio do centro no lhe pareceu algo simples e ele optou por determinar as
coordenadas de 4 pontos no alinhados pertencentes ao contorno da rea do piv. Tendo
as coordenadas e sabendo que a acurcia de um GPS de Navegao gira ao redor de 10 m,
calcule a rea do piv central e estime a preciso dessa determinao.
Ponto
1
2
3
4

(m)
654.216
654.445
654.422
654.221

N (m)
8.250.517
8.250.498
8.250.299
8.250.302

1 - Modelo Matemtico
Para determinar a rea do piv necessrio se calcular o raio desse piv. Ento, indispensvel que se
gere um modelo onde seja possvel o clculo dessa grandeza. Assim, pdemos usar a equao da circunferncia
que envolve as coordenadas medidas, as coordenadas do centro e o raio da circunferncia.

71

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Fazendo a coordenada E = x e N = y, vem:

(x1 xc) + (y1 Yc) - R = 0

onde:

xi,yi coordenadas medidas (LB)

(x2 xc) + (y2 Yc) - R = 0

xc,yc coordenadas do centro (parmetro)

(x3 xc) + (y3 Yc) - R = 0

R raio do piv (parmetro)

(x4 xc) + (y4 Yc) - R = 0


Neste modelo se tem trs incgnitas e quatro equaes, o que nos d 1 grau de liberdade, o que
permite proceder ao ajustamento. Observa-se ainda, que incgnitas e observaes, no podem ser separadas
pelo sinal de igualdade. Assim, o ajustamento feito pelo mtodo combinado.
F(xa,La) = 0
2 - Parmetro aproximados
Existem vrias formas de se escolher o parmetro inicial. Vamos adotar a mdia das coordenadas
observadas para determinar as coordenadas do ponto central e a distncia do ponto 1 at esse, como raio
inicial.
Procedendo-se aos clculos chega-se a: Xo = [654.326 8.250.404 157,7]T
3 - Clculo do vetor W
(654.216 654.326)

(654.445 654.326)
=
(654.422 654.326)
(654.221 654.326)

+ (8.250.517 8.250.404)
+ (8.250.498 8.250.404)
+ (8.250.299 8.250.404)
+ (8.250.302 8.250.404)

157,7
157,7
157,7
157,7

0,29

1.872,29
=
4.628,29

3.440,29

4 - Clculo das Matrizes A e B

F
X a

B
X0

F
La

Lb

72

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Derivando as equaes do modelo em relao aos parmetros xc,yc e R vem:

F1
2 ( x1 xc ) = 220
xc

F1
2 ( y1 yc ) = - 226
y c

F1
2 R = - 315,40
R

F 2
2 ( x2 xc ) = - 238
xc

F 2
2 ( y 2 yc ) = - 188
y c

F 2
2 R = - 315,40
R

F 3
2 ( x2 xc ) = - 192
xc

F 3
2 ( y3 yc ) = 210
yc

F 3
2 R = - 315,40
R

F 4
2 ( x4 xc ) = 210
xc

F 4
2 ( y4 yc ) = 204,97
yc

F 2
2 R = - 315,40
R

e derivando em relao as observaes x1, y1, x2, y2, x3, y3, x4, y4 , tem-se:

F1
2 ( x1 xc ) = - 220
x1

F1
2 ( y1 y c ) = 226
y1

F 1
0
x2

F 1
0
y 2

F1
0
x3

F 1
0
y 3

F1
0
x4

F 1
0
y 4

F 2
2 ( x2 xc ) = 238
x2

F 2
2 ( y 2 y c ) = 188
y 2

F 2
0
x 1

F 2
0
y 1

F 2
0
x 3

F 2
0
y 3

F 2
0
x 4

F 2
0
y 4

F 3
2 ( x 3 x c ) = 192
x3

F 3
2 ( y 3 y c ) = - 210
y 3

F 3
0
x 1

F 3
0
y 1

F 3
0
x 2

F 3
0
y 2

F 3
0
x 4

F 3
0
y 4

F 4
2 ( x 4 x c ) = - 210
x 4

F 4
2 ( y 4 y c ) = - 204,97
y 4

F 4
0
x1

F 4
0
y1

F 4
0
x 2

F 4
0
y 2

F 4
0
y 3

F 4
0
x 3

Arranjando esses valores nas respectivas matrizes, vem


220
226
238 188
=
192
210
210 204,97

-220 226
0
0
0 238
B=
0
0
0
0
0
0

315,40
315,40
315,40
315,40

0
0
0
0
0
188 0
0
0
0
0 192 -210
0
0
0
0
0
-210 -204,97

73

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

5 - Clculo da Matriz dos Pesos.


A matriz dos pesos calculada multiplicando-se a matriz varincia covarincia das observaes
invertida pelo sigma a priori. Considerando que a acurcia de um GPS de navegao de 10m e que no se
tem como saber da existncia de tendncia na presente situao, vamos assumir que este valor tambm o
da preciso. Decompondo esse valor nas componentes X e Y, assumidas como iguais:
=

= 7,07

Elevando-se esse valor ao quadrado tm-se as varincias das coordenadas x e y de todos os pontos
=

= 50

Montando-se a matriz dos pesos e no esquecendo que sigma a priori igual a 1:


1
50

0
P
0

1
50

1
50

1
50

1
50

0
0

1
50

1
50

0
1
2
0 m

50

P 1

50 0 0 0 0 0 0 0
0 50 0 0 0 0 0 0

0 0 50 0 0 0 0 0

0 0 0 50 0 0 0 0 2

m
0 0 0 0 50 0 0 0

0 0 0 0 0 50 0 0
0 0 0 0 0 0 50 0

0 0 0 0 0 0 0 50

6 - Clculo das Matrizes M, X, K e V.

= .

= (

4.973.800
0
0
0
0
4.599.400
0
0
=
0
0
4.048.200
0
0
0
0
4.305.601,2

. ) .

3,2919
= 7,4984
7,7958

74

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

.( .

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

0,0000077
0,0000083
)=
0,0000095
0,0000089

0,0848
0,0871
0,0991

0,0783
=
0,0910
0,0995
0,0929
0,0907

7 - Clculo das Matrizes dos parmetros ajustados (Xa) e das observaes ajustadas (La).

3,2979
654.326,00
654.322,7021
+ = 8.250.404,00 + 7,4984 = 8.250.411,4989
7,7958
157,70
149,9042

0,0848
654.216,0000
654.216,085
8.250.517,0000 0,0871
8.250.516,913

0,0991

654.445,0000
654.445,099

8.250.498,0000 0,0783
8.250.498,078
+ =
+
=
654.422,0000
0,0910


654.421,909

8.250.299,0000
0,0995

8.250.299,099
654.221,0000 0,0929
654.220,907
8.250.302,0000 0,0907
8.250.301,425

O modelo deste problema do tipo no linear, e por essa razo, necessrio se aplicar algumas
iteraes at que o vetor X (das correes) se aproxime de zero. Fazendo Xa = Xo aps 3 iteraes o vetor
das correes X se aproxima de zero e como resultado tem-se:

654.322,69
= 8.250.411,50
149,92

654.216,80
8.250.516,90

654.445,10
8.250.498,10
=
654.421,91
8.250.299,10
654.220,91
8.250.301,40

75

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

8 - Clculo das Matrizes varincia-covarincia dos parmetros e das observaes ajustadas

K T W 0,0013121

02

0,0013121
r
1

2
0

A M A

0,0317101 0,0003591 0,0006815


0,000359
0,0341984 0,0017317 m
0,0006815 0,0017317 0,0165042
INCGNITA

Xc =

654.322,69 m

0,178 m

Yc =

8.250.411,50 m

0,185 m

R=

149,92 m

0,128 m

% ;

0,03243
0,0328

0
La 0

Ponto

0,0328
0,0332
0
0
0
0
0
0

(m)

0
0

, %;

, %

02 P 1 I B T M 1 BP 1

0
0

0
0

0
0

0
0

0
0

0,0219 0,0309
0
0
0
0

0,0309 0,0437
0
0
0
0

0
0
0,0369 0,0325
0
0

0
0
0,0325 0,0287
0
0

0
0
0
0
0,0354 0,0327

0
0
0
0
0,0327 0,0302

E (m)

E (m)

N (m)

N (m)

654.216,08

0,1801

8.250.516,90

0,1821

654.445,10

0,1479

8.250.498,10

0,2091

654.421,91

0,1920

8.250.299,1 0

0,1695

654.220,91

0,1881

8.250.301,40

0,1739

76

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Se for calculada a matriz de correlao correspondente a La contatar-se- que as coordenadas x e y


tem xy = 1, ou seja, um erro na determinao da coordenada x tem 100% de probabilidade de afetar a
coordenada Y.
9 - Clculo da rea do piv e preciso da rea.
A equao da rea de uma circunferncia dada por:
= .
Basta substituir o valor do raio calculado na equao para se obter a rea.
= . (149,92 m) = 70.610,46 m
Para se determinar a preciso dessa rea s fazer uma propagao de varincia.
A =D.R.DT
=

2. .

= 2. . 149,92 = 941,98 m

= (0,128) =0,0164m
A = 941,98m 0,0164 m 941,98m = 14.537,845m4

Extraindo-se a raiz da varincia da rea, obtem-se a preciso:

A = 120,573 m

Finalmente, a rea e a preciso procuradas so:

A = 70.610,46 m 120,573 m

77

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

REFERNCIAS BIBLIOBRFICAS

CAMARGO, P. O. Ajustamento de Observaes. Presidente Prudente. (Notas de aula do


Curso de Graduao em Engenharia Cartogrfica, FCT/UNESP) , 2000.
DALMOLIM, Q. Ajustamento por Mnimos Quadrados. Curitiba: Ed. UFPR, 2002.
GEMAEL, C. Introduo ao Ajustamento de Observaes: Aplicaes Geodsicas. Curitiba:
Ed. UFPR, 1994.
MONICO, J. F. G eti alli. Acurcia e preciso: Revendo os conceitos de forma acurada.
Boletim Cincias Geodsicas, sec. Comunicaes, Curitiba, v. 15, no 3, p.469-483, jul-set,
2009.

78

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

APNDICE A

79

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Ajustamento de poligonais topogrficas/geodsicas pelo mtodo dos


correlatos.
Normalmente quando feito um levantamento topogrfico, seja ele para definir a
divisa de uma propriedade ou para alguma obra de engenharia, necessria a utilizao de
poligonais neste levantamento. As poligonais podem ser classificadas como abertas ou
fechadas e com controle e sem controle. O que se tratar neste texto o ajustamento de
poligonais planas abertas e controladas.
Se os dados da poligonal forem oriundos da superfcie elipsoidal, deve-se proceder
inicialmente a transformao destes para a superfcie de projeo (UTM). Estas
transformaes so objetos da Geodsia e no sero tratadas aqui.
Inicialmente preciso estabelecer algumas condies deste problema:
a) toda poligonal controlada sai de um marco de coordenadas conhecidas e
termina em outro de coordenadas tambm conhecidas;
b) necessrio que se conhea o azimute de uma direo tanto no marco inicial
como no final. Estes azimutes so definidos como de sada e chegada;
Para entender o processo de ajustamento vamos imaginar a poligonal
esquematizada na figura 1.
M1

a2
a4
a3

a1

d M 21

d1

d 23
2

a5

d 34

M2

M4

a6
4

d4M

M3

Figura 1 Poligonal plana controlada

Os marcos M1, M2, M3 e M4 tm coordenadas conhecidas e, deste modo, tem-se


as coordenadas de sada (M2) e chegada (M3) e os marcos M2 associado ao M1 e o M3
associado ao M4 permitem que se calcule os azimutes de sada e chegada. Esto
explicitados ainda nesta figura, os valores observados (ngulos e distncias).

80

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Nota-se que o nmero de distncias medidas igual aos dos ngulos horizontais
diminudos de 1, ou seja: so 6 ngulos e 5 distncias. Essa regra vale sempre e o nmero
de observaes totais (ngulos horizontais e distncias) dado por:
n = 2v-1
onde: v = o nmero de vrtices efetivamente ocupados.
No presente caso, 6 vrtices (M2, 1, 2, 3, 4 e M3).
O mtodo correlato ou das equaes de condio, ao ser aplicado a este tipo de
problema, impe 3 equaes de condio, independente do nmero de observaes; uma
relativa ao azimute e outras duas as coordenadas x e y.
No que diz respeito equao de azimute, ao se transportar o azimute da direo
M2M1, atravs dos ngulos horizontais medidos, para a direo M3M4, esse valor
calculado, se no existissem erros de observao, seria igual ao azimute calculado atravs
das coordenadas dessa direo. Assim, a equao de condio do azimute :

onde:

= 0 (1)

o azimute final ou de chegada transportado a


partir dos ngulos horizontais.

o azimute de chegada calculado pelas


coordenadas (conhecido).

Com respeito s equaes de coordenadas, o princpio de raciocnio o mesmo, ou


seja, as coordenadas X e Y, do marco M3, transportadas atravs das observaes devem ser
iguais s coordenadas do prprio marco, ou seja:

onde:

= 0; (2)

= 0; (3)

so as coordenadas do marco M3 transportadas


a partir das observaes.

- so as coordenadas do marco M3 (conhecido).

81

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

O azimute transportado pela seguinte equao genrica:


( 1) 180

(4)

i = 1, v

Considerando que no caso estudado v = 6, vem:

900

As coordenadas por sua vez so transportadas pelas equaes:



(5)

(6)

i = 1, v-1

Ento, aplicando ao problema:

Estas equaes nos mostram que necessrio fazer uma propagao de varincias
para determinar a preciso dos azimutes, uma vez que foram medidos ngulos horizontais.
Como a equao dos azimutes do tipo linear basta aplicar a seguinte equao de
propagao:

onde:

Matriz dos coeficientes

Matriz varincia-covarincia (M.V.C.) dos ngulos


horizontais medidos.

Az

Matriz varincia-covarincia (M.V.C.) dos azimutes


calculados.

82

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

A partir da equao (4) e adotando o superndice


ser calculados por:
=

180

360

540

720

DE

NAZARENO

para transportado, os azimutes podem

900

Escrevendo sobre forma matricial:

1
1
= 1
1

1

0
1
1
1
1
1

0
0
1
1
1
1

0
0
0
1
1
1

0
0
0
0
1
1

0

0

180
360
540

720
900

que uma expresso do tipo Y = G X + C


Os ngulos horizontais so oriundos de observaes independentes e, portanto, a M.V.C uma
matriz diagonal.

0
0
0
0
0
0

0
0
0
0

0
0
0
0
0

0
0
0
0
0

0
0
0
0

0
0
0
0
0

Feita a propagao para os azimutes, o prximo passo e gerar a matriz dos pesos do
problema que definida por:

P 02 Lb1
onde:

02

Sigma-a-priori ou fator de varincia da matriz de peso


unitria, normalmente igual a 1.

Lb1

M.V.C. das observaes invertida.


83

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

A M.V.C. das observaes composta por 4 sub-matrizes.

A sub-matriz dos azimutes foi obtida pela propagao dos ngulos horizontais, e
considerando que azimutes e distncias so medidas no correlacionadas, as sub-matrizes
referentes ao azimute e distncia so nulas. As distncias tambm so no correlacionadas entre si,
o que faz com que a sub-matriz das distncias seja uma matriz diagonal.

0
0
0

0
0

0
0

0
0

0
0

0
0

Definidos os elementos que compes a M.V.C. da Lb s proceder inverso.

0
0

02 .

0
0

Dando continuidade, necessrio ainda montar as matrizes W = F(Lb) e a B

F
La

.
Lb

A matriz W representa o erro de fechamento e obtida substituindo-se os valores


observados nas equaes de condio, ou seja:

+
+

+
+

+
+

+
+

+
+

e a matriz B gerada pela derivada parcial destas mesmas equaes pelas observaes. O termo
observao est entre aspas porque o azimute no uma observao, mas um valor derivado dos
ngulos horizontais observados.

84

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

aplicando as derivaes s equaes:

Finalmente s proceder a sequncia de clculos do mtodo.


M = BP-1BT
K = -M-1W
V =P-1BTK
La = Lb + V
Calculado os valores observados ajustados s aplic-los no modelo matemtico e obter as
coordenadas dos vrtices.
As M.V.C dos valores observados ajustados e dos resduos so calculados pelas seguintes expresses
matriciais :

La 02 P 1 I B T M 1 BP 1

V P
2
0

B T M 1 BP 1

O clculo do sigma-a-posteriori feito pela seguinte frmula:


T
2 K W
0
r

onde :

nmero de equaes de condio ou graus de liberdade


do problema (r = 3)

85

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Com este valor faz-se o teste de qualidade do ajustamento para verificar se no existem
erros grosseiros nos dados.
Para entender todo processo, vamos aplicar o mtodo num exemplo prtico.
Exemplo - Foi executada uma poligonal eletrnica cujos dados esto na sequncia. Ajuste a
poligonal pelo mtodo dos mnimos quadrados, calcule as coordenadas dos vrtices 1, 2, 3 e 4, bem
como a preciso de cada um deles.
Marcos

E (m)

N (m)

M1

806.473,6434

8.161.899,6488

d = +/- 5mm +/- 10ppm

(preciso linear)

M2

806.772,2698

8.160.426,9561

= 5

(preciso angular)

M3

811.367,2610

8.159.608,7935

M4

812.089,7437

8.160.840,8501

ESTAO

DIREO

Distncia
(m)

ESTAO

1.056,1560

M2

M1

72 34 46,50

1
M2

242 17 44,20

Distncia
(m)

1.063,5452

4
4
233 15 53,20

1.025,9100

DIREO

154 59 00,00

1.014,3341

M3
M3
141 14 06,30

1.123,7600

97 29 27,00

M4

M1

a2
a4
a3

a1

d12

M4

d 23
2

a5

d 34

M2

1
M2

a6
4

d4M

M3

86

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

O ajuste pelo mtodo dos mnimos quadrados pelo mtodo dos correlatos implica em trs equaes de
condio, uma relativa a azimute e duas as coordenadas:

=0

= 0;

= 0;

Para se ter o azimute e as coordenadas transportadas so necessrios inicialmente se calcular os azimutes de


sada e chegada, depois calcular os azimutes de todas as direes e finalmente transportar as coordenadas. O
clculo dos azimutes de sada e chegada feito pelas coordenadas dos marcos M1, M2, M3 e M4. Como se
quer o azimute da direo M2M1 e M3M4 importante se calcular a diferena de coordenadas E e N de
forma correta. Isto feito utilizando-se uma regra bsica: coordenada do ponto visado menos a coordenada
do ponto onde se est estacionado. Ento:
E2E1 = E1 E2

806.473,6434m -

806.772,2698m

E2E1 =

-298,6264 m

N2N1 = N1 N2

8.161.899,6488m -

8.160.426,9561m

N2N1 =

1.472,6927m

E3E4 = E4 E3

812.089,7437m -

811.367,2610m

E3E4 =

722,4827m

N3N4 = N4 N3

8.160.840,8501m -

8.159.608,7935m

N3N4 =

1.232,0566m

Aplicando uma relao trigonomtrica calculam-se os azimutes


Norte

E2E1

M1

N2N1

=
1

(0,202775773)

298,6264 m

1.472,6927m

AZM2M1 = -1127 45,9851

Fazendo um estudo de sinal chega-se a concluso que o azimute um arco do 4


quadrante (E2E1 e N2N1 +).

d M21

AZM2M1 = 34832 14,0149 (azimute de sada)

M2

Fazendo o mesmo clculo para a direo M3M4, vem:

AZM2M1
Norte

=
M4


AZM3M4
6

d4M

E3E4
N3N4

722,4827m
1.232,0566m

(0,586403823) AZM3M4 = 3023 15,0816

Pelo estudo de sinal chega-se a concluso que o azimute de chegada um arco


do 1 quadrante (E3E4 + e N3N4 +).

M3

87

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Com o azimute de sada se pode calcular todos os azimutes pela equao genrica:

( 1) 180

i = 1, v

Ento:
= 34832 14,0149 + 72 34 46,50
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 180
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 360
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 + 242 17 44,20 540
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 + 242 17 44,20 + 154 59 00,00 720
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 + 242 17 44,20 + 154 59 00,00
+ 97 29 27,00 900

= 42107 00,5149"

6107 00,5149"

= 47422 53,7149"

11422 53,7149"

= 43537 00,0149"

7537 00,0149"

= 49754 44,2149"

13754 44,2149"

= 47253 44,2149"

11253 44,2149"

= 39023 11,2149"

3023 11,2149"

Com os azimutes calculados associado s distncias medidas, se pode agora calcular as coordenadas
transportadas do marco M3.

(6107 00,5149") + 1.025,9100


(11422 53,7149") + 1.123,7600
'
(7537 00,0149) + 1.063,5452 sen(13754 44,2149) + 1.014,3341
(11253 44,2149")

= 806.772,2698 + 1.056,1560

= 8.160.426,9561 + 1.056,1560
(6107 00,5149") + 1.025,9100
(11422 53,7149") + 1.123,7600

(7537 00,0149) + 1.063,5452


(13754' 44,2149) + 1.014,3341
(11253 44,2149")

= 811.367,2783 m
= 8.159.608,8419 m

Com estes valores calculados se determina o vetor erro de fechamento.

3023 11,2149" 3023 15,0816


811.367,2783 m 811.367,2610m
8.159.608,8419 m 8.159.608,7935m

03,8667
0,0173m
0,0484m

88

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

NAZARENO

DE

Para dar continuidade no mtodo necessrio se gerar a matriz dos pesos P e a dos coeficientes

F
La

Lb

Para gerar a matriz P precisamos inicialmente propagar a preciso dos ngulos para os azimutes. A propagao
feita pela equao matricial:

A matriz G obtida do modelo matemtico de clculos dos azimutes na forma matricial


1

1
= 1

1
1

0
1
1
1
1
1

0
0
1
1
1
1

0
0
0
1
1
1

0
0
0
0
1
1

0

0

1
1
180

360
1
G =
540
1

1
720
1
900

0
1
1
1
1
1

0
0
1
1
1
1

0
0
0
1
1
1

0
0
0
0
1
1

0
0

0
0
0
1

e a M.V.C dos ngulos uma matriz diagonal composta pelas varincias dos ngulos25"2)

0
0
0
0
0
0

0
0
0
0

0
0
0
0
0

0
0
0
0
0

0
0
0
0

0
0
0
0
0

"
25
0

= 0
0
0
0

0
25"
0
0
0
0

0
0
25"
0
0
0

0
0
0
25"
0
0

0
0
0
25"
0
0

0
0
0
0
25"
0

0
0
0
0
25"
0

0
0
0
0
0
25"

aplicando a multiplicao matricial


1
1

1
=
1
1
1

0
1
1
1
1
1

0
0
1
1
1
1

0
0
0
1
1
1

"

0
25
0 0

0 0

0 0

0 0
1 0

0
0
0
0
1
1

"
25"
25
"
= 25"
25
25"
25"

0
25"
0
0
0
0

25"
50"
50"
50"
50"
50"

0
0
25"
0
0
0

25"
50"
75"
75"
75"
75"

25"
50"
75"
100"
100"
100"

0
0
0
0
0
25"

25"
50"
75"
100"
125"
125"

1
0
0
0

0
0

25"
50"
75"
100"
125"
150"

1
1
0
0
0
0

1
1
1
0
0
0

1
1
1
1
0
0

1
1
1
1
1
0

1
1

1
1
1
1

Para que haja compatibilidade de unidades os valores dessa matriz tm que ser transformado em radianos. Como os
valores esto em segundos de arco ao quadrado (2) basta multiplicar todos os elementos por
(1").

"

25"
25
"
= 25"
25
25"
25"

25"
50"
50"
50"
50"
50"

25"
50"
75"
75"
75"
75"

25"
50"
75"
100"
100"
100"

25"
50"
75"
100"
125"
125"

25"
50"
75"
100"
125"
150"

(1")

89

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

0,587611
0,587611
0,587611
=
0,587611
0,587611
0,587611

0,587611
1,17522
1,17522
1,17522
1,17522
1,17522

PROF . NILTON RICETTI XAVIER

0,587611
1,17522
1,76283
1,76283
1,76283
1,76283

0,587611
1,17522
1,76283
2,35044
2,35044
2,35044

0,587611
1,17522
1,76283
2,35044
2,93805
2,93805

DE

NAZARENO

0,587611
1,17522

1,76283
109 radianos
2,35044
2,93805
3,52566

Com a M.V.C. dos azimutes conhecida, necessrio que se calcule a varincia das distncias.
A especificao do equipamento informa que a preciso da distncia e dada pela equao:
d =+/- 5mm +/- 10ppm
Ento:
10 1.056,1560m
1.000.000

= 0,0156

= 0,0002422m

10 1.025,9100m
1.000.000

= 0,0153

= 0,0002328m

= 0,005

10 1.123,7600m
1.000.000

= 0,0162

= 0,0002637m

1.063,5452m

= 0,005

10 1.063,5452m
1.000.000

= 0,0156

= 0,0002445m

1.014,3341m

= 0,005

10 1.014,3341m
1.000.000

= 0,0151

= 0,0002293m

dM21 =

1.056,1560m

= 0,005

d12 =

1.025,9100m

= 0,005

d23 =

1.123,7600m

d34 =
d4M3 =

Lembrando que a M.V.C das distncias uma matriz diagonal, com esses valores possvel montar a matriz Peso.
importante lembrar que no mtodo correlato, o que se utiliza a matriz peso invertida e assim se aplicam as prprias
matrizes varincias covarincias.

0
=

0,587 10

0,587 10

0,587 10
0,587 10
0,587 10
= 0,587 10

0,587 10
1,175 10
1,175 10
1,175 10
1,175 10
1,175 10
0
0
0
0
0

0,587 10
1,175 10
1,762 10
1,762 10
1,762 10
1,762 10
0
0
0
0
0

02

0,587 10
1,175 10
1,762 10
2,350 10
2,350 10
2,350 10
0
0
0
0
0

0,587 10
1,175 10
1,762 10
2,350 10
2,938 10
2,938 10
0
0
0
0
0

0,587 10
1,175 10
1,762 10
2,350 10
2,938 10
3,526 10
0
0
0
0
0

0
0
0
0
0

0
0
0
0
0

0
0
0
0
0

0
0
0
0
0

0
0
0
0
0

0
0
0
0
0

0,0002422
0
0
0
0

0
0,0002328
0
0
0

0
0
0,0002637
0
0

0
0
0
0,0002445
0
0
0
0
0
0,0002293

Finalmente necessrio se calcular a matriz B que obtida derivando-se parcialmente as equaes de condio pelas
observaes.

1
0

90

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO
0

= 510,15

924,78

DE OBSERVAES

423,51

279,15

PROF . NILTON RICETTI XAVIER


0

DE

NAZARENO

789,28 394,63

0,87561

0,91082

0,96866

0,67027

934,42 1088,54 712,86 934,42

0,48303 0,41281 0,24841 0,74212 0,38905

0,92122

Agora apenas uma questo de operaes com matrizes:


M = BP-1BT
K = -M-1W
V =P-1BTK
La = L b + V
3,52566 10
= 2,72045 10
7,98137 10

2,72045 10
0,003756798
0,007765259

7,98137 10
0,007765259
0,027109793

949.839.096,3969 269.160,1818 202.543,8692


269.160,1818
728,7857
129,5082
202.543,8692
129,5082
133,6138

3.341,3684
1,3240
0,4215

0,0000037 rad
0,7710"
0,0000076 rad
1,5766"

0,0000110 rad
2,2666"

0,0000143 rad
2,9457"

0,0000168 rad
3,4618"
= 0,0000187 rad transformando a correo dos ngulos para segundos = 3,8667"
0,0003300 m
0,0003 m
0,0002403 m
0,0002 m
0,0003657 m
0,0004 m
0,0001405 m
0,0001 m
0,0002421 m
0,0002 m

Finalmente:

61 07 01,2859

114 22 55,2915

75 37 02,2814
137 54 47,1606
112 53 47,6766
= 30 23 15,0816
1.056,1557 m

1.025,9098 m
1.123,7596 m
1.063,5451 m
1.014,3339 m

Esses so os valores ajustados das observaes usando o critrio de mnimos quadrados. No entanto, antes
de se passar para os clculos das coordenas dos vrtices da poligonal, necessrio se testar a qualidade do
ajustamento.

91

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

O teste feito aplicando-se um teste de hiptese onde se compara o sigma-a-priori (

posteriori (

) com o sigma-a-

), ou seja:

Teste de hiptese.
Hiptese bsica
Hiptese alternativa
=

qui-quadrado amostral

Ho

H1

>

verificado se o qui-quadrado amostral atende a equao abaixo:


<

( ,

= 1

O terico obtido de uma tabela ou diretamente no Excel atravs da funo inv.Qui(,GL).


Considerando um nvel de significncia = 10% e GL = 3, vem
Aplicando a equao

e lembrando que

% , )

=1

= 6,25 (valor terico)

= 0,1060

Como esse valor menor que o qui-quadrado terico entende-se que estatisticamente
=
o que indica que
a hiptese Ho vlida e o ajustamento no apresenta problemas e, portanto, os resultados so confiveis.
Dando continuidade ao problema preciso calcular as M.V.C dos valores observados ajustados. Isso feito atravs da
equao matricial:

La =

02 P 1 I B T M 1 BP 1

8,76x10-12

1,88x10-12

-2,90x10-12

-2,71x10-12

-2,45x10-12

-4,38x10-10

-1,79x10-9

-1,01x10-9

-2,06x10-9

-1,74x10-9

1,88x10-12

8,80x10-12

-4,75x10-13

-4,00x10-12

-4,30x10-12

8,27x10-10

-1,04x10-9

3,37x10-10

-1,74x10-9

-9,75x10-10

-2,90x10-12

-4,75x10-12

7,23x10-12

4,06x10-13

-2,44x10-12

1,10

x10-9

-9,70x10-10

5,90x10-10

-1,79x10-9

-9,03x10-10

-2,71x10-12

-4,00x10-12

4,06x10-13

7,95x10-12

1,19 x10-12

2,44 x10-9

9,75x10-10

2,42x10-9

1,66x10-11

1,02x10-9

-2,45x10-12

-4,30x10-12

-2,44x10-12

1,19x10-12

x10-12

1,68

x10-9

7,81x10-10

1,70x10-9

1,53x10-10

8,05x10-10

-3,71x10-24

3,74x10-24

3,74x10-24

2,10x10-24

2,81x10-24

-4,38x10-10

8,27x10-10

1,10x10-9

2,44x10-9

1,68x10-9

-3,71x10-24

7,56x10-6

-1,08x10-6

-1,23x10-6

-8,83x10-7

-1,08x10-6

-1,79x10-9

-1,04x10-9

-9,70x10-10

9,75x10-10

7,81x10-10

3,74x10-24

-1,08x10-6

6,84x10-6

-1,41x10-6

-1,23x10-6

-1,37x10-6

-1,01x10-9

3,37x10-10

5,90x10-10

2,42x10-9

1,70x10-9

3,74x10-24

-1,23x10-6

-1,41x10-6

7,77x10-6

-1,18x10-6

-1,40x10-6

-2,06x10-9

-1,74x10-9

-1,79x10-9

1,66x10-11

1,53x10-10

-2,34x10-25

-8,83x10-7

-1,23x10-6

-1,18x10-6

7,52x10-6

-1,21x10-6

-1,74x10-9

-9,75x10-10

-9,03x10-10

1,02x10-9

8,05x10-10

2,64x10-24

-1,08x10-6

-1,37x10-6

-1,40x10-6

-1,21x10-6

6,74x10-6

9,17

92

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO

DE OBSERVAES

PROF . NILTON RICETTI XAVIER

DE

NAZARENO

Calculando a raiz quadrada das varincias se chega s precises dos valores ajustados, ou seja:

Azimutes Ajustados

Segmento

Distncia

Ajustadas

Az12 =

61

7'

1,2859 ''

+/- 0,6107 ''

Az23 =

114

22 '

55,2915 ''

+/- 0,6118 ''

M2 - 1

1.056,1557 m

+/- 0,0027 m

Az34 =

75

37 '

2,2814 ''

+/- 0,5546 ''

1-2

1.025,9098 m

+/- 0,0026 m

Az45 =

137

54 '

47,1606 ''

+/- 0,5815 ''

2-3

1.123,7596 m

+/- 0,0028 m

Az5M3 =

112

53 '

47,6766 ''

+/- 0,6247 ''

3-4

1.063,5451 m

+/- 0,0027 m

AzM3M4 =

30

23'

15,0816 ''

+/- 0,0000 ''

4 - M3

1.014,3339 m

+/- 0,0026 m

Do ponto de vista do ajustamento por mnimos quadrados o clculo terminaria aqui, todavia foram solicitadas as
coordenadas dos vrtices da poligonal e as respectivas precises.
Com os valores observados ajustados aplicando-se as equaes

i = 1, v-1

i = 1, v-1

calcula-se as coordenadas ajustadas dos vrtices da poligonal e, aplicando-se uma propagao de varincias

determina-se as precises dessas coordenadas

Coordenadas Calculadas Ajustadas


Vrtice
E

807.697,0482 m +/- 0,0028 m 8.160.937,1028 m +/- 0,0031 m

808.631,4604 m +/- 0,0033 m 8.160.513,5880 m +/- 0,0044 m

809.719,9994 m +/- 0,0035 m 8.160.792,7270 m +/- 0,0044 m

810.432,8479 m +/- 0,0026 m 8.160.003,4393 m +/- 0,0031 m

M3c

811.367,2610 m +/- 0,0000 m 8.159.608,7935 m +/- 0,0000 m

Obs: O ltimo vrtice se refere s coordenadas do marco M3 calculadas

93