Vous êtes sur la page 1sur 9

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010

p. 001 - 009

j
F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo



ANLISE DO AJUSTAMENTO POR MNIMOS QUADRADOS DE
UMA TRILATERAO TOPOGRFICA COM INJUNES NOS
PLANOS UTM E TOPOCNTRICO

FRANCISCO JAIME BEZERRA MENDONA
SILVIO JACKS DOS ANJOS GARNS
CAROLINE MARTINS PEREIRA
JOS ARIMATIA BARROSO NETO
WEYLLER DIOGO ALBUQUERQUE MELO

Universidade Federal de Pernambuco - UFPE
Centro de Tecnologia e Geocincias - CTG
Departamento de Engenharia Cartogrfica, Recife, PE
jaime@ufpe.br
silvio.jacks@ufpe.br
carol.martins49@yahoo.com.br
ze_teteia@hotmail.com
wdiogo19@gmail.com

RESUMO No ajustamento das observaes uma das etapas fundamentais a anlise dos resultados a
fim de verificar a normalidade das observaes. No presente trabalho o teste do qui-quadrado foi utilizado
para essa anlise e permitiu a identificao da inconsistncia do modelo de projeo no ajuste das obser-
vaes lineares obtidas com estao total. Alm da preocupao com a anlise em si, neste trabalho
mostrado como proceder ao ajustamento livre e como estabelecer implicitamente injunes de pontos de
controle.

ABSTRACT In the adjustment of observations is important to analyze the results to verify the good-
ness of the adjustment. In this work the chi-square test was used for this analysis and allowed the identifi-
cation of the inconsistency of the projection model in the observations of the distances obtained with total
station. Besides the concern about the analysis itself, this work showed the application of the free adjust-
ment and of the constraints adjustment with control points implicitly.



1 INTRODUO
O ajustamento de observaes pelo mtodo dos mni-
mos quadrados surgiu independentemente com Gauss em
1795 e Legendre em 1805, apud Gemael (1974). Embora
o mtodo tenha sido difundido na Europa e nos Estados
Unidos, no Brasil, essa difuso s foi iniciada a partir de
meados do sculo passado com Publicaes da Diretoria
do Servio Geogrfico do Exrcito (DSG), por professo-
res do Instituto Militar de Engenharia (IME). Na obra de
Branco Filho (1968) raras citaes so feitas na lngua
portuguesa datadas do incio do sculo passado. Todavia,
com a criao do Curso de Ps-Graduao em Cincias
Geodsicas da UFPR em 1971, a convite do Prof. Camil
Gemael, o Prof. Uotila da Universidade de Ohio, Colum-
bus, ministrou a disciplina de ajustamento de observaes
e iniciou em nosso pas a divulgao do ajustamento por
mnimos quadrados a luz da teoria matricial - Introdution
to adjustment computatios with matrices (UOTILA,
1967). A propagao desse conhecimento foi continuada
no Programa de Ps-Graduao em Cincias Geodsicas
da UFPR, pelo Prof. Camil Gemael, com destaque a al-
gumas de suas publicaes: Gemael (1974), Gemael
(1975), Gemael (1976), Gemael (1977), Gemael (1987),
culminando com sua mais recente obra no tema: Introdu-
o ao ajustamento de observaes (GEMAEL, 1994).
Sob o enfoque matricial se destacam ainda como primei-
ros trabalhos no Brasil: Lugnani (1975), Dalmolin (1976),
Abib (1976), Wandresen (1980).
Na dcada de 1990, o mtodo dos mnimos quadra-
dos passa a ser um dos mtodos de ajustamento de poli-
gonais normalizado pela Associao Brasileira de Normas
Tcnicas (ABNT), por meio da NBR 13133 (1994). A
partir da, o mtodo ganha importncia tambm s aplica-
es topogrficas no Brasil, cabendo, pois, a citao de
alguns estudos j publicados a respeito do assunto, entre
eles: Abib (1976); Monico (1989), Camargo et al. (1996);
Moraes (1997); Assuno at al. (2003); Stringhini (2005)
e Stringhini at al. (2008); Azevedo at. al. (2006); e Carva-
lho at. al. (2007).
III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 002 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo


Um fato novo e de grande relevncia coloca definiti-
vamente a necessidade do ajustamento de observaes,
com o mtodo dos mnimos quadrados nos levantamentos
topogrficos. No dia 04 de maro de 2010 foi aprovada no
Dirio Oficial da Unio, a 2 edio da Norma Tcnica do
INCRA para o georreferenciamento de imveis rurais.
Essa norma deixa explcito que os ajustamentos de poli-
gonais enquadradas devem ser pelo mtodo dos mnimos
quadrados. Os pontos de controle de sada e de chegada
dessas poligonais devem ser proporcionados pelo posicio-
namento por satlites do grupo: Global Navigation Satel-
lite System (GNSS); ver DOU (2010) ; INCRA (2010).
Atualmente praticamente inconcebvel um trabalho
de mensurao totalmente isolado (sem o georreferencia-
mento) e desta forma, junto com o ajustamento, devem-se
aprimorar cada vez mais os mtodos de conexo de posi-
cionamento GNSS e topogrficos. nesse sentido que
este trabalho aponta, mostrando a inconsistncia de mode-
lo, quando simplesmente se aplica o plano UTM como se
fosse topogrfico. Um arrazoado de conceitos do ajusta-
mento apresentado, mas, o importante voltar ateno
para o tradicional teste de hiptese qui-quadrado, na de-
teco de problemas no ajustamento.
Neste trabalho investigaram-se as possveis causas
quando o teste qui-quadrado rejeita a normalidade das
observaes. E para demonstrar, trs ajustamentos foram
realizados: o ajustamento livre; o ajustamento com pontos
de controle injuncionados ao plano UTM; e ajustamento
com pontos de controle injuncionados ao plano topocn-
trico (geodsico local) - est sendo evitado chamar de
plano topogrfico pelo desconhecimento do desvio da
vertical na origem do sistema, conforme discutido em
Garns (1998).
2 PROCEDIMENTOS METODOLGICOS

Escolheu-se, para ilustrar a aplicao dos procedi-
mentos metodolgicos da trilaterao topogrfica e ajus-
tamento por mnimos quadrados, uma rea localizada no
campus Joaquim Amazonas da UFPE. Nesta rea havia
sido implantada em 2008, uma rede de pontos geodsicos
no padro da RIBaC/RBMC durante o projeto financiado
pelo CNPq Determinao de Limites de Imveis para
Fins Legais coordenado pela Profa. Andrea Carneiro -
UFPE. O ajustamento preliminar do rastreio GPS foi
realizado por Vila Flor (2008). A estrutura do marco
ilustrada na figura 1. As coordenadas dos marcos, bem
como os desvios padro em SIRGAS 2000, so apresen-
tadas na tabela 1. E, A configurao geomtrica dos mar-
cos no campus ilustrada na figura 2.

Figura 1. Estrutura dos marcos geodsicos no campus
Joaquim Amazonas da UFPE, padro RIBaC/RBMC.



Tabela 1. Coordenadas geodsicas do ajustamento preli-
minar em SIRGAS 2000, da rede cadastral do campus
Joaquim Amazonas, UFPE.
ID
marco
Latitude
(Sul)
2,58
(m)
Long.
Oeste)
2,58
(m)
Alt. ge
(m)

RECF

803
03,46970

0= fixa

3457
05,45910

0=fixa

20,180

EPS
1

802
53,44031

0,001

3456
53,45504

0,001

2,787

EPS
2

802
50,24854

0,001

3457
09,19544

0,001

4,332

EPS
3

803
07,57601

0,001

3456
50,66166

0,001

5,200

EPS
4

803
05,84148

0,001

3457
11,62465

0,001

4,892

EPS
5

803
23,36084

0,001

3456
51,38975

0,001

3,083

EPS
6

803
21,26425

0,001

3457
16,23980

0,001

4,586

EPS
7

803
08,21201

0,002

3457
14,65599

0,001

4,637
Fonte: Vila Flor (2008)


A estao RECF integrante da RBMC sob cdi-
go internacional 93.110, operando 24 horas por dias
podendo ser acessada via RIBaC pelo site do INCRA ou
via RBMC pelo site do IBGE.
III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 003 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo



Figura 2. Em crculos alaranjados ilustra-se a configura-
o geomtrica da rede cadastral dos marcos geodsicos,
no campus Joaquim Amazonas da UFPE, Recife-PE.
Fonte: Vila Flor (2008).

As coordenadas na Projeo UTM (Universal Trans-
versa de Mercator) em SIRGAS 2000 das estaes da
tabela 1, so apresentadas na tabela 2. E ainda, estabele-
cendo-se como origem do sistema topocntrico (coorde-
nadas geodsicas locais) a posio horizontal da estao
RECF e a posio vertical do plano topocntrico como a
mdia das altitudes EPS1, EPS2,...,EPS7. O sistema topo-
cntrico para a rede cadastral do campus Joaquim Ama-
zonas da UFPE de Recife, fica definido, com a origem:


m altitude
W Longitude
S Latitude
RECF
217 , 4 :
" 45910 , 05 ' 57 34 :
" 46970 , 03 ' 03 8 :



Tabela 2. Coordenadas na projeo UTM e no sistema
topocntrico (geodsico local) das estaes da rede cadas-
tral do campus Joaquim Amazonas da UFPE, Recife-PE.
ID
marco
Projeo UTM
(F=25 MC=33 Wgr.)
E (m) N (m)
Coord.Topocntricas
X (m) Y (m)

RECF

284931,043

9109554,895

150000,000

250000,000

EPS1

285297,190

9109864,811

150367,559

250308,113

EPS2

284814,681

9109960,583

149885,595

250406,169
Tabela 2. Coordenadas na projeo UTM e no sistema
topocntrico (geodsico local) das estaes da rede cadas-
tral do campus Joaquim Amazonas da UFPE, Recife-PE.-
continuao

EPS3

285384,804

9109430,884

150453,087

249873,847

EPS4

284742,576

9109481,118

149811,215

249927,136

EPS5

285364,818

9108945,773

150430,788

249388,919

EPS6

284603,506

9109006,560

149669,906

249453,330

EPS7

284650,091

9109407,837

149718,398

249854,310
Nota: As frmulas utilizadas na transformao para o sistema
topocntrico foram as cartesianas conforme apresentadas em
Garns (1998) e Garns (2005), em preferncias as da NBR
14166 (1998) por causa das aproximaes e simplificaes nelas
contidas.


Objetivando determinar as coordenadas planimtricas
de trs novos pontos: P
1
, P
2
e P
3
, foram medidas nove
distncias horizontais, entre esses pontos e dois pilares da
rede cadastral do campus. Os pilares da rede utilizados
foram o EPS7 e o EPS4, e as distncias medidas foram s
ilustradas na figura 3.

EPS4
EPS7
l1
l2
l3
l4
l5
l6
l7
P2
P1
P3
l8
l9
l1=81,979m
l2=75,079m
l3=83,786m
l4=64,576m
l5=68,644m
l6=41,037m
l7=43,016m
l8=95,452m
l9=115,245m
Dist.medidas
Figura3. Configurao da rede de trilaterao topogrfica.


As medies das distncias foram realizadas com a
estao total TC-500- Leica, de preciso angular 5 e
linear 5mm+5ppm (LEICA, 2010). Utilizou-se o proce-
dimento da centragem forada, e em cada ponto a deter-
minar, foi instalado um trip com uma base nivelante. As
medies foram realizadas sem que os trips tenham sido
deslocados. As observaes foram distncias horizontais,
j reduzidas ao horizonte pela prpria estao total,
levando em conta os correspondentes valores de tempera-
tura e presso, no instante da observao.

2.1 O Ajustamento pelo mtodo dos mnimos qua-
drados.

Para cada distncia medida, reduzida ao horizonte,
formou-se uma equao de distncia do tipo:

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 004 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo


2 2

) ( ) (
j i j i j i
y y x x l + = . (1)

Representando as observaes de distncias como
uma varivel aleatria m-dimensional, L, e colocando-as
em funo das coordenadas dos pontos (n-parmetros
nesse caso), pode-se escrever um sistema de equaes na
forma:

L=F(x), F :
m n
R R , no-linear. (2)

2.2 Formao da geometria da rede e equaes
gerais do ajustamento

Antes de prosseguir para a formao das equaes de
mnimos quadrados cabe uma breve anlise para forma-
o da rede a que se prope (figura 3). Partindo-se de um
ponto arbitrrio A traam-se duas circunferncias de raios
l
1
(vermelha) e l
2
(verde). Escolhendo um local qualquer
para P
3
sobre a circunferncia de raio l
1
, traa-se uma
nova circunferncia de raio l
3
(cyan). A interseo da
circunferncia em cyan com a circunferncia em verde
definem o ponto P
1
. A partir de P
1
traa-se a circunfern-
cia de raio l
4
(amarelo) e a partir de P
3
traa-se a circunfe-
rncia de raio l
5
(azul). A interseo dessas duas circunfe-
rncias definem o ponto B. Do ponto B traa-se a circun-
ferncia de raio l
6
(magenta) e a partir do ponto P
1
traa-
se a circunferncia de raio l
7
(preto). A interseo das
circunferncias em magenta e preto definem o ponto P
2
e,
com isso, se completa o desenho da rede sem a necessida-
de de pontos de controle nem de orientao.

l1
l2
l3
l4
l5
l6
l7
A
B
P2
P1
P3
Figura 4. Formao da rede de trilaterao com observa-
es mnimas.

Cada ponto desta rede, sendo incgnita ao problema
do ajustamento, iria conduzir a 10 parmetros incgnitos
(cada ponto tem duas coordenadas x e y como parmetro).
Logo a equao (2), considerando a figura 4, teria sete
equaes a 10 incgnitas. E, considerando a figura (3) o
sistema ficaria com nove equaes a 10 incgnitas. Em
ambos os casos o problema indeterminado. Antes, po-
rm, de eliminar a indeterminao seria de fundamental
importncia verificar a consistncia das observaes em
si. Em particular isso feito pelo chamado ajustamento
livre com a soluo pelas inversas generalizadas
(ver seo 2.3).
Explicitando cada uma das equaes (1) para a confi-
gurao usada na figura 3, e notao da figura 4, as nove
equaes de distncia ficariam:



2
2
2
2 9
2
3 2
2
3 2 8
2
1 2
2
1 2 7
2
2
2
2 6
2
3
2
3 5
2
1
2
1 4
2
3 1
2
3 1 3
2
1
2
1 2
2
3
2
3 1
) ( ) (
) ( ) (
) ( ) (
) ( ) (
) ( ) (
) ( ) (
) ( ) (
) ( ) (
) ( ) (
A A
B B
B B
B B
A A
A A
y y x x l
y y x x l
y y x x l
y y x x l
y y x x l
y y x x l
y y x x l
y y x x l
y y x x l
+ =
+ =
+ =
+ =
+ =
+ =
+ =
+ =
+ =
(3)


O desenvolvimento linear do modelo paramtrico de
ajuste por mnimos quadrados na forma usual em Geod-
sia (GEMAEL, 1994); (DALMOLIN, 2002) :


) ( ) ( | ) (
a 0 x 0 b a
x x x
x
x v L L
0
F
F
F =

+ = + =
(4)

Os elementos da matriz jacobiana A=
0
x
x
|

F
, quando
no nulos seriam obtidos por:


ij
i j
j
ij
ij
j i
i
ij
l
x x
x
l
l
x x
x
l ) (
;
) (
=

(5)

ij
i j
j
ij
ij
j i
i
ij
l
y y
y
l
l
y y
y
l ) (
;
) (
=

(6)


Usando-se a seqncia das coordenadas no vetor dos
parmetros x, conforme segue:

x=[x
A
y
A
x
1
y
1
x
3
y
3
x
2
y
2
x
B
y
B
]
T
, (7)

A matriz A ficaria definida como:
III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 005 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo



(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(

0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0 0
2
9
2
9 9 9
2
8
2
8
3
8
3
8
2
7
2
7
1
7
1
7
6 6
3
6
3
6
5 5
3
5
3
5
4 4
1
4
1
4
3
3
3
3
1
3
1
3
1
2
1
2 2 2
3
1
3
1 1 1
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
y
l
x
l
A A
B B
B B
B B
A A
A A



O vetor residual em (4) poderia ser colocado da
seguinte forma:

)] ( [
0 b
x L Ax v F = , (9)

sendo x=x
a
-x
0
: vetor de correo aos parmetros aproxi-
mados.

2.3 Ajustamento livre pelo mtodo dos mnimos
quadrados.

A soluo por ajustamento livre fundamental para
verificao da consistncia das medies entre si, pois a
soluo independe de referencial.

O problema do ajustamento livre por mnimos
quadrados definido como (MITTERMAYER, 1972):

mnimo ) ( trao
mnimo :
min
x
=
= x x
Pv v
T
x
T
a sujeito
(10)

Onde P a matriz dos pesos, em que para o caso da
trilaterao, pode ser definida com base na preciso linear
do equipamento;
x
a matriz varincia-covarincia dos
parmetros a ser estimada no ajustamento.
Segundo Pacilo Netto (1990) a preciso de um
medidor eletrnico de distncia especificada
simbolicamente pelo fabricante como:

+ =
+ =
ppm) b mm (a
ou , D) x b (a

(11)

e, contudo, a varincia da distancia medida deve ser obti-
da por:

2 2 2 2
) 1000 / (D b a
d
+ = , (12)

onde D na expresso (12), a distncia medida em
metros. A diviso por 1000 para transformao da dis-
tncia em quilmetros.
A matriz dos pesos P em geral uma matriz simtrica
e definida positiva, e neste caso particular das distncias
medidas serem independentes umas das outras, a matriz
dos pesos passa a ser diagonal e representada como:

1,...,9 ), / 1 (
2 2
0
= = i diag
di
P , (13)
sendo
2
0
a varincia da unidade peso a priori.
Em Garns (1998) so apresentadas e discutidas trs
solues equivalentes para o problema (10), a saber: i)
soluo por eliminao de injuno; ii) soluo pelo m-
todo de Bjerhammar; e iii) soluo pela Decomposio de
Valor Singular (SVD). No obstante em recair em uma
das solues mencionadas, pode-se usar a forma simplifi-
cada para representar essa soluo pela pseudoinversa
(N
+
) da matriz N das equaes normais como (GEMAEL,
1977):

x = N
+
U, (14)
onde:
N=A
T
PA
U=A
T
P[L
b
-F(x
0
)].

A soluo (14) chamada de soluo com injuno
interna (LEICK, 1995). O vetor estimado dos resduos
ficaria definido substituindo a soluo (14) na equao
(9). A estimativa para a varincia da unidade peso seria
calculada pelo caminho usual substituindo o nmero de
parmetros pelo posto da matriz (posto(A) = posto(N))
conforme equao(15)

) (

2
0
A
Pv v
T
posto m
=
. (15)

Nota: o posto da matriz corresponde ao mnimo entre o nmero de linhas
ou nmero de colunas linearmente independentes da matriz.

A matriz varincia-covarincia dos parmetros ajus-
tados tambm poderia ser representada por:

+
= N
x
2
0
. (16)

2.4 Ajustamento pelo mtodo dos mnimos qua-
drados de equaes no-lineares

Quando as equaes de observao so no-lineares
em relao aos parmetros, como o caso das distncias,
a soluo at aqui apresentada, corresponde a um passo da
do mtodo de Gauss-Newton e a seqncia:
(8)
III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 006 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo



x
k
{k=0,1,2,3,..}, (17)

quando bem escolhidos os valores aproximados, x
0
,
devem convergir para um mnimo local de v
T
Pv. Valores
menos exatos deveriam usar mtodos de convergncia
global, como exemplo, o de Marquardt e o de Gauss-
Newton modificado globalizado conforme exposto em
Garns (1996) e Garns (2001).

2.5 Teste de hiptese

O teste global qui-quadrado verifica se a funo obje-
tivo v
T
Pv tem distribuio qui-quadrado. Em tendo, com-
prova-se a hiptese de que os resduos aleatrios so
provenientes de uma distribuio normal. O teste assim
formulado (Gemael, 1994):

H
0
:
2
0
2
0
= (hiptese nula)
H
1
:
2
0
2
0
(hiptese alternativa)

H
0
no rejeitada ao nvel de significncia (em ge-
ral 5%) se a estatstica do teste:

2
0
T
*
2

Pv v
=


estiver no intervalo da regio de aceitao da distribuio
qui-quadrado, isto , entre o percentil inferior e o percen-
til superior (figura 5). A direita ou a esquerda dos percen-
tis a hiptese nula rejeitada ao nvel de significncia
adotado.




Figura 5. Regies de aceitao e rejeio da distribuio
qui-quadrado.

Caso o teste de hiptese global por qui-quadrado no
rejeite a hiptese nula, significa que as observaes so
consistentes entre si e uma fase adiante deveria se seguir,
com a introduo das injunes mnimas que estabelecem
o referencial.
As injunes mnimas nesse caso seriam um ponto de
controle para evitar a translao, e um azimute de controle
para evitar a rotao. Assim a indeterminao do sistema
seria tirada com o decrscimo de 3 parmetros, restariam
7 parmetros, donde: nmero de parmetros = posto (A).
Neste trabalho, no entanto, foram introduzidos dois
pontos de controle, os quais devem fazer aumentar os
valores dos resduos estimados, pois uma escala indepen-
dente da escala do equipamento foi introduzida.
Com os pontos de injuno A=EPS7 e B=EPS4 a ma-
triz A dos coeficientes dos parmetros, equao (8), fica-
ria sem as duas primeiras colunas e sem as duas ltimas
colunas, sua dimenso se reduziria para 9 linhas x 6 colu-
nas, e o posto(A)=6, o que significa posto completo, logo
N=A
T
PA admitiria uma inversa ordinria (nesse caso a
pseudoinversa tambm coincidiria com a inversa ordin-
ria,
1 +
= N N ). Os efeitos das injunes afetariam o
clculo de F(x
0
) e conseqentemente os elementos da
matriz A. A expresso (15) e (16) por serem gerais pode-
riam ficar como esto. Seno, poderia ser feita a substitui-
o nos graus de liberdade por =m-n, sendo m o nmero
de observaes e n o nmero de parmetros; e, N
+
poderia
ser substituda por N
-1
.

3. RESULTADOS

Os clculos foram realizados no ambiente Matlab 6.0
em um programa desenvolvido pelos autores conside-
rando o ajustamento livre; o ajustamento com injunes
dos pontos EPS7 e EPS4 em coordenadas UTM; e, tam-
bm em coordenadas topocntricas (geodsicas locais).
A tabela (3) resume os resultados dos trs ajustamentos
citados.

Tabela 3. Resumo dos resultados dos ajustamentos
Ajustamento
livre
Ajustamento
injuno em
UTM
Ajustamento
injuno Topo-
cntrica
Injunes:

Nenhuma
Injunes:

=
=
7 9109407,83
284650,091
A
A
A
y
x

=
=
8 9109481,11
284742,576
B
B
B
y
x

Injunes:

=
=
249854,310
149718,398
A
A
A
y
x

=
=
249927,136
149811,215
B
B
B
y
x

Parm. Aprox.

=
=
0,000
000 , 0
A
A
A
y
x

=
=
3,452
74,999
1
1
1
y
x

=
=
24,225
112,667
2
2
2
y
x

=
=
75,428
32,109
3
3
3
y
x

=
=
63,141
99,645
B
B
B
y
x

Parm. Aprox.

=
=
5 9109419,16
284724,318
1
1
1
y
x

=
=
6 9109443,76
284759,59
2
2
2
y
x

=
=
9 9109486,22
284674,110
3
3
3
y
x
Parm. Aprox.

=
=
249865,623
149792,619
1
1
1
y
x

=
=
249890,238
896 , 149827
2
2
2
y
x

=
=
249932,695
149742,405
3
3
3
y
x

2
2 /


2
2 / 1



III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 007 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo


Tabela 3. Resumo dos resultados dos ajustamentos (cont)
n. iterao para
convergncia k=3
mt. Gauss-Newton
n. iterao para
convergncia k=3
mt. Gauss-Newton
n. iterao para
convergncia k=4
mt. Gauss-Newton
Critrio de parada
||xk+1-xk||2=5,9E-13
Critrio de parada
||xk+1-xk||2=8,1E-10
Critrio de parada
||xk+1-xk||2=2,6E-11
Parm. Ajustados

=
=
-0,001
0,001
A
A
A
y
x

=
=
3,452
74,999
1
1
1
y
x

=
=
24,225
112,668
2
2
2
y
x

=
=
75,428
32,110
3
3
3
y
x

=
=
63,141
99,645
B
B
B
y
x

Parm. Ajustados

=
=
1 9109419,15
284724,312
1
1
1
y
x

=
=
4 9109443,77
284759,596
2
2
2
y
x

=
=
9 9109486,22
284674,110
3
3
3
y
x
Parm. Ajustados

=
=
249865,274
149792,675
1
1
1
y
x

=
=
249889,719
149828,070
2
2
2
y
x

=
=
249932,582
149742,783
3
3
3
y
x
n. Obs. = 9
Posto(N) =7
Graus liberdade = 2
n. Obs. = 9
Posto(N) =6
Graus liberdade = 3
n. Obs. = 9
Posto(N) =6
G. liberdade = 3
vTPv = 0,1588
2
0
= 0,07938
vTPv = 24,3027
2
0
= 8,1009
vTPv = 2,7707
2
0
= 0,9236
Teste Global
2
(=5%)
051 , 0
2
2 /
=


378 , 7
2
2 / 1
=


Concluso: Hiptese
H0 no rejeitada
Teste Global
2
(=5%)
216 , 0
2
2 /
=


348 , 9
2
2 / 1
=


Concluso: Hiptese
H0 rejeitada
T. Global
2
(=5%)
216 , 0
2
2 /
=


348 , 9
2
2 / 1
=


Conc.: Hiptese H0
no rejeitada
Numero condio
*****
Nmero condio
Cond(N)=5,2419
Nmero condio
Cond(N)=5,2452

Mximo em xB de
xB=1,08mm e mnimo
em x3 de x3=0,675mm.
Com exceo de xB,
todos os demais esto na
ordem do dcimo do
milmetro.
Desvio-padro estimado

=
=
12,13mm
11,92mm
1
1
1
y
x

=
=
12,86mm
10,41mm
2
2
2
y
x

=
=
12,83mm
11,22mm
3
3
3
y
x



Desvio-padro estima-
do

=
=
4,10mm
4,02mm
1
1
1
y
x

=
=
4,33mm
3,51mm
2
2
2
y
x

=
=
4,33mm
3,79mm
3
3
3
y
x





4. DISCUSSO

indispensvel no ajustamento de observaes pelo
mtodo dos mnimos quadrados a anlise dos resultados.
O mtodo pressupe a necessidade da redundncia, ou
seja, o nmero de observaes independentes deve ser
sempre maior que o numero mnimo de observaes que
definem a geometria da rede ou, do modelo a ser tratado.
So tambm condicionantes para a qualidade dos resulta-
dos que as medies s estejam sujeitas aos inevitveis
erros acidentais, e que a estimativa de preciso das obser-
vaes seja adequada. Na presena de erros grosseiros
alm do ajustamento em si, deve-se usar algum filtro (ou
detector) para encontrar e eliminar essas observaes com
erros. Entre os filtros (ou detectores) os mais populares
em Geodsia so o teste Tau por Pope (1976) e Data
Snoop por Baarda (1968).
Os erros sistemticos ou grosseiros podem, em geral,
indicar suas presenas quando da aplicao do teste de
hiptese por qui-quadrado, pois a normalidade dos res-
duos estimados ficaria comprometida na presena destes.
Todavia no so apenas erros sistemticos ou grosseiros
nas observaes que so indicados nos resduos fazendo
com que a hiptese nula H
0
seja rejeitada. Gemael (1994)
elenca alm desses, os seguintes fatores que podem con-
tribuir para a no normalidade destes:
Sistema mal-condicionado;
Modelo matemtico inconsistente; e
Estimativa da preciso das observaes su-
perestimadas ou subestimadas.
Em relao ao primeiro dos fatores, amplamente dis-
cutido em Garns (1996), afirma-se que, pela magnitude
do nmero de condio na norma-2 da matriz N,
cond(N)=5,2, apresentado na Tabela (3), fica descartada
essa hiptese. Com essa magnitude do nmero de condi-
o, no resta qualquer dvida sobre o condicionamento
do sistema de equaes normais, cuja confirmao pode-
ria ser feita em termos da variao relativa do vetor,
)] ( [
0 b
x L F , ou mesmo da matriz A.
A possibilidade da existncia de erros grosseiros
tambm fica descartada, pois o teste de hiptese no ajus-
tamento livre mostrou a normalidade das observaes
quando no rejeitou a hiptese nula ao nvel de signifi-
cncia de 5%, isso significa que as observaes entre si
so consistentes.
Na estimativa da preciso das observaes lineares da
estao total, TC 500-Leica, a preciso nominal de
(5mm+5ppm) foi levada em conta, assim como as varin-
cias das distncias medidas, as quais foram obtidas pela
expresso (12). Se os pesos das observaes estivessem
superestimados ou subestimados no ajustamento livre
poderia ser detectado pela variao da preciso linear.
Essa variao foi testada em ambos os casos: superesti-
mando e subestimando as precises. Realizando a varia-
o para o caso de superestimar as observaes, mesmo
com (1mm+1ppm), a hiptese nula no rejeitada no
ajustamento livre. No caso de subestimar a preciso, so-
mente quando a preciso de (9mm+5ppm) que o ajus-
tamento livre detecta a subestimao da preciso. Logo
com a preciso nominal fornecida pelo fabricante fica
descartada a hiptese de sub ou superestimao da preci-
so. Cabe observar que essa anlise s tem sucesso para o
ajustamento livre. Na anlise com injunes, os erros de
pontos de controle mascaram os resultados.
O nico ajustamento que a hiptese nula (H
0
) foi re-
jeitada, foi o caso das injunes dos pontos de controle no
plano da projeo Universal Transversa de Mercator
UTM, tabela (3). Para verificar a inconsistncia desse
modelo, deve-se relembrar que as coordenadas planas
UTM so obtidas a partir das coordenadas geodsicas
(latitude e longitude) com uma lei de projeo conforme
(as projees conforme mantm os ngulos), mas que, no
entanto, no mantm as distncias elipsoidais. Alm de
que as distncias medidas para esse modelo deveriam ser
reduzidas da superfcie da Terra ao elipside e posterior-
mente ao plano UTM. Para determinao da magnitude
desta correo na rede da figura 3, foram calculados os
III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 008 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo


fatores de escala UTM para os pontos EPS4 (fator de
escala 1,000173019) e EPS7 (fator de escala
1,000173512). O fator de escala mdio entre os dois pon-
tos resultou 1,000173266. Ento, a distncia UTM
d
AB
=117,998m no elipside corresponderia a
d
AB-elip
=117,978m e corrigida do fator de elevao com
frmula apresentada na NBR14166 (c=1+1,57.10
-7
xHm)
c=1,00000074803, resultaria para a distncia horizontal
na superfcie da Terra o valor idntico a distncia elipsoi-
dal, face a pouca altitude dos pontos, apenas de 4,765m
para a altitude mdia entre os dois pontos no
SIRGAS2000. A discrepncia entre a distncia medida
(topogrfica) com a distncia UTM seria 2cm.
Fazendo uso da tabela 2, o clculo da distancia plana
topocntrica entre os pontos EPS4 e EPS7 de 117,977m,
discrepando 1mm com esta ltima e portanto consistente
com a calculada via passagens mencionadas
anteriormente.
Os dois centmetros que diferem a distncia pelos
dois diferentes modelos UTM e Topocntrico seria o erro
sistemtico detectado no teste de hiptese por
qui-quadrado.

5. CONCLUSES

O ajustamento de observao com o mtodo dos
mnimos quadrados s deve ser considerado concludo
depois de validado pelo teste de hiptese qui-quadrado,
caso contrrio, uma investigao minuciosa em relao
aos fatores que afetam a rejeio da hiptese nula deveria
ser levada a cabo.
Com o exposto neste trabalho pde-se concluir que,
mesmo para pequenas distncias (inferiores a 100m), o
modelo injuncionando pontos de controle diretamente em
coordenadas UTM para a regio metropolitana de Recife
(para outras localidades deveria ser observado o fator de
escala) resultaria numa inconsistncia do modelo de
ajuste e faria o teste global por qui-quadrado rejeitar a
hiptese nula.

AGRADECIMENTOS

Os autores agradecem ao acadmico de Engenharia
Cartogrfica Cludio David Vila Flor por ter cedido o
relatrio contendo as coordenadas dos pontos de controle
apresentados na tabela (2).

REFERNCIAS

ABIB, O. A. Ajustamento de poligonal pelo clculo ma-
tricial. Revista Brasileira de Cartografia. n.15. ano 5.
mai 76.

ASSOCIAO BRASILEIRA DE NORMAS
TCNICAS- NBR 13.133 - Execuo de levantamento
topogrfico - Procediemnto. Rio de Janeiro , 1994, 35 p.

ASSOCIAO BRASILEIRA DE NORMAS
TCNICAS- NBR 14.166 - Rede de Referncia Cadas-
tral Municipal- Procedimentos. Rio de Janeiro , 1998,
23 p.
ASSUNO, V. de S., at. al. Comparao de mtodos e
softwares voltados ao ajustamento de poligonais topo-
grficas. Disponvel em
http://www.cartografia.org.br/xxi_cbc/151-G26.pdf .
Acesso: 10 maro 2010.

AZEVEDO, V. W. B.; CARNEIRO, A.F.T.; SILVA,
D.C; BARROS, E.R.O. Anlise da teoria dos mtodos
de compensao e ajustamento de poligonais para
delimitao de imveis. In: Anais 1 Simpsio de Geo-
tecnologias no Pantanal, Campo Grande, Brasil,

BAARDA, W. A testing procedure for use in geodetic
networks. Netherlands Geodetic Commission. Publica-
tions on Geodesy. Srie 2. N. 5. Delft , Netherlands.
1968, 97p.

BRANCO FILHO, M. C. Sntese do clculo das com-
pensaes: anexo IV emprego dos computadores ele-
trnicos. Ministrio do Exercito, Diretoria do Servio
Geogrfico, 1968.

CARVALHO, A. S.; RODRIGUES, D. D.; LUZ, N. B.
Comparao dos mtodos de Bowditch e MMQ no
ajuste de poligonal topogrfica, 2007. Disponvel em
http://www.ufv.br/dec/eam/Publicacoes/2007/Comp_200
7.pdf Acesso: 10 maro 2010.

CAMARGO, P.O; CORDINI, J.; FABRI, S. M. Ajusta-
mento de poligonais topogrficas pelo mtodo paramtri-
co. In.: II Congresso Brasileiro de Cadastro Tcnico
COBRAC. Anais. Florianpolis SC, 13 a 17 de outubro
de 1996.

DALMOLIN, Q. Ajustamento de observaes pelo
processo iterativo. Curitiba, 1976. 96 f. Dissertao
(Mestrado em Geodsia) Setor de Tecnologia, Universi-
dade Federal do Paran.

DALMOLIN, Q. Ajustamento por mnimos quadrados.
Departamento de Geomtica-UFPR. Curitiba, 2002.

DIARIO OFICIAL DA UNIO DOU, seo 1 - n. 42,
quinta-feira, 4 de maro de 2010.

VILA FLOR, C. D. R. Rede geodsica cadastral do
campus Recife da UFPE: Fase I planejamento e
implantao da rede principal. Trabalho final de gradu-
ao. Relatrio parcial. Departamento de Engenharia
Cartogrfica, Universidade Federal de Pernambuco, Reci-
fe, 2008.

GARNS, S. J. A. Ajustamento por mnimos quadra-
dos com anlise na estabilidade da soluo. Dissertao
III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao Recife - PE, 27-30 de Julho de 2010
p. 009 - 009

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo


(Mestrado em Cincias Geodsicas) Curso de Ps-
graduao em Cincias Geodsicas, UFPR, Curitiba,
1996. 148f.

GARNS, S. J. A. Sistema de projeo e orientao das
plantas topogrficas. In.: COBRAC 98. Congresso Brasi-
leiro de Cadastro Tcnico Multifinalitrio UFSC Floria-
npolis 18 a 22 de Outubro 1998.

GARNS,S.J.A; DALMOLIN, Q. Trilaterao em redes
topogrficas: soluo do problema linear por ajustamento
livre. Cartografia e Cadastro, Lisboa, n.9, dez. 1998.

GARNS, S. J A. Resoluo das ambigidades GPS
para linhas de base curta: anlise dos algoritmos de
otimizao. Tese (Doutorado em Cincias Geodsicas)
Curso de Ps-Graduao em Cincias Geodsicas, UFPR,
Curitiba, 2001. 204 p.

GARNS, S..J.A., SIQUEIRA, V.P.; CACHO, J.P. De-
finio para implantao do sistema topogrfico local
de Campo Grande-MS e anlise das frmulas da
NBR-14.166. In: Anais do IV Colquio Brasileiro de
Cincias Geodsicas, CD-ROM, 2005, Curitiba-PR, 2005

GEMAEL, C. Aplicaes do clculo matricial em geo-
dsia: 2 parte: ajustamento de observaes. Curso de
Ps-Graduao em Cincias Geodsicas. Curitiba, 1974.

GEMAEL, C. Ajustamento de observaes geodsicas:
noes de estatstica. Curso de Ps-Graduao em Cin-
cias Geodsicas. Curitiba, 1975.

GEMAEL, C. Ajustamento: variao de coordeandas:
1 parte conceituao do mtodo; equaes de obser-
vaes e normais; 2 parte resoluo do sistema de
equaes normais. Curso de Ps-Graduao em Cincias
Geodsicas. Curitiba, 1976.

GEMAEL, C. Inversas generalizadas. Curso de Ps-
Graduao em Cincias Geodsicas. Curitiba, 1977.

GEMAEL, C. Elipse e elipside dos erros. Curso de
Ps-Graduao em Cincias Geodsicas. Curitiba, 1987.

GEMAEL, C. Introduo ao ajustamento de observa-
es: aplicaes geodsicas. Curitiba: Editora da UFPR,
1994. 319p.

INSTITUTO NACIONAL DE COLONIZAO E
REFORMA AGRRIA INCRA (2010), Norma tcni-
ca para georreferenciamento de imveis rurais. 2 Ed.
fev., 2010.

LUGNANI, J.B. O problema dos sistemas de equaes
lineares mal condicionados e suas implicaes em geo-
dsia. Curitiba, 1975. 106 f. Dissertao (Mestrado em
Geodsia) Setor de Tecnologia, Universidade Federal
do Paran.
MORAES, C.V. Aplicao do ajustamento s poligo-
nais. Dissertao (Mestrado em Cincias Geodsicas)
Curso de Ps-graduao em Cincias Geodsicas, UFPR,
Curitiba, 1997. 162f.

LEICA. Leica Instrument EDM Specifications. Dispo-
nvel em: <www.dse.vic.gov.au/CA256F310024B6
28/0/B7F449C8F7F6F393CA2575A8000ADDF6/$File/L
eica+Instrument+parameters.pdf > Acesso: mar. 2010.

LEICK, A. GPS satellite surveying. 2a ed. New York:
John Wiley & Sons, Inc., 1995

MITTERMAYER. E. A generalisation of the least-
squares method the adjustment of free networks. Bulletin
Godsique. N.104, 1972.

MONICO, J. F. G. Ajustamento de poligonais geodsicas
pelos mtodos paramtrico e correlatos anlise da MVC
dos parmetros. In.: XIV Congresso Brasileiro de Carto-
grafia. Anais, vol 1, de 21 a 26 de maio de 1989, Grama-
dos RS.

MONICO, J. F. G. Posicionamento pelo GNSS: descri-
o, fundamentos e aplicaes. 2 ed. Presidente Prudente :
Editora UNESP, 2007.

PACILO NETTO, N. Calibrao de medidores ele-
trnicos de distncia, construo de uma base multipi-
lar na USP e metodologia de aferio. So Paulo: Esco-
la Politcnica da Universidade de So de Paulo Enge-
nharia Civil, 1990, 187p. Tese de Doutorado.

POPE, A. J. The statistics of residuals and the detec-
tion of outliers. NOAA Technical Rep. NOS 65 NGS 1,
U.S. National Geodetic Survey, Silver Spring, Md. 1976,
136p.

STRINGHINI, M. Ajustamento e controles de qualida-
de aplicveis s linhas poligonais. Dissertao (Mestra-
do em Geomtica) - Curso de Ps-graduao em Geom-
tica, UFSM, 2005. 129f.

STRINGHIN, M.; MORAES, C.V; FARRET, J. C. Esti-
mativas da qualidade de linhas poligonais topogrfi-
cas. Cincia Rural, set, 2008, v.38, n.6, p.1604-1609.

UOTILA, U. A. Introduction to adjustment computa-
tions with matrices. The Ohio State University, Colum-
bus, 1967.

WANDRESEN, R. Mtodos iterativos para soluo de
sistemas de equaes normais. 1980. 214 f. Dissertao
(Mestrado em Geodsia) Setor de Tecnologia, Universi-
dade Federal do Paran.