1

Regresso polinomial

(Anlise de superfcies de tendncia)

1

Coeficiente de correlao

Coeficiente de correlao
linear produto momento,
segundo Pearson (r)


SPXY = Exy -(Ex Ey) / n;
SQX = Ex2 - (Ex)2 / n;
SQY = Ey2 - (Ey)22 / n


r: -1 +1;
r: 0, no h correlao linear
entre x e y.
1 n
) y
i
y (
.
1 n
) x
i
x (
1 n
) y
i
y )( x
i
x (
) y var( ) x var(
) y , x cov(
r
2 2

= =
SQY . SQX
SPXY
r =
,
2
r 1
2 n
r t

=
2
Coeficiente de determinao

r2*100%: frao da varincia total de x e y
explicada pela relao linear; ajuste da
distribuio dos pontos em relao reta.


3
Regresso linear
Verificado pelo valor de r que ocorre uma significante
correlao linear entre duas variveis h necessidade
de quantificar tal relao, o que feito pela anlise de
regresso.

Modelo: equao de uma reta que, disposta num
sistema de eixos cartesianos, com valores de yi (varivel
dependente) na ordenada e xi (varivel independente)
na abcissa, a soma dos quadrados dos desvios verticais
dos pontos em relao a ela seja mnima.
4
Equao da reta
Y = a + bX
onde y
i
o valor estimado para um especfico valor xi;
b revela a inclinao da reta, ou seja o acrscimo ou
decrscimo do valor de y em relao x;
a localiza na ordenada o ponto de interseo da reta em
relao ao sistema de coordenada retangulares.

Utilizando o mtodo dos mnimos quadrados, os valores da
equao da reta so determinados por:

SQX
SPXY
b =
x b y a =
n
i
y
y =
n
i
x
x =
5 6
2

Regresso curvilnea




potncias crescentes de xi, varivel independente e
coeficientes
xi e xi2: parbola com um nico ponto de inflexo
com potncias crescentes de xi, curva mais complexa para
ajuste
processo por etapas (stepwise)

O modelo para a regresso polinomial de grau k



...
3
X
3
a
2
X
2
a X
1
a
0
a * Y + + + + =

k
i
X
k
...
2
i
X
2

i
X
1

o
Y + + + + + =
7
Funo quadrtica
8
Funo cbica
9
Extenso da regresso linear
Regresso linear:
bx a y + =
x
y
Regresso polinomial:
y b x b b z
2 1 0
+ + =
x
y
z
10
11
Dados originais
Dados interpolados
Ajustando uma superfcie de tendncia
de 1 grau
12
3
O comportamento espacial de variveis mapeveis pode
ser mostrado com os valores distribuindo-se segundo
curvas de mesmo valor, tambm conhecidas como
isopletas.

Tais mapas, como os topogrficos, fornecem
importantes informaes, porm, em algumas situaes
os padres de variao no se mostram muito claros
devido a flutuaes locais ou a valores anmalos.

comum nessas circunstncias falar-se em tendncias
regionais que so mascaradas por anomalias locais.
Mtodo da anlise de superfcies de tendncia:
separao entre grandes e sistemticas mudanas
existentes na rea e pequenas, aparentemente no
ordenadas, que se impem aos padres mais gerais.
13
Regresso polinomial

superfcies contnuas calculadas por critrios de regresso
polinomial, onde Zi a varivel dependente em funo linear
das coordenadas X-Y dos pontos amostrados e irregularmente
distribudos

o modelo para a representao da superfcie, pelo mtodo dos
polinmios no ortogonais, :



onde z
i
(X,Y) a varivel mapeada em funo das coordenadas xi
e yi e e
i
representa os resduos, ou seja, a fonte no-
sistemtica de variao.
) y , x ( e ...] y x a x a y a x a a [ ) Y , X ( z
i i i i i 4
2
i 3 i 2 i 1 0 i
+ + + + + + =
14
Anlise de superfcies de tendncia

Separao entre o aspecto estrutural (determinstico) e o
aspcto errtico (casual): tendncias regionais e
pequenas, aparentemente no ordenadas flutuaes, que
se impem aos padres mais gerais.

Deteco de anomalias: resduos, positivos e negativos,
de superfcies de baixo grau.

Modelagem por suavizao: verificao da superfcie de
mais alto grau possvel que se ajuste aos dados.




i i 2 i 1 0
e y a x a a ) Y , X ( z + + + =
15
Representao de uma superfcie
linear (grau 1)
para o clculo dos
coeficientes a
i
,
dispe-se os dados
num sistema de
equaes normais




[A] = [XY]
-1
[Z]

(
(
(

=
(
(
(

(
(
(

i i
i i
i
1
0
2
i i i i
i i
2
i
i i
y z
x z
z
2
a
a
a
y y x y
y x x
i
x
y x n
16
Superfcie de grau 2
(
(
(
(
(
(
(
(

(
(
(
(
(
(
(
(

=
(
(
(
(
(
(
(
(

i
2
i
i i i
i
2
i
i i
i i
i
1
4
i
3
i i
2
i
2
i
3
i
2
i i
2
i
3
i i
2
i
2
i i
3
i
2
i i
2
i i i
2
i
2
i i
3
i
4
i
2
i
3
i
2
i
3
i
2
i i i
2
i
2
i i i i
2
i i i
2
i
3
i i
2
i i
2
i i i
2
i i i
5
4
3
2
1
0
z y
z y x
z x
z y
z x
z
y y x y x y y x y
y x y x y x y x
i
y x y x
y x y x x
i
y x x x
y y x y x y y x y
y x y x x
i
y x x x
y y x x y x n
b
b
b
b
b
b
17
Cuidados:
procurar tecer consideraes apenas em relao
rea coberta pelos pontos evitando as extremidades
dos mapas, pois a extrapolao pode apresentar
distores;

o nmero de pontos deve ser maior que o nmero
de coeficientes do polinmio a ser calculado;

o arranjo dos pontos, ainda que irregular, deve ser
casual e razoavelmente bem distribudo, evitando
agrupamentos;
18
4
Quando da inverso da matriz, por programas em
microcomputador, podem ocorrer problemas com os
resultados obtidos para superfcies de mais alto grau, isso
porque em sistemas com valores de diversos dgitos, tipo
UTM, a preciso computacional se deteriora exigindo
formato de dupla preciso.
Mesmo assim podem ocorrer limitaes e, ento, a soluo
a transformao das coordenadas xi e yi, conforme as
equaes, que fornecem valores para as coordenadas
entre 0 e 1 e no modifica a forma das superfcies:
min max
min i
x x
x x
* x

=
min max
min i
y y
y y
* y

=
19 20
Verificao do ajuste das superfcies: coeficiente de
determinao (R
2
)
Proporo da variao total da varivel dependente zi que
explicada pela variao das variveis independentes xi e yi

Variao total dos dados: SQT = EZ2 (EZ)2/n
Variao devido superfcie calculada: SQP = EZ*2(EZ*)2/n
Variao devido aos resduos: SQR = SQT - SQP

Porcentagem de ajuste da superfcie: R2 = (SQP/SQT)100

O coeficiente de correlao r indica a relao entre variveis
e r2 indica o quanto uma varivel explica a outra, ou
quanto a superfcie calculada se ajusta aos dados espaciais
originais.
21
Superfcies de tendncia
R
2
= 45.42 %

R
2
= 92.72 %
R
2
= 82.11 %
Linear

Quadratic Cubic

Superfcie original com
pontos de amostragem
22
Exemplos
X
1
(km) X
2
(km) Y
10.0 17.0 -665.0
21.0 89.0 -613.0
33.0 38.0 -586.0
35.0 20.0 -440.0
47.0 58.0 -544.0
60.0 18.0 -343.0
65.0 74.0 -455.0
82.0 93.0 -437.0
89.0 60.0 -354.0
97.0 15.0 -142.0

23
Equao do plano: Y
i
= -621 4.78X
1
1.96X
2

24
5
Y
1
= -621 -4.78(10.0 1.96(17.0) = -606.6
25
Superfcie de grau 1
10 20 30 40 50 60 70 80 90
20
30
40
50
60
70
80
90
-760
-720
-680
-640
-600
-560
-520
-480
-440
-400
-360
-320
-280
-240
-200
26
Resduos positivos e negativos
10 20 30 40 50 60 70 80 90
20
30
40
50
60
70
80
90
-200
-180
-160
-140
-120
-100
-80
-60
-40
-20
0
20
40
60
80
100
120
140
160
180
200
27
Amostragem/Rio Paraiba: plancton
0 500 1000 1500 2000 2500
0
50
100
28
Superfcie linear
0 500 1000 1500 2000 2500
0
50
100
0 500 1000 1500 2000 2500
0
50
100
29
Resduos da superfcie de tendncia
0 500 1000 1500 2000 2500
0
50
100
30
6
Dengue na rea urbana de Rio Claro/SP
(Ushizima & Landim).
No municpio de Rio Claro/SP a incidncia da dengue
aumentou de menos que 5 casos por 100.000
habitantes nos anos de 1998 e 1999 para 349
casos/100.000 hab. no ano de 2002, num total de
588 casos confirmados

Entre as reas com ocorrncia da dengue destaca-se
a regio nas proximidades do cemitrio pblico So
Joo Baptista e nas proximidades da rodovia estadual
Washington Lus
31
rea urbana de Rio Claro/SP
32
Foi verificado para o ano de 2002 um total de 598
notificaes positivas com uma taxa de
incidncia da ordem de 349 casos/100.000
habitantes.
33
Superfcie de tendncia de 1o grau para incidncia do
dengue (casos por 10.000 habitantes)para 2002.
232000 234000 236000 238000 240000
7514000
7516000
7518000
7520000
7522000
7524000
7526000
-2
5
-2
0
-1
5
-1
0
-5 0 5 1
0
1
5
2
0
2
5
3
0
3
5
4
0
4
5
5
0
5
5
6
0
6
5
7
0
7
5
Km
Escala Grfica
Superfcie de tendncia de 1o. grau
(Incidncia casos/10.000 hab)
Legenda
Cemitrio
Rodovia
rea Urbana
0 1000 2000
34
Mapa de resduos da superfcie de tendncia linear
232000 234000 236000 238000 240000
7514000
7516000
7518000
7520000
7522000
7524000
7526000
-1
5
0
0 1
5
0
3
0
0
4
5
0
6
0
0
7
5
0
Resduos da superfcie
de tendncia de 1o. grau
0 1000 2000 Km
Escala Grfica
Legenda
Cemitrio
Rodovia
rea Urbana
35
Cotas
topogrficas do
topo de uma
unidade de
carvo, situada
sobre uma
grande estrutura
anticlinal.
36
7
-90000 -85000 -80000 -75000 -70000
105000
110000
115000
120000
125000
130000
37
Superfcies de tendncia obtidas pelo Surfer 8
Surfer 6
Padronizao
38
Superfcies de tendncia obtidas pelo Surfer 6
39 40
Resduos
0 0.2 0.4 0.6 0.8 1
0
0.2
0.4
0.6
0.8
1
-60
-50
-40
-30
-20
-10
0
10
20
30
40
50
60
70
80
90
100
110
120
130
140
150
0 0.2 0.4 0.6 0.8 1
0
0.2
0.4
0.6
0.8
1
-240
-220
-200
-180
-160
-140
-120
-100
-80
-60
-40
-20
0
20
40
60
80
100
120
0 0.2 0.4 0.6 0.8 1
0
0.2
0.4
0.6
0.8
1
-100
-80
-60
-40
-20
0
20
40
60
80
100
120
140
160
180
200
220
240
260
280
300
320
340
360
380
0 0.2 0.4 0.6 0.8 1
0
0.2
0.4
0.6
0.8
1
-850
-800
-750
-700
-650
-600
-550
-500
-450
-400
-350
-300
-250
-200
-150
-100
-50
0
50
100
150
200
1: 200, -850
2: 380, -100
3: 120, -240
4: 150, -060
41
R
2

Trend 1: 0,5564
Trend 3: 0,9435
Trend 5: 0,9812
Trend 7: 0,9875
42