Ji Zhu - Flexible Statistical Modeling

! "
# $

% &

'( !(
) * + , -

! ./ / 0
! ( /

0 /
/ ( . .
1 / . /
/ 0 2 .
(( % . / /
0

,

3 . (
!
/ 4
/
/

5
1
5

/ 1
/ 5
5

2 / 3 ! " "
(
1 /.
/ ( ! (
1 / / ( / /
( / !
/ 6 !
/ / /
/
. , ' , 7 /
( "
'( !( /
/
/ , " 7
/ (( , ,
/ / * / . , / /
/ 6 /
/ 8( / . % &
2 9/ (

/ . ,

: 0(/ / .
8( : . ;4 / 0
/ ( 8 ( 2 / .
. 0 : < (

55
! *0 (
555
"/ '
55
= : *0
, > :
5
5
: :34
'4 2 2
: , > :
5 9 !

5 A B '
55
AB' : :34
5C
=/ ' :
5D
, : 9 4 :
5@

> :

,
E

, '
' '
: *
: AB' : ,>:
: >:
E ,
5

5
'4

/
#
:
'.
*
EE
G $
E5
=
EE
E5
,
EE
'
EC
F ,
ED
!"
#
E5

4 B '
E
5
4 2
*
FF
2 ,
FC
E5
) '.
FC
' 2 &
FD
E E '
FD

EE5
*
F?
EE
B.
F@
EE
,'%*!
EEE
'/
C5
EEF

CE
E F ,
$ %
&'
% ($
)*
+
'
3

, (.
*0 ,>: >:
=( . ( ( ,>: >:
, 5

EF
' : *0
ED
E5
* . 0
* ,'%*! 0
* '/ 0
EE
* . 0
E F * ,'%*! 0

55
"/
,'%*!
B ,>:
,
5E
,>: AB'
5F
E *
F ,>: >:
C &6 4
: >:
/
5 ,>:
EC
*
E 5 *
F@
E
B.
C5
E ,'%*!
CF
E E '/
CC
E F '/
CD
3

0 ( / # $ #

$
# $ / # ($ # ($

0 G 5
! 0
0 / / /
#$
! /
( 0 ! /
/ 0 / / (
0

/ 0 )
( ./ (( (
# $
! 0 -
5

# # $ G $
G 5
# # $ G $
G 5

#5 5$
5
# G $
#5
$
#5 $

#$ G 3
#
G G $
/ 4 / 0 5 3

# G
$
! 0 ./

%/ / / 0 3

* 2 #5 5$ #' " !( H 2 #

5$$
! / 4 ), , *
G
FC

5 ( G
5 @ ! . # $
# $ # 3$
, ! 5C 5C 1

= 3 (

'=
: (.
(

2 #5
$
? #/$ C
#$ ! ( #,'%*!$
( !
( 3 0 "
/ ( #$ # G
?$
( # G C$ " (

2 5 5-

( 0

! #,>:$ ( 0 (
0 '
%/ / (I /
0 / , >. #5@@F$ % #5@@?$ & H
#5@@@$ " !( H 2 #
5$

' # $ #
5 5
$ #
$
/ 0
B 0 / (

BL
EWS
NB
RMS
2 5
-
! " #$
! %"
&'()

(
0 (
- #$ G J
G
/ -
G 5 #$
, ( / ( 0

# $
#5 E$
0
#5 E$ . 34 !
0 " /
/ ( 3

(8
#5 F$
# J
$ G 5
#5 C$
1 ( / / (

/ . (
!
( (

3

(8
/
#5 D$
# J
$ #5 $ G 5
#5 ?$

#5 @$

0 ( / (

#5 D$ 7 #5 @$ ( (

2 5 - * % +

-
#$ G J

#5 5$
/ < B (
G

= ) AA!. #AA!$

( / 4(
4 ! ( (
0 ( # / ($
I ( 4
<
! <

# $ 2 #5 $
( ( (
/ / . I3( (
( 3 +

( (
( , (

G #$ #$ #$

/

=
#$

!
0 ( (
- #$ G J #$
G
= #5 5$ (
" / (
/ / -
#$ G J

# $ #$
#5 55$
! ( ( .
"( #'A",$ #1( #5@@$$ /
# $ G #$ # $

/ ./ ( #$ 3 K /
./ .
# $ . "(
! . . / ( 0
G / ( #5 55$
0 . ( # $ (
/ J 5 # < 5 $ ! # $

-

' ( = /. /

#5 5
$
# $ G 3

#5 5$
# $ G J
#5 5E$
# $ G
5 J
0

, #5
5$ / /
. "( 34

4 0 ( 1 #$ G J #$

4
(

L5 # $M J

/ ( NJO
#5 5F$

9
/ #5 5F$ #5 D$ 7 #5 @$

2 #$ ( . "(
#5 5F$ ( /

/

L5 # $M J # $
. "(
#$ 0

# $ G

, , #5

5$
#5 5C$

( 0

#5 5C$ 0 -
#$ G J

# $
#5 5D$
# $ 0 . .
"(
= ( #5 5F$ #5 5C$ ! J "# $ /
! #5 $
/
B #

$ / L#5 #$$ M G %# #$ 5
$

%
#$

5 #$
#$ G
# G 5 G $ (( (
5 G " %
0 / (( #$
/

!""
#
$
! 0 ( / 0
/ 0

- (

( ( (
6 0 0 # N 5O N 5O$K
/ . 0 /
G 3 /

0
( 1 H 1 . #5@@@$ >. #5@@?$ 4

#5 D$ 7 #5 @$ ( 4 (3

(8
#5 5?$
#
$ J
# $ #5 $
#5 5@$
G 5 G 5 G
#5
$

#5
5$

G 5
#5
, 5

5
' B B H 1( #

$ %
0 3
# G

$
(

*
/ / 0
# >:$ / ( . #AB'$ 1 /
/ / 0
( ( 4 2
(( ,

3 . (
!
/ 4
! ( . /
/ ( . *
/

/
#5 5F$

/ 0 5 !

55
. 0
P / 4 8

0 3 4 " 5 0

1 / 0 P

/ /
/ !

* E / = 0

*
* 9
( 0 %
(
( * / /
. #)'$
#'2&$ &
/ / (

3 /

/ / 0
# >:$ ( . #AB'$ 1 /
/ / 0
( ( 4 2
(( ,

3 . (
!
/ 4

( * 5

0 ( ( (
! (
0 ! (
0 .

5
# $ /

* 5 / ( /
4 0 . "( #'A",$ /
( & H #5@@@$ 1( #5@@@$ " !( H
2 #
5$ 2

/

L5 # $M J

#
5$
. "( ( .
# $
%
#A H 1( #5@D5$$ #$ -
#$ G J

# $
#

$
/ 4 <

= #
5$
! J "# $
! #5 $
2
5 / /
. #=BB$ ( (
# $

/ #5 $ #
5$ / #5 J " $
- (

. ( ( ( ( .
(

5 J " J

#
$
% ( / / / 3 0

/ 0
! / . - #$ A

3.0
5E
1.5
0.0
0.5
1.0
Loss
2.0
2.5
Binomial Log-likelihood
Squared Error
Support Vector
-3
-2
-1
yf(x)
2
5-
%

-
#$
G
G
# G 5 G $
# G 5 G $
J

#
E$
# $
#
F$
" ( 0 . 6
((
#$ G
"
5 J "
/ #B #

$$
% L #$ 5

M
/
#$
#

%

#$
5 #$
G 5 G $ (( ( 5

5F
G K #($ ! . ( 4
. /
"/ ( .

K
/ < #
F$ 4
A / (K 1( + 1 H *
#5@@F$ + H Q #5@?F$ " H !( #5@@$ K /

1 3 .
!
3 + ( #" !( H 2 #
5$$- 0 /
' ##5 $
$ ( J5
, 5 / ' ## 5$
$ ( 5 !
/ 5 ( /- ( / . & /
(( 55 ' #& F$ 3 +
5 & ( + (

1 ( . #5 5$ ! 4
0 ! / 2

! ( .
( % ( 1
0 . 0

0 (
. ((
(( #2

$

%&
' * 5 / ( / #$ 34 #($ 4 0 (
! 0 . ( /
. ( (

5C
SVM 130 Support Points
KLR Radial Basis
oo
o
o
oo
o
o
o
o
oo o
o
oo
o o
o
oo
o
o o
o
o
o
o
o
Bayes Error:
oo
o
o
o o
o
o
o
o oo oo o
oo o
o
o
o
oo o
oo
o o
oo
o
oo
o
o
o
oo oo
oo
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
o
o o
o
o
oo
o
oo
o
o
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o o
Training Error: 0.235
oo
o o
o
o
Test Error:
0.264
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
0.255
oo o
o
oo
o o
o
oo
o
o o
o
o
o
o
o
o
o
o o
o
o
o
o oo oo o
oo o
o
o
o
oo o
oo
o o
oo
o
oo
o
o
o
oo oo
oo
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
o
o o
o
o
oo
o
oo
o
o
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o o
oo
o o
o
o
Test Error:
0.262
o
o
Bayes Error:
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
0.255
2

- ) ,- + , % . % '
, % / 012 ,-

,
/ 3*&2 ,-

4 0
, / 34

- / . /
R . (
34
, 5
5
G #$ #$ #$

( ( /

! 0 (
(-
- #$ G J #$
G

5D
, (
3 ( / 3

(8
/
#
C$
J # $
G 5
#
D$

0
=/ .

(8

5 J "

#
?$
#
@$
# $ G J # $
G 5
#
5$
! / / -
% ,

# J # $
$

!
P#$

P#$

"

# $%

&'
(
)
(

"

# $%

! 3 !

5 .
. 34

5?

"$
$
/ ( / . =/ '
B
(G

5 J " J

#
55$
! ( #A H 1( #5@D5$$ 4
( #$ G J

# $
B

#
5
$
)
G 5
5 J "
G # $
)
G # $
#
5E$
)
G #

)

5

#
#
5$
#
5F$
$
#
5C$
# $
G # #5 $ #5 $$
#
5D$
#
5?$
= # J 5$ 3 # J 5$ # J 5$ 3 * 3

1 ( #
55$ ( / 0 -
( G )5

5 J " J
)
)
#
5@$

5@
=/ /
+(
+)
+(
+)+)

#) )$ J )
#

$

* J
#

5$
/ NO /

! =/ '
5-
, *"

#+ ,
-+
5 4
)
*
)
)
)
G
G
G

+
(
+(
)
+)+)
+)

)
*
* *),

J

#)
)$
)
$
#

$
#

E$
/
), G ) J * #) )$

E ' #
$ #$
)
#

E$ / 3 =/ ' /
), ./ 8

"

(
) G , ( 3

(
4 /

!'
("

$
3
! ( /
! /(. =/ '

(
' A , H #

$ .
/
4 #,:9$ # #5@@@$$
B
G 5
B
-
#$
G
J

# $ J

#

F$
# $

J #5 $

5
#

C$
! 4

-
, (

, .
%
/
-+
5 4
.
.

G
B
-
G 3 -
#

D$
-
G -
#

?$

G 3 -
#

@$
G -
#
$

- G -
2
S #$

#
5$
S #$
J
#

$
S #$
G
#
$
4 #S#$$
)
S # $
+ #
$
/
G - G -
#$ G J

# $
#
E$
3 / 4
( #A , H #

$$ 1
4
3

!

4
. 0
#$ G J

# $
#
F$

5 < 4 !
4 < ,
/ .
/ 0 (
3 #
F$ ( . ! (
-
#$ G J

/ (
# $
#
C$

! (
/ 84 0 K

( 3 0

, (
B 1( ; + A H A #

$
.
, H
,T. #
$ / .
3 L # $M
L # $M

3
/ 2( 1 H , #

5$
/ = 3
. 3 L # $M

3 (.
= (
#
$ ! (
( / 0 3

/

$
( / / 0 (

(
#
C$ 3 #
F$ ,
/ / (

1

( (

, )0, /

5 B
G G $ G 5
2

#$ G J
2

# $
) 4
( # $

#5 J 3# # $$$ J
G )5
5 J 3#) #
) $$
#$

)
)
/ 3
G L)5 # $M

4 3
G

# $

/ G
2

G ( # $
K
K
#
D$
#
?$

B
G G ( G ( #

$
$ $J5
E ' #
$ #$ (

( ( #
$ / =/
' 4 0
)
1
( / ( ( 3 !
/ 3

)
/
=/ ' 3 !
3 / . 0 N O
( /
G /

!
4 #+B:$ (

! / / #

E$ (

0#/$
" / #

$

, +

#
$ 2
/
--
/ /

) 0
) #

E$ * #
D$
#E$
/ /
. 4 . B
4 . ( #$
(
$ /
( / U$ 3 U$ G 5

( 1 3 1 G 5

/ /

(
( (
/

!
)
, /

N O
03
/
1
0

! / . 4
.
/

!
-- / ( (
,

5 , /
B
G G $ G 5
' #
$ #$ #E$
E
0

/ 0

E

F ' #$ #E$ /

1
G
0

!

/ !
/ 2

! /
2
7 2
F
!

( 5 0
C
2
E 03
G 5 0 5@ 2
F
2
/ /
-
5 5@ K
0 ( 2
C ( 6 4
-
G
E C ?
1 4

(

Choosing Lambda
Optimal Lambda = 1
0.31
0.30
0.26
0.27
80
0.28
0.29
Misclassification Rate
Optimal Lambda = 1
100
Regularized Deviance
120
0.32
0.33
140
Choosing Lambda
50
100
150
200
# of Import Points
50
100
150
200
# of Import Points
2
2
2 2

) % +
%
2
- & - %
+ 1- ! /
0 ( 0 / L#$#5 #$$M
! 4
. ( 0
( ! 6 (
%L#$ 5
M /
./ (( #$ ! / 0
/ 0
( ( 0 (
( ./ (( #$ !
( /

0 # / $ / /
( , /

0# $
/

Lambda = 1
Test Error = 0.262
110
0.30
0.26
0.27
112
0.28
0.29
116
Misclassification Rate
# of Import Points = 19
114
118
0.31
120
0.32
Lambda = 1
50
100
150
# of Import Points
2
E- & - %
+
200
50
100
150
200
# of Import Points
2
2
2 2 )
2
C (

*

/
! (. % % 2 + " ' , !
! !/ 1 ( (
'T ! 9 H A ' :T
#
$ ( $$ - #2$%/"3
2#"$ #$#

SVM 130 Support Points
IVM 19 Import Points
oo
o
o
oo
o
o
o
o
oo o
o
oo
o o
o
oo
o
o o
o
o
o
o
o
o
o
o o
o
o
o
o oo oo o
oo o
o
o
o
oo o
oo
o o
oo
o
oo
o
o
o
oo oo
oo
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
o
o o
o
o
oo
o
oo
o
o
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o o
oo
o o
o
o
Test Error:
0.264
o
o
Bayes Error:
0.255
oo
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
o
o
oo o
o
oo
o o
o
oo
o
o o
o
o
o
o
o
o
o
o o
o
o
o
o oo oo o
oo o
o
o
o
oo o
oo
o o
oo
o
oo
o
o
o
oo oo
oo
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
o
o o
o
o
oo
o
oo
o
o
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o o
oo
o o
o
o
Test Error:
0.262
o
o
Bayes Error:
oo
0.255
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
2
F- ) ,- + , % . % '
, % / 012 ,-

2 , % / 4012 ,-
2 ,-
!(
5 ' . #5 5$
# $ G "

! 03 0
< 4 #'T ! 9
H A ' :T
#
$$ &
4 !
!(

!(
! ( (.

4 ( (.
2 !(

/ /
0 (. 2 !(
/
3 . ( !

# of Training Data = 400
460
430
420
320
110
225
112
330
440
450
350
235
230
116
340
114
118
240
470
120
360
245
480
50
100
150
200
100
# of Import Points
200
300
# of Import Points
400
100
200
300
400
500
# of Import Points
600
200
400
600
800
# of Import Points
2
C- ) /% 5 /% 6 & -
%
2 2
2 ) 7
2
%,

/ 4

"
/ (I ( 4
0 ,
(

! ((
#$ G
#
0 (-
#$ G 3 #$

G $ " %

!(
5- , (. 4
.
' 4

%
%
2
+
"

'
!
!
!/
1

CCC
D
5D
5
E
5E
5F
E
E
@
@

5
5?
5
F

FF
5

5

5C 5
CF? 5
@D?
5C
5C

5
5
5
5C
5
'
E@
DD
E

5
55
D
DF
F5
D
EC
!(

- * 0 ,>: >: (.

%
%
2
+
"

'
!
!
!/
1
,>: & #V$

5D?#C?$
FF?#EF$

CF#5E
$
??#

?$
5F@F#5E$
E#D$
#5@$
E?#
@?$
5C#C$
@#
F$
@@?#E$
>: & #V$

5E#EC$
F@
#ED@$
CC#5CE$
F#
E?$
5F?#E@$
5#?$
5@D#
@$
F#
$
@#5$
EF#5F$
55#ED$

!(
- * ( . ( ( ,>: >: (.

%
%
2
+
"

'
!
!
!/
1
W ,>
@#5$
55F#F$
F@D#?$
ED#5$
@#E$
5#55$
?@#F$
5#
$
C@#@$
D#F$
5F5#@$
W >
5#D$
5E#$
@#5$
5D#
$
5
#
$
D
#5?$
D
#$
#$
?#
$
E#E$
C#$
! -
#$
#$
#$
"
"

"

"

"
"

#
@$
#
E$
#
E5$
#
E
$
/ #$
K . "( (

0 . # $ = #$ #$ 0(
/ #$ #$ #$ / ! . #$
0( /

#$ G
#
E$
! . 0 4 4

.
G
G
/ (

# $ J

# $ J
"
J J "
#
EE$
J

#
EF$
/ 4 3 5

# $

G # # $
G

# $$

#
EC$

#
ED$
) #A H 1( #5@D5$$ / #$ /
4 (
#$ G J
" #
EE$ (
(G

# $

# # $4$ J 5 "
#
E?$

J

#
E@$
/ 4 G # $ 0 / / K
# $ /
= #

E$
#

EE$
#$ G 0

%&
!#
, !
5 ( / .
3 B
G #$ #$

( ( *

(8

# $ J

"
J J "
# $ G J # $
G 5

#
F$
#
F5$
#
F
$
% ,

"
#
$ J # $
# $ G
P #$

2!2

P #$

"

#

(
)

(

! !

5 /

+#
! /

0# /
2
D
! 3 + #"

!( H 2 #
5$$
Multi-class IVM - with 32 import points
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
............. ......
...............................................................................................
......................
..........................................................................................
..
...........................
.......................................................................................
.............................
.....................................................................................
...............................
...................................................................................
.................................
.................................................................................
..................................
................................................................................
....................................
..............................................................................
.....................................
...................................................................................................................
............................................................................
........................................
..........................................................................
.........................................
...................................................................................................................
........................................................................
...........................................
.......................................................................
.............................................
.....................................................................
...................................................................
...............................................
.....................................................................
............................................
....................................................................
..........................................
.....
..................................................................
........................................
........
.............................................................
............................................................................................
..............
......................................
.......................
............................................
.....................................
.................................
..............................................................................
.............................................................................
.....................................
....................................
.......................................
....................................
.......................................
......................................
.....................................
.......................................
......................................
.....................................
.......................................
......................................
.....................................
.......................................
......................................
......................................
......................................
....................................
......................................
...... ................... ...............
..................................
......................................
..........................................
............................
....................................
.......
...........................................
.......................
.................................
..............
............................................
....................
..............................
...................
.............................................
..................
...........................
.......................
..............................................
................. ...............................................
........................
.......................... .................
...............................................
.....................
.............................
................. ................................................
.................
................................
..................
............
....................................
................................................
..................
....
...........................................
.................................................
...................
..............................................
.................................................
..................
..............................................
..................................................
..............................................
..................................................
...............
.................................................................
....................................................
........... ......................................................
.................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
Test Error:
0.259
..................................................................................................................
..................................................................................................................
..................................................................................................................
..................................................................................................................
o
o
o
o
o
o o
ooo o
oo
o
o o
o o
oo
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o
o o
oo oo ooooo oo o oo o oo o o
o oooo o
o oo oo oo oooooooo o o
oo o
oo o oo ooo o
o o ooo o ooooo o
o
ooo oo oo
oo
o
oo
o
o
o
o
o
o
o
o
o
ooooo oooooooooo ooo ooooooo oo o
oooo
o o oo
ooo oo
o
oo ooo o oooo o o
o
o
oo
oo o oo
ooo oo
o
o o oo o
o
ooooo
o o ooo
ooooo o o o oo o
o
oo
o
o
o
ooooooo oo o
o o
o
oo
o
o
o
o o oo
o o
o
o
o ooo o o
o
o
o o
oo
o
o oo
oo
oo o
oo
o
o
Bayes Error: o0.251 o
2
D- & - %
#
oo
o
2 2 2
$
1 /
0 1 / / (
(( #$ !

/
0 # /
$ /
/ (
0# /
$

*
/ /
( . 0 .
/

/
5
1 5

/ 1
/ 5
5

! %

/ 0 ( / # $
#
$ /

5 5
( 1 /
0 0 / / /

5 5
5

! ( / 5

5

# $

G J J
# 5$
#
$
/
G #$ #$

(

!
P #$ P#$K 0

P#$ G P J

P #$
# $
! 0 ( %LP#$M ! 5 (
% H : #5@@?$ , % % ,.
% * H ! #

$
1 5

/
! 0 P#$ / /

0
/
(
/ P#$ /
# $K / 3 /

P#$
5

/ /

) / /
/ P#$

0# # $
$ /
0#$ (
% / /

P#$ / 3 1 5 /
! 0 /
!
/ ( EF
J ?
! (

G

! P#$
/ 2 5
( /
/ 8 " P#$ /
/ #
$
! /

/ /

/ / / 5
/ ( / P#$

-- / / ( /

&% '

!
0

/

5

J

# $
# E$
#$< ( (
. "( ! . . /
( 0 #
G $
5

0.0
0.2
P 0.4
0.6
0.8
0.0
0.5
2 5-
1.0
1.5

/ 3 ( & H #5@@@$
1( #5@@@$ / / / (
# $ .
! J "# $

6 ( / ! #5 $
= # E$
! 4 (

/. / ./ "
!
. 0 P / 4 / ./ .
6 P ( 0 <
/ "
!( H 2 #
5$
, /
( 3 #"
!( H 2 #
5$ 1( #5@@@$$
9

5

34 #>. #5@@F$$ ' H
" #
$ . 6 ( ( / / 6 /
/ # E$ /

#!( #5@@C$$ 5 (

5

# $
J

# F$
/ B 4 ( # 5$#

$
! / 0 !( #5@@C$ ( /

( % H
: #5@@?$ , % % ,. % * H ! #

$
0 ( /. ,
. 0 P< / 4
# F$ (0 0 <
(
.
/ P < ( $

%
2 3 / G 5 2 5 0 4 !
. /
# E$ P < / ( 4
+
< / (3 ! (
3 + ! I
0
( ' 2 " ' !( H #
E$
/ / (
( (
G 5
G 5

2 " ' !( H
#
E$ (
5

< 4 /. ( K /
< + (
/ 0 /
/ 4 !

. % ( 2 " ' !( H
#
E$

( /

(

,
/ / 5
! 5 $ / # 5$
#
$ ( / .K (
0 P#$ / /

/
/ P#$

,

/ / P#$ # 5$#

$

/ /
P
#5 $

/ AA!. /
/ #5 P $ 4 4
0 P #$ 4 4 /
#5 P $

! P#$ /
/ ( / AA!.
P#$ / " /
P#$ / , 3
! / P#$ / 0 3

(
. 2 5 /
P#$ G 0 P#$
5

E5
/ P#$ 8

+

- .
! / B

- P #$ G
# C$
- 5 P G
# D$
"
- 5 P
# ?$
P #$-
3
G 5 P #$
P#$ / 1 / W G 5 W G 5K

P #$ G 5 P #$ G ! P#$ / /
P#$ 1 0 (#5 $ J

#5 $

U G J

# $
# @$
# 5$
= G 5 #5 $ K ( G 5 ( #5 $

P#U$ / U / U
/ / P#$ /
" 0
3 P#$
, # @$# 5$
/ ( ( /

" ( !

1 -

P #U$
P #U $
U
JU
3

3

# 55$
5

$
! / P#$ /5 U / / -
! 5 G
( 5 G
(

B P P
2

( ( P P
3 3 3
% 3 3
J
3 3
# $ J # $ G
# P $ J
G 5
!
U
3 J
G

3 # $ J 3 # $
# 5
$
# 5$
! / -
3 3
% 3

J

/
!
3 ./ 1 U
2
/
/
P G ( P G
3 3
# $ G
# P $ G 5
!
./ 1 U
!
U
3 J
G

3 # $
# 5E$
# 5F$
E *

! J ! G
J 5
#
*

"
K
5

#

3
#

/
3
3

# 5C$
# 5D$

/ 3
! !
# 5?$
" "
# 5@$
/ P#$ -

P # J U$
P # J U $
P

P
3

3
JU
#
$
/ (. 5
/ P#$ / /
*
/
1 3 /
P#$ # 5$#
$ 3
" / 3 /

, 5 P#$ 8
P#$ ( #5 P $
4 4 ( P #$ 4 4
/ ! / ( .#5$ ( #
$
,
( P#$ ( #$

, ( P#$
5

!
EE
! ( P#$ # ( # 5

$ # 5E$$
! . ! / 3 8 # 5$
!U / ! / P#$ 3 , E
. U !U 1 !
U
(
0
"

1 / P#$

/ R ,
! G /
8 / . 0 #/ $

,: /
( (

#5 P $ 4 " ( ( 8
/ # $
/ 5 / / 0 # # $ $
( 0 # $ =
/
0#$
, 3
, #
( 8 (
#
0## $$
--$
)

/ ( 5

*
!

! ( 5 3
/ F / . ( /
/ / 3
" 0 . .
5

EF
!( 5- , 5

E
F

=

E
C
?
% . /.0

5

1 (
D
DE
DE
?
?E
# 5$
# 5E$
# @$
# @$
# 55$
?
5
5
5F
5?
#
$
#
$
# $
# $
# $
?
5
/ (

( EF
# 5$
# $
# F$
# C$
# C$

F
5E
D
EE
CF
2 3
@E #5$
5E@ #
$
F #$
DE #F
$
E@@ #CD$
! %

K /

. (
G

G 5
1 5 5

! F /
6 ( / !( 5 2 ( 5

/
4 ( ( 2 /
4
2 !( 5 / 4
0 / 4 K 5
/ # 5$
(
6 ( #

F$ , 5 (
6

!( 5 / ( (
( 8 / =

.
5

. ( /

EC
W5!$ #2

$ 2
/
400
300
100
0.05
0.5
200
0.0
0.10
P
0.5
Test Error
Number of Joints
0.15
1.0
500
0.20
5
10
20
30
40
50
Number of Bases
60
! "!! # $%" % &% " ' % %
$' % ' % %%!
! ( ' % %& % "!! %%% )
! %%! """ %%% %) % %
% *' "*% * ! "*% +
'
2
-
*

/ 5 0
0 * E *
0 !
(
( #+ 1 % H >. #

$ :.8 ! ,
> +( : H #5@@@$$
"/ /.

( (
0 9
( 0 +(
, ! " +(. : * B / H * #
$
+ 1 % H >. #

$ / /
. #)'$ #'2&$ # L5EM$ (
5

ED
!(
- ' : *0

,>: )'
,>: '2&

5 ,>:
! . % . 2 $ 4
X?
X?
X?
XE
5XE
XE
5
5D
( /
"/ /
3 9 5
# $
" 5 0

1 5 . +( , !
" +(. : * B / H * #
$
!
? E / .

1 #:B$

1 #BB$ &
G
D 5
@ 1 < 3 (

G
! 5
0 0 !

( 8 5E / ( 0 #$ $ 0 # $ !
4 !(
1 5
0
1 3 (
5 ( ( /

*
(
$
1 5 1

5

5

E?
/ ! P#$
5 /
1 / P#$
5

*0
! (
(
"/ /.
( (
(( 1 4 #B'$
( 1 / /
4
0 ( 4
(( 9
( 0
1 /
. #)'$ #'2&$ ( ( /
4 &
4 ( /
/ (
E@

#
! %

*0
* ( ( 3

"/
(8 : 6
0 ( (8 /
, +( , ! "
+(. : * B / H * #
$ A 1 ' ,
B 1 % ,/( H #
5$ B H B #
$
'/ ! '. :.8 Q B ' B :
+ B B H +( #

$ !( " = H *
#

$ /.
! #,>:$ (
( #B H B #
$ :.8
! , > +( : H #5@@@$ '/ ! '.
:.8 Q B ' B : + B B
H +( #

$$ / 0 0
#$ G J

4

L5 # $M J #

J

$
#E 5$
%L #$M "/ /.

%L#$ 5
M / ((
#$ / #$ G
# G 5 G $ ((
( 5 G / 0
- (
! 0
( ( ( 6 0

0 # N 5O N 5O$K / .

F5
0 / G 3 /

0 ' B H B
#
$ 3 /
/
#2%/#
#

G $ ( .
# G G $
/ 4 #B'$ 0
( ! 4
*
4 /
/ 0 ( ( 4
2 4
(( #$
:3 . =/ ' /
4 "/ ( /
( ( 1 . .
( ( ( !
/ 4 #,:9$ # #5@@@$$ 4
! / 0 A ,
H #

$ / 0 K / 4
%
/ (
0 1 / #$
. #)'$ # 2 H , #

$ +( , ! " +
(. : * B / H * #
$$
#'2&$ #+ 1 % H >. #

$$ /
/ ( 4

9 4
/ ( / .
K

( . K 4
9 4 /
( (

! 4 E
E /
( / .
E E / 4

#

&%

0 ( / # $

# $ # $ / G # $

0 5
1 / 0 0
/ / / (
5
)
( ./ (( (
# $ !
(( ( G #$ G
# G
G $ ! % 0 (
3 #$
*
,

! ((

/

L 5M !
#$
#$
#$
"
"

"

"

"

"

/
#$ G J

G J
G 5

=
#
# $
#E
$
# $ 0( /

# $ #$ #$ #$ / ! . #$
0( /
#$ G 3

J

#E $
G
#E E$

B 0 ( 3 . , #$
0 (( ( +
# $ #

G

$
#
$ .
# $

# $ J
"
J J "
1 3 % #

G F G D$
!

FE
-
! (
! . 3
! < 0 / ( 0
! ( / 4 .-
(G

# $ J
"
J J "

#E F$
/ ( / 4 3 5

# $ G # # $ # $ # $$

( / 4 #E E$

#E F$
G 0

( 3
5
G 5
, # $ 4
#E F$ ( ! /
#E F$ (-
+(
+

# $
G
G 5
3 / # $
#E C$
#E D$
5

G 5 5 # $ G 5 !$ !
#E C$#E D$ /
(
/

FF
/
G

G 5
#E ?$
B &
G

! #$ / 4 (
#$ G 6 J

#
#E @$

! #E F$ (
(G

# $ J
"

J J "
#E 5$

#E 55$
! 4 0 ( 0 < 4 #E 55$

< ( ( #E ?$
! (
# J 5$ #E F$ # < <$ # J 5$ #E 55$ # < <$
. ( (
*
"

+
, #E 55$ 3 =/ ' 4 (

( ( ( ( / =/
' ! /(. =/ '

FC
3 ( ( 3 (
+, ( #

$ /

' A , H #

$ /
4 / /
4 #,:9$ # #5@@@$$
3 / ( A ,
H #

$ ( / 0 K / 4

3
#
+

%
/ (
0 / ( / #$
*
1 2
/
, ( . 0

+( , ! " +(. : * B / H
* #
$ 0 . / 0
! 0 -
7 G

/ Y

Y

J

3

B 2 H , #

$

FD
( / / -
7 G

#Y
Y $

# $

#E 5
$
/
Y 3 (
( / -

# 5$
! . 7
4
/
/ /
( (

' !( " = H * #

$ .
0 ! .
% 0 6
( $
! #$ (
7 / ( .
( /
*
2
3

+ 1 % H >. #

$ ( (
#'2&$ 0
0 / .
/ . .
0 U
G
5+

+
#E 5$

/
F?

U
3
0 #
G

2
$
U
G

/ $ /

U

G
2 ( (
3 ( 0
##

/ 0 ( 4
1 /
E ( 2 .
#)'$ / #E 5
$ 5V /
. 2 #'2&$ / 4
/ 0 #E
$ #E @$-
#$
J
J

/ 5V , /

6 ( 6
2 '2&
/ ( E 5 < (
6 / / 5V

! ( 0 (
0

% 4 / 4
2 H , #

$ + 1

F@
% H >. #

$ 3
5
**
$
! 4
#E F$ #E 55$ ( /
! 2 3 2
E 5 / ,'%*! ! ,'%*! (
E E !
G 55
E 4
G 55
E
! 2 E 5
. ( #E 5$ 4
!
G 55
E
1
( . ./-
( #/ . $ /
#/ . $ !
0 ! /
( B' '2& / ( ( E E
Ranking genes (lambda = 1/1024)
(With 2308 Genes)
(With 2308 Genes/Class)
Ranking coef.
0.05
0.04
Deviance
0.06
0.07
CV Deviance vs. Lambda
0.03
10
15
logb(lambda, base=2)
20
BL
EWS
NB
RMS
Classes
2 E 5- ( &'() *

8 %
% & - %

)
, 9*& &/

!( E 5- * . 0

:
,>: )'
B' )'
,>: '2&
B' '2&
**
5 *>
X?
X?
X?
X?
!
XE
XE
5XE
5XE
=
5C
5
&/
! ? E /

. . #:B$ ( . #BB$ #+(
, ! " +(. : * B / H * #
$$
& D5
@
G 55C
! 2 E

4 !( E 5 =
. . 3
0 4
"/
0 4
6 2 E
/
/ # .$ 4
0 /
/ 0
! 4 5F
C . !
( ( / 0 #/
5
( .
$ 5C
C ! ((
4 /
2 E
! / 0
0 ( / / #

C5
0.8
Use RFE
0.8
Use UR
0.6
0.4
0.2
0.2
0.0
5 10
50
500
5000
5 10
50
500
PLR with UR
PLR with RFE
(With 16 Genes)
(With 26 Genes)
5000
0.8
0.6
0.4
0.0
0.0
0.2
0.4
0.6
Probability
0.8
1.0
Number of Genes
1.0
Number of Genes
0.2
Probability
CV PLR
CV SVM
TE PLR
TE SVM
0.2
Error
0.4
0.2
0.0
Error
0.6
CV PLR
CV SVM
TE PLR
TE SVM
10
20
30
Test Samples
10
20
30
Test Samples
2 E
- *%- + 8
01
9*& % & &/ * ,,

)
+ ) 7 + , %
(( 5 $
**
!45
! 3 ( #,'%*!$
#A 1 ' , B 1 % ,/(
H #
5$$ ! 0 %. #%B$ &/
#&1,$ ( #=%$ ( #':,$ C

F 2 ,'%*!

!( E
- * ,'%*! 0
:
,>: )'
B' )'
,>: '2&
B' '2&
5 *>

XC
XC
XC
XC
!
X

X

X

X

=
5
5F

& 3

?
G 55
E
! 2 E 4 !( E

/ .
/ ( / # .$
4 0
/ 4

! 4
5E . ?
! (( 4
/ 2 E ! 4 !
/ 3 (( 0 ,'%*!
0
***

! / ( ( '/ ! '. :.8 Q

B ' B : + B B H +( #

$
5EE FE 5E
?V / ) , FE
? ! 5CC
G 5E

! 2 E E 2 E F 4 !( E !
/ !
( ( # G 5E$ .

!( E - * '/ 0

:
,>: )'
B' )'
,>: '2&
B' '2&
? *>

5@X5EE
X5EE
5DX5EE
5DX5EE
!
5
XFE
5
XFE
@XFE
@XFE
=
C5D
C5D
5F
@E
( /

/ ( /
/ (
.
2 E F
! ((
! / (. 0
/ 0 !

3 (( 0 /
(( 1 (
0
**0

4 /

C
. #:B$ . #BB$
/ / +( , ! "
+(. : * B / H * #
$ !( "
= H * #

$ ! +( , ! " +(.
: * B / H * #
$ !( " = H
* #

$ 4 !( E E 9
C 3
( 3 ! / / 0
+( , ! " +(. : * B / H *
#
$ ( ./ ( 3 . :B BB #!(
" = H * #

$$

CE
!( E E- * . 0

:
+(
#5@@@$
!(
#

$
B' '2&
5 *>

X?
X?
X?
!
EXE
XE
5XE
=
F
!( E F- * ,'%*! 0

:
A
#
5$
!(
#

$
B' '2&
5 *>

XC
XC
XC
!
X

X

X

=
@C
E
?
,'%*! 4

? / 0 !
/. A 1 ' , B
1 % ,/( H #
5$ / @C
( 4 #!( E F$
9 ? D / (
/. 3 N . O * ?
E !( " = H * #

$ ?
!( " = H * #

$ !
( 4 (
.
! '/ 5E 4
0
@E + ( # G
5E$ ( # G 5C C$ 4( !
( / 0
4 5C C #5
FE$
=
! 4
( 2

CF
( ( /
8 / !
4
#E 5$
/

# G 55
? $ / (
6
/ 4
6 ! 4 '4 / .
/
.
. ( ! ( 6 ( /
4 E 5
%L#$ 5
M #$
5 5 4 (( #$
! . 4
( 6
#*
$
1 4 #B'$
(
! / /
4
0 ( 4
(( 1 #$
0 4

CC
0.8
Use RFE
0.0
5 10
50
500
10
50
PLR with RFE
(With 15 Genes)
(With 8 Genes)
RMS

BL

EWS

0.8
Test Samples
20
25
0.6
0.0
0.2
15
RMS

0.4
10
NB

Probability
500
PLR with UR
0.8
0.6
Number of Genes
0.4
0.2
0.0
Probability
Number of Genes
BL
EWS
NB

1.0
0.2
CV PLR
CV SVM
TE PLR
TE SVM
0.6
0.0
1.0
CV PLR
CV SVM
TE PLR
TE SVM
Error
0.4
0.2
Error
0.6
0.4
0.8
Use UR
10
15
20
25
Test Samples
2 E - &'() + 8

01
9*& % & &/ * ,,

)
,
+ )
8&'() - % ,, )
, % ,,

CD
1.0
0.2
0.4
0.6
0.8
CV PLR
CV SVM
TE PLR
TE SVM
0.0

CV PLR

CV SVM
TE PLR

TE SVM
Error
0.6
0.4
Use RFE
0.0
0.2
Error
0.8
1.0
Use UR
5 10
50
500
Number of Genes
5000
100
500
5000
Number of Genes
2 E E- & + 8

01 9*&
% & &/

C?
PLR with UR
(With 617 Genes)
1.0
BR
PR
LU
0.8
0.6
CO
LY

BL ML UT
LE
RE

0.4
0.0
10
20
ME CNS

OV
PA
0.2
Probability
30
40
50
Test Samples
PLR with RFE

(With 294 Genes)
1.0
BR
PR
LU
BL ML UT
LE
RE

0.6
0.4
0.0
10

20
ME CNS

OV
PA
0.2
Probability
0.8
CO
LY

30

40

50
Test Samples
2 E F- & + ,,

)
, % ) + - ,-
% ,, + -
) '2 9 2 *%2 ( 2 * 2
' 2 1 2 %2 *%-2 &2 92 :2 1 ( %

* 5 / ( /
0 ( 1 /
/ ( (( #$
! 0 #
0# /
$ /
$ /
/ (
* / 5 1

5

/ ! P#$ 5
/
1
/ P#$ 5

* E / 0 ( /

4 !
/ / 4
0 (
4 ((
1 #$
0 4
C@

!

,) ) 5$
2 /
# $

5 J "
1 0
5 , 4

%
!

P#$ )

# $

# $
P#$

P#$
G " $
5 G 5
($
,
$ #
$

# $

5 J "

# 5$
#
$
D5

9 ( ( / ./ 3
$ # $

!
# $
G #
5$

5 J "

G 5
/
# $
# $
G

# E$
, #P#$$ # $ /
# $
P#$
2
P#$
. / P#$ (
P
P #$ G P #$
#$
!
P #$
G
P #$
.
G

# F$
5 J "
# C$

5 J "
P#$
# D$
/ "

P#$
G
=/ / /

-G # $

5 , 6 $
G 8 #/ / $

G5
( / -G

# $
/

" 7
# $ . # $

($
B
G 8 #/ /

/

5 J "
$G
J
/ /

5 J "
# ?$
3# / $
# @$
5
3# / $
5 J "

# 5$

5 J "
# 55$
# 5
$
! 0
# $ . # $
+ / / / (
34 / -G

# $

, (
/
# /
# $ $

=/ S /
S
G 5 ( /
S /
3 ( '
G -

.
%

DE
1 # $

./
S 1 '
=/ ( B
/ 3 G 8 #/
S /
S 1$ S

'
!
(

1 ( 3

4 34 (
-
P#$
G 3 # $

34

( 4 4 ( 0 (. /
( 9 /
(
!(
$ ) 2
,&
! ,:9 / / ,:9
#A , H #

$$ ( 6
! 4 #E F$ #E $7#E E$ / /
(8 -
G

%# $ J 5

G J

G
# 5$
# 5E$
# 5F$

/
DF
G 5 4
%# $ G # J J $ J " J J "
! B ( G
5
%# $ J

L
M J

# 5C$
/ < B ! AA!
(-
+
+

&

+
+

G
# 5D$
G
# 5?$
J
"
"

J G

# 5@$
/ / 3 <-

" /
G
)

G

G

G
G
#
5$
#
=/ / 1 # 5$

34
= # 5@$
" /

5

#
$
! 1
(8 # 5D$ # 5?$ # 5@$ ) #

$ #
5$ /

DC
1 -
9G

(8 -

/ G #
:# $ J 5

#
$
G
#
E$
G
#
F$
$
( #
$
:# $ G

# $ # $

9 ( < ( < < ( (
#
$ #
5$
! #
$ / 0 /
(8 -

:# $

#
$ (

G G 5 5

#
C$
#
D$

5

9 G :# $ J

/ G

# $ # $

5
# $

5
# $

#
?$
#
@$
=/ / / / #

C$ ! B #
C$

DD

SG
:# $ J 5

L6

M
0
-

J +:
+
G

# $
# $

5
# $

! AA! #

C$ -
+S
+
G - 6 G
G 5 K G 5 5
# $
0
3#$
G 3 -
G 5 5
!;#$
G -
G 5 5
! / <
- G - G 5 5
# 5$
= . - < 0 < -
. .
. .

G 5
G
#
$

.

#
$ . 5

# $

D?
3 3 # $
- G -
9 #
C$ #/
G # F5$$ ( 8 ! / 0

# E$
/
S #$$
J $
S #$$
$
S #$$

!
9
$
/ - -

G - -
, ( # E$ - - G
$ G
9 ( ( $ ( /

! ,:9 / ( ( /-
# 5$ *
# F5$ # F

$
,
2G5
#
$ ! 0 # 5$
!
! $

!

2
J $
# F$
# C$

# D$
$ / 4 9 #

C$
# $ ) ! # F$ # C$ # D$ + (. #

$
= #
$ 4 (
( - <

D@
,) ) 5$
% , )

8 8 (

88 888
$
"

P#$
($
' / -
- 5 G " K
# ?$
"
- 5

(/K
# @$
- 5 .
# E$
- P G ( / 4
(/K
# E5$
* # 5$7#

$

1
5
# E
$
1 1
G J

# E$
# $
# EE$

# EF$
! B # E

$7# EF$ G

1 J

J

#5 1 $

< 1

/ < B ! AA
!. -
%# $
# $

G
# EC$
# ED$
5 < G
# E?$
#5 1 $
# E@$
< 1
# F$
, / / P#$ / / /
P / 1 0

( (/ 5 4 4
P 4 4 / ! AA!.

-
# 5 ' 1 ' < G ' G 5

# 5 . ' 1 G ' #5 1 $ ' G
# 5 G ' 1 G ' < ' 5
" / -
1
03 ( /

!

< -
%#P $
# $

# $

# F5$
# F
$
1 " /
" 3 (

?5
< / < /

1 < (/ ! /

(/ ! P < 5 #P J
,
P # $$ G !
# F$
G ! ./ (
" /
-
% / / P#$ /

! /
P#$ / 0 3

.
2 5 /
P#$ G 0 P#$

/ P#$ 8

=/ / / (
7 /
AA!.
/,, 6*0

1 / W G 5 W G 5K P #$ G 5 P #$ G

" !
1

/ / (/ / (/K
/ ( " !
< / (/ / (
(/ P#$ / !
(/ ! P#$ / # E
$ 7 # EF$
P#$ P#$ ( / ./ /
( ! / 0 ( # @$ 7 # 5$
= G 5 #5 $ K ( G 5 ( #5 $

" / (/ 5 G

#5 $ < / !
P#U$ / U / U /
P#$ /

1
U # 55$
AA!.
# EC$7# F$ /
/ (/

% 0
/ / (
(/
( / 4
" .
AA!. / (

J5

,
3 ( ! 0
# 5
$ # 5E$ . P#$ / (/ /
(/ ! # 5
$ # 5E$ P#$
/ U , E . /
(
=/ / /

G
%# $
G

2 # EC$ /
# $
# $ J
# FE$
# $

# FF$

: / 3 #3 #

$$ /
%# $3
3 # $ J
G

3 # $ J
3
J

#3 J
G

#3 J
U !

G
U
3 # $

3 J
3
3 # $$ J

!
,
# FD$
#3 J

3 # $$
# F?$
# F@$
# C$
# F@$ /

3 # $
# F?$ / # ED$ G 5
% 3

3
3 # $$
# FC$
"
3
G
(/ 3 J
# $ G 5 # FC$
# $ G
!
/
G
, / ./
U !

U
/ 8 0
E / AA!.

.

! ( . <

# F5$7# F
$ -
! /
9 3 . 6

! / /
7 P#$ 0
AA!. % AA!.
# E
$7# EF$ P#$
"

% H : 9 #5@@?$ 2 4

,. Z *:B<@?< : A
% * #5@@?$ Z < 9

, -" 9
, 2
/0 5
575CD
H , ! #

$ Z*
0 3 < :

/

/

#) DD7?D
& ! : H ! #5@@@$ '4 /.
, % % ,T. H * , Z
B : *0< : !
2
" ! ' , !( ' H
#
E$ Z N
( O ( / 8 4< /

!
+( ! , ! " * +(. : :
B : /
* "
H * : #
$ Z: 0 -
( 3 <
'& F57FC
+ H Q % #5@?F$ , 4 Z
+B : *< >

,
> =/ Q. EE7FF
?E

?F
+ 1
% , H >. > #

$ Z+ 0
< ,
& ?@7E
" ! H !( ' #5@@$ ; % /

, , :
* "
" ! !( ' H 2
#
5$ 6 <

,> =/ Q.

A , A , , H #

$ Z .
< )

4 ,
A
1
#
' : , B B : 1 2 % 2
,/( : * H * #

5$ Z*0
3 0 0 /.< *

, CD7CD@
A + H 1( + #5@D5$ Z, ( < :

,
/ /
?
7@F
B Q H B * #
$ Z*0 (
3 <

# 55
755@
B Q B Q H 1( + #

$ Z:
0 < :

/

/

B ; 1( + ; + 2 A ' H A % #

$ Z,
/ ( ( 4 <
/

' 5FD75C
B Q #

$ Z, ( 0 < 9
,
&
-" 9
F@7
DF

?C
:.8 , ! , > +( ! :
H !
#5@@@$ , 0 !

: 5CDD : !

#5@@@$ 2
4 % ,T. * % H , Z A :

, > B< : !
'/ , ! '. ' :.8 , Q * : B *
' : B & :
! + 1 B : B & H
+( ! #

$ Z: 3 <
=*/
#' 5F5E@75F5FE
'T + ! 9 H A ' :T

#
$ Z, ( < ,
57F
' ,
H " ! #
$ % 4 3
0 ! , , )

, H ,T. % #
$ , 3 3
Z , * : B<
: A
, : % * %
,. = % A * , H ! = #

$
Z 3
< : 4 )
4

, (
!( ' #5@@C$ Z' . < :

+

'
CD7
??
!( ' " ! = % H * + #

$ Z
( . 3< =*/
## CFCD7CFD

?D
>. > #5@@F$ 6 *

6 ,> =/ Q.
>. > #5@@?$

6 1 =/ Q.
1( + #5@@$ , .
9
> F@ /
,

, :
1( + #5@@@$ , . (
4 % ,T. * % H , Z A :
, > B< : ! C@7??
1( + + * 1 Q H * ' #5@@F$ , 0 . .
4 .
1 Z! : +4 < , 2 ,
, *3 1 (
1
H 1 . * #5@@@$ : : >
Z &,==@@< 2 %

1 * H , : #
5$ ) .
! B ! H > ! Z =
, < > 5 : !

Ji Zhu - Flexible Statistical Modeling

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Ji Zhu - Flexible Statistical Modeling

Transféré par

Droits d'auteur :

Formats disponibles

 

             

             

             

   )  *   +  , -

         

     5    

! *0  (

"/   ' 

= : *0 

, >  :

'4 2  2 

:  , >  :

      

5 A B  '

AB'  : :34

=/ ' : 

,  : 9 4  : 

,  ' 

:  *

:  AB'  :  ,>:

:  >:

 5       

'4    

    # 

*   

,   

   !"

4 B  '

4    2 

*   

2  , 

' 2  & 

,    (.   

*0    ,>:  >:

=(  . (  ( ,>:  >:

,     5 

'   : *0 

*  . 0   

*  ,'%*! 0   

*  '/   0   

*  . 0   

E F *  ,'%*! 0   

,   

E *   

C &6     4

:  >:

/     

   0  ( /         #   $ #

   #   $ /   #  ($     # ($

!  0     -

 5 

/ 4    /  0       5  3

! 0  ./               

*     2 #5 5$ #'   "  !( H 2 #

    

=    3       (    

:    (.   

'      #   $ #

 / 0 

B  0    /      (    

G 5   #$          

1        ( / /      ( 

) * + , -

5

! *0 (

"/ '

= : *0

, > :

'4 2 2

: , > :

5 A B '

AB' : :34

=/ ' :

, : 9 4 :

, '

: *

: AB' : ,>:

: >:

5

'4

#

*

,

!"

4 B '

4 2

*

2 ,

' 2 &

, (.

*0 ,>: >:

=( . ( ( ,>: >:

, 5

' : *0

* . 0

,'%! 0

* '/ 0

* . 0

E F ,'%! 0

,

E *

C &6 4

: >:

/

0 ( / # $ #

# $ / # ($ # ($

! 0 -

5

/ 4 / 0 5 3

! 0 ./

* 2 #5 5$ #' " !( H 2 #

= 3 (

: (.

' # $ #

/ 0

B 0 / (

G 5 #$

1 ( / / (

( (

0 ( / (

#5 D$ 7 #5 @$ ( (

2 5 - * % +

= ) AA!. #AA!$

! <

G #$ #$ #$

0 ( (

# $ G #$ # $

# $ . "(

-

' ( = /. /

# $ G J

0

4 0 ( 1 #$ G J #$

/ ( NJO

/ #5 5F$ #5 D$ 7 #5 @$

. "(

#$ 0

, , #5

#5 5C$ 0 -

( ( (

G 3 /

#5 D$ 7 #5 @$ ( 4 (3