, 2006
[338.26+004.67](075.8)
.. . :
. - , 2006. - 221 .
. MS Excel, Statistica, Statistica Neural
Networks.
. .
,
( ) -.
Statistica. Statistica Neural Networks.
.
, :
, , .
: - . , .
- . , .
ISBN 5-89571-077-8
..
..
-
, 2006
.. , 2006
6
1. .
1.1.
1.1.1. .
1.1.2.
1.1.3. ...
1.2. () ...
1.3. ...
1.4.
..
1.4.1. p (AR(p)-)
1.4.2. q ((q)).
1.4.3. (ARMA(p, q)-).
1.5. ...
1.5.1. -
(ARIMA(p, k, q)-)..
1.5.2. , ..
1.5.3. ARIMA-...
1.6.
1.7.
1.8. .
1.9. ,
..
2.
2.1. ......
2.2. .
2.2.1. (=0)...
2.2.2. (=1).
3
8
11
13
15
19
24
33
40
41
43
45
46
46
48
49
51
55
62
63
71
71
72
73
76
2.2.3. (=2).. 80
2.3.
( ).. 83
2.4. 91
3. . 97
3.1. . 99
3.2. . 111
4. Statistica Neural Networks..
4.1. Statistica Neural Networks...
4.1.1. ..
4.1.2. ..
4.1.3. ...
4.1.4. ...
4.1.5. ...
4.1.6. .
4.1.7.
4.1.8. ..
4.1.9. ...
4.1.10. ..
4.1.11. .
4.1.12.
4.2. ..
4.2.1. .
4.2.2. ..
4.2.3. ...
4.3. .
4.3.1.
4.4. .
4.5. .
4.5.1.
4.5.2. -..
4.5.3.
4
122
122
122
123
124
124
124
126
126
127
127
129
129
130
131
132
133
134
134
135
147
149
149
155
159
-..
4.6. .
4.7.
..
4.7.1. ..
4.7.2.
, , .
4.8. .
182
188
206
159
166
168
174
, , , .
, , [19, 27].
, , , ,
. ,
.
.
, .
.
.
, MS Excel. ,
,
,
.
.
,
, Statistica .
.
, .
,
,
6
, .
.
.
,
( , ).
. ,
,
, .
, , ( ), , , (
) [123, 134]. , ,
.
, , ,
.
1.
, , 100 . , , .
,
,
. .
.
, .
. , , :
, , . 1.1 [19].
, , .
: ,
, .
.
,
, ,
. ,
.
8
-.
.
-
.
. .-
.-
.-
-
..
-
- ..
1.1.
.
,
. .
() ()
= t / t ,
t ; t x .
,
( << 1 ).
( 1 ) , , , [59].
.
( >> 1 ), .
, , :
.
( ), .
, ,
.
( ) : , , . 10
, ,
( ).
,
-, .
, ,
. - - , , , , . - . , .
. , .
, .
1.
2.
3.
?
?
?
1.1.
. .
.
.
11
, , .
y t
yt = xt + S + C + t
(1.1)
xt
(); S ; ;
t .
() xt
, t
. -
,
. xt , , t
.
, .
, , .
.
, ,
.
1.
2.
. ?
.
12
1.1.1.
, , . .
n
2
S = ( yi yi ) min
(1.2)
i =1
y i ; i ; n .
y = f ( xi ; a1 , a 2 ,..., a k , t ) ,
(1.3)
a1 , a2 ,..., ak ; t ; xi - , , , (1.2), S a j . k , a j .
, , ,
.
1. , .
2. , .
3. , ().
4. , . .
.
5. . .
6. .
13
: = ax + b;
= 2 + b + ; = an;
a
.
= ax; = x; =
1 + be ex
, , .
. , .
, ,
. , , .
,
, , , ,
.
. , . , . .
.
(1) < 1 .
n
S = i ( yi yi ) 2 min
(1.4)
i =1
,
,
, i = a i ,
< 1. , , .
, . , , .
. ,
14
,
.
1.
2.
3.
?
,
.
?
1.1.2.
. ,
, .
, , ,
.
. ,
[6,64,72,151].
yt = a0 + a1t +
ap
a2 2
t + ... + t p + t .
2
p!
(1.5)
, , (1.5), , .
n
St[k ] ( y ) = (1 ) St[k1] ( y )
i
(1.6)
i =0
k- t,
.
15
[151]
St[k ] ( y ) = St[k 1] ( y ) + (1 ) St(k1) ( y ) .
i
(1.7)
St[k ] = ( 1)
p =0
a p p j ( p 1 + j )! ,
j
j!
p! (k 1)! j = 0
(1.8)
= 1, 2, ..., n + 1; a p ; p = 1 . , ,
a1;
2
S0[2 ] = a0
a1;
S0[1] = a0
(1.9)
(2 )
a1 +
a2 ;
2 2
2
(3 2 )
S0[2 ] = a0
a1 +
a2 ;
2 2
3
(4 3 )
S0[3] = a0
a1 +
a2 .
2 2
S0[1] = a0
(1.10)
S 0[k ] ,
St[k ] .
. ( + 1) ( + 1) , . , ,
16
a0 = 2St[1] St[2 ];
a1 = (St[1] St[2 ] );
(1.11)
a2 =
(1.12)
2 [1]
[St 2St[2] + St[3] ).
2
. yt + = a0 + a1 ,
yt + = a0 + a1 +
a2 2 ,
- .
,
, , , [72, 103, 215].
:
, , . ,
.
, . ,
=
2 , N , N +1
( ). n , n -
; - .
,
17
n
.
, , ,
[103, 129].
x2 =
[1 + 4 + 2 2 + 2 (1 + 3 ) + 2 2 3 ] 2 . (1.13)
(1 + )2
x2 [2 + 3 3 + 3 2 ] 2 .
(1.14)
y (t ) = ai f i (t ) + t .
(1.15)
i =1
x2 = f i ( )cov(a j , ak ) f k ( ) = f TVf ( ) 2 ,
n
(1.6)
j =1 k =1
; fi(t) ; V .
,
= 0 . , ,
, t ,
, . .
, ,
, ,
, .
[103].
18
, (1.13)-(1.16)
: ,
,
.
, (1.13)-(1.16) , :
.
,
. (1.13)-(1.16).
,
, .
,
.
, [40, 53].
.
, [129,
138].
1.
2.
?
?
1.1.3.
.
,
.
, 19
. , .
n . ,
(n + 1) : x1, x2,
, xn. , x(t),
, , . . k, , xk 1 < x(t ) xk . k-e x(t).
p n (t ) ,
xk 1 < x(t ) xk .
: p k (0 ) ; k 1,2,..., n .
(t) k- :
r
xk 1 < x(t ) xk , uk , (k - 1) 0 k- 1. k-
k.
, ,
r
r
r
p (t ) = uk + (1 ) p(t 1) .
(1.17)
.
r
p (t 1) , , 1.
r
pk (t ) , (t) , k- . ,
( ), , r
. u (t )
, k-
r
r
pk (1 pk ) . k-
20
k2 =
r
r
pk (1 pk ) ,
(1.18)
(0 1) , .
. , pk ( 1),
( 0).
. ,
, .
, .
, ,
.
.
. ,
. ,
. ,
. , , . - ,
. , ( )
, ; [54, 72].
.
r
p (t ) ,
, .
(t), x0 x xn x0
n .
21
x p x(t ) xn . , -
,
k
pr {x xk } = Pk = Pi .
(1.19)
i =1
, 0 = 0 k = 1, 0.
,
. = k k, - [54]
k
p (t ) = p (t ) < p < p (t ) = p (t ) .
i =1
k 1
i =1
(1.20)
p k 1 (t ) k-1 ,
, , p k (t ) .
x p (t ) =
[ p k (t ) p]xk 1 + ( p p k 1 (t ))xk
p k (t ) p k 1 (t )
(1.21)
( k pk-1), . .
,
p( x ) = 1 j x p ( x ) = 1 x ,
2
(1.22)
j - .
.
(1.23)
x2 = x 2 x 2 ,
22
x 2 . ,
.
.
m .
n 1 2 ,
.
.
1, 0 x 1,
f (x ) =
0, x < 0
x > 1.
(1.24)
yN N ,
fN (y) =
1 N 1 N
N
N 1
N 2
y ( y 1) + ( y 2 ) + ...
(N 1)!
2
1
(1.25)
0 < < N.
y=
N
;
2
y2 =
N.
12
(1.26)
y p = y + k p y =
N
N ,
+ kp
2
12
(1.27)
kp , .
. .
, . , ,
. ,
23
. ,
, , .
1.
2.
?
?
1.2. ()
.
, , , . . . , .
-
.
: .
,
. .
, . .
.
24
, . -
-
.
.
, , , . . , , . , , .
.
, , . .
. 34 .
.
,
.
,
: , ,
.
25
.
, ; ,
.
, :
;
;
; ; ; () .
. . .
V j
,
j =3
K = 0,5 m
+
P
V j max
j =1
(1.28)
Vj , j- ; V j max ( ) j ;
; ,
; .
. . . : 26
.
n
nmax: CK max
k
i =1
nmax
, - ;
max
; i i-o . , , ,
.
, . . ,
2/3 . , ,
=2/3. ,
n
nmax
3 K i
i =1
2k max
(1.29)
nmin.
, :
B B
<,
Bmax
(1.30)
,
; ' , , ( ) ;
max
;
.
,
B Bmax B Bmax / 2 .
27
(1.30) .
()
3
nmin = 0,5 + 5 .
(1.31)
, (1.29)-(1.31) .
,
(K max Ki ) ,
1- . .
nmin n nmax .
, .
.
, .
-
.
, :
, ,
, .
, . ,
. , ,
28
( ) .
, . , , , ,
, . , :
- ,
: ,
, . .
;
- ,
: , , ;
- ,
: ; , ,
.
. .
.
, .
, , .
.
, .
, ,
,
.
29
B = Bi / n ,
(1.32)
=1
Bi - , i- ; n
.
,
2
n
D = (Bi B ) / (n 1)
i =1
j=t
D ,
n 1
t
k = (n 2).
: B = +j,
AH=B-j.
, , v =
, - -
.
, . , ,
, , .
,
. , i- , , 1
, n - .
,
30
i- . , ; i- ,
, ,
.
Sj, j (j =
1,..., ; - ),
n
S j = Rij ,
(1.33)
i =1
Rij , i- j- .
m
S = S j / m . , j- j =1
,
d j = S j S . , ,
m
W =
12 d 2j
j =1
(1.34)
n m m n Ti
2
i =1
Ti = t te , i =1
3
l
(n - , te
).
0
1. W=l ,
W= - . .
, - ,
.
31
i , i +1 =
j =1
2
j
1
m m ( T j 1)
12
1
(1.35)
j ( ) j- , i i + 1,
j = Ri Ri +1 .
(1.36)
+1 -1. = 1 . = 1 ,
.
W i , i +1 2 .
2 =
12 2j
j =1
(1.37)
1 n
m n(m + 1)
Ti
m 1 i =1
( k = 1)
.
1.
2.
3.
4.
5.
6.
?
?
.
?
?
?
32
1.3.
[16].
n
y j = i xij + j
(1.38)
i =1
i - ; y j , xij - j-
( ) i- ;
i = 0, n; j =1, N , j ; n -
( , i , x0 j = 1 ).
[131]
Y = X + ,
(1.39)
T = (1 , 2 ,..., n ) .
,
. .
= (Y X ) (Y X ) min .
T
33
, . .
= 0; i = 0, n
1
(1.41)
X T X = X T Y ,
1
(1.42)
= (X T X ) X T Y .
,
T
2 =
N n
1
YY T Y T X X T X
N n
X TY ,
(1.43)
,
R = 1
D
D(n +1)(n +1)
(1.44)
D(n+1)(n+1)-
r = r [xi x j ], i, j = 0, n rx n =1 x n +1 R2 ; , .
F=
R 2 ( N n 1)
(1 R 2 )(n 1)
(1.45)
1 = n, v1 = N
n. yi
xij
34
ryxi =
2
yxi
2
yy
S ; S ; S
2
xixk
2
S yxi
2
yy
S S
(1.46)
2
xixi
. - ,
2
S xixk
=
1 N
(xij xi )(xkj xk ),
N 1 j =1
(1.47)
xi , xk - xi xk . Z1, Z2
Z1, 2 = arcth
r
2
,
N 3 2( N 1)
(1.48)
r N (0, 1)
2 2
, z - , [16]
z xixk =
1 1 + rxixk
ln
,
2 1 rxixk
(1.49)
th z - z,
thz =
e z e z .
e z + e z
(1.50)
th z1 rxixk thz2 .
(1.51)
i t p , v cii ,
tp,v
= (N n 1); = 2 ( 2 -
(6)), ii i- X T X
35
,
(1.52)
i t p , cii < 1 < i + t p , cii
i i = 0, n , ,
, ,
. :
, ;
j -
M ( j ) = 0; M ( j j ) = 2 <
(1.53)
;
;
.
, , , , .
. . .
.
, , , . ,
, . , ,
.
. , [55]
36
t2+ = 2 [1 + X tT+ ( X T X ) 1 X t + ],
(1.54)
X t + -
(t + ) .
I
X tT X tT X t
Yt t p ,v t I +
1
t
Xt
(1.55)
I - ; tp,v - . [14]
1 r1 X tT+ r X t + r
Yt + t p ,v t + I +
t + 1 X tT X t
(1.56)
.
[73, 16]
T 1
d=
(
t =1
t +1
t =1
t )
(1.57)
2
t
T - .
d
d1 d2, . d < d1, ; d > d2,
; d1 d d2, .
, . . Yt=Yt+1-Yt;
Xt=Xt+1-Xt. , , j j- .
37
j =
1 + r1 R1 j ,
1 r1 R1 j
(1.58)
r1 -
; R1j - j- .
,
, . ,
[ X T X ] , , ,
.
. =f(x1, , xn).
[~ ~]
2 = N 1 (2n + 5) lg X T X
6
(1.59)
[~ ]
X T X - X T X ),
1
n(n 1) .
2
(16) N , n
, ,
x xi ,
~
X ik = ik
Si N
(1.60)
S i , xi i- .
~ ~
X T X ii ,
(1.61)
d ii = ~ T ~
X X
,
,
i,
38
wi = (d ii 1) N n , c
n 1
v1 = N n v 2 = n 1 .
,
,
.
. ,
,
.
, .
, , ,
. , m
y1 = i1 xi , -
i =1
y2 = i 2 xi , i1 i 2 , , , i =1
, .
. , , . ,
,
,
. , : .
. , ,
39
, , , .
,
,
.
1.
2.
?
F- t- ?
3. ?
4. ?
1.4.
. ,
t,
() xt
(). , , , ,
.
. , t,
, t
, .. Et 0. , , t.
,
,
t = k t k ,
k =0
40
(1.62)
0 = 1
k =0
2
k
< .
, ,
.
t (1.62) , ,
t = k t k + t .
(1.63)
k =1
1, 2, , t. (1.63) (1.62)
(1.63) t1, t2, ,
(1.63) t1, t2
..
, ,
p
k =1
j =1
t = k t k + t + j t j .
(1.64)
, p q
, , (
) .
1.4.1. p (AR(p)-)
.
1- AR(1) ( ). (1.63),
41
. ,
t = t1 + t,
(1.65)
,
(|| < 1), t
, . t
t , .
, (1.65) t t1 . , t ().
, (1.65),
.
2- AR(2) ( ).
, AR(1), , j
(1.63) , . ,
t = 1t1 + 2t2 + t,
(1.66)
1, 2, .
(1.66) ( )
1 < 2,
2 < 1 1 .
(1.67)
,
. 2 : 1 1 z 2 z 2 = 0.
. r(1) r(2)
42
r (1) =
1
,
1 2
(1.68)
12
,
r (2 ) = 2 +
1 2
r(), = 3, 4,
r() = 1r( 1) + 2r( 2).
(1.69)
p- AR(p) (p 3). ,
, . (1.63) j, p , , AR(p)
p
t = j t j + t ,
(1.70)
j =1
1, 2,
.
,
(1.70),
1 1z 2z2 pzp = 0.
(1.71)
,
, .. .
1.4.2. q
((q)-)
(1.62),
q j .
43
(1.72)
1,, q
, (1.62). (1.72) q ((q)).
AR- -
-. (1.62) (1.63) ,
AR , - .
(1.72)
(1.73)
t = t 1t1 2t2 ,
(1.74)
t = j t j + t .
(1.75)
j =1
, (q)- (..
j =1
) -
(1.75) .
2
q
1 1 z 2 z ... q z = 0 ,
.. |zj| > 1 j = 1, 2,, q.
AR(q) (q).
.
p t
,
t 44
. , q t
t
.
,
, AR,
. () . ,
AR , , .
- ,
. ,
.
.
1.4.3.
(ARMA(p, q)-)
. AR
.
, , ,
.
t = 1t1 ++ ptp + t 1t1 qtq
(1.76)
(p, q)(ARMA(p, q)).
ARMA(p, q)-. (1.76)
45
t = j t j + qt ,
(1.77)
j =1
?
.
.
1.5.
1.5.1. -
(ARIMA(p, k, q)-)
. . [15].
xt,
:
- f(t), ( t) k > 1; , ;
- xtk , t = 1,..., T k , xt
k- ,
ARMA(p, q).
, ARIMA(p, k, p)- xt,
46
, ARIMA ( ). (1.63),
= 1,
t = t1 + t.
(1.79)
t , .. ARMA(0, 0).
ARIMA ARIMA(0, 1,
0).
ARIMA-. ,
k .
2 (k ) k:
k k0,
2 (k )
47
1.5.2. ,
, ,
, / .
: ,
( , ) ; ,
,
.
. -, (
)
,
. -, ,
, .. .
ARIMA- . ,
ARIMA-, T = 1 FT_, ( ., ,
[15]:
- xt T ;
-
(T )
xk , K (t ) ARMA- ( ) ARMA-;
- xk(T, K) (t )
( ) ;
(
xt ) ,
48
, .
1.5.3. ARIMA-
ARIMA- ,
.
,
ARIMA-.
ARIMA-, ,
AR-, MA- ARMA-. , ,
, .
, .
xt+l, l 1 ,
xt , .
xtl .
, xtl xtl+11
xt+l, -, ..
.
x, ARIMA(p, k, q)-, ( > k)
(1 L ... L ) ( 1) C x
p
j =0
j
k j
= 1 1 ... q q ,
(1.80)
L
.
(1.80) x = t
q,, t 1, t, t + 1,, t + + l.
q
p
k
i
x = j L j x + 1 j L j ( 1) Cki x i + 1 j L j .
j =1
j =1
j =1
i = 0
(1.81)
49
p + k ( )
x,
q
. , , , .. .
(1.81)
l .
, ( )
t l
xt+l, , x t.
(. [237, 198, 235]).
E(xt+l | x1,, xt)
(10) = t + l
:
E(xtj | x1,, xt) = xtj
j = 0, 1, 2,, t 1
E(xt+j | x1,, xt) = xtj
j = 1, 2,;
E(xt+j | x1,, xt) = 0
j = 1, 2,;
1
E(xtj | x1,, xt) = xt j xt j 1 j = 0, 1, 2,, t 1.
(1.82)
(1.83)
(1.84)
(1.85)
,
:
(1.81) xt1 q 1 ,
xt1 q ,, xt11 ;
xt q + m 1 xtq+m
(m = 0, 1,) (1.81) E(tq+mj |
x1,, xtq+m),
(1.85), ,
; > t (1.82)(1.85) .
50
.
p, q k
.
1.
?
2. ARIMA?
3.
, ?
4. ()
ARIMA?
1.6.
, , , , ,
, .
. , ..
, , . , , , . , , .
( [151]) .
.
x, = 1, 2,, t
x = a0 + ,
51
(1.86)
a0 , , , ,
. ,
x t xt ( ) ( ) (0 < < 1)
xt ( ) =
1
1 t
t 1
x
j =0
t j
(1.87)
,
t 1
j =0
, .
(1.87)
xt ( ) = (1 ) j xt j .
(1.88)
j =0
xt1 xt+1 t xt
(1.89)
xt1 = xt ( ),
xt ( ) (1.87) (1.88), .
(1.89) , , , (t + 1)- xt+1 xt1+1 = xt +1 ( )
xt +1 ( ) = xt ( ) + (1 )xt +1.
, .. , (1.86)
52
xt+ = a0 + a1 ++ akk + ,
(1.90)
k 1. (1.90)
t,
. ,
xt1 xt+1 (1.90)
= 1 (4)
(1.91)
a j (t , ), j = 0,1,..., k
(x
j =0
t j
a0 a1 j ... ak j k
min .
(1.92)
a 0 , a1 ,..., a k
(1.92) .
,
,
.
. [195] , , 1 2 (0 < 1, 2 < 1). xtl
l t
xtl = a0 (t , 1 , 2 ) + la1 (t , 1 , 2 ),
(1.93)
a0 (t + 1, 1 , 2 ) = 1 xt + (1 1 )(a0 (t , 1 , 2 ) + a1 (t , 1 , 2 )),
a1 (t + 1, 1 , 2 ) = 2 (a0 (t + 1, 1 , 2 ) a1 (t , 1 , 2 )) +
+ (1 2 )a1 (t , 1 , 2 ).
53
(1.94)
,
, 1 2,
a0 (0, 1 , 2 ) a1 (0, 1 , 2 ) .
. [236]
, . , t l ,
(1.95)
, N ,
. . 1, 2, 3 (0 < j < 1, j = 1, 2, 3),
a0 (t + 1) = 1
xt +1
t +1 N
+ (1 1 )[a0 (t ) + a1 (t )],
xt +1
+ (1 2 ) t +1 N ,
a0 (t + 1)
a1 (t + 1) = 3 [a0 (t + 1) a0 (t )] + (1 3 )a1 (t ).
t +1 = 2
(1.96)
,
, 1, 2 3, a0 (0 ), a1 (0 ) 0.
.
. , ,
. .
( , )
x = a0 ( ) + + ,
(1.97)
a0 ( ) = a0 ( 1) + a1 ( ),
54
a0() , a1() , t , t .
, t l ,
xtl = a0 (t ) + la1 (t ) + t N + l ,
(1.98)
a0 , a1
[
];
].
a0 ( ) = a0 ( 1) + a1 ( 1) + 1 x x1 1 ;
[
+ (1 ) [x
a1 ( ) = a1 ( 1) + 12 x x 1
t = N
x1 1
(1.99)
, , N , , 1, 2 3 .
1.
?
2. ?
3.
-?
1.7.
(), .
,
, [52,51].
, (
). , , , 55
.
[51]
y = f ( x1 , x2 , ..., xm ) ,
(1.100)
f , , :
1- y1 = f ( x1 , x2 ), y2 = f ( x1 , x3 ), ..., yS = f ( xm 1 xm ) ;
2- z1 = f ( y1 , y2 ), z2 = f ( y1 , y3 ), ..., zk = f ( yn 1 yn ) .
. .
, ,
.
. ( ). .
, , . .
. , , .
[51].
yk = a0 + a1 xi + a2 yi , 0 < i m .
(1.101)
. , ,
- . .
yi = a0 + a1 xi + a2 x j + a3 xi x j ;
56
(1.102)
yk = a0 + a1 xi + a2 x j + a3 xi x j + a4 xi2 + a5 x 2j .
,
.
, : f ( x1 ), f ( x2 ), ..., f ( xm ) .
y = a0 + a1 f ( x1 ) + a2 f ( x2 ) + ... + am f ( xm ) . (1.103)
, (
) .
. . - .
,
[51].
, , ,
. , ,
+1 = f (t ) + f1 ( x1 ) + f 2 ( x2 ) + f 3 ( x3 ) + f 4 ( x4 ) .
(1.104)
[51]
57
+1
+1
+1
+1
+1
+1
+1
+1
+1
+1
+1
+1
= f (t ) + f1 ( x1 ) + f 2 ( x2 ) + f 3 ( x3 ) + f 4 ( x4 );
= f (t ) + f1 ( x1 ) + f 2 ( x2 , x3 , x4 );
= f (t ) + f1 ( x2 ) + f 2 ( x2 , x3 , x4 );
= f (t ) + f1 ( x3 ) + f 2 ( x2 , x3 , x4 );
= f (t ) + f1 ( x4 ) + f 2 ( x2 , x3 , x4 );
= f (t ) + f1 ( x1 ) + f 2 ( x2 ) + f 3 ( x3 , x4 );
(1.105)
= f (t ) + f1 ( x1 ) + f 2 ( x3 ) + f 3 ( x2 , x4 );
= f (t ) + f1 ( x1 ) + f 2 ( x4 ) + f 3 ( x2 , x3 );
= f (t ) + f1 ( x2 ) + f 2 ( x3 ) + f 3 ( x1 , x4 );
= f (t ) + f1 ( x2 ) + f 2 ( x4 ) + f 3 ( x1 , x2 );
= f (t ) + f1 ( x3 ) + f 2 ( x4 ) + f 3 ( x1 , x2 );
= f (t ) + f1 ( x1 , x2 , x3 , x4 ).
, .
, ,
( ). ,
. .
,
. ,
,
r = y f r .
f n +1 = Pj 0 + Pj11 + ... + Pjn n ,
58
(1.106)
Pjr r I
x j : 0 l m ; Pij
1 j (m + 1) S , j = 1, l . Pij
,
. , f n +1 , .
.
, [52, 51].
1.
, (
),
, .
2. .
, , .
3.
,
.
4. ,
,
.
5.
, .
59
()
[51]: 2 (2) min (1) min , (1)
( ); 2 (2) - ( ). ,
(1) min [51]:
1.
Ty = 1 Tn = 2 x(t).
2. [*(t)-(t)] (N), *(t) - , (t)
.
3.
(1) =
1
N np
N np
[x (t ) x (t )] ;
j =1
(1) =
(1) 100%
N np
[x (t )]
1
N np
j =1
(1.107)
2 (2) [51].
1. Ty = 1 , Tn = 2 , : x0 = f (x1 , x 2 , x1 , x 2 ) . x(t )
.
2. x (t ) x(t ) .
3.
2 (2 ) =
1
N Ty
N T y
[x (t ) x (t )]
j =1
(2) =
2
2 (2) 100%
1
N Ty
60
(1.108)
[x (t )]
N 1
j =1
(1.109)
2 (2) , , . .
, , , .
[52, 51]:
1. ,
.
2. f.
m M f .
3. .
4. .
, . , .
( ).
, .
.
( ) , .
. [53]
. ,
,
,
.
.
61
,
, , . . . , .
1.
2.
?
?
3. .
1.8.
.
, [4, 24, 25, 67,
75, 105, 126].
.
, , - , ,
. , .
, .
[126].
- ,
.
, , ,
. , 62
,
( ) .
,
.
,
, .
,
.
, . ,
. , . . , .
, ,
.
1.
.
2.
?
3.
?
1.9.
,
, ,
.. ,
,
, , ,
63
, ,
( + -+) [14 ,20, 21].
[29, 36, 104, 109]
, , , ,
[114].
, .
,
.
1943 . .-
.. ,
[36]. 1949 . ,
[29].
1957-1962 . . , [104]. 1959 . .
.
ADALINE.
" " [36]. 1969 . . .
"", , , . 80- . . 1982 . . .
.
,
[29, 36, 104].
, : , , ,
. [1, 4, 28, 47, 51, 52].
. -
64
n
y = F wi x i F (WX ),
i =1
(1.110)
X = ( x1 , x 2 ,..., x n ) T
; W = ( w1 , w2 ,..., wn ) ; F -
.
[9, 11, 22, 42, 70, 139]. , .
,
[85, 127].
.
. ,
, , ,
[94].
(t).
4 .
, [29, 36].
, . , [0,1] [-1,1]. , . ,
, .
, , , 65
[70].
:
1. ;
2.
;
3. .
, ;
4.
, ;
5.
.
[114]. [14,
110]. ,
, .
,
, .
,
.
[94, 127].
.
(machine learning) 1970-
[241, 245, 244, 246]. 1980- .
( ), , , , , ( 66
) . ,
, [10, 28, 100].
, ""
( ) [28].
.
,
.
, ,
.
[28, 88, 100]
. , .
.
.
,
,
.
, "", , , [241, 244,
245].
1.
2.
3.
4.
?
?
?
?
67
,
. , , ,
, , , , , .
[31, 32, 35, 41, 46, 49, 56, 96]. , . ,
[12, 33, 50, 58, 59, 78, 82, 101, 140].
, , .
(). , ,
, : 1. , ; 2.
, ; 3. ,
(); 4.
, . . ; 5. . ; 6.
.
.
, , , .
.
.
,
68
. , . . .
.
. : 1.
; 2. ; 3.
; 4.
; 5.
Z- ; 6.
F- ; 7. ( ).
, .
,
,
..,
,
, ,
.
.
, . ,
.
.
,
.
.
, . . , ,
69
.
,
,
20 30 .
( ). , ,
- .
, . , ,
,
.
. ,
.
, . , , .
,
.
70
2.
2.1.
.
.
- . 12 4 .
() .
, .
[6, 62, 79].
, . , , . ,
. . -, , [15, 34].
, ,
. , , .
.
, 71
. , .
, .
, , , , .
. ()
-. :
- ;
- ;
- .
, . , ,
,
.
, ,
() , . . , .
,
.
, .
( ) .
2.2. .
t (,
25 ), n = 25 .
= 0,5 =1,
72
:
1.
(=0);
2.
(=1);
3.
(=2);
4.
;
.
5.
2.2.1.
(=0)
S t = xt + S t 1 , = 1
(2.1)
: S 0 = a1, 0 , a1, 0 , , .
a1,0 =
1 5
xt = 511 .
5 t =1
(2.2)
()
x t = S t = 511 .
(2.3)
2.4.
E=
( xt x ) 2
xt
(2.4)
1
.
2.1 = 0,5, .
t = 1
73
1
2
3
4
5
6
7
.
.
.
27
28
29
p=0
1
1
1
1
1
0
1
2
3
4
520
497
504
525
1
1
1
24
25
26
0,5
0,5
xt
St
x *
( x x ) 2
t
511
515,5
506,25
505,125
515,063
511
515,5
506,25
505,125
81,00
342,25
5,06
395,02
0,16
0,69
0,01
0,75
2,34
0,31
2.1. xt
( ( = 0) )
, . ,
.
0,1 0,9 0,1. . 74
, .
2.2.
12,00
11,50
11,00
10,50
10,00
9,50
9,00
8,50
0
0,2
0,4
0,6
0,8
2.2.
(=0)
570
560
550
540
530
520
510
500
490
480
0
10
15
20
25
=0,4
2.3.
75
xt
1
1
1
1
1
0
1
2
3
4
520
497
504
525
1
1
1
24
25
26
0,4
0,6
p=0
2
3
4
5
6
7
.
.
.
27
28
29
St
x *
( x x ) 2
t
511
514,6
507,56
506,136
513,682
511
514,6
507,56
506,136
511
515,5
506,25
505,125
81,00
309,76
12,67
355,85
1357,27
79,13
2.4. = 0,4
2.4 ,
26 534,3.
.
2.2.2.
(=1)
t,
x t = a1 + a 2 t
76
(2.5)
a1, 0 = a1 a 2, 0 = a 2 .
a1, 0 a 2, 0 t, ( 2.5).
xt = 498 + 1,2t ,
10
15
20
25
y = 1,2031x + 498
( )
2.5.
1- 2-
S t = xt + S t 1
S t[2] = S t + S t[21]
(2.6)
(2.7)
=1-.
S 0 = a1,0
a 2,0
77
(2.8)
S 0[2 ] = a1, 0
a 2, 0
(2.9)
()
x t = 2 + S t 1 + S t[2]
(2.10)
2
S 0[2 ] = a1, 0
a = 498 2 1,2 = 495,6
2, 0
S 0 = a1, 0
(2.10)
0,5
0,5
xt = 2 + St 1 + St[2] = 2 +
1 495,6 = 499,2
1 496,8 1 +
0,5
0,5
p=1
2
3
4
5
6
7
.
.
.
27
28
29
xt
1
1
1
1
1
0
1
2
3
4
520
497
504
525
1
1
1
24
25
26
0,5
0,5
St
St[2]
x *
( x x) 2
t
496,80
508,40
502,70
503,35
514,18
495,60
502,00
502,35
502,85
508,51
499,20
521,20
503,40
504,35
432,64
585,64
0,36
426,42
0,83
1,18
0,00
0,81
560 541,88
529 535,44
532,37
533,90
525,61
560,92
538,52
1182,83
1018,85
2,11
1,93
2.6. = 0,5
78
t = 1
0,5
xt = 2 + St 1 + St[2] = 2 +
1 508,4 1 +
1 502,0 = 521,2
0,5
0,5
xt 2.6.
= 0,5 = 1.
, . ,
, ,
.
2.7
.
33,50
28,50
23,50
18,50
13,50
8,50
0,00
0,20
0,40
0,60
0,80
2.7.
, 79
= 0,1 ( = 9,06).
2.8.
( =1)
570
560
550
540
530
520
510
500
490
480
0
10
15
20
25
30
= 0,1
2.8.
2.2.3.
(=2)
t -
xt = a1 + a 2 t + a 3t 2
(2.11)
(. 2.9):
570
560
550
540
530
520
510
500
490
480
0
10
15
20
25
2
y = 0,1535x - 2,7873x + 515,96
( )
2.9. -
xt
1-, 2- 3-
S t = xt + S t 1 ;
S t[2 ] = S t + S t[21] ;
[3]
[2 ]
(2.12)
[3]
S t = S t + S t 1
200,00
150,00
100,00
50,00
0,00
0,00
0,20
0,40
0,60
0,80
1,00
2.10.
81
(2 )
a 2, 0 +
a 3, 0 ;
2 2
(3 2 )
2
S 0[2 ] = a1, 0
a 2,0 +
a 3, 0 ;
2
3
3 (4 3 )
S 0[3] = a1, 0
a 2, 0 +
a 3,0
2 2
S 0 = a1,0
(2.13)
(2.14)
(2.15)
()
x = 6 + (6 5 ) +
+ 2 + (4 3 ) +
2
2
S t 6 + 2(5 4 ) + S t[2]
2+
2 2 2 2 2
2
S t[3]
.
2 2
(2.16)
,
(. 2.10).
= 0,1 ( = 9,06) (.
2.11).
( =2)
580
560
540
520
500
480
460
440
0
10
15
20
2.11. ( = 2)
82
25
1. , (=0),
(=1), (=2) .
2. .
3. , ,
.
2.3.
(
)
. , (. .) (n = 8). 2.1.
2.1. xt (2003-2005 .).
xt
(
x t
x t* ( xt x t* )
t kt
xt
)
x t
t
1
1
499 483,91 1,031 508,28 1,9%
9,28
2
2
475 475,36 0,999 486,55 2,4%
4,55
2003 1
3
3
452 466,82 0,968 452,32 0,1%
0,32
4
4
415 458,27 0,906 422,58 1,8%
7,58
5
1
481 449,72 1,070 457,84 4,8%
23,16
6
2
467 441,17 1,059 443,15 5,1%
23,85
2004 2
7
3
431 432,63 0,996 422,95 1,9%
8,05
8
4
412 424,08 0,972 397,88 3,4%
14,12
9 2005 3
448,16 : 56,04
:
7,49
( t = 9)
, 83
xt = a1,t f t kt + t ,
(2.17)
xt t = l,2,...,n;
a1,t , .. xt t;
fvtkt vt kt- ; vt =1,2,,l
vt=t-l(kt-1);
l ( l
=12, l =4 ..);
t . ,
In ( ).
t,
xt
+ (1 )(a1,t 1 + a 2,t 1 )
a1,t = 1
f
vt , k t 1
a1,t
(2.18)
a2,t t - 1 t;
x t = x (t ) ,
t , .. (t -);
1, 2, 3 ,
(0< 1, 2 3<1).
j (j = 1,2,3)
84
, j
. ,
.
.
, ,
. : a1,0 ; a 2,0 ; fv ,0 , vt = 1,2,..., l .
t
, xt
xt, 1, 2
3 .
j , t. a1, 0 ; a 2, 0 ,
fvt , 0 , a1,t a 2,t , fvt ,kt
.
.
n = 8 xt
- x t = a0 + a1t .
x t = 492,46 8,5476 t
0,999 + 1,059
1,031 + 1,070
f1,0 =
= 1,050; f2, 0 =
= 1,029;
2
2
0,968 + 0,996
0,906 + 0,972
f3,0 =
= 0,982; f4, 0 =
= 0,939 .
2
2
85
y = -8,5476x + 492,46
510
490
470
450
430
410
390
0
10
( )
2.12. -
1 = 0,2; 2
= 0,3; 3 = 0,4 = 1.
1- (kt = l,vt = t).
(18) t = 1
x1
499
+ (1 1 )(a1,0 + a 2, 0 ) = 0.2
+ (1 0,2 )
f
1
,
050
1, 0
x
499
f1,1 = 2 1 + (1 2 ) f1,0 = 0.3
+ (1 0,3) 1,050 = 1,046
a1,1
482,14
( 8,5476) = 9,255;
86
t = 2
x2
475
+ (1 1 )(a1,1 + a 2,1 ) = 0,2
+ 0 .8
1,029
f
2,0
( 9,255) = 10,153
t = 3
x3
452
+ (1 1 )(a1, 2 + a 2, 2 ) = 0,2
+ 0 .8
f
0.982
3, 0
( 10,153) = 10,179
t = 4
a1, 4 = 0,2
f4,1
a 2, 4
87
f1,1 = 1,046;
f2,1 = 1,023;
t = 5
a1,5 = 1
x5
481
+ (1 1 )(a1, 4 + a 2, 4 ) = 0,2
+ 0,8
1,046
f
1,1
( 10,825) = 9,053
t = 6
x6
467
+ (1 1 )(a1,5 + a 2,5 ) = 0,2
+ 0,8
f
1,023
2 ,1
x
467
+ 0,7 1,023 = 1,036
f2, 2 = 2 6 + (1 2 ) f2,1 = 0,3
a1, 6
437,85
88
t = 7
a1, 7 = 0,2
f3, 2
a 2, 7
t = 8
a1,8 = 0,2
f4, 2
a 2,8
t = 9 ()
89
530
510
490
470
450
430
410
390
0
10
2.13.
.
1. , (
).
2. .
3. , ,
.
90
2.4.
-
2.2 (xt)
2003 2005 . (. . ).
2.2.
(
x t t = xt xt x t* ( xt x t* )
xt
t
kt )
vt
1
1
7,2 6,82
0,38
6,93 3,7%
0,27
2
2
6,5 6,63
-0,13
6,52 0,2%
-0,02
2003 1
3
3
6,1 6,44
-0,34
6,47 6,1%
-0,33
4
4
6,3 6,25
0,05
6,28 0,3%
0,07
5
1
5,9 6,05
-0,15
6,26 6,2%
-0,31
6
2
5,7 5,86
-0,16
5,66 0,7%
0,08
2004 2
7
3
6 5,67
0,33
5,47 8,8%
0,56
8
4
5,5 5,48
0,02
5,52 0,4%
0,02
9 2005 3
1
5,37 : 0,07
0,27
( -) xt t = 9,
= 1, 1 = 0,1; 2 = 0,4;
3 = 0,3.
( . . ).
, , ,
. , .
91
xt = a1,t + g vt kt + t
a1,t = a1,t 1 + a 2,t
(2.19)
i
t ;
a2,t t-1 t;
g vt kt vt- kt-
;
t .
1, 2, 3, (0< 1, 2, 3<1)
(2.20)
xt = a1,t + a2,t + g vt , k t 1 .
xt (t = 1,2,,n).
xt, n = 8 , -
xt = + 1t = 7,0071 0,1905t
a1, 0 = 0 = 7,0071; a 2, 0 = 1 = 0,1905.
92
2.2 xt t = xt x t .
0,38 0,15
= 0,1144;
2
0,13 0,16
g 2,0 =
= 0,1451;
2
0,34 + 0,33
g 3,0 =
= 0,0046;
2
0,05 + 0,02
g 4,0 =
= 0,0359.
2
g1,0 =
g1,0 = 0,1144;
g 2,0 = 0,1451;
g 3,0 = 0,0046;
g 4,0 = 0,0359.
(20) t = 1
93
94
t = 6
g vt , 0
t = xt x t , vt-
, vt = 1, 2,, l.
-
x t 2.2 2.14, xt.
95
-
7,50
7,00
6,50
6,00
5,50
5,00
0
10
2.14.
.
.
1. ,
-.
2. .
3. , ,
.
96
3.
,
. , , , , .
. ,
,
, .
Statistica.
, .
. ,
, ..
, , .
:
,
.
, .
30 . ,
,
.
97
:
1 ( );
2 1 , , ( );
3 ( );
4 () ( );
5 ( );
-
.
3.1.
7
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
Y
50000
58000
65000
66000
67000
68000
69000
70000
71000
72000
73000
75000
80000
79000
83000
85000
79000
83000
86000
89000
90000
91000
X1
90,3
86.4
73,2
72,1
71,3
70,9
68,7
67
66
65
64
50,4
51,2
53,8
50,3
50
55,6
53,1
50,1
49,9
50,8
50,6
X2
2600
3000
3900
3900
3900
3900
4000
4100
4150
4160
4170
4180
4200
4300
4400
4500
4600
4700
4800
4900
4900
4900
X3
0,77
0,873
0,898
0,89
0,89
0,89
0,9
0,9
0,9
0,9
0,89
0,89
0,9
0,89
0,88
0,9
0,88
0,88
0,89
1
1
1
X4
0.689
0,699
0,71
0,7
0,71
0,72
0,73
0,74
0,75
0,76
0,77
0,78
0,79
0,8
0,81
0,82
0,83
0,84
0,85
0,86
0,87
0,88
23
90000
51,4
4900
0,89
0,9
24
91000
52,3
5000
0,9
25
93000
50
5000
0,9
1,1
26
100000
50
5100
0,9
1,1
27
100000
51,3
5200
0,9
1,1
28
100000
50
5300
0,9
1,1
29
110000
50
5400
0,9
1,1
30
110000
50
5500
0,9
1,1
98
X5
0,58
0,58
0,58
0,58
0,59
0,6
0,6
0,6
0,6
0,6
0,61
0,62
0,77
0,78
0,79
0,8
0,8
0,81
0,81
0,83
0,84
0,86
3.1.
, 3.1.
3.1. .
STATISTICA
Multiple Regression
Switch To.
: :
- ;
- ;
Switch to .
, 10
30.
Add:
99
3.2.
(
6)
Delete. , .
Analysis Resume Analysis
Multiple Regression ( 3.3).
3.4.
(dependent) Y (
), (independent) ,
Y ( ). .
, , 3.5.
,
, ,
. , . ,
.
. .
Dep. var. ( ) Y.
No of Cases ( , ). 30.
101
Multiple R ( ).
R2
(
).
3.5.
, .
= (1-R2)*100%.
= 15%.
, MS Excel
. .
.
102
3.6.
,
, : 2,3,4.
y
( 0,96; -0,8; 0,95), 1.
(. 3.7), 3
, , ,
.
.
.
0,7, , , ,
.
, , ,
3.5, Regression Summary, , ,
, 3.8.
103
3.8.
3.8
, 3.5. RI . F(5,24) = 117,36 - ( 5
24 v1 = 5 v2 = 24).
(), :
- ;
- (BETA) -;
- (St.Err of BETA) -;
- (B) , ;
- (St. Err of B)
;
- (t(24) ) ,
.
,
, -43201.
3.8,
(3.1)
().
1 ( 1) =-48,6
2 ( 2) =12,1
3 ( 3) =-29,5
4 ( 4) =649
5 ( 5) =37,2
,
, , ,
, , .
,
,
, , , .
, , , ,
, , .
, ( , )
( , )
( , , , ).
,
, R2 = 0,96 ( 1,
). .
, 4%.
. (F),
3.8. F(5,24) = 117,36.
FP ,
5 v1=5 v2 = 24 FT = 2,62.
FP > FT.
105
106
3.9.
.
3.10.
107
3.11.
( )
(3.2)
, ,
, , , .
. , ,
RI (R2) 0,96.
, - 4%. 5 (
, , - , 1
).
, ,
v1 = 4 v2 = 25 FP > FT (143,75 > 2,76).
3,
.
108
3.12.
3 .
3.13.
, :
- 1 ;
- 2 1 () ;
- 4 .
3.13.
109
3.14.
(3.3)
, , , , . ,
, . ,
1 .
, , RI =0,96,
. , , 4%. , , FP > FT,
( v1=3 v2 = 26 143,75 > 2,98).
.
,
(3.4)
3.2.
.
Mode Fixed non linear
( ). .
3.15.
, , ,
. ().
3.16.
111
1,2,4, , , . .
, ,
. , .
3.17.
. ; (Method) Standart
Variables.
3.18.
112
Variables.
.
3.19.
, 3.19,
(Dependent) ,
V2**2,V3**2,V5**2, , 12,22,42. ,
- V2**2 - 12;
- V3**2 - 22;
- V5**2 - 42.
,
,
(. 3.20).
, .
3.20.
113
Regression summary
Y
3.21.
Y
, , RI = 0,97, , ,
. ,
3%. ,
, FP > FT ( v1 = 3
v2 = 26 256,34 > 2,98),
, 12.
(3.5)
, , , ,
: , ,
, .
, , 12.
114
(3.6)
3.22.
3.23
Y
(RI = 0,96), 4%.
, FP > FT ( v1=2 v2 = 27 351,18 > 3,35), ,
42. , (. 3.24).
115
(3.7)
3.24
3.25 Y
, . , , (. 3.26 3.27).
3.24,
.
RI = 0,96, 4% . , , .
, 2 ( ).
116
3.26.
.
.
3.27.
117
3.28.
3.29 Y
3.29,
22, . RI = 0,97 (
3%), ,
.
3.30.
Y
118
(3.8)
(3.8), ,
, 3.30, ,
(3.7), ( 1
). (RI = 0.97,
3 %) , , ,
FP > FT ( v1=1 v2=28 859,21 >
4,20), .
, ,
,
.
,
, .
.
3.31.
.
119
3.32.
LN V2 1, LN V3 2, LN V5 4.
3.33.
3.34.
Y
120
3.33-3.34
(3.9)
, , ,
. . RI = 0,94,
6% .
,
, ,
,
0,97.
, - 0,94, .
.
( (3.8) (3.9)).
.
, . , ,
.
.
1. , .
2. .
3. , ,
.
121
4.
STATISTICA NEURAL NETWORKS
, , .
[29, 36, 37, 127, 57, 92]. ,
. Statistica Neural Networks , , ,
.
4.1.
Statistica Neural Networks
4.1.1.
ST Neural Networks. (
STATISTICA Neural Networks)
ST Neural Network,
(Data Set), ,
. , -
(, STATISTICA ).
ST Neural Networks.
.
1. - Create Data
Set - Data Set... - File-New.
2. (Inputs) (Outputs)
. , .
122
4.1.
3. Create.
,
Series_g.sta . ST Neural Networks
- Data Set Editor.
4.2.
- Data Set Editor -
, . .
, - ;
. .
4.1.2.
1. , .
123
2. .
ST Neural Networks .
4.1.3.
, .
1. ,
, .
.
2. TRL+. .
4.1.4.
ST Neural Networks
.
, .
1. . .
( ).
2. .
. -
, , .
3.
, DELETE
BACKSPACE - ,
BBPX
, ESCAPE .
- .
4.1.5.
ST Neural Networks
,
124
.
- .
, , ,
, HOME, END, PAGE UP, PAGE DOWN.
- .
SHIFT.
- . , CTRL+C. CTRL+V.
. ST Neural Networks .
- .
. , ( ), - . INSERT .
- - - Input, -Output, / - Input/Output ignored, ,
,
.
- ( {, e}), , ,
-Definition .
- Training, - Verification, - Test - Ignored, , ,
.
- Cases Variables
Edit.
125
4.1.6.
ST Neural Networks
Create Network, File New Network. , ,
(
).
4.3.
4.1.7.
1. y.
- Multilayer Perceptron
.
2. Advise. ST Neural Networks
/ , .
, (Time Series) p - Steps
- Lookahead
126
/ - , .
3. - Create,
.
4.4.
4.1.8.
1. - Save
Data Set - Data Set
- File - Sav as.
2. a - File Name.
3. Save.
- Save Networks,
*.net *.bnt.
4.1.9.
- .
ST Neural Networks
: , -.
127
1. .
(
)
. .
2.
, ,
, ,
,
.
3.
, , , .
ST Neural Networks , .
1. Training Error
Graph - Training Graph
-Statistics
(. 4.5).
4.5.
128
2. - Bak
Propagation Back
Propagation TrainMultilayer Perceptron
.
3. Train, Back Propagation -
. .
4. Train, .
4.1.10.
,
Back Propagation ( 4.5).
- Epochs. , Train.
100 .
- 6 Learning rate.
,
.
- Momentum. () , ,
.
[0;1).
.
- - Shuffle Cases.
, , . , . , , .
4.1.11.
129
, - Reinitialize
- Back Propagatio ( 4.5). .
-Reinitialize
- Train, .
. , . - Label - Training Graph, ( 4.6)
,
.
4.1.12.
- Trainig Graph
. , .
4.6.
ST Neural Networks - Case Errors, - Case Errors - Statistics
.
( 4.7).
130
4.7.
.
,
- Real-time update - Case Errors;
. , , .
4.2.
, , .
ST Neural Networks :
- - ;
- - ( );
- , , -
, SNN API.
131
4.2.1.
- Run Single Case, Run Single Cas
( 4.8).
4.8.
- Case No ,
. ,
Run, -
Case No ( 4.8).
, , .
, ,
.
ST Neural Networks
( - Outputs Shown).
Variables.
132
4.2.2.
- Run Data Set, Data Set - Run
Run,
,
( 4.9).
4.9.
- Run Data Set ( ): , , .
() RMS ERROR .
133
4.2.3.
, . .
- .
- , , .
- Run One-off,
Run One-off( 4.10).
4.10
, , Run, .
4.3.
.
STATISTICA Neural Networks
STATISTICA Neural Networks Open Data Set SERIES_G.
134
: .
.
4.3.1.
,
.
Data Set Editor ( ) ( 4.11), - Intelligent Problem SolverBasic or Advanced ( 4.12) - .
4.11.
Intelligent Problem Solver-Basic or Advanced
( 4.12) Advanced (
, ) Next.
135
. .
4.12. -
Next
- Intelligent Problem Solver - Problem Type ( 4.13),
- Time Series (predict later values from
earlier ones) Next.
Next, - Intelligent Problem
Solver-Time Series Period ( 4.14),
1.
, ( ,
1, 0). ,
.
136
, .
,
.
4.13. -
().
, .
, 1.
4.14. .
. ( ).
. ,
,
137
,
.
Next (
4.15), , ,
SERIES_G, ( SERIES_G,
). Next
, 4.16, SERIES_G.
.
, -Multiple, . Next.
() . ,
, Multiple.
4.15. .
138
. , ,
.
x = ( x m) c
4.1
x ;
x ;
c .
, . ,
.
STATISTICA
Neural Networks :
(
).
4.16. .
- Intelligent Problem Solver - Division of cases
( 4.17),
139
(72) , (36) (36) -Randomly reassign in numbers given below. Ignore cases with
missing values) ( ).
, , ,
- , -
.
.
, ,
. ,
, , .
. , ,
. , IPS
.
4.17. .
( )
140
,
4.18. .
,
4.18, . , . PNN GRNN ,
, -
.
141
MLP ( ) . ,
, ( , , ).
- Intelligent Problem Solver Hidden Units (
4.19), .
. , IPS
.
4.19. .
( Next)
- Intelligent Problem Solver Duration of Design P(
4.20), Quick.
:
- . .
142
, .
, ,
.
.
Next - Intelligent Problem Solver Saving Networks ( 4.21). ,
, , .
.
4.20. .
. , . , MLP . , , ,
.
143
IPS .
, .
4.21. .
( Next)
Intelligent Problem Solver Results Shown, 4.22, :
- ;
- ;
- () ;
- .
.
Finish.
144
.
- ;
- , ;
- ;
- .
.
4.22. .
: 4.23 - 4.26.
4.23.
145
4.24
, , 10
.
2.24.
( 4.25) ,
(04*). ,
( 4.25),
, .
, , ,
,
, ( 4.25) .
4.25.
146
4.26. .
4.4.
, . .
STATISTICA Neural Networks
STATISTICA Neural Networks Open Data Set SERIES_G.FileNewNetwork.
4.27 Create Network.
, -Multilayer Perceptron.
: Step -1 Lookahead () - 0. - Inputs 1, ,
- Outputs 1.
- No Layers 3. - Advise (), - Create ().
147
4.27.
, 4.28.
4.28.
,
: 148
4.5.
4.5.1.
.
1. .
( ) . .
2.
, ,
, ,
,
.
3.
, ; , .
, .
, , ( , ).
4.29.
4.30.
, . - Label - Training Graph, .
150
2.2. :
TrainMultilayer PerceptronBack Propagation ( 4.30).
2.3. : Statistics Case Errors
( 4.31).
4.31.
4.31 ( ).
. ,
, - . , . , ,
.
, - - Real-time update; . , ,
.
151
,
.
3. Train, - Back Propagation . ( 4.31)
.
4. - Train,
.
4.32.
( 4.31),
, .
Regression Statistics ( 4.33), S.D.Ratio ( ), 0.1,
.
0.7,
.
ST Neural Networks , .
, ST Neural Networks Pearson-R . 152
1,0. 1,0 ( ,
),
-
. () .
.
Data S.D. - .
Abs. E. Mean - ( ).
Error S.D. - .
S.D. Ration - .
- Pearson-R .
4.33.
5. , , .
153
4.34.
4.35.
4.5.2. -
- , ,
155
. .
1. ( );
2. .
. -
. ,
, .
, . , , , ,
.
- Intelligent Problem
Solver
. : File New
Network, ,
( Layer 2 6).
,
4.36.
4.36.
- :
Statistics Training error graph;
Statistics Case Errors;
Statistics Regression Statistics;
Train Multilayer Perceptron Levenberg-Marquardt.
156
,
.
4.37.
4.38. -
Tranding error graph ,
.
, Levenberg-Marquardt
Train, Tranding
error graph ,
( ).
157
4.39.
4.40.
,
Case Errors.
Regression Statistics.
,
.
, ..
S.D.Ratio 0,1, .
158
0,2, .
4.5.3.
-
1. . - Intelligent Problem Solver
. , , :
File-New-Network, ,
( Layer 2 6).
2. . :
StatisticsTranding error graph;
Statistics Case Errors;
Statistics Regression Statistics;
TrainMultilayer Perceptrons Levenberg-Marquardt.
3. Levenberg-Marquardt
Train () (
, , ).
4.
, . , Reinitialize , Training error graph (Clear). , Train ().
5.
. Regression Statistics, S.D.Ratio, 0,1, .
4.6.
,
, - ,
.
.
159
- , .
,
, , .
-
. , ,
,
. . , .
- -
, , - ,
, .
,
(Bishop, 1995) [10].
,
, ,
. - .
ST
Neural Networks - , , . (Weigend Weight Regiilariation) - Network Editor
,
( , ).
ST Neural Networks --
- Genetic, Algorithm Input Selection.
, - ,
.
(
160
/).
(
), ST
Neural Networks
PNN/GRNN , [244].
,
- Output Set Variable Types Type Variables Edit.
Iris.sta IrisDat.sta,
.
: Setosa, Versicolor
Virginica. 50 , : , . , ( )
.
. , (Setosa) .
, ,
, ,
.
.
Iris.sta IrisDat.sta ST Neural Networks
.
. : Iris = {Setosa, Versicol, Virginic}.
150 - , .
60 . 161
- Data
Set Editor.
, :
(Training Set) ,
(Verification Set) -
.
, :
1. Iris.sta IrisDat.sta - Data Editor.
4.41.
2. 21-50.
, 20,
, , PAGE DOWN SHIFT.
162
3.
- Ignore. , ST Neural Networks .
4. 71-100 121-150
( 4.41).
5. - (
- Training) 60 30. ST
Neural Networks
, 30
30 .
6. - Shuffle
60 . , .
, - .
7. ,
SLENGTH SWIDTH.
. -
,
ENTER - .
, , GA Input Selection .
Input Feature Selection - - Train-Auxiliary ( 4.42).
(
). - Population - Generations , .
. , (
, , ,
)
(.. ).
,
. , , , ,
. Population , - Generations , -. ,
, PNN
GRNN .
PNN GRNN (Smoothing).
, PNN GRNN , . , PNN GRNN ,
.
,
,
.
, (Unit Penalty).
,
. , .
( ) 0,01-0,001.
164
,
.
- Run.
10000 ( 100 100 ).
( ),
128 ( ). ST
Neural Networks ( ).
,
, , ( - Yes - No) (
4.43). ,
( - ) . , .
4.43.
- Apply. ST Neural Networks , , ,
- Ignore.
- Unit Penalty 0,01 - Run. ,
. ,
165
. , PLENGTH PWIDTH
, SLENGTH SWIDTH - .
,
.
4.7.
.
() [22, 116].
.
,
. , . : .
.
.
.
.
,
;
N
C = wij2
i =1 j =1
166
(4.2)
wij2 , i , j , N
, M ;
. ,
0, wij
wij =
wij , wij < , wij >
(4.3)
.
:
1. ,
, .
2. , .
, :
1. .
2. , .
3. .
4. ;
, ,
.
.
,
, .
:
1. ;
2.
(splitting) .
,
.
167
.
.
.
, .
,
, - .
. .
.
4.7.1.
(), , . , (RBF) (MLP) [121,
123]. -, .
. -,
, , MLP.
RBF (
MLP) [85,107].
, RBF, , . , .
RBF MLP : RBF 168
MLP. ,
RBF, , . , , RBF,
, MLP (
, ).
RBF .
. , MLP
, ,
, MLP . RBF
,
.
,
:
1. Data Mean. ;
2. Data S.D. ;
3. Error Mean (
);
4. Abs. E. Mean (
);
5. Error S.D. ;
6. S.D. Ratio ;
7. Correlation , .
STATISTICA Neural Networks 4.0.
29.05.1997 24.06.2003.
4.44
.
169
4.44.
29.05.1997 24.06.2003 .
4.45.
(1536 ) 29.05.1997
24.06.2003 .
170
4.46.
(1511 ) 29.05.1997
24.06.2003 .
4.47.
(1304 ) 29.05.1997 24.06.2003 .
.
171
. , .
,
, , .
4.1. RBF
Inputs: Hidden:Outputs
1
16
0,08168,
0.995359,
0,1172432)
RBF 1:7:1
TPerf, VPerf, TePerf
0,1198; 0,1174; 0,1321
24
RBF 3:14:1
0.089525,
0.995992,
0.1199467)
21
RBF 5:14:1
0.095182,
0.995465,
0.1403166)
:
RBF MPL; ( 1:7:1 ,
, 7
), (TPerf, VPerf, TePerf) , .
.
,
, , .
172
4.2. MLP ( )
Inputs: Hidden:Outputs
1
16
0.083055,
0.996550,
0.1191367)
MLP 1:10:1
TPerf, VPerf, TePerf
0,1221; 0,1193; 0,1328
20
MLP 3:12:1
0.085872,
0.996326,
0.1253478)
25
0.095182,
0.995465,
0.1403166)
MLP 5:7:1
TPerf, VPerf, TePerf
0,1227; 0,1203; 0,1313
.
. ,
. , , RBF , MLP-, MLP
, ,
, RBF [91, 92].
173
4.3. MLP ( )
Inputs: Hidden:Outputs
1
16
0.083461,
0.996511,
0.1180339)
MLP 1:13:13:1
TPerf, VPerf, TePerf
0,1227; 0,1197; 0,133
16
0.084064,
0.996471,
0.1207132)
MLP 3:13:8:1
TPerf, VPerf, TePerf
0,1233; 0,1207; 0,1338
16
MLP 5:4:2:1
0.083177,
0.996543,
0,1194306)
4.1 4.3 , RBF (1:7:1) 4.1
. .
TPerf, VPerf, TePerf ,
, .
4.7.2.
, ,
. . 4.4
174
, ,
. RBF.
4.5 4.6
.
MLP ( ). , , , , .
: 4.4 4.6, : MLP; : 3 6
1 ( 4.5).
MLP; : 1 10 1
( 4.5).
4.4. RBF
1
1
( 405 .)
2
8
3
15
4
13
RBF 1:11:1
TPerf, VPerf, TePerf
2,054; 1,074; 1,266
(
0.114370,
0.993442, 1.073946)
RBF 1:5:1
TPerf, VPerf, TePerf
9.223; 13.890; 12.320
( 0.181738, 0.983840,
13.88914)
.
.
175
RBF 1:3:1
TPerf, VPerf, TePerf
110.8; 103.7; 152.0
(
0.190076,
0.981947,
103.6565)
4.4
1
3
2
8
3
8
4
24
RBF 3:5:1
TPerf, VPerf, TePerf
2,483; 1,263; 1,35
(
0.134435,
0.990930, 1.262944)
RBF 3:7:1
TPerf, VPerf, TePerf
11,06; 12,95; 13,49
( 0.157377, 0.987700,
14.08784)
.
.
16
RBF 3:22:1
TPerf, VPerf, TePerf
120.7; 124.3; 2076.0
(
0.223885v,
0.974682,
124.2555)
RBF 5:7:1
TPerf, VPerf, TePerf
12.10; 14.57; 303.80
( 0.265997, 0.964260,
14.57255)
RBF 5:8:1
TPerf, VPerf, TePerf
120.6; 135.6; 5162.0
(
0.251100,
0.968655,
135.5618)
27
RBF 5:44:1
TPerf, VPerf, TePerf
2,484; 1,858; 2,916
(
0.098558,
0.995316, 1,857529)
176
15
4.5. MLP ( )
1
1
( 405 .)
2
16
3
16
4
69
MLP 1:10:1
TPerf, VPerf, TePerf
2,128; 1,07; 1,201
(
0.113987,
0.993490,
1.070176)
16
MLP 1:11:1
TPerf, VPerf, TePerf
9.217; 10.580; 12.610
(
0.195551,
0.980696,
10.58064)
16
MLP 1:47:1
TPerf, VPerf, TePerf
106,7; 97.19; 188,5
(
0.179922,
0.983726,
97.18809)
16
MLP 3:6:1
TPerf, VPerf, TePerf
2.104; 1.7; 1.529
(
0.085128,
0.996371,
1.699702)
MLP 3:8:1
TPerf, VPerf, TePerf
9,259; 10,570; 11,840
(
0.195361,
0.980733,
10.5714)
177
MLP 3:13:1
TPerf, VPerf, TePerf
108.9; 98.74; 248.4
(
0.179700,
0.983764,
98.74388)
4.5
1
16
16
16
MLP 5:7:1
TPerf, VPerf, TePerf
2.022; 1.233; 1.200
(
0.187880,
0.982552,
1.232779)
MLP 5:6:1
TPerf, VPerf, TePerf
9,248; 10,510; 13,850
(
0.194242,
0.981016,
10.50778)
MLP 5:8:1
TPerf, VPerf, TePerf
117.1; 103.3; 295.6
(
0.187530,
0.982329,
103.2507)
4.6. MLP ( )
1
1
( 405 .)
2
16
3
16
4
51
MLP 1:7:4:1
TPerf, VPerf, TePerf
2.051; 1.248; 1.202
(
0.190008, 0.982021,
1.247681)
MLP 1:13:13:1
TPerf, VPerf, TePerf
9,337; 10,600; 16,120
(
0.195906,
0.980633, 10.60465)
178
MLP 1:15:13:1
TPerf, VPerf, TePerf
106,6; 98,1; 144,2
(
0.181767,
0.983668,
98.09992)
4.6
1
16
16
32
MLP 3:4:5:1
TPerf, VPerf, TePerf
2.029; 1.255; 1.200
(
0.190985, 0.982249,
1.254811)
MLP 3:5:7:1
TPerf, VPerf, TePerf
9,382; 10,570; 14,370
(
0.195302,
0.980751, 10.56612)
16
16
MLP 5:4:4:1
TPerf, VPerf, TePerf
2.105; 1.231; 1.243
(
0.187464, 0.982542,
1.230627)
MLP 5:11:5:1
TPerf, VPerf, TePerf
9,256; 10,580; 17,210
(
0.195390,
0.980889, 10.57533)
MLP 3:6:8:1
TPerf, VPerf, TePerf
112.3; 99.66; 240.7
(
0.181885,
0.983326,
99.6591)
16
MLP 5:3:9:1
TPerf, VPerf, TePerf
126.6; 102.7; 263.4
(
0.189757,
0.982160,
102.6798)
4.48
, 1,5-2%. 600-800 2000 .
179
4.48.
: MLP; : 3 8
1 ( 4.5).
MLP; : 1 11
1 ( 4.5).
. 4.49.
180
4.49 ,
3%.
1998-2001 2001 2003.
( 405 ).
: MLP; : 1
13 1 ( 4.5).
4.50.
MLP; : 1 15 1-
13 2- 1 ( 4.6). 4.50 , 2%.
,
.
, ,
3-7%.
181
4.8.
200 ,
.
.
( = 1).
1- 2-
S t = x t + S t 1
S[t2] = S t + S[t2]1 ,
(4.4)
= 1-.
a 2,0
2
a 2, 0
S 0 = a 1, 0
[2 ]
S 0 = a 1,0
(4.5)
x t = 2 + S t 1 + S[t2]
(4.6)
(=2). 1-, 2- 3-
S t = x t + S t 1 ;
S[t2 ] = S t + S[t2]1 ;
S[t3] = S[t2 ] + S[t3]1 .
182
(4.7)
(2 )
a 2, 0 +
a 3, 0 ;
2 2
2
(3 2 )
a 2, 0 +
a 3, 0 ;
= a 1, 0
2
3 3(4 3 )
a 3, 0 .
+
= a 1, 0
2 2
S 0 = a 1, 0
S[02 ]
S[03]
(4.8)
a1, 0 = a1 ; a 2, 0 = a 2 ; a 3, 0 = a 3 .
x t = 62 + (6 5) + 2 2
+ 22 + (4 3) + 2 2
]S2 [6
t
2
[3]
]S2
t
2
+ 2(5 4) + 22 2
[2 ]
]S2
t
2
(4.9)
.
,
, .
, , ,
.
. ,
. 4.51
,
. ,
.
183
4.51.
20
:
, , . ,
. 4.52
.
, 0,38 0,2 . ,
. , 4.53 4.56
.
,
= 1 = 3,81%,
= 2, = 4,02%, ( 1:10:1) = 3,90%;
( 1:13:13:1) = 3,88%.
184
4.52.
4.53.
20
185
4.54.
20
4.55.
20
186
4.56.
20
= 1, = 2,56%, = 2,
= 4,26%, ( 1:10:1) = 2,41%,
( 3:6:1) = 2,46%.
= 1, = 2,60%, = 2,
= 3,11%, () = 2,67%,
( ) = 2,46%.
= 1, = 1,61%, = 2, =
1,87%, ( 1:47:1) = 3,18%,
( 1:15:13:1) = 1,98%.
,
, .
.
187
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
., . (1974) . . .: , 1974. . 1, 2.
., . .
. .: , 1979. 348 .
.., .. . .: , 1965. 35 .
.., . . .: , 1979. 253 .
.., ..
//
" ". : , 2001. .
33 34.
.., .. // VIII 1999 : 3 ./. .
. . , 2000. .2. . 211215.
.., ..
//
. : , 2000.
.225226.
.. . . // VIII : . .,
2002. . 1120 1125.
.. . .: . , 1960.
375 .
.., ..
// IV
- , 2000. . 5254.
.. . : , 1969. 354 .
.. . .:
, . . .-.., 1965. 173 .
.. : . .:
, 2000. 308 .
189
28.
29.
30.
31.
32.
33.
34.
35.
36.
37.
38.
39.
40.
41.
42.
43.
.., . ,
. .: ,
1997. 112 .
.. . . 1: .
. .: , 2001. 385 .:.
.., .. . .: ,
1968. 421 .
.., .. . .:
, 1961. 321 .
.. . .: , 1997. 143 .
., . : . .: ,
1991. 153.
.. . 3- . .:
, 2000. 208 .
.., .. //
:
.../ . , . , 1987.
. 6277.
.. : , . .4:. / . .. . .: , 2001. 256 .
.. ..:,
1990. 159.
.. .
// .
1987. 2. .129-136.
. .
(. .) . 1961. 167.
., .
. . . .: ., 1972. 312 .
. . .: ,
1975. 243 .
.. .
// VIII
..,
2002. . 931 933.
.. . . .,
1972. 193.
190
44.
45.
46.
47.
48.
49.
50.
51.
52.
53.
54.
55.
56.
57.
58.
59.
., . (1971, 1972)
. .: , 1971, 1972. . 1,2.
. (1980) . .: , 1980. 431 .
.., .. . : , 1974.
159 .
..
// . , , . 2001. 9 . 811.
.. : / : , 1999. 76 .
.. // , 4IV. , 1973. . 45 47.
.. .
. .: , 1999. 216.
..
// VIII
.., 2002 . . 745 755.
.. . // VIII
.., 2002 . .
756 772.
..
. : , 1975. 340 .
.., .., . : , 1971. 416.
.., ..
//. 1986. 5. . 3-14.
.., .. . .: , 1987. 119 .
, . .: .
. .: , 2001. 288 .
. ., . ., . .
. .: , 1997. 236.
. , : . .
.: , 1982, 216 .
191
60.
61.
62.
63.
64.
65.
66.
67.
68.
69.
70.
71.
72.
73.
74.
. . .: ,
1977, . 1, 2.
., . . .: ,
1970. 136 .
. . . . .. .
.: , 1979. 198 .
.., ..
. . . 1973. 432 .
.., .. .
. .: , 1973.
298.
.., . :
., . . .: , 1982. 408 .
.. . , 1959. .124
.754-755
.. - . .: , 1990. 272 .
. . .:, ,
1967. 408.
.., .. : , . .: , 1990. 156.
.., .. . // VIII
.., 2002 . .
997 999.
..
. .:
, 1985. 352.
.., .. .
, 1971, . XVI, 2.
. . .: , 1971. 141.
.. . .: ,
1972. 223.
192
75.
76.
77.
78.
79.
80.
81.
82.
83.
84.
85.
86.
87.
88.
89.
.. // VIII
.., 2002 . . 6972.
., . (1990) (.) . .: , 1990. 2.
..
-
/. , .: , 1987. 506 .
.., .. : .
. .: . . . .-.., 1990. 272 .
.. ./. . .. .: , 1986 . 132 .
.. . . .1,2. .:- , 1954
1956.
..
// , 2001.
. 371. . 37 46.
.., .. .: , 2000. 336.
: .. .. , .3
- .: , 1982. 1184 .
.., ..
. , 1998. 34.
.., .. . MATLAB 6
/ .. ... .. . .: -,
2002. 496 .
., . . .: , 1971.
365.
.. , //
. , , ., 2000. 12.
. 11 19.
. . . ./ . - . .. . : 1989. 140 .
. , , . .: ,
1972. 314 .
193
90.
91.
92.
93.
94.
95.
96.
97.
98.
99.
100.
101.
102.
103.
104. . :
. . . .: , 1965. - 175 .
105. .. . .: , 1973. 198 .
106. .., .. : . .: -, 2000.
487 .
107. ..
// VIII ., 2002 . . 1187 1191.
108. .., ..
. .: , 1965. 244.
109. ., . . .
. . .. . .: , 2001. 321 .
110. .., .. // VIII .., 2002.
. 1037 1040.
111. .. . .: . .
1975. 424.
112. . . .
. . .. .: . , 1977. 351 .
113. .., .. // " ". : , 2000.
.3031.
114. .. // " ". : ,
2002. . 69 70.
115. .. // II
- , 2002 . 2: . : , 2003. . 29 30.
116. .. 195
117.
118.
119.
120.
121.
122.
123.
124.
125.
//
, : , 2002. .
449 453. ..
//
: . . . :
, 2003. .187191.
.. // : . . . :
, 2003. .184186.
.., ..
// : . . . : , 2003. .173175.
.., ..
// : . . . : ,
2003. .191193.
.. //
, : , 2002. .443 448.
..
// : . . . : , 2003. .179183.
.. // : . . . : , 2003.
.187191.
..
. . . . . , 2003.
139.
... : . . .: , 1985. 254 .
..
( ). : , 1987.
132.
196
126. ., . . .:
, 1978. 139 .
127. . : . .: , 1992. 240 .
128. . . - .: , 1991. 143.
129. ..
. .: ,
1972.
130. . . .: , 1964.
215.
131. .. . .: , 1986.
346.
132. ..
. .: . , 1964. 365c.
133. .., ..
//: , . .: , 2003. 10. .25-31.
134. .., .. // : , . .: , 2003.
10. .19-24.
135. .., .. //:
, . .: , 2003. 10.
.13-18.
136. .., ..
//: , , 1999. 1. .
7584
137. .., .., ..,
.. // VIII , 2002. . . . ., 2002. . 10531056.
138. .., .., ..
. ., . ,
1975. 400 .
197
168. Dickey, D.A., W.A. Fuller (1981) Likelihood Ratio Statistics for
Autoregressive Time Series With a Unit Root, Econometrica, 49,
1057-1072.
169. Dolado H., T. Jenkinson, S. Sosvilla-Rivero (1990) Cointegration
and Unit Roots, Journal of Economic Surveys, 4, 243-273.
170. Dutt S.D. (1998) Purchasing Power Parity Revisited: Null of
Cointegration Approach, Applied Economic Letters, 5, 573-576.
171. Dutt S.D., D. Ghosh (1999) An Empirical Examination of Exchange Market Efficiency, Applied Economic Letters, 6, 2, 8991.
172. Dweyer G.P., Wallace M.S. (1992) Cointegration and Market Efficiency, Journal of International Money and Finance, 11 318-327.
173. Elliott G., T.J. Rothenberg, J.H. Stock (1996) Efficient Tests for
an Autoregressive Unit Root, Econometrica, 64, 813-836.
174. Enders W. (1995) Applied Econometric Time Series, Wiley,
New York
175. Engle R., Kraft D. (1983) Applied Time Series Analysis of Economic Data, Washington D.C.: Bureau of the Gensus.
176. Engle R.F., C.W.J. Granger (1991) Cointegrated Economic Time
Series: An Overview with New Results, in R.F. Engle and C.W.J.
(eds.), Long-Run Economic Relationships, Readings in Cointegration, Oxford University Press, 237-266.
177. Engle, R. (1983) Estimates of the Variance of U.S. Inflation Based
on the ARCH Model, Journal of Money, Credit and Banking, 15,
286301.
178. Engle, R. F. (1982) Autoregressive Conditional Heteroskedasticity
with Estimates of the Variance of United Kingdom Inflation,
Econometrica, 50, 9871008.
179. Fama E.F., French K.R. (1988) Permanent and Temporary Components of Stock Prices, Journal of Political Economy, 96, 246273.
180. Friedman M. (1957) Theory of the Consumption Function.
Princeton, N.J.: Princeton University Press.
181. Fuller W.A. (1976) Introduction to Statistical Time Series, Wiley,
New York.
182. Fuller W.A. (1996) Introduction to Statistical Time Series, 2nd Ed,
Wiley, New York
183. Funke N., J. Thornton (1999) The demand for money in Italy,
1861-1988, Applied Economic Letters, 6, 5, 299-301.
200
184. Ghysels E., H.S. Lee, J. Noh (1994) Testing for Unit Roots in Seasonal Time Series: Some Theoretical Extensions and a Monte Carlo
Investigation, Journal of Econometrics, 62, 415-442.
185. Ghysels E., Perron P. (1992) The Effect of Seasonal Adjustment
Filters on Tests for a Unit Root, Journal of Econometrics, 55, 5798.
186. Gragg J. (1983) More Efficient Estimation in the Presence of Heteroscedasticity of Unknown Form, Econometrica, 51, 751-763.
187. Granger C.W.J. (1963) The Effect of Varjing Month-Length in the
Analisis of Economic Time Series, LIndustria, 1, 3, Milano.
188. Green W.H. (1997) Econometric Analysis. 3rd edition, PrenticeHall.
189. Hafer R.W., D.W. Jansen (1991) The Demand for Money in the
United States: Evidence from Cointegration Tests, Journal of
Money, Credit, and Banking, 23 (1991), 155-168.
190. Hall A. (1994) Testing for a Unit Root in Time Series with Pretest
Data-Based Model Selection, Journal of Business and Economic
Statistics, 12, 451-470.
191. Hamilton, James D. (1994) Time Series Analysis, Princeton University Press, Princeton.
192. Hasan M.S. (1998) The Choice of Appropriate Monetary Aggregate in the United Kingdom, Applied Economic Letters, 5, 9,
563-568.
193. Hatanaka M. (1996) Time Series-Based Econometrics: Unit Roots
and Cointegration, Oxford University Press.
194. Holden D., Perman R. (1994) Unit Roots and Cointegration for
Economist, Cointegration for the Applied Economists
( Rao B.B.), Macmillan.
195. Holt C.C. (1957) Forecasting Seasonals and Trends by Exponentially Weighted Moving Averages, Carnegie Inst. Tech. Res.
Mem., 52.
196. Johansen S., K. Juselius (1990) Maximum Likelihood Estimation
and Inferences on Cointegrationwith applications to the demand
for money, Oxford Bulletin of Economics and Statistics, 52, 169
210.
197. Kim B. J.C., Mo Soowon (1995) Cointegration and the long-run
forecast of exchange rates, Economics Letters, 48, 3-4, 353359.
198. Kolmogoroff A. (1939) Sur Linterpolation et Lextrapolation des
Suites Stationaires, Compt. Rend., 208, 2043.
201
214. Nerlove M. (1956) Estimates of the Elasticities of Supply of Selected Agricultural Commodities, Jorn. Farm Econ., 38, 496-509.
215. Nerlove M. (1958) The Dynamics of Supply: Estimation of Farmers Response to Price. The Johns Hopkins Press. Baltimore.
216. Newey W., K. West (1987) A Simple Positive Semi-Definite,
Heteroskedasticity and Autocorrelation Consistent Covariance Matrix, Econometrica, 55, 703708
217. Newey W., K. West (1994) Automatic Lag Selection in Covariance Matrix Estimation, Review of Economic Studies, 61, 631
653.
218. Ng S., P. Perron (1995) Unit Root Tests in ARMA models With
Data-Dependent Methods for the Selection of the Truncation
Lag, Journal of American Statistical Association, 90, 268-281.
219. Nunes L.S., Newbold P., C.-M. Kuan (1997) Testing for Unit
Roots With Breaks. Evidence on the Great Crash and the Unit Root
Hypothesis Reconsidered, Oxford Bulletin of Economics and Statistics, 59, 4, 435-448.
220. Perron P. (1988) Trends and Random Walks in Macroeconomic
Time Series: Furter Evidence from a New Approach, Journal of
Economic Dynamic and Control, 12, 297-332.
221. Perron P. (1989a) The Great Crash, the Oil Price Shock, and the
Unit Root Hypothesis, Econometrica, 577, 1361-1401.
222. Perron P. (1989b) Testing for a Random Walk: A Simulation Experiment When the Sampling Interval Is Varied Advances in Econometrics and Modeling ( B.Ray), Kluwer
Academic Publishers, Dordrecht and Boston.
223. Perron P. (1997) "Further evidence on breaking trend functions in
macroeconomic variables, Journal of Econometrics, 80, 2, 355385.
224. Perron P., Vogelsang T.J. (1993) Erratum, Econometrica, 61,
1, 248-249.
225. Phillips P.C.B. (1987) Time Series Regression with a Unit Root,
Econometrica, 55, 277-301.
226. Phillips P.C.B., P. Perron (1988) Testing for a Unit Root in Time
Series Regression, Biometrika, 75, 335346.
227. Said E., D.A. Dickey (1984) Testing for Unit Roots in Autoregressive Moving Average Models of Unknown Order, Biometrika,
71, 599607.
203
228. Schmidt P., Phillips P.C.B. (1992) LM Tests for a Unit Root in the
Presence of Deterministic Trends, Oxford Bulletin of Economics
and Statistics, 54, 257-287.
229. Schwert G.W. (1989) Tests for Unit Roots: A Monte Carlo Investigation, Journal of Business and Economic Statistics, 7, 147-159.
230. Shiller R.J., Perron P. (1985) Testing the Random Walk Hypothesis: Power versus Frequency of Observation, Economic Letters,
18, 381-386.
231. Solow R.M. (1960) On a Family of Lag Distributions, Econometrica, 28, 393-406.
232. Taylor A.M.R. (2000) The Finite Sample Effects of Deterministic
Variables on Conventional Methods of Lag-Selection in Unit-Root
Tests, Oxford Bulletin of Economics and Statistics, 62, 293-304.
233. Walker G. (1931) On Periodicity in Series of Related Terms,
Proc. Royal Soc., A131, 518.
234. White H., I. Domovitz (1984) Nonlinear Regression with Dependent Observations, Econometrica, 52, 143-162.
235. Wiener N. (1949) Extrapolation, Interpolation and Smoothing of
Stationary Time Series. John Wiley, New York.
236. Winters P.R. (1960) Forecasting Sales by Exponentially Weighted
Moving Averages, Mgmt. Sci., 6, 324.
237. Wold H.O. (1932) A Study in the Analysis of Stationary Time
Series. Almquist and Wieksell, Uppsala.
238. Woodward G., R. Pillarisetti (1999) Empirical Evidence on Alternative Theories of Inflation and Unemployment: a Re-Evaluation
for the Scandinavian Countries, Applied Economic Letters, 6, 1,
55-58.
239. Yule G.U. (1927) On a Method of Investigating Periodicities in
Disturbed Series, Phil. Trans., A226, 227.
240. Zivot E., Andrews D.W.K. (1992) Further Evidence on the Great
Crash, the Oil Price Shock and the Unit Root Hypothesis, Journal
of Business and Economic Statistics, 10, 251-270.
241. (EHIPS)
[http://www.iki.rssi.ru/ehips/genetic.htm 29.08.2002]
242. .. , . .
[http://www.marketing.spb.ru/conf]
204
[http://yamdex.narod.ru/books/Williams/Tradxaos/.htm]
244. .
[http://www.math.tsu.ru/russian/center/ai_group/ai_collection/docs/
faqs/ai/part5/faq3.html]
245.
[http://www.hamovniki.net/~alchemist/NN/DATA/Gonchar/Main.h
tm]
246. . [http://infoart.baku.az/inews/30000007.htm]
247. . , . 92. .: , 1978.
[http://www.icc.jamal.ru/library/koi/POLITOLOG/bunchuk.txt]
248. .., .., .. .
[http://neurnews.iu4.bmstu.ru/neurnews.html]
249. .., .., ..
, .
[http://neurnews.iu4.bmstu.ru/neurnews.html]
205
. .
1. Pi
Ai,
1
L=
2
1 n
2
n ( Pi Ai )
i =1
1
2
1 n 2
1 n 2
n Pi + n Ai
i =1
i =1
(1)
1
2
,
[0,1], : L = 0 ; L = 1 .
, .
)
. et = yt yt ,
yt 0 , y . MADt et
MADt = et + (1 ) MADt 1.
(2)
, MADt . , .
1,2 1,3 (
/ 2 ).
t 1,25MADt .
206
(3)
:
1. et.
2. MADt (2). MAD0
= 0,1S0, S0 .
3. (3).
4. , .
3. (Mean Absolute Percentage Error)
MAPE =
1 n1 et
100% .
n t =1 yt
(4)
MAPE, ,
, .
MAPE < 10%, 10% <
MAPE < 20%, MAPE > 50%.
, yt =0.
4. (Mean Percentage Error)
(Mean Error).
MPE . , ,
,
, ,
.
5%
MPE =
1 n 1 et
100% .
n t =1 yt
(5)
MPE =
1 n1
et .
n t =1
207
(6)
MSE =
1 n1 2
et .
n t =1
(7)
n 1
SSE = et2 .
(8)
t =1
MSE SSE
.
.
208
1. . 1996 . 2005 .
(%).
1996
1997
1998
1999
2000
2001
2002
2003
2004
2005
6,2
4,8
6,3
63,5
3,0
1,2
0,6
0,5
1,1
3,5
8,9
12,1
245,0
38,3
29,9
21,7
12,0
18,6
11,0
8,6
11,5
22,9
26,1
25,4
25,8
24,7
20,1
18,8
18,1
19,9
22,4
25,8
23,1
19,5
16,4
12,5
17,9
10,8
7,4
8,5
6,9
6,0
5,3
4,6
7,7
15,0
15,0
16,4
17,8
11,0
8,9
8,5
7,9
6,7
5,4
4,6
4,5
4,7
4,5
3,2
4,1
2,8
2,8
2,2
1,6
1,2
0,7
-0,2
0,3
1,2
1,9
1,4
2,3
1,5
1,4
1,0
0,9
1,1
0,9
-0,1
-0,3
0,2
0,6
1,0
1,4
0,9
0,6
0,4
0,5
0,1
0,2
3,7
38,4
4,5
5,7
11,6
8,4
4,1
2,8
3,0
2,2
1,9
2,8
1,2
1,5
1,4
1,2
1,3
2,3
1,0
0,6
0,9
1,8
2,6
1,8
1,0
2. . 1999 . 2005 .
1999
2000
2001
2002
2003
2004
2005
4,09
4,46
4,76
4,74
5,83
6,34
5,77
6,11
6,55
6,01
6,31
6,59
5,64
6,15
6,76
6,75
6,86
7,02
6,31
6,34
6,73
7,10
7,73
7,80
5,80
6,80
7,80
7,00
7,50
6,90
7,30
7,00
7,10
8,60
8,10
8,70
7,00
6,70
7,40
6,80
6,70
6,90
7,50
7,00
7,10
7,90
8,30
8,90
6,00
5,90
6,80
6,20
6,10
6,60
6,30
5,80
6,00
6,10
5,90
7,30
4,60
5,00
5,90
6,50
5,10
5,30
6,30
6,10
6,30
6,80
7,40
9,40
6,80
7,90
8,70
8,20
209
3. . 1999 . 2005 .
1999
2000
2001
2002
2003
2004
2005
3,55
3,85
4,14
3,64
4,06
4,35
3,76
4,09
4,46
4,33
4,77
5,48
3,70
4,41
4,86
4,28
4,72
5,22
5,21
5,00
5,07
5,46
6,30
6,60
4,80
5,80
6,00
6,10
5,70
5,50
6,10
5,80
5,30
5,70
5,60
6,40
4,80
5,10
5,70
6,20
5,50
5,80
6,50
6,10
6,20
6,90
6,50
8,40
5,90
6,10
6,60
6,30
5,90
5,90
5,60
5,20
3,10
3,10
3,10
3,60
2,80
3,10
3,60
3,40
3,00
3,40
3,40
3,20
3,30
3,50
3,60
4,10
2,60
3,40
3,70
3,50
4. .
1999 . 2005 . (. .).
I
II
III
IV
1999
2000
2001
2002
2003
2004
88 000
130 000
168 000
225 000
253 000
353 000
443 000
491 000
456 000
509 000
570 000
611 000
539 000
594 000
679 000
667 000
551 000
626 000
694 000
825 000
2005
5. .
1997 . 2005 . (. .).
1997
1998
1999
2000
2001
2002
2003
2004
2005
40
74
88
153
112
98
193
199
290
612
444
666
756
779
1006
1310
1001
1531
1626
1753
2145
2066
3020
4635
2378
2285
5402
3735
10604
5174
4758
5903
7108
8944
9253
13308
9327
10953
13450
15855
15491
15037
19422
25616
23767
24424
32810
20725
13091
14244
22778
14644
22533
27781
22510
19978
20858
22265
26409
54909
14660
19021
22112
26927
26583
16821
21979
34725
22175
26005
30472
61352
18902
19034
22832
22237
23331
21698
22248
21525
20248
23690
27591
59052
27758
26925
34403
44830
39746
52921
55544
52214
53011
58280
69257
96820
64913
73387
83524
92223
101450
210
6. .
1997 . 2005 . (. .).
1997
1998
1999
2000
2001
2002
2003
2004
2005
32
69
76
150
101
100
176
183
287
631
405
648
729
729
914
1382
946
1135
1438
1320
1407
1977
2174
2599
2316
2099
3421
3824
8580
4017
5192
5373
6232
8245
8655
12376
7798
7698
10062
13581
14009
13254
16216
15710
16936
21579
18289
15333
11252
10360
16172
14118
13037
17473
18214
17241
17617
18189
22756
42294
11460
14667
19487
24375
23683
13522
16505
15935
17409
20352
20811
45341
15793
15412
18745
18882
19049
17423
18379
15520
15421
19285
23928
38147
24579
24060
31444
39246
33585
42333
47658
42869
40239
49602
57409
72001
56841
65851
73470
80890
88130
7. .
1990 . 2005 .
1990
95,44
1996 1997 1998 1999 2000 2001 2002 2003 2004 2005
94,42
93,03
91,35
89,58
88,24
87,59
87,50
87,40
86,74
85,36
83,52
81,77
80,53
79,78
79,10
78,02
76,27
74,03
71,92
70,34
69,31
68,71
68,61
69,00
69,57
69,78
69,42
68,64
67,50
65,92
64,01
62,06
60,20
58,12
55,54
52,75
50,42
48,95
48,06
47,32
46,60
46,13
45,97
46,05
46,31
46,75
47,23
47,48
211
47,26
46,61
45,89
45,46
45,48
45,79
45,97
45,73
45,05
44,16
43,35
42,80
42,48
42,27
42,08
41,85
41,61
41,42
41,29
41,21
41,08
40,83
40,51
40,30
40,34
40,55
40,77
40,97
41,24
41,67
42,19
42,62
42,82
42,82
42,67
42,35
41,90
41,49
41,17
40,80
40,18
39,32
38,48
38,00
38,10
38,73
39,60
40,38
40,96
41,41
41,96
42,71
43,59
44,34
44,81
44,94
44,87
44,85
45,16
45,73
46,26
46,48
46,48
46,49
46,66
47,06
47,68
-
:
1, 2 , ( 1000 );
3, 4 1000 ;
5 10000 ;
6 ( ,
1 , 1000 );
7 (%), ;
8 ;
9
(%);
10 (%);
11 % ;
1. -
x1
1
x2
x3
x4
x5
7
x6
x7
x8
x9
x10
x11
10
11
12
9,3
15
7,3
4,5
34
18,1
8,8
85,6
202
179
24,7
13
8,7
14,2
6,8
-43
18,5
9,5
84,1
175,6
168,2
23,5
23,6
8,5
16,3
6,8
5,6
23
17,4
11,6
84,7
163
151
9,3
12,6
7,2
5,5
-101
25,3
11,7
74,6
194
239
19,2
8,7
14,6
6,5
4,2
-31
16,2
11,3
71,4
152
192
26,9
4
5
8,6
16,2
6,1
41
17,4
8,1
79,9
190
205
20,1
8,1
11,4
7,7
6,4
-148
15,9
12,9
79,9
183
198
22
7,2
17,3
7,7
5,3
50
14,9
11,2
85,5
196,5
186,2
21,2
. -
15,9
8,2
5,1
13
13,8
9,8
101,1
229
172
20
212
10
11
12
7,2
18,2
7,4
6,1
120
14,3
11
76,6
146
167
29,1
7,9
19,7
6,4
4,7
79
19,8
9,3
8,5
174
144
22,8
7,7
20,8
6,9
5,2
95
17,1
11,7
72,5
128
111
42,7
7,7
17,3
7,6
4,8
56
16,6
11,5
75,5
134,1
121,2
35,2
10
9,2
15,9
7,8
5,3
68
16,7
9,3
68,9
169
148
22,7
11
7,6
16,4
6,7
4,7
70
15,5
12,3
64,3
144
150
27,9
7,3
18,3
6,3
4,9
46
19,6
14,9
68,1
138
133
33,7
7,9
16,4
6,8
109
17,6
8,3
59,7
197
155
26,6
7,9
17
6,3
4,4
52
20,1
8,7
72,7
182
159
30,5
12
13
14
15
16
17
18
19
13
16,9
8,2
4,6
28
15,5
5,2
98,7
520
197
19,1
7,2
17,6
8,1
5,2
60
16,1
9,5
104,1
143
165
31,2
8,7
16
7,6
4,4
52
18,9
7,2
69,3
214
161
22,7
7,8
17,9
7,2
4,3
47
15,7
6,4
60,7
158
163
24,4
16,9
6,9
4,7
84
16,8
9,6
79
185
146
19,8
20
7,5
19,4
6,7
4,6
105
19,3
64
153
165
28,6
21
7,3
19,4
7,4
59
20,1
5,9
75,5
200
175
16,2
22
7,6
17,3
7,1
5,3
65
12
11,5
66,8
180
154
21,3
8,6
15,8
6,6
3,7
37
16,4
10,3
55,3
178,5
165,2
32,1
9,6
13
6,4
3,5
35
16,8
11,2
67,9
120
117
43,2
14,1
3,3
11
15,2
10,3
75,2
132
126
34,7
10,2
13
7,1
3,2
28
16,1
9,6
74,6
145
121
27,3
23
24
25
26
27
8,1
16,3
6,2
3,9
18
17,1
9,2
77,8
137
121
32
17,5
6,7
56
16,4
7,8
81,7
181
182
22
23,1
8,5
16,3
7,8
4,4
79
16,4
6,6
83,4
165
182
28
9,4
14,8
8,1
129
14,7
5,6
85,3
200
195
19,9
29
8,3
16,6
7,7
4,4
71
15,4
7,4
71,3
182
157
23,1
30
8,5
16,7
4,1
68
17,1
5,9
68,1
179
177
20,2
31
8,4
16,1
7,6
4,6
78
16,7
6,3
74,6
181
191
18,6
32
8,4
17,3
7,3
4,1
53
19,4
10
52,2
183
170
22
9,3
14,1
7,1
4,4
62
18,5
12,5
78,4
164
165
35,1
33
13,5
10,5
7,1
3,4
-69
15,8
19,7
58
100
120
60,3
34
10,4
12,9
3,9
40
18,5
6,4
89,4
194
225
22,1
35
10,1
13,5
7,1
4,6
79
18,6
13,1
62,8
143
137
32,3
36
9,1
14,6
7,5
5,1
90
19,1
10,3
71
141
160
33,2
37
8,2
15
7,1
44
14,7
12,5
71
148
121
30,2
38
8,6
14,8
7,3
4,8
82
14
7,3
82,6
188
207
21,2
213
10
11
12
39
8,9
14,5
6,9
4,2
57
23,6
9,6
72,3
138
117
35,3
40
8,9
13,4
6,7
3,9
65
21,8
7,8
68,4
198
206
16,3
41
42
43
44
13
12
13,6
7,9
4,1
49
19
8,9
53,8
165
138
26
10,7
14,4
40
18,7
9,9
71,8
129
130
46,4
21,8
7,5
6,9
1,3
20
17,6
22,3
64,2
86
79
43
13,7
10,4
7,1
3,4
-33
14,5
14,7
72,3
128
102
42,5
12,9
10,3
3,3
-11
16,3
24
56,1
123
107
45,7
45
13,3
13
6,6
2,6
62
17,8
24
65,3
128
101
42,8
46
10
15,3
8,8
132
19,2
8,8
77,1
175
160
32,4
47
10,7
13,5
8,1
4,5
91
21,7
9,2
77
151
154
39,6
9,2
15,8
4,8
58
18,7
8,2
75,6
146
140
33,4
48
49
50
51
9,5
14,5
6,9
4,2
36
18,3
7,5
65,2
156,2
133
27,5
11,2
12,7
7,3
3,7
55
18,3
7,3
79,2
158
191
32,4
9,4
13,7
6,7
3,4
32
18,4
11,2
68,9
158
144
26,1
14,6
7,3
4,3
15
22,6
8,5
58,9
113
132
50,4
52
10,3
13,5
7,5
56
19,7
6,9
70,8
115
145
49,3
53
9,2
15,8
5,9
3,8
18
18,9
8,6
83,3
184
175
25,7
54
8,5
15,6
6,7
4,7
36
17,5
8,5
87,9
163
169
29,5
55
14,8
4,7
28
16,6
8,3
85,2
171
182
27,9
24,3
9,4
13,5
7,3
4,9
33
19,3
9,8
79,8
175,4
164
56
14,2
13,1
7,3
3,8
70
27,9
11,3
66,8
188
148
26,2
57
8,7
14,7
7,3
4,4
34
20,8
10,8
78,1
158
146
33,7
58
8,9
16,6
4,9
30
19,6
6,6
84
254
260
16,1
59
8,5
14,1
4,5
56
15,9
9,5
101,4
136
156
39,8
60
10,2
12,3
7,3
4,6
16,3
5,2
92,8
157
170
29,7
61
9,1
13
5,3
23
21,3
8,5
83,2
173
190
30,6
10,6
9,8
7,9
5,7
34
21,3
6,1
75,6
290
293
19,2
62
63
11
13,7
6,8
19,6
11,4
36
165,4
214
18,2
11,7
12
6,5
3,5
15,2
13,7
83,5
122
155
55,2
64
20
13
5,9
1,9
-16
28
14,7
53,8
84
101
73,2
65
9,9
14
7,1
4,4
62
24,6
9,6
75,1
161
201
25,3
66
9,8
14
7,2
4,8
19,8
69,7
246
296
24,2
10,6
14,6
6,3
3,3
18,1
9,2
69,2
170
215
32,3
12,2
12,8
6,9
-25
20,8
10,2
80,6
99
112
66,5
10,2
12,6
7,1
5,3
-136
20,5
7,6
74,3
186,4
165
63
67
68
214
10
11
12
69
()
15,3
9,8
4,7
-182
19,5
6,4
74,2
170
201
29,2
70
10,9
13,6
7,3
5,2
-66
26,4
15,9
76,4
171
185,9
29,4
71
9,8
8,6
7,3
8,9
-978
34
5,2
64,6
162
195,2
28,7
72
9,4
13,1
6,6
4,7
-42
21,5
10,7
77,1
144
170
31,8
73
9,3
13,1
6,6
5,7
-69
17,8
11,6
82,4
153
171
29,4
74
10,1
12
7,2
4,9
-11
23,6
12,5
83,5
175
187
37,9
75
9,1
11,2
7,9
6,7
-280
15,4
8,5
88
211
228
22,7
76
8,3
10,9
7,2
7,1
-759
14,2
10,4
64,4
202
187
24,6
77
8,9
17
7,2
5,7
-301
22,7
12,7
58,2
145
169
24,6
78
8,6
13,6
7,8
113
15,4
9,4
75,7
155
145
26,6
215
13
: / - 2005. 103.
1.
( ).
1
:
..
..
-
:
-
..
(
) -
:
1991
2
1992
3
1993
4
1994
5
1995
6
1996
7
1997
8
2777,2
2604,6
2440,0
2193,7
1956,8
1888,9
2244,6
2172,0
0,1
92,6
6,9
147,6
141,5
8,0
11,6
11,3
24,3
123,6
113,3
218,6
43,4
113,7
2056,2
0,2
55,9
5,7
93,6
155,5
13,4
13,5
13,4
46,0
165,7
162,1
247,8
32,0
97,8
1897,3
0,2
12,7
5,7
66,0
125,1
8,5
19,0
17,6
59,2
182,5
179,8
14,3
20,9
76,6
1619,3
0,7
13,3
3,6
40,0
173,5
10,1
17,3
17,0
79,0
166,5
146,5
91,4
12,3
60,0
1487,8
0,9
16,1
6,0
67,0
194,7
8,1
25,7
25,6
82,6
260,4
249,7
221,7
7,7
43,8
1854,4
0,5
22,5
5,6
103,2
154,1
10,4
17,2
17,0
76,7
186,0
175,9
228,5
11,3
38,7
38,6
66,7
10,5
55,4
21,6
7,8
20,9
34,9
4,5
6,7
17,2
54,1
18,1
35,4
25,4
5,3
13,1
26,6
4,0
8,2
10,8
39,0
7,6
30,7
30,7
5,6
12,2
14,9
1,9
4,4
8,3
25,0
2,8
21,9
18,4
4,4
13,3
12,7
2,3
3,1
14,7
18,5
2,9
15,4
5,8
4,0
12,1
12,4
2,0
2,9
6,5
18,2
3,6
14,4
5,6
4,0
11,0
10,7
1,7
3,0
5,0
22,3
4,1
17,9
0,8
28,9
0,6
33,5
0,7
21,1
0,3
13,3
0,2
30,7
0,2
23,8
0,3
18,2
284,1
236,2
185,6
153,5
91,9
98,3
80,1
100,8
60,3
57,9
94,9
52,1
50,6
67,4
52,3
28,5
66,2
39,3
19,2
42,6
21,0
13,8
45,7
22,6
14,9
39,5
18,5
11,0
191,8
163,2
50,4
168,2
47,6
10,9
25,2
40,4
6,6
216
, .
(
),
,
1
:
..
..
-
:
-
..
(
)-
:
, .
2
64,3
0,8
712,1
450,3
3
37,8
0,8
515,9
347,4
4
31,9
5,5
436,7
296,7
5
23,0
5,9
364,8
274,5
6
10,4
4,1
289,8
238,5
7
10,4
4,7
243,1
260,4
8
9,9
1,2
189,3
216,9
27954
130
13307
85
18285
111
19195
74
10046
57
8542
62
6809
65
1998
2
1999
3
2000
4
2001
5
2002
2003
6
7
2004
8
2336,3
1806,8
2284,8
2762,8
3873,9
2565,7
3436,4
1957,0
0,3
33,3
3,2
86,2
141,7
9,2
15,3
15,1
90,1
197,9
176,9
181,9
6,7
34,1
1424,0
0,2
16,0
0,8
32,8
232,5
9,2
8,8
8,7
71,7
132,0
121,5
156,3
3,8
34,8
1749,9
1,2
12,4
2,0
40,1
354,5
28,2
10,9
10,8
85,6
153,6
128,5
197,4
6,8
27,1
2041,2
1,4
22,6
1,8
32,0
507,5
38,6
23,5
21,1
94,2
128,9
108,5
205,5
3,9
31,7
2982,2
1,4
28,2
5,8
54,1
598,7
19,9
56,6
54,9
126,8
142,2
126,6
382,8
4,6
30,4
2045,5
0,8
18,5
2,2
113,1
247,1
17,0
18,3
17,5
102,5
190,6
156,20
301,0
2,6
19,6
2790,6
1,4
53,7
4,4
129,8
306,8
10,3
40,7
40,0
98,6
259,8
183,1
780,5
5,9
19,4
8,2
4,1
9,2
6,7
1,0
2,9
4,4
11,9
0,6
11,1
0,2
9,2
5,6
5,3
10,8
8,4
1,0
2,0
2,8
9,4
2,4
6,8
0,2
16,4
3,7
5,2
8,8
5,2
1,0
1,5
3,0
11,2
3,2
7,7
0,3
21,7
6,2
4,8
9,5
6,2
0,9
2,0
1,5
11,8
1,9
9,4
0,5
7,2
4,5
4,2
10,0
5,0
1,7
1,7
2,6
11,6
1,3
9,9
0,4
12,7
4,3
4,1
4,9
2,8
0,9
1,1
1,8
9,8
1,1
8,5
0,2
6,9
4,3
4,4
6,5
2,1
0,9
0,9
1,3
6,8
0,7
5,9
0,2
16,4
64,9
55,8
68,1
68,2
70,1
87,2
83,2
28,2
14,6
9,2
12,0
0,9
165,8
171,9
20,3
9,0
9,1
17,1
0,3
154,4
136
23,5
9,7
11,4
23,1
0,4
145,3
174,8
21,5
10,2
8,5
27,7
0,3
140,6
225,6
20,4
9,5
11,1
28,8
0,3
145,1
389,2
24,5
10,8
16,3
35,2
0,4
128,3
267,9
21,5
10,7
14,0
36,5
0,5
110,4
205,8
217
1
(
),
,
4804
70
3796
20
4057
28
3692
20
3439
20
3758
18
3248
17
2.
1940 - 2004.. ( ;
)
1940
1950
1955
1960
1965
1970
1971
1972
1973
1974
1975
1976
1977
1978
1979
1980
1981
1982
1983
1984
1985
1986
1987
1988
1989
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
2001
2002
2003
2004
2
128,5
87,7
148,5
198,6
285,5
270,2
338,0
334,2
334,6
350,9
337,7
246,3
273,4
305,5
340,7
311,6
344,2
350,4
363,6
366,1
359,3
400,8
424,5
439,7
467,5
477,0
431,9
396,8
367,9
319,2
267,5
262,0
236,7
207,3
193,8
194,6
197,1
204,0
224,0
231,5
333,1
292,8
439,6
643,3
855,9
829,5
846,8
844,3
940,0
953,0
936,4
719,7
771,0
820,4
825,0
806,4
844,5
843,3
867,3
853,8
871,6
919,6
955,7
1016,3
1054,8
1066,1
1014,2
856,0
811,0
786,5
732,1
654,1
572,9
524,9
526,7
542,8
544,6
553,4
568,9
544,2
218
315,8
189,5
435,2
581,5
807,1
985,2
1078,6
1100,8
1168,8
1279,6
1194,1
865,7
1009,9
1105,5
1109,2
1123,0
1226,7
1248,7
1293,0
1316,4
1334,6
1377,3
1414,2
1462,4
1415,0
1306,6
1247,6
1099,9
1004,7
989,3
909,8
920,2
792,1
707,5
660,0
699,3
747,3
903,7
782,2
706,4
11,1
8,4
19,0
25,2
29,5
31,2
32,3
30,6
29,0
29,8
30,5
27,7
29,1
30,0
33,7
28,3
30,0
29,4
30,4
30,3
30,7
31,7
32,9
32,9
34,0
33,3
30,2
28,6
20,2
16,7
14,0
13,4
10,1
7,1
6,0
6,2
5,8
5,5
6,0
6,0
3. ( )
:
(
)
:
:
1998
2
689,3
1999
3
1089
2000
4
1361,8
2001
5
3467,5
2002
6
3969,9
2003
7
4834,1
2004
8
5454,6
408,8
718,6
888,0
1448,6
1727,9
2256,2
3035,4
324,8
95,8
542,9
244,3
84,0
175,7
767,2
407,7
129,5
120,8
1066,9
476,5
300,5
381,7
1226,8
642,6
354,4
501,1
1324,5
709,1
488,9
931,7
1887,9
997,0
511,8
1147,5
16,7
0,4
21,3
212,2
358,2
698,2
601,4
13,2
36,7
10,9
51,1
15,3
72,1
58,2
103,3
55,6
73,5
60,2
130,3
202,5
182,5
33,5
3,2
37,5
13,6
58,5
13,6
58,0
45,3
34,8
38,7
63,6
66,7
95,4
87,1
0,6
16,8
14,1
99,2
10,1
2,0
1,8
6,3
2,0
11,8
1,3
41,7
1,4
159,7
1,2
16,7
4,7
28,8
63,3
5,0
4.
( , )
1990
1991
1996
1997
7,8
3,1
4,7
1992
1993
1994
1995
83,6
564,3
1656,1
5179,4
45,6
294,3
875,2
3060,7
38,0
270,0
780,9
2118,7
3,5
1,6
1,9
7280,8
3573,5
3707,3
8778,9
4042,5
4736,4
2,8
1,5
1,3
5,6
2,5
3,2
59,4
40,0
19,4
374,2
1088,7
3297,5
223,6
635,4
2392,1
150,7
453,3
905,4
3849,5
2554,8
1294,7
3806,3
2881,2
925,1
0,7
0,1
0,6
2,1
0,6
1,5
23,6
5,5
18,1
151,9
501,7
1657,6
37,9
191,4
483,3
114,0
310,3
1174,3
3107,8
787,8
2320,0
4596,5
881,7
3714,8
219
0,012
0,009
0,003
()
0,6
38,2
65,7
224,3
0,14
32,8
48,4
185,3
0,5
5,4
17,3
39,0
323,5
230,9
92,6
1998
1999
2000
2001
2002
2003
9174,2
3368,2
5806,0
15605
7707,5
7897,8
19636
24825
27068
30174,8
10553
14477
15790
18051,1
9082,8 10349
11278,0 12123,7
46280,1
32601,1
13679,0
3351,5
2471,9
879,6
7474,7
5589,4
1885,3
10311
14003
14539,0 15059,9
7908,1 10993
10865
11551,1
2403,1 3009,4 3674,3
3508,8
27109,8
22731,8
4378,0
5480,2
684,4
4795,8
7457,7
1610,8
5846,9
8222,4 9126,1 10219,1 11756,9
1772,0 2066,9 2921,9
3485,6
6450,4 7059,2 7297,2
8271,3
13803,7
4927,6
8876,1
342,5
211,9
130,6
672,9
507,3
165,6
()
1101,9 1696,5 2309,4
3357,9
872,6
1416,5 2002,9
3014,4
229,3
280,0
306,5
343,5
220
2004(.)
5366,6
4941,8
424,8
376,1
279,6
96,5
..
..
221