Вы находитесь на странице: 1из 160

-

..

: 230201
080801

-
2009

. . , . ..

. . , . ..

-,

, 2009
2


............................................................................................... 5
1. ......16
1.1. .........................................................16
1.2. ............................25
1.3. .....................................................................28
1.4. ..............................................................36
1.5. ......................................................................41
1.6. ...............................................................45
...................................................................46
2. ...........................................47
2.1. ...................................47
2.2. .......................50
2.3. ............52
2.4. ...................53
2.5. ............................54
2.6. .................................................................55
2.7. ........................58
2.8. ................................65
...................................................................79
3. ......................................................80
3.1. ...................................................80
3.2. ..........................81
...................................................................86
4. .......................................................87
4.1. ........................................................87
4.2. ..........89
4.3. ......................................95
4.4. ....................101
4.5. .......................................................................106
.................................................................109

5. .......110
5.1. .................................................................................110
5.2. .........................................................128
5.3. ...........................................................................132
5.4. ........................................................................133
5.5. ..........................142
.................................................................146
.............................................................................147
.......................................................................................148
..........................................................................154
..........................................................155
..156


,
. () .
, (). , , ,
. , .
- , , , , , ,
. :
1. ,
(,
).
2. ,
(, , ).
3.
, ,
, (, ).
5

1 3, . . ,
.
, .
() , , , .
, ,
. -
-, , , . , , ,
,
, ..

, , .
, :
;
.
:
6

-, ;
,
;

;

.
, ,
, . ,
:
.

1956 .
.
() 60-70- . , , ,


.

.
7


, , ( ). ,
. , - .

.
,
.

, .
(. .1) : , , .

:
1. . : " " ( );
; ; , , , "" ..
- ,
().
:
, ()
,
.
2. ,
, , .. 8

.
, ,
, .

. .1.
3. .

, , , "-", .. - .
4. .
: , ,
9

, .
5. .
,
,
. :
, , , ,
, .
6. .
, .
, ,
.
, ,
. :
1.
( ), : ,
,
, .
2. . : - ,
- ,
(), (), .
. , , - 10

, , ,
. , , :
"-", ,
, ,
(), () () .
, .
- - ,
.
; ; ; ,
,
.
. : ;
: ;
( ) .
3.
, : ,
-, ,
.
4.
.
(, .).
, .
11

, .
. .3.

,

.

, ,
(,
) (, , ). , .
- ,
, - . . . , .
. (. .2)
() . ,
, , .

( ) , , , .
( ) . , , .
,
.
12

. .2.
:
(), ;
,
.

.
,
,
.
( ) . .
13

,
.


, ,
. .3.

()

. .3.
()
,
, ,
.
()
.

- (),
.

( ).
()
,
.
()
.
14

()
.
,

, (,
).
.
,
,
().

,
.

,
.
,
:

;
;

;
.

.

15

1.

. , . . .
1.1.
(,
) ,
. ,
(, , ),
. ,
.
,
,
. ..
, .
, , .
: - ( ,
, ,
, )
( ,
,
- ).
.
-

16

, .

.
,
, .
, .
(), . , . .
, ,
: , ; ,
; , ; ; .

"".

, .

, , : ; () ; ; ; ; .
,
.
,
. ,
17

,
.
()
. ,
- ..
.
, . ,
, ,
.

, ,
, , .
, .
, .
.

.
.
. , . - ,
.
-1 +1 ,
-1 , +1 - .
18

- ().

,
.
, ,
,
.
, ,
, : " 1 2 ...
N, ".
, ().
, ,
().
, ,
(). ,
.
, ,

. : , , .

,
. , ,
.
()
19

, .
.
,
, . ,
() . , . , ,
, . , , , , ( ) .
,
+ = .
, ,
.
:
( ,
, , );
();
, .. ,

;
, ,
, ;
, , .

. "" "20

" "". - .
- , .
.
: .
-
.
, , . ,
- , .
,
.
-
, , , . , , .
, .
. - . , .
, .. ,
. .
, . .
-
. .
.

.
, , , ,
21

.
.

. 1.1.
2

. 1.1.
( 1) " - ".
( 2) -
, .

. -
,
.
- () .
- .
22

,
, . 1.2.
|-----------|
|------------| |----------|
|
|
|
|
|
|-----------|
|
|
|
|
|
|-----------|
|
|
| |
|
|
|----|
|---|
|
|
|
|-----------|
|
|
|
|
|
|
|----------------|
|------------|
| |
| |
|

|--------------|

|
|----------------|
|------------|

. 1.2.
,
.
, 3
( ):
, ( );
, (
);
, ( ).
(),
, ,
,
.
, ,
, .
:
;
23

- ;

;
;
()
;
.
. ,
,
,
.
,
, , , , .
(, 3)
, , .
( 4) - ( ).
( 5) -
, "" "" .

( 6) ,
,
.
( 7)
( 9).
( 8) , , .
( ) 1 - 4.
24

: 5- - ; 6- -
; 7, 8, 9- - .
.
, , .
1.2.
, ( ) .

, .
(
),
: , , , . - () , .

,
.
. , .
.
,
,
. ,
,
.
() - . , , .
25

, . : , , . 1.3.



()

:
 ;


. 1.3.
. ,
, .
,
. ,
, .
, :
1). , ..
( )
- . 26

. ,
, ( ).
2). , (
, , ). ();
.
.
3). () (1 10)
( ,
, ).
, .
4). , . . , , , ,
,
. , .
() 1, 2, ..., n , k
, -
. , , . , , , . ,
.
.
27

1.3.
- ,
. ( ):
M = < T, P, A, F >,
T
- ( );
P
-
;
A - ();
F
-
.

, , F .
.

. .
, , .
,
,
.
() , ()
.

.
.
28

,
, , . ,
, , .
.. (1646 - 1716), .
. . . .
( ) , ( )
.
, .
(J. Herbrand) 1930 ,
,
. , , , . ,
.
. . (),
. ( ).
, ( S), .
:
0 - , S ( 0 = ,
, -
- , );
i+1 i = 0,1,2,... i
n
f (t1, ..., tn), fn - (n - ) S, tj
i, j=1,2,...,n.

29

,
( ). , , , .
S - , n(t1,...tn) n- n ,
S, t1, ..., tn - S,
S.
S - , - S I - S . , I - S, :
1). I S ;
2). I fn ,
Hn (.. (h1, ..., hn) fn(h1, ..., hn)).
= {1, 2, ..., n}, ... - S,
- I
I = {m1, m2,...,mn,...}, mj = i ^i.
, S , - I
' S, ' I.
S - -
. S ,

, :
1). N
l1,...,ln. Qi - , li (i = 1,
..., n), Q1 v Q2 v ... v Qn = tru ( ).
2). N I(N)
, , N. I(N)
(
- - , ^ ).
S
, i N I(N) i, ^i.
30

, I(N)
S. S - ,
(
- ), .
N , I(N)
S, N N' I(N') S. ()
, . :
1: S
, S
.
2:
, S' S.

,
S
, :
S0', S1', ..., Sn', ...
S;

.
, , .
1). . S.
2). . L S - . S' S , L. S' , S ; S'', S' ^L ( ^L , S' ).
31

3). . L , ^L
S. , L,
S.
4). . S (1 v L) ... (m v L) (1 v ^L) ... (n v ^L) R, i
i L ^L. S1 = 1 ... m R, S2=1 ... n
R, S - , (S1 v S2) .

,
.
.
-
.

: 1
C2, L1 1, L2
C2, , L1 L2 1 C2 , ,
1 C2.

.
, : 1:() v Q(), C2:^(f()) v R(). . 1 ""
"f()", C2 - "" "", 1':(f())vQ(f()), C2':(f())vR(). 1' C2' - C3':Q(f())vR().
1' C2' - 1
C2, 3' - , 1
"f()" "": 1'': (f()) v Q(f()), C2:(f() v R(), 3'': Q(f()) v R(). , 3' -
3'', 3''
.
-
{t1/v1,...,tn/vn, vi - , ti , -

32

vi, vi . {t1, ..., tn} - ,


.
, ,
e.
={t1/v1,...,tn/vn} - - .
- , vi ti. .
={t1/1,...,tn/n} ={u1/1,...,um/m} - . , {t1/1,.., tn/n, u1/1, ...um/m} ti/i, ti = xi, uj/j
, j {1,...,n}.

1,...,k , 1=2=...=k. ,
1,...,k ,
.
- ,
, = .
,
.

C1 C2 - ( ), . L1 L2
- C1 C2 . L1 L2 , (C1 - L1) v (C2 - L2) () C1 C2, L1 L2 .
- C1 C2
:
1). C1 C2;
2). C1 C2;
3). C1 C2;
4). C1 C2.
S , S.
33


- :
1. - , "/". ,
.
S S', ""
. "" S ,
, .
2. - , "", ""
" ". /,
. , .
3. - , . , .
, , ()

() ( ) . .

. ,
"" :
() ;
,
(
);
, ,
(
);
( - )
34

( -
);


-, ( )
-. ( ) ( ).
,
. . , , "".
, -
- ,
-, . .
(
).
,
S ^1 v
^2 v ... v ^m v (m 0). m=0 "" - "".
""
-
^1 v ^2 v ... v ^m v , 1 2 ... m ,
:
:- 1,2,...,m.
( m > 0)
.
( m = 0)
:
- , 1, 2, ..., m.

, :
:- 1,2,...,n.
35

, ()
, () ,
() .
:

-
;
,


;
, -
,
.
1.4.
, , 80% . ,
" (), ()".
"" ()
-,
, "" () - , ( , ,
, ).
(
) ( -
). - , , ,
.

,
, , 36

. ,
3 : ; ( ); .
,
( , , ) 3
: ; ; .
.
:
1) ,
;
2) () ;
3) .1,2 ,
, , .
.
:
1) , - ,
,
(.. THEN-);
2) (.. IF-)
;
3) .1,2 ,
,
( - ), ,
, , , - .
, .
( , ).
.

G G = (N, T, , S),
N - ,
37

T - ,
- ,
S - .
N T = , N T = , S N -

, P={U  x} (U N, x N T).
- (U,),
U  , U - , - ().
G - . u w ( w u), .. u
w, u = U,
w = u, U  u - .
, v w ( v + w), v u1 u2 ... un w.
v * w , v w, v = w.

G, S * , .. -
S - G.
- G
, - G.
G
G: L(G) = { | S * , x T+ }.
G - , w = u - .
T u w U, S * U U + u; , S * U U = u.

.
() ,
(, )
.
.

.
38

:
1) B S ( S - );
2) B U,
U  1 ... k ( , );
3) 1, ..., k (U,1), ,
(U,k), , .2.
,
.
,
.
,

.
, , , , . , , ,
.
:
" ?", .. ;
.
, .
, ( .
:
( );
- , ,
.
39


- .
() .
.
P -
G=(N,T,P,S) U  , U N, A*=(N T)*.

"" "", "" .
(),
.
- (-). (). ,
, , .
().
, , , .
, .
() . ,
, .. .
() :
= (K, T, M, S, Z)
K - ,
T - ,
40

M - K
T ( KT) K, ,
S - KA (S K),
Z - (Z K).
- -,
N, . , , .
U  a ( ), (, Q), U  Qa.
,
. Q
, S (S ).
U  Va
V U a.

() , .
1.5.

- ,
,
, , - .
, -,
. .
. 41

-
: 0-1=0, (n+1)-1=n. 1932 . :
f(,,z) if =0
then 0
else
if +1= then z
else f(,+1,z+1);
n-1 = f(n,0,0).
n=3: 3-1 = f(3,0,0)
f(3,1,1) f(3,2,2) = 2.
, -, S- ( Symbolic - "").
S-, ,
S- ().
- , . () NIL. .
S- ( S-), (
S-).
() S-
-. -
. :
S-; S- (EVAL); S.
, S- .
EVAL, . :
S- ,
, NIL, EVAL S- ;
42

S- , EVAL , , ( XLisp

);
S- , ;
S- (f arg1 ...
argn), EVAL f arg1, ..., argn.
- f, EVAL .
f , S-
S- ( ,
S-,
).
, -,
. -.
- S- :
(LAMBDA (arg1 arg2 ... argN) expr1 expr2 ... exprK),
LAMBDA - ,
;
arg1 arg2 ... argN - , , -;
expr1 expr2 ... exprK - S-,
"" .
-
( )
"" . -, .. "" ,
S-, "" . .
43

, .

. .
- ,
, -, . ,
:
-, (, , );
- (, , );
- (, ,
);
- (, , ) .

:
( :
( 1- : 1- ),
( 2- : 2- ),
.
( N-o : N- )).

-:
- (Default-);
, ;
, ;
;
;
.
- . , 44

-.
, , .
. , .
, , . FRL (Frame Representation Language).
1.6.
"" "", , , , . . , .
, . ,
( a r b ), b -
, r .
, (), - . .
. :
, , - () ;
,
, "-" "";
, "", "-";
, "-" ..

, 45

, , .
.
. (), , ,
. .

.

, ,
.
:

.
2.
.
3.
.
4.
.
5.

.
6.
.
7.
.
8.
-.
9.
.
.
10. .
1.

46

2.

.
. .
: , , .
.
2.1.

70- ,
-.
, , (). . , :

- ;
( );

;
;
;
,
.
,
.
,
. 47

. , (. 2.1):

. 2.1.
, , ;
,
, ,

;
, , , , ,
;

, .
.2.2.
, ,
. ,
, , ,
.
48

,
,

. 2.2.

, ,
.
, . ,
, .
, , ,
. ,
, ,
, .
.
, .
, , .
49

, . , . . .
. .
2.2 , :
, ;
, ;
, ;
, .
2.2.
, .

(, ) ,
. . , .

. ,
.
, ,
.
, .. , . , .. ,
, , ,
. ,
.
,
, 50

, , , . , ,
.
() ,
. :
,
, ;
,
.
, , , .

,
,
. , , .
,
, . 2.3. , .
,

. (. . 2.4).

:
;
.

.
51

,
.

. 2.3.

. 2.4.
2.3.
:
52

. . - ;
.
.

;
. - - .
;
. ,
. , , .
, .
-. ,
, .
2.4.
:
( ). (
).
, .
, "" ,
.
,
: , , .
, , , .
53

, ()
. , :
,
, ;
,
, .
,
, .

, .
2.5.
, , , . ,
: (.. , -). (..
, , , ). (..
).
, :
,
.
, : , , (.. ,
).
54

, :
(.. ).
.
, . ,
, , , ,
. .
2.6.

,
.
(. . 2.5).

. 2.5.
.
.
.
,
. : 55

; .
.
. .
, , .
:
;
.
.
.

.
: , ; .
.

. , .. .
, , , . , ,
:
: ;
.
. . ,
56

.
:
; .
.
, ,
.
,
: ; .
.
- . ,
. , .

,
: .
,
: .


,
(, ..), ..
,
.
,
(, , 57

) .
.


.
(IBM PC, Macintosh
) () .
-, () .

.


.
- .
2.7.
. . : , , , , , . . : , , .
. : ; ;
; ; .
,
, . 1-2 ( 58

- 12-18 ).
50-100 , .
,
, .
3-6 . 200 500 .
,
. 6-12 ,
500-1000.

,
( ) . ( 1000-1500 ). 1-1,5
.
, , , ( )
,
, . 1,5-3 .
1500-3000 .
. : .

. , ,
59

,
, . , , .

.
: ( ) , ,
. "", "", "" .
, :
, , (
);

( ) ( );
,
(
,
"" ) ( );
, ,
( );

" ", ..
, , (
).
, .
:
(
);
60

- - - , - ( );
, ( ).
, :
, .. , ,
( );
, , .. ;

,
(
);
, , ( ); , ( ) ,
, ;
,
( ).
" ". ,
.
() , . ,
. , , , , 61

,
.
, ,
.

.
.
.
, .
, ,
.

(. . 2.6): , , , , , . , .

. 2.6.
62

:
, ;
.

, (),
.
,
. - : ,
, .
. , , .

. :
, ;
,
.
, (-) .

. () . :
;
, ;
(), ;
;
;
, ;
() .

63

-

.
( ):
;
;
;
;
, ;

;

;
, ;
.

. , .
, ,
, .

.
:
;
;
( );
.
. , ,
.
,
64

, .

, 5 .- ( ) .
,

, .

. ,
, , . :
;
, ;
();
.
, .
2.8.
,
. , , .., .. , , . , ,
. .
. ( ).
,
. 65

, ,
. , -.
, .
, ,
, .
.

( ) . :
(, , , , ... );
,
(,
, ,
.. ); ( ,
, , , , ).
. ,
, ( )
.
, ,
.
, , ,
, . , , .
, . ,
66


.
-:
,
;
.
.
(,
)

.
, .
,
, .
,
, ,
.
, .

. ,
,
, ,
. ,
,

.
. ,
,
.
. :
;
67

;
.

, ,
, ..
, , - . .
.

,
().

, .
, . ,
, .
,
().
' , ,
.
()
- .
1. . . , , ( )
.

( ,
).
: ,
68

(
),
, , , ; ,
, .

, ,
, . . :
, .. ;

;
,
;
;
,
, ;

;

;
, .
( , , , ).
,
, ( -),
, , , .
.
, , , , . . 69

, , , , , .

, (, , , , ) ,
,
.
. ,
, .. .

,
. ,
, ..
, .
2. .
(. . ) , .
; ; .
3. . , ,
,
. . . .
.

(, , ), 70

(, , ).

: , , . .
, . .
.
.

,
.
.
, .
,
, .
.

1. ( ):
, ;
, .
2. : ; (
);
; .
3.

4. (
, ).
5. (, ).

71

6. ( ).

1. :
) ;
) (
).
2. . - ;
(, ) .
3. ,
.
4. .
5. .
6. . 1, 2, 3, 4 5.
:
;
;
.

, , ,
. : ; ;
; ( ) (, -, - ..);
; , , ,
.
72



.

, .
, ,
.
,
, .
.
,

.
:
;
;
.
, ,
, .
. ,

.
,
.
:
(), ,
.
(, 73

) ,
, .
:
;
-
; ;
() ;
.
, . . ,
. (
),
, , .
.
: , , ; ; ; ;
; ;
, (), () ..
. , .
.

74

( )
, :
"" ;
,

, .

(. . 1).

, . ().

, , , , , .
,
.
:
, ,
.
,
.

.
( - ), .
.
- , .
,
, . "" ,
, ,
, , .
75

.
,
. - ,

.
,
:
;
;
-,
,
, .
, , , .
. . ,
. ,

. ,
, .
.
,
76

,
.
, ,

.
.

: ; - ; ; .
.
,
. ,
,
. , ..
, - ,

, .
() ,
. -
.
,
. ()
, , -
() .

. - , 77

.
, .
. , , , .
, .
, , ,
. , ,
,
, .
, .
,
.
.
. , , , .
.
, .
, .
, ,
.
.
,
- - .
.
78


,
.
:
- , , ,
;
- ,
;
- ;
- , ;
-
( ),
;
-
;
-

, . ,
-,
, .
,
.
1.
2.
3.
4.
5.
6.

:
.
.
.
.
.
.
79

3.


. .
3.1.
,
, () .
, , .
, , . .. .
, . , :
, , , , .
. , , .
,

,
..
. ,
(, , , ..) -. -
.
,
- - .
80

, . , ,
.
.
. , (
) , .

, ,
. .

, 1965 .

, .. (). .
() 0 100, , .

, ..
, , .
3.2.

,
.
81

, , ,
. ,
. : ; .
,
.

() ?

?
( ) , ?
,
?
, .

,
. ,
,
.
. , , ,
.
( 1660 ).
, , .
.
. .
. ,
. , , 82

,
.
, . ,
,
.
,
. ,
. .
. ,
,
,
. , .
.

. : ( ),
( ).
.
. ,
( ) ( ) , . . , , .
, . ,
.
, , "".
83


,
, :
()= ()+ (B)

()= ()* (B).


(, , ( ) = ( ) + ( B ) ( ) ).
- ,
:
= ( B A ) ( B A) .
.. , :
p ( ) = p ( ( B A ) ( B A) ) = p ( B A ) + p ( B A) =
= p ( B | A ) p ( A ) + p ( B | A) p ( A) .

, ,
:
p( A | B ) =

p( B | A) p( A)

) ( A) .

p( B | A) p( A) + p B | A p


.
. .
.
.
,
:
< > < >.
, , ,
. ,
, ?
, .
84

, .
:
, ,
;
, , (), .
, :
p( H | E ) =

p( E | H ) p( H )

) ( H)

p( E | H ) p( H ) + p E | H p

, ,
.
(), .
, , . :
();
( /).
, ,
. ,
. , ,
.
1 2 ,


:
( 1 2| ) = ( 1| ) ( 2| ) .
( i | j ... k) i (j ... k), ..
85

.
.
,
, .
(1 ... m) (1 ... n). :
p( H i | E ) =

p( E | H i ) p( H i )

p( E | H k ) p( H k )

, i = 1, m ;

k =1

:
p( Hi | E1 E 2 ... E n ) =

p( E1 E 2 ... E n | Hi ) p( Hi )

p( E1 E 2 ... E n | H k ) p( H k )

, i = 1, m .

k =1

.
,
,
.
, , :
p( Hi | E1 E 2 ... E n ) =

p( E1 | Hi ) p( E 2 | Hi ) ... p( E n | Hi ) p( Hi )

p( E1 | H k ) p( E 2 | H k ) ... p( E n | H k ) p( H k )

k =1

i = 1, m .


.
1.
2.
3.
4.

:
, .
.
.
.
86

4.

, , .
4.1.
,
.
,
.
11
10 . - , ,
, . - .
.

.
. ,
14
15
10 10 .

.
.

:
1) :
, .
87

2) , , , .
3) .
, , .
4) . : 10% .
.
,
. (, ), , .
, ( ,
), ,
,
.
/. , ( ), .
.
. .
/.
.
.
.
, .
, .

, . 88

, , ,
.
.
4.2.
:
1) ;
- ();
2) - ; ; , , ;
3) ();
4)
(), ( );
5) ;
; ,
, ;
6)
, ,
.
, , .
, .
,
.
, ,
.
89


,
.
. 4.1.
x0= 1 w0=

wi
xi

y = f (I )

wN
xN

. 4.1.
N + 1 xi wi , . W
T
- W = [w0, w1, , wN] .
,
, :
I=

wi xi = W T X .

i =0

I , f, : y = f(I).
x0 w0 . w0 , .
,
, :
90

f ( x) =

1
1 + e ax

a , .

:
1. ;
2. .


.
1. . K- , k , . , . . 4.2 .
W

XR

YR

. 4.2.
. , . . W MN. : Y = f(WX);
N

yi = f ( wij x j ), i = 1, ..., M .
j =1

2. . () , . 91

.
, , . , . . 4.3.

:
Z = f(VX);
L

l =1

j =1

Y = f(WZ) = f(W f(VX)); yi = f ( wil f ( vlj x j ), i = 1, ..., M .

W
V
XR

YR

ZR

. 4.3.
3. . . , .
. 4.4
. X(t),
X '(t) y(t) t .
X(t)

X '(t)

y(t)

. 4.4.
, A, ,
y(t) = A[X '(t)], X '(t) = X(t) + B[y(t)]. ,
92

y (t ) =

A
[ X (t )] .
1 AB


, .
.
4. .
.
.

,
, . N- . ,
. :
1) ,
N

; I = wi xi , N ;
i =1

2)
y = sign(I ) y = 0.5(sign(I ) + 1).
, , . 4.5. M 2M
.
X = [x1, ,xN],
Y = [y1, ,yM]. W = {wji | i = 1, 2, , N, j = 1, 2, , M},
wji i- j- , , .


x1, x2, , xp S1 S2. ,
93

xi, S1, 1, S2 1 ( 0).


y1

x1

y2

x2

X
xN
yM

. 4.5. , M c N
. ,
, . . 4.6
.

, , , S1, , S2.
S2

-1
S1

. 4.6.


.
,
N- , , , , , ,
, .
94

, . , .


. ,

, .
:
1. . .
2. . t
X(t)
d(t).
3. . I
.
4. . .
5.
,
.
4.3.
,
.
-
, . , ,
.
. 95

, , .

, N ,
. i
t si(t).
:
N N

i =1 j =1

i =1

E = wij si s j + 2 i si .

. ,
, , . ,
,
.


. , .
N T
S = [s1, s2, , sN] , si = 1 .
, fj()
, .. fj() . a.
j .
:
N

1) I j = w ji si j ;
i =1

2) j:
96

I j > 0
1,

s j (t + 1) = f ( I j ) = s j (t ), I j = 0
1,
I j < 0

sj(0) .

.
p N-
{ | = 1,2,..., p} . p .
,i i- .

w ji = 1
N

, j ,i .

=1

wii = 0 , .. .

W= 1
N

p
T N I , I . -

=1

.
.
,
.
, .

si(t + 1) = f(Wsi(t)) .

()
.
. . . 4.7 .
A B. A , B .

97

. 4.7.
, N X { 1, 1}N , M
Y { 1, 1}M . , X, , Y,
W = {w ji }, i = 1, 2, ..., N ; j = 1, 2, ..., M .

. p ,
: = {(A1, B1), (A2, B2), , (Ap, Bp)}.
p

W = B A .
=1

:
(1)

xi

new

=
(1)

1,
vi > Si ;
old
(1)
xi , vi = Si ;
(1)
1, vi < Si ;
(2)

(2)

yj

new

1,
vj > Tj ;
old
(2)
yj , vj = Tj ;
(2)
1, vj < Tj .

vi vj , Si Tj .
:
vi(1) =

( 2)
wij y j ; v j =

j =1

w ji yi .

i =1

98

, X new = f (W Y old ) Y new = f (WX old )


X
,
.
, X Y .

,
,

. :
;
, ;
1;
;
, .. ;

.
: ,
, , .
j sj vj
P(vj). j- sj =

1
1

P(vj);
1 P(vj).

:


P (v ) =

1
,
1 + exp(2v / T )

99

T , . T 0,

. T,
. T 1/2.
E.
j-
sj sj P( s j s j ) = 1+ exp(1 / T ) ,
j

j .
:
1.
;
2. sj ;
3. T = T0 ;
4. (3);
5. 4. L (
) T;
6. 4 ,
, .
T . , .
.
:
T0;
T
Ti = Ti 1, i = 1, 2, , 0.8 < < 0.99;
Tk.

100

4.4.


: , , , , ..
.

f : A N M , A N-
f [ A] M- Yl = f ( X l ) ( X 1, Y1 ), ..., ( X l ,Yl ), ..., ( X L ,YL ) . 1 1 L M (l )
: F (W ) =
( y j y '(jl ) ) 2 .

L 2 l =1 j =1

,
, .
W*,
F(W*) = Fmin.


, K .
N , xi X A , .
(l) .
K- M
Y = {yj } Y f[A], Y = {yj}.
, .
101

.

,
. , .
, .
Skj j- k- , Mk
k- . , ,
. . ,
,
, .

, . .

, , .
, ,
. ,
.
/ , ,
. ,
.
102

. 4.8 . , , , . .
, , , . , , ,
. , . 4.8, .
;
.

. 4.8.

. . 4.9 , . ,
, .
, , .

. ,
,
,
, .
, 103

, .. . . ,
, ..
.
;
.

. 4.9. .
. 4.10 ,
,
. , , ( . 4.10 !),
-. .
,
, .. .
, .
:
1) ,
, ..
;
2) , .., ,
, ,
.
104

. 4.10. .
-
,
, . ,
, .. .


.
, , .
X = [x(t
T
1), x(t 2), , x(t p)]
1
z .
t- p , t 1, , t p
.
, , 105

, .

,
. .
,
:
, ;
.
, , - .
.
1. . ,
. .
2. . ,

.
4.5.
, ,
,
. .
, , .
106

, .
, , ,
,
, .
, , .
, .
,

.
, .

. 4.11.
p
T
, X = [x1 x2 xN]
N- . .

, M K . ,
, .

.

MK Wj = [wj1 wj2
T
wjN] , j , j = 1, 2, , MK.
107

x1
x2
xN
y1

yK +1

y(M 1)K +1

y2

yK +2

y(M 1)K +2

yK

y2K

yMK

. 4.11.

. ,
, ,
, , .. . -.
, ,
,
, , , , .
, -

.

-
. ,
, , 108

. .


. - ,
, .
i(X) , X, .. i( X ) = arg min j X W j ,
j , i(X)
- X.

1. Wj(0), j
;
2. X(t);
3. -
. - i(X)
arg minjX(t) Wj, j ;
4. i(X) ;
5. ,
-:
6. W j (t + 1) = W j (t ) + (t )i ( X ) (t )( X (t ) W j (t )) ;
7. .2, .
1.
2.
3.
4.

:
, .
.
.
.

109

5.

() .
OLTP, , OLAP Data Mining.
5.1.
, , ,
,
,
.. , , , ,
,
.

.
( , )
(. 5.1).

.
-,
:
,
;
, ,
,
110

, , , ,
;







;
,

- ,






- :

;
;

, ,
..

. 5.1.
(
, )
(111

).
,
,

.
-,
,
( ) OLTP. , (), OLTP ( - )

.
, :
, , , ;


, , , . ., .


, ,
,
.
:

() ;
112

,
, ;
;
"" , ;
..
,

:
;
;
;

, .. .


, ( ) (. 5.2).
:

( .. )
, , ;

, ,
;
113

, .
, .
:
,

. 5.2.

,
, ,

();
, , 114

,
.
,

"",
() ,
.


, .
, , ,
, , .. (. 5.3).
,

, . ,
() , ,
.

( ) (), , (. 5.4).
115

DM
DM

DM

1.
;
2. :
;
3. ( );
4. .

1.
;
2. ;
3. ;
4. ;
5. .

DM

DM

1. ;
2. ;
3. ;
4.
5.- .

1. ;
2.
;
3. - ;
4. .

. 5.3.

()

. 5.4.
- , 116

, . , ,

,

.
, , , , .
, ,
,
.
,
- ( "", ).
,
, ,
. , ,
( );
, ..

:
, .
,
117


(), . 5.5.
( , ), OLTP. , (), OLTP
(
) .
OLTP-
,
:


- ,
() ();
;


.
-
,
OLTP- ( )
().
-, , , , .
, .. .

118


, ,

Data Mining
(
)

OLAP
( )



,
,

Data Mart
( )


Data Warehouse
( )

OLTP,


(,

)

. 5.5.
:
1) :
,
- , . 119

, , , .
2) :
, .
3) : , , .
4) :
10-15 ,
.
.
5) :
OLTP-
; ,
.

(). () :
. . , (, ,
. .);
, , ;
, , .

.
120


1993 . . . . FASMI, , OLAP-
:
Fast ()
;
Analysis ()
, ;
Shared ()
,
.
Multidimensional () ,
OLAP;
Information () ,
.
OLAP ( , ). OLAP- :

,
(

);
, ;

, .
, OLAP
()
, , .
121

, OLAP

.

, ,
.
, OLAP.
, ,

, ,
.
, .

, - .
,
, (. 5.6):
,
( , );

( );
,
,
, (
);
122


,
( )

()
, .


.

() ()

:
, , ,
: , ,
, ,

(On-line Analytical Processing)
- , , ;
- ;
- ;
- .

, ,
( )


, ( )

Internet/Intranet, "-"
: ,

End User Workstation


Satellite

Gateway
Satellite
Regional
Office

Fiber Optic Cable


Coaxial Cable
Multiplexer

Multiplexer

Modem
Microwave
Link
Satellite Dish

Satellite Central
Office

: ,

. 5.6.
,
(
).

123

,
, .
( ) , .
,
(
),
(, ) , (
, . .).
OLAP.
: ; ( ,
"" ""),
; , ;
,
.
, ,
.
,
, . 5.7.
,
, , () ,
:
124

()
,

( ), , ;
Data Mining
( )
Data Mart
( )
OLAP
( )
Data Warehouse ( )
OLTP ( )

. 5.7. ""
() ,
, ;
() ,
(, , ,
. .).

, . .
(. 5.8):
, , , (), - ;
, , ( );
125

. 5.8.
,
;
, .
:
, () ,
;
() ,
,
;
- () , ;
126

() ,

;
, ,
( . 5.8 ).
,
.
, .
,
, ,

, .

, , ,

, , ,
,
.
,
3-5 .
. , , 6 20 .
,


,
.
, :
127

,
,

; , , 90- ,
.
5.2.
(Data Mining) - , , , , .. -
, , , .
:
,
, .
- .
- , , .
- , .

"" .
. 128

. ,
, .

.
, . .
- .
.
.
. ,
80% -. ,
,
, ,
.
, . ,
.

. , . ,
.
. -
.
.

.
. , , ,
.
.
129

: , , , k- ,
, , , - ; , ,
k- k-;
, Apriori; , ,
.
, - . , . ,
.
:
1. ( ).
. .
- , , .
: ; ; .
2.
( ). .
:
; .
.
130


( )
, , ,
.

( )
( ) ().
, . - .
3. -
, . , , - . , .
:
;
, - () ;
: ;
; ; .
-: , () , - ;
-
;
: ,
; ; ( , ); ; ; .
131

5.3.
. ,
- ; . : ; k- ; ; ; .

, , .
.
. :

, , .
. ,

, ,
, .. . , .


.
, - , , .

.
-
.

. 132

, .
- , - .
5.4.
.
.
:
;
;
;
;
;
;
;
.
1.
.
- .
.
2.
:
.
.
. ,
.

, . ,
133

,
.
.
3.
: .
,

.
80% , . :
;
;
;

, .
, , / . / ,
/.
,
, .

.
, . , - , . , ,
.
() .
.
. 134

.
, . , . , . , , . ,
- . , , , .
,
- "" .
- , , , .
: , .
, - , (,
, ). .
, , , , , , .. ; ,

,
. :
,
;
, ;
135

, ;
, .
, .
:
;
;
.
, : ; .
:
;
;
;
.
.
.
. , .
. , . , , .
.

. , . - ,
.
136

,
.
- - .

,
.
.
,
.
. /
, .


.

- . ,
. , .

. - -
. , .

.
.
, , .
, 137

, .
, .


.
,
.

, :
;
;
;
;
.
4.

. .
, ,
( ) .
"" "
", (.. ), , .
, , , . , , , .
138


. , . , , .
,
.
.

,
.

.
, -
. :
, , , ; .
( )
.
, ,
, , , , .
, ,
" ". - " ".
5.

. . .
139

-
.
, , ,
.
, , .
.
.

,
.
.
.
"" , , , - . .
. , . ,

, .
, ,
, . ,
.
.
( ), , .

-
140

, (, ).
. , , : , ,
.
, .
6.
, . ,
, .
.
,
, - .
, .
" ", .
7.
,
. , .

() .
8.


141

, , ""
.
,
. ,

, (
).
. ,
().
.
. ,
, .
, , .. , .
:
;
;

;
,
;
(,
, - ,
..).
, , ,
.
5.5.
,
.
,
, , ,
,
, . 142

- ,
.
- ,
, ,
.
- , , , .
, :
;
IT ;
;
;
;
;
.
. . : . ,
.
1. .
- , , ,
.
, .. , ,
, , .
, .

, " -" .
143



(, ).
2. / .
- ,
. ,
, . () .
() .
.

( ) .
3.

, ,

.
4.
5.
-
6. .
,
.
7. .
.
8. ,
,
144

,
.
9. .
10. . .
11. , . -
,
. , . ,
. , , .
12.
. Data Mining
, . ()

( ),
,
.
13.
.
14.
( ),
.
15. , ,
.
,
. (), .

145

.
, Data
Mining. . , ,
,
, . -
.
16. , .
Data Mining , .
17. , .

1.
2.
3.
4.

.
.
.
.

146


1. :
, ;
 ;
.
2. :
 ;
, ;
.
3. :
 ;
;
;
.
4. :
 (
) ;
, ;

.
5. :
 ;
, ;
,
.
6. , , :
;
 ;

147




() ,
(),
.
(), , ,
(. .1).
C

. .1.
,
. , .
, , ( ).
(, , . .).
,
. .
148

, ,
(). , .

, :
;



;

( )
;
, , ;
,
, ,
;
, , ;
/ ,
, ;
, ;
,
, , (.. , );
,
/ .
149

:

,
;

;
, , , , .
, , .

,
:
0 ,
;
1 . ,
, .
2 . , ,
.
.
3 . ,
.
4 . ,
.
,
.
150

()
,
, ..
.
1. . , ,
, .
2. , , .
3. ,
, .
, , ,
,

, .

, . 4
: , , .
()
, .
,
.
( ). .
, ,
.
151

, . . .


:
,
(
) ;
;
;
, ;
;
;
.

:
.
: ,
; ,
, ,
.

,
( ), ,
,
.
, , .
152

, , .


: ; ;
.
, . :
, , ;
: () ;

.
, ,
:
;
;

.
, .

, .
,
.
153


1. .., .. . .:
2004.
2. . . : , , . - .: , 2004.
176 .
3. .., .. : . . - .: -
. .. , 2005. - 304 .
4. . Prolog . .: , 1990.
5. .., .. . .: , 2000. 384 .
6. A.M., ..
: 2- . . 1. : .
. - .: , 2006. - 336 .
7. .. : . . .: - , 2003. - 96 .
8. .. : , , , . . .: , 2006. - 320 .
9. , . : . - .: ,
2006. - 1408 .
10. ..
. .: , 2003. 496 .
11. .., .., .. . - .:
, 2003. - 512 .
12. .. .
.: , 2004.
13. ., . . . 1.
. .: ,
1990. 447 .
14. ., . . . 2.
. .: , 1990. 319 .
154


, .
(, ) , .
,
, .
-
.
, .
-, , , , .
, , .

155



4.

. . ,
.
. , .
. ,
, , . . .
,

.
1.
1.1.
. .
,
. .
, .
. . .
.
. .
1.2.
().
, .
.
.
1.3.
- . .
156

. .
.
1.4.
.

. . , .
.
1.5.
. , .
. S- - .
. .
. , ,
. .
2.
2.1.
.
. . .
: , , , .
, . .
.
2.2.
. . : , , , , , . 157

. : , , .
. : .
2.3.
.
. .
. . .
3.
3.1. .
. . . .
3.2.
. .
. .
.
3.3.
, .
. . . . .
4.
4.1.
. , . . .
4.2.

.
. . . .
158

4.3.
. . . .
4.4.
. .
. - .
4.5.
. . .
.
5.
5.1.
() .
, , .
. . OLTP, ,
OLAP.
5.2.
,
. . , .
.
.
5.3.
: , , , . :
, , , , .
. : ,
. , . .
5.4.
: , , , .
:
159

, , , .
: , , , .
5.5.
. . , .

.
.
.

.

160