Вы находитесь на странице: 1из 124

..

1. .
1.1
1.2
1.3
1.4
1.5
2.
2.1
2.2
2.3
2.4
2.5
3.
4.
4.1
4.2
4.3
4.4
4.5
4.6
4.7
4.8
4.8.1.
4.8.2.
4.8.3.
4.8.4.
4.8.5.
4.9

4.9.1.
4.9.2.
4.9.3. ,
4.10

4.10.1.
4.10.2.
4.10.3.
4.10.4.
4.10.5.
4.10.6.
4.10.7.
4.10.8.
4.11.
4.11.1.
4.11.2.
4.11.3.

. ,
, , ,

, .

. (1948).
, . ,
. , (1928), . . .
,
(1933)
(1946). . . . ,
,
(1941).

(. . , . . , . . , . .
, . . , . . , . . .),
(. , . , . , . . , . . , . , .
.).
, ,
. :
;

,
, , .

,
.

, . (,
, )
, .

- .

. ,
. ,
,
.
, .

.
1. .
1.1
1950- (
)
.
:

- , , ,
.
, ..
, . .
() ( ),
.
, , ,
- .
, ,
, .
1.2
:
1) ;
2) ;
3) ;
4) ;
5) ;
6) .

.1.1

- (), ,
. .
,
(, - ..).
,
.
( ).
,

.
.
1.3
.
(). ,
, .
, .
.
, ,
, , , , ,
. :
, -, . ,
-
, . , ,
, :

. . ()
.
-.
, ()
(). -,
, .
(),
. (), .
, , , ,
, . ,
. , ,
.
- ,

. -
.

1.4
.
, .

() ( ) () (,
- ..), .

. 1.2. .
.

- .
,
- .
.
, (,
).
.
, () .
, ,
.
.
,
, .
, . ,
, .
, ,
.
,
- .

.

, .
.
. .

(, , ..),
.
()
, .
, , ,
.

, .

.
-,
.
, ,
.
1.5

:
- ,
;
-

,
, .

():

1.

.
2. .

,
. ( ).
3. ,

.
4. ,

. ,
,
.
5. ,

, .
2.
,
.
, .
m ,
. N n
:
N = mn
N ,
N
1/N.
, N,
.
N . ,
, , .. ,
(,
- , , ).

:
I = log N = log mn = n log m.
:

. 1928 .
, (, ),
:
H=

I
n

n log m
n

= log m

,
, . . loga m =loga b logb m
.
,
, , ..
:
H0 = log2 m.

. ( )
(bit
. binary digit )
log2 m = 1 m = 2, , 1 - ,
0 1.
n n .
, 8 , .
,
- , 1 = log102 = 3,32 .
1. ,
, . 625 , ,
, 600
, 8
1 .
. , ,
: n = 600.
() ,
,: m = 8.
: I = n log m = 600 log 8,
: I = 625 I = 625 600 log 8 = 1,125 106

2. ,
, 27 ,
.
. ,
, ,
, : H1= Iog227 .

( , ,
). (
), ,
: H2= Iog23 .
1=32= 3 1og23,
.
.
.
, , , ,
. , ,
, . , ,
.

.
.
, n xi
ni , .. :
Pi =

ni
n , (i = 1, 2, 3, ... , m).

, :
m
Pi = 1
i=1
.

n, xi ni , i = 1, 2, 3
... ,m, n ,
{n1, n2, ..., nm}. :
N=

n!
n1 ! n 2 !... nm ! .

, 10 , 3 , 5
2 ,
10 !
3!5 ! 2 !

= 2520

:
I = log N = log n! - (log n1!+log n2!+...+log nm!).
n
:
log n! n(ln n - 1).
m
ni = n
, :
i=1
m
m
I = ln N = n(ln n 1) ni(ln ni 1) = n ln n ni ln ni =
i =1
i =1
m ni
m ni ni
ni
= n[ ln n + (ln + ln n )] = n( ln n + ln +
i =1 n
i =1 n
n
n
m ni
m ni ni
+ ln n ) = n ln
i =1 n
i =1 n
n

,
:
m
I = n Pi log Pi;
i=1
m
H = Pi log Pi
i=1

I H
2.
2.1
i = 1/m :
m
m1
1
1
H = Pi log Pi = log = ( m )( log m) = log m
i =1
i =1m
m
m
.

,
m
.
,
, ni
i ( i =ni / n) . 2.1:
2.1.

x1

x2

...

xm

ni

n1

n2

...

nm


(, ..).
,
( ),
.

m
m
1
H = Pi log Pi = Pi log
i=1
i=1
Pi

log 1/Pi ,
i, H - .
(Pi log Pi) i H.
Pi=1 , ,
Pi ( ): .2.1.

. 2.1. log 1/Pi -Pi log Pi



.

Pi

( Pi log Pi ) = log Pi log e = log Pi e = 0

: Pi e = 1, -

.
1

, : (Pi log Pi) Pi = 1/e = 0,37 : e

log e = 0,531

., .

(0,37; 0,531)
- , , .. 0 (
, Pi log 1/Pi).
, (
, ,
).
, , .. max = log m.

,
, .

. , ,
0,99 0,01, ,
, . ,
( , 0,99),
,
. ,
.
3. (1) = 0,1 (x2) = 0,1 (x3) = 0,1 (x4)
= 0,7. , ,
.
,
: (0,1). m = 2 : 1+2 = 1. 1 = ,
2 = 1-.
:
H = P1 log P1 P 2 log P 2 = P log P (1 P ) log(1 P )

, 1 ,
, .. = 0,5,
.(.2.2).

. 2.2. (1)
(2,3): - (1 - ) log (1 - P) - P log P .
4. ,
( ), , 2.2,
,
.
2.2.

0,064

0,010

0,056

0,016

0,015

0,029

0,021

0,003

0,039

0,036

0,02

0,007

0,014

0,026

0,09

0,019

0,026

0,056

0,04

0,143

0,074

0,096

0,013

0,008

0,024

0,006

0,015

0,041

0,003

0,064

0,047

0,015

. 1. m = 32
, ,
H = log m = log 32 = 5 .
2.

, . 2.2 ,

:
m
H = p i log p i =
i =1

-0,064 log 0,064 -0,015log0,015 - 0,143log0,143 4,43 .

,
5 4,42
5. Y :
2.3.
i

0,5 0,7

0,9 0,3

0,25 0,25 0,25 0,25


2.4.
j

0,25

10

15

0,25 0,25

8
0,25

.
. .
,
() = (Y) =

m
p i log p i =
i =1
-

4(0,25log0,25) = -4(1/4log1/4) =

= log 4 = 2
2.2

.

, .
.

. ,

. .

. -, , ,
. -,
,
. , ,

. , ,
,
,
,
.


1, x2, ... , xm Pi = p(xi)x (i = 1, 2, ... , m).
:
m
m
m
H = p ( xi ) x log p ( xi ) x = p ( xi ) x log p ( xi ) p ( xi ) x log x
i =1
i =1
i =1

x 0 :

p( x )dx = 1

H ( x ) = p( x ) log p( x ) dx logx

,

. , .

,


( ).

, ,
, .
logx x,
, x =const .

().
,
().
, :

2
= x p( x ) dx = const

,
:

p( x ) =

x2

2 2

,
.
(
) ,
.
,
, , .
. ,
:
x2
x2

2
1
1
2
H=
e 2 ]dx log x =
e 2 log[
2
e 2

= log( 2
= log(

x2
2 2

dx +

log e

x2
2 2

dx log x ) =

2e )

,
b , .
1

b a
0
() =

a x b
x < a, x > b

H p (x) =

b
1
ba
x ) dx = log
log(
baa
ba
x
1

(b a ) 2
=
12 , (b-a) = 2 3 p .

2
p


H p ( x ) = log(

p
x

2 3)


() = (), :

p2 =

e 2
1,42 2
6

,
42% ,
.
7. ,


0 , x 0
2
x , 0 < x 1
1, x > 1
() =
8.

,
. ,
, .
.

,
, , , .
, ,
, :
H ( x ) = log(

2 e ) = log(

x = 1 , x

2 e )

, .. 2 - , ,

1.
:

log

() =

ba
x


2
2 (b a )
,
h =
12
H ( x ) = log(

b a = 2 3 , ,

2 3 ) = log( 2 3 ),

, x = 1
log(

H ( x ) = H ( x ),

2e ) = log( 2 3 ),

2
2e = 12 ,
2

1,42


, .. , ,
42%.
, ..
, , 42%.
2.3

, , ..
.

= (1, x2, ... ,xr)
Y = (y1, y2, ..., ys) ,
(i) p(yj),
pxi(yj), pyj(xi), i = 1, 2, ... , r ; j = 1, 2, ... , s.
() , Y
. , (X, Y) D,
(X, Y) D.

. 2.5.
2.5.
Y
X
xi

yj

y1

y2

...

ys

x1

11

12

...

1s

x2

21

22

...

2s

xr

r1

r2

...

rs

ij - ,
= xi, Y = yj.
r s
Pij = 1
i =1 j =1
.

(, Y)
(x, y).
(,Y) D
P[( X , Y ) D ] = p ( x , y ) dxdy
D
.

:
1)

(x,y) 0


p( x , y ) dxdy = 1
2)

(X,Y) D,
p ( x , y ) dxdy = 1
D
.

Y = yj (yj

)
Pyj(x1), Pyj(x2), ... , Pyj(xr)
Y.
X Y :
Pxi ( y j ) =

Pyj ( x i ) =

P( x i , y j )
P( x i )
P( x i , y j )
P( y j )

,
.
yj xi

Px ( y j ) =
i

P( x i , y j )
P( x i )

P(xi,yj) = P(xi) Pxi(yj).


, xi yj:
P( x i , y j ) = P( y j ) Pyi ( x i )

X Y :
r s
H ( X , Y ) = P( x i , y j ) log P( x i , y j ) =
i=1 j =1
r s
= P( x i )Px ( y j ) log[P( x i )Px ( y j )] =
i
i
i=1 j =1
r
s
r
s
= P( x i ) log P( x i ) Px ( y j ) P( x i ) Px ( y j ) log Px ( y j ).
i
i=1
j =1 i
i=1
j =1 i

s
Px ( y j ) = 1
j =1 i

(,Y) = H(X) + HX(Y), () - ;


HX(Y) - Y , :
r
s
H X ( Y ) = P( x i ) Px ( y j ) log Px ( y j )
i
i=1
j =1 i

Y: Pxi(yj) = P(yj)
HX(Y) = (Y) , , (,Y) = H(X) + H(Y).
Y , .. xi yj, (xi,yj)
i = j i j. X(Y) = 0, , , (X,Y) = (),
.. .

r
s
H X ( Y ) = P( x i ) Px ( y j ) log Px ( y j )
i
j =1 i
i=1

,
. Y = X,
r
s
H ' = P( x i ) Px ( x j ) log Px ( x j ).
i
j =1 i
i=1

, 0 1. ,
, : 0 = log m = log 2 = 1 .
, , (0)=, (1) = ,
m
H = Pi log Pi = P( 0) log P( 0) P(1) log P(1) =
i=1
3
3 1
1
= ( log + log ) = 0,815
4
4 4
4

, , ,
0(0) = 2/3; P0(1) = 1/3; P1(0) = 1; P1(1) = 0,

H ' = P( 0)[P0 ( 0) log P0 ( 0) + P0 (1) log P0 (1)] P(1)[P1 ( 0) log P1 ( 0) +


3 2
2 1
1
+ P1 (1) log P1 (1)] = ( log + log ) = 0, 685
4 3
3 3
3

, , ..
H<H.
9:
:
2.6.
Y
X
3

0,17

0,10

10

0,13

0,30

12

0,25

0,05

Y.
: 1) ,
:
(3) = 0,17 + 0,10 = 0,27
P(10) = 0,13 +0,30 = 0,43
P(12) = 0,25 + 0,05 = 0,30.
:
2.7.

10

12

P(xi)

0,27

0,43

0,30

: 0,27 + 0,43 + 0,30 = 1


2)

Y:
2.8.
Y

P(yj)

0,55

0,45

: 0,55 + 0,45 = 1
10: (X,Y):
2.9.
Y
X
x1 = 2

y1 = 0,4

y2 = 0,8

0,15

0,05

x2 = 5

0,30

0,12

x3 = 8

0,35

0,03

: ;
, Y y1 = 0,4;
Y , 2 = 5
: 1) , .
2.10.

2)

P(x)

0,20

0,42

0,38

, Y.

2.11.

3)

0,4

0,8

P(y)

0,80

0,20

Y y1 = 0,4
Py1 ( x1 ) =
Py1 ( x 2 ) =
Py1 ( x 3 ) =

P ( x1 , y1 )
P ( y1 )
P ( x 2 , y1 )
P ( y1 )
P ( x 3 , y1 )
P ( y1 )

0,15
0,80

0,30
0,80
0,35
0,80

3
16

3
8

7
16

:
2.12.
X

Py1(xi)

3/16

3/8

7/16

: 3/16 + 3/8 + 7/16 = 1


Y:
2.13.
Y

0,4

0,8

Px2(yj)

5/7

2/7

: 5/7 + 2/7 = 1.
11: ,
X Y, :
2.14.
Y

y1

y2

y3

X
x1

0,4

0,1

x2

0,2

0,1

x3

0,2

(), H(Y), HX(Y), H(X,Y).


: 1. (xi) (yj) :
) , : P(x1)
= 0,5
P(x2) = 0,3
P(x3) = 0,2
) , Y:
P(y1) = 0,4
P(y2) = 0,3
P(y3) = 0,3
2.

r
H ( X ) = P( x i ) log P( x i ) = ( 0,5 log 0,5 + 0,3 log 0,3 +
i =1
+ 0, 2 log 0, 2 ) = 1,485

3.

Y:

s
H ( Y ) = P( y j ) log P ( y j ) = ( 0, 4 log 0, 4 + 0,3 log 0,3 +
j =1
+ 0,3 log 0,3) = 1,57

4. Y ,
:
r
s
H ( Y ) = P( x i ) Px ( y j ) log Px ( y j )
i
i =1
j =1 i

yj i

Px ( y j ) =
i

P( x i , y j )
P( x i )

Y ,
x1:
Px ( y1 ) =
1

Px ( y 2 ) =
1

P( x , y 1 )
1
P( x 1 )
P( x 1 , y 2 )
P( x 1 )

0, 4
0,5
0,1
0,5

= 0,8

= 0, 2

Px ( y 3 ) =
1

2:

Px ( y 3 ) =
2

P ( x1 )

Px ( y 2 ) =
3

Px ( y 3 ) =
3

0,5

=0

P ( x 2 , y1 )

P( x 2 )

P( x 2 , y 2 )

P( x 2 )
P( x 2 , y 3 )

0, 2

P( x 3 )
0

P( x 3 )
P( x 3 , y )
3
P( x 3 )

=0

0
0,2

=0

=0

0,2
0,2

0,3

= 0,33

0,3

P( x 3 , y )
1

P( x 3 , y )
2

= 0, 67

0,3
0,1

P( x 2 )

Px ( y1 ) =
3

Px ( y1 ) =
2

Px ( y 2 ) =
2

3:

P ( x1 , y 3 )

=1

0,2

: HX(Y) = - [0,5 (0,8 log 0,8 + 0,2 log 0,2) +


+0,3 (0,67 log 0,67 + 0,33 log 0,33) + 0,2 (1 log 1)] = 0,635
5.

, ,

Y :
s
r
H Y ( X ) = P( y j ) Py ( x i ) logPy ( x i ).
j
j =1
i =1 j

Py ( x i ) =
j

1:

P( y )
j

Py ( x1 ) =
1

Py ( x 2 ) =
1

Py ( x 3 ) =
1

2:

P( x i , y j )

P ( x1 , y1 )
P ( y1 )

P ( x 2 , y1 )

P ( x 3 , y1 )
P ( y1 )

0
0, 4

0, 4
0, 4

=1

=0

P( y 2 )
=

=0

0,4

P ( x1 , y 2 )

P( x 2 , y 2 )
P( y 2 )

P ( y1 )

Py ( x1 ) =
2

Py ( x 2 ) =
2

0, 2
0,3

0,1
0,3

= 0, 67

= 0,33

Py ( x 3 ) =
2

3:

P( x 3 , y 2 )
P( y 2 )

Py ( x 1 ) =
3

Py ( x 2 ) =
3

Py ( x 3 ) =
3

0
0,3

=0

P( x 1 , y 3 )

P( x 2 , y 3 )
P( y 3 )
P( x 3 , y 3 )
P( y 3 )

P( y 3 )
=

0,1
0,3
0, 2
0,3

0
0 ,3

=0

= 0,33

= 0, 67

H Y ( X ) = [0,4(1 log 1) + 0,3( 0,33 log 0,33 + 0,67 log 0,67 ) +


+ 0,3( 0,33 log 0,33 + 0,67 log 0,67 )] 0,55 .

6. Y:
r s
H ( X , Y ) = P ( x i , y j ) log P ( x i , y j ) =
i =1 j =1
= ( 0, 4 log 0, 4 + 0,1 log 0,1 + 0, 2 log 0, 2 + 0,1 log 0,1 + 0, 2 log 0, 2) =
= 0,529 + 0,332 + 0, 464 + 0,332 + 0, 464 = 2,12 .

:
(,Y) = H(X) +HX(Y) = 1,485 + 0,635 = 2,12
(,Y) = H(Y) +HY(X) = 1,57 + 0,55 = 2,12
12: () = 5; (Y) = 10.
, (Y)
.
:
.
:

. 2.5.
, (Y) = (Y) = 10 , Y(X) = H(X) = 5
, , , (X,Y) = H(X) + H(Y) = 5 +10 = 15 . ..,
(Y) = (Y) = 10 .
(Y) Y(X) :

. 2.6.
,
.. xi j , .. (xi, j) i = j i j.

Y(X) = 0 , , (X,Y) = (Y) .

. 2.7.
(Y) = (Y) - () = 10 - 5 = 5 . (Y) 10
5 y() 5 0 .
13: () (Y), (1,y1) = 0,3; P(x1,y2) = 0,2;
P(x3,y2) = 0,25; P(x3,y3) = 0,1
14: (), H(Y), H(X,Y), (1,y1) = 0,2; P(x2,y1) = 0,4;
P(x2,y2) = 0,25; P(x2,y3) = 0,15
2.4

Y
. Y
.
Y ,
: () = (Y).
Y(X).
: (,Y) = () Y(X)
(,Y) .
Y , ,
, .. Y(X) = (),
:(,Y)=0.
Y , .. , Y(X) = 0 (,Y)
= H(Y).

Y(X) = (,Y) H(Y), (,Y) = H(X) + H(Y) H(X,Y),


Py ( x i )
r s
j
E ( X , Y ) = P( x i , y j ) log
i=1 j =1
P( x i )
.

15: () (,Y), (1,y1) = 0,3; P(x1,y2) = 0,2;


P(x2,y3) = 0,1; P(x3,y2) = 0,1; P(x3,y3) = 0,25.
2.5

,
.
1<2, ,
, .. I = n1H1 = n2H2, n1 n2 -
.
n2

n1

H1
H2

,
.
, ,
,
.
:
r=

H 2 H1
H1
=1
=1
H2
H2

, , 32 (. ),
, 32 ,
, , 0 = log 32 = 5
, H =
4,42 , H = 3,52 , .. H< H < H0
:
1) , r = 1 - H/H;
2) , r = 1 - H/ H0;
3) r0 = 1 - H/ H0

r0 = r + r - rr

, ,
, (
) 50% (r0 =1 - H/ H0 = 1 - 3,52/5 = 0,30).
, ..
. .
(
) (
) .

. 1, 2, Q - -
,
1 C 2 86 52 Q . ,
,
, ,
. ,
.
. ,
,
/ 40- . XX . -, ,
,

.
-. 1977 .
,
.
. :
( ), ,
.
. . .
Zip. : RAR, ARJ, ,
TAR, LHA . . Windows :
WinZip ( Internet http://www.winzip.com)

WinRAR, (
http://www.rarlab.com). WinRAR WinZip :

; ;

; .
.
WinArj ( http://www.lasoft-oz.com).
Cabinet Manager ( CAB, Microsoft

) WinAce (
).

- Norton Commander, Windows

Commander Far Manager.

DOS-
, .

, . ,
MS-DOS, Windows
( MS-DOS), .
, DOS- 8 ,
, .
, ,
: , . .
, , . .

, , , ,
,

. -
"" .
,
, . ,
, ,
, .
, , , BMP TIFF, ,
, , MS Word. JPEG
,
. .
- .
1. , , ,
, , ,

, .
2. , ,
, , ,
( ), ,
.
3. 3. , ,
.
, "" ,
, , ,
" ".
""
.
.
, ,
. , ,
. , 15
:
LLLLL

42 42 42 42 42 4 4 4 4 4 41 41 41 41 41
():
01 05 42 06 05 4 0 05 41
: "", 6
"L" 11 "".
9 , 6 .
.
,
.
,
, , ,
( ).

,
. ,
, Z, X Q . ,

,
.
ARJ, , PKZIP . ,

,
. , -
.

, .
, .
, .
, ,
. , TIF GIF, (
TIFF ),
.
, PostScript, BMP .
,

( 50
). .
, .
: .
.
(bitmap),
. GIF JPEG,
, BMP ( Windows) TIFF,
.
, .
.
, ,
, . ,
, ,
.
, ,
. ,

, , , .

, - .
AI Adobe Illustrator, CDR
CorelDRAW WMF ( Windows).
PCX TIFF, BMP, JPEG,
PNG, GIF. GIF .

BMP (Windows Device Independent Bitmap) ,


Windows. BMP
, (,
). , ,
. , BMP, 256 , 16 700 000
. BMP - ( ) .
,
, . . 1024x768 24
1024x768x3= 2 359 296 (
, ). ,
, BMP-. ,
BMP ,
.
2,5- .
BMP ( , )
. 1020 ,

.
LZW GIF

BMP, GIF (CompuServe Graphics Interchange Format)


. 1977 . . .
, .
, LZ77 (
), , .
LZ78.
; LZW, . ,
Unisys, 1983 .

. 1985 . Unisys LZW.


.
.
1987 . CompuServe LZW
GIF (Graphic Interchange Format),
8 , 256 .
.
1989 . CompuServe ,
GIF89a. ,
(GIF ). -,
-, , -, GIF
, . . ,
. , GIF
. GIF ,
, ,
. . GIF
,
. , -,
GIF. -,

Flash.
.
, , . ., ,
, .
. ,
.
GIF
- (, , . .).
, (, ),
.
. 8
.
256 .
GIF .
.

( ).
,
, .
GIF , 256 .
.
, LZW -TIFF.
GIF, .
JPEG

LZW ,
. ,
,
. ,
1020 ,
.
1991 . Joint Photographic Experts Group,
,
JPEG.
, ISO/IEC 10918-1. JPEG
MPEG.
JPEG (Joint Photographic Experts Group)
.
, /.
JPEG : ,
9x9 .
, , ,
. , BMP.
, , .
JPEG
. , TIFF,
JPEG .
, JPEG
.
,
.
JPEG

:
1. 16x16 .
,
, .
2. .
RGB YCbCr, Y , b
.
. ,
: .
, . 20 , ,
, , , .
,
.
75% . ,
, 8x8.
3. (Discrete Cosine Transform, DCT),
. 1981 . , DCT
.
, (
0,90,98). DCT
. , ,
,
. DCT
.
DCT ,
.
, .
,
DCT ( ), (
) . ,
, ,
. ,
,
.
4. .


, .
.

JPEG
. , .
PNG

PNG (Portable Network Graphics) GIF, ,


. , GIF LZW,
Unisys, GIF
CompuServe, .
19931994 . .
Unisys CompuServe.
, GIF, Unisys
. , GIF .

.
Windows Linux OGG,
. GIF
. PNG 4 1995 ., .
Usenet , GIF.
.
PBF (Portable Bitmap Format), 23 1995 .
PNG 0.92 W3C,
1 1996 . 1.0 PNG
. PNG 8 , GIF,
. 24, 48
64 . ,
. PNG
. ,
. PNG ,
.
,
. , JPEG
, a GIF .

, .
,
, , . PNG
,
, .
PNG
-, GIF. 254 (
- ),
0 100%. , PNG
. , PNG GIF ,
700800 GIF.
PNG 1030%
, . ,
, .
PNG
JPEG GIF. -,
. GIF,
, PNG
, . . ,
, ( interlace).
-, -.

, . ,
(MS Windows Linux)
(, PC Macintosh).
. PNG : ,
( ) ,
PNG- .
TIFF

TIFF (Tagged Image File Format) ,


. TIFF
,
. PC,

Macintosh.
, TIFF ,
. TIFF, ,
, .
.
, .
, Photoshop,
TIFF.
RAW

, , RAW.
raw (). , RAW
,
.
, = 255 = .
, . RAW
.
RAW ,

, , ,
, .
,
, .
RAW , ,
. ,
PC.

, :
,
.
, GIF, JPEG PNG .
,
.

,
JPEG, JPEG GIF PNG

. :
.
2530x3490 24 , 25,2 , JPEG
PNG ( , 256
, GIF ).

JPEG

70% .
25 .
, . PNG
.
, WinRAR 3.20,
.
, 256
(8,42 BMP), GIF.
JPEG, , ,
, , 24 . ,
8 .
GIF PNG ,
: RAR-
, .
GIF .
256 ,
.
, .

. ,
.
. ,

. ,
GIF .
CompuServe. JPEG. 100%- (204
) ( ).
6%- ,
PNG GIF, . , PNG- 20%
, GIF,

. WinRAR, 2
GIF.
. ,

LZW-, GIF. , ,
GIF 4 , , 90.
, PNG,
. GIF
10%.
-, . 2 (!)
.
.

256 . : PNG 40% GIF-.


.

GIF
, .
,
. GIF
.
:

. ,
, JPEG.
. .
GIF, .
PNG GIF .
8 GIF
( GIF , ). PNG ,
, ,
- , JPEG
.
GIF 95% ( 5%
PNG). GIF ,
. ,
-, . PNG
- -.
, PNG . , GIF

:
. , , PNG , a GIF
.
WinRAR.
,
. , .
, , ,
. ,
, GIF - . , .

Windows
, .
.
, MPEG DVD DivX, a RealVideo
. , CNN
.
MPEG-4 (
).
MPEG-4 (Motion Picture Experts
Group), no ,
. AVI,
, , :
, , , DivX, AVI.
.

, . , , ,
. ,
( RealVideo),
. , ,
.

. Windows XP Windows Media Player,
. -
,

.
,
.
, .
Real Player, RealVideo RealAudio ( RM, RA,
RAM) .
DivX ( DivXNetworks):
MPEG-4, .
RealVideo ( RealNetworks): RealVideo,
.
Windows Media ( Microsoft):
MPEG-4, Microsoft.
Windows Media Player: WMV,
ASF, AVI. MPEG, MPG, IVF, M1V, 1, 2, VOB .
Real Player: RM, RA, RAM,
MPG, MPEG, AVI, ASF, MID, MOV .
Quick Time Player: QT, MOV,
PNG, AVI, FIX, MPG, MPEG, MP1, MK .
Windows Movie
Maker. : ,
( ) .
. ,
: -, , Firewire .
Firewire .
.
: .

.
, .
,
. : ,
,
.
, :

WMA. WMA Microsoft,


.
.
-
Lame.
Lame

Lame 1998 ,
.

. (MPEG),
(ISO), 80-
MPEG, MPEG 1.0 Audio
Layer III .
- ,
. Lame,
. Lame ,
.
, ,
.
( WAV) ,

, ,
. 2000 128 /,
, ,
192 /.
, ,
VBR,
. ,
( ),
320 /.
WMA Microsoft

WMA Microsoft
Windows. Microsoft
MPEG, WMA
.

Microsoft WMA
: WMA-
WAV.
WMA . ,
, ( Microsoft),
.
, -.

,
Microsoft Lame.

:
Microsoft,
, , Lame.

,
. , WMA ,
. :
,
. , , :
MPEG /

. ,
.
Liquid Audio ,

. ,
,
.
, Tomson Multimedia.

. -
.
OGG Vorbis

. ,
, ,
OGG
. -

,
. TwinVQ , Yamaha.
,
. -
, .
PDF

Word
MS Office, ,
. .
PDF

Portable Document Format PDF,


. ? -,
, PDF,
: Windows XP, Windows 95, Linux. -, PDF
: Word, ,
, PDF 300-400 . -, PDF
,
, , -
. -, PDF
. PDF
Acrobat Reader.
PDF-

PDF . , , Adobe Acrobat Professional,


6.0. ,
Microsoft Office Adobe .
Acrobat Professional
, .
, PDF-, Convert
to Adobe PDF .
PDF (),
. ,
. .
Acrobat Professional
Adobe PDF , .
,

PDF-. ,
. , PDF,
-> . , Adobe PDF
. ,
.
PDF-

Adobe PDF
. Adobe PDF Settings. ,
: High Quality ( PDF
) Smallest file size ( ).
, Edit.
.
(None) PDF
(Reconfirm security for each job)
Edit , .
,
: ,
3.


, ().
m ,
k m kq , q .

log m
log k

= log k m


q - k- . ,
32 q = log232 = 5 ,
. ,
. , , , 64 .
q = log264 = 6 q = log864 = 2
. 13 001101,
15.

. ()
- , .
m ,
m - . , :
l
i 1
l 1
l 2
1
0
Q = aim
= al m
+ a l 1 m
+ ...+ a 2 m + a 1 m ,
i =1

i - ; l - ; i - ,
0 m-1 , i -
.
- ,
. , ,
13 0001 0011. ,
, .. (
, ): logkm = H0
H = log m (
, ..
).
, 0 = logk m = log232 = 5 ,
4,35 .
, ,
, ,
. i- ,
i, qi,
m
q = p i q i
i=1

q log m,
, .. q log m .

q

log m

(m=2) q ,
m
m
Pi q i Pi log Pi
i=1
i=1

q , .
, q , .

,
, , ,
.

. , ..
,
q .
( , ,
).
,
,
. , 101 - ,
1, 10 10101.

( ).

, ( , )
.
,
. ()
1, 0.

.
, .
1,
- 0.
16: :
3.1.
() -
xi

qi

i qi

-ilog i

x1

0,25

0,5

0,50

x2

0,25

0,5

0,50

x3

0,15

0,45

0,41

x4

0,15

x5

0,05

x6

0,05

x7

0,05

x8

0,05

m
q = p i q i
i=1

0,45

0,41

0,2

0,22

0,2

0,22

0,2

0,22

0,2

0,22

= 2,7

m
H = Pi log Pi = 2,7
i =1

, q = H, , .
17: - , : (x1) = 0,5; P(x2)=
0,25; P(x3) = 0,125; P(x4) = 0,125
18: (m=8),
- .
: ( )
k=2
q logk m = log2 8 = 3, ..
.
- ,
, ,

, .
3.2.
()
xi


Pi


1 2 3 4 5 6 7

x1

1/2

x2

1/4

0 1

x3

1/8

0 0 1

x4

1/16

0 0 0 1

x5

1/32

0 0 0 0 1

x6

1/64

0 0 0 0 0 1

x7

1/128

0 0 0 0 0 0 1

x8

1/128

0 0 0 0 0 0 0


, .
.
,
. :
m= 8
63
H = P( x i ) log P( x i ) = 1
i =1
64

:
m= 8
63
q = P( x i )q ( x i ) = 1
,
i =1
64

q(xi) - , xi.
19:
- - .
3.3.

()

xi

Pi

x1

0,22

x2

0,20

x3

0,16

x4

0,16

x5

0,10

x6

0,10

x7

0,04

x8

0,02

: 1.
m= 8
q = Pi q i = 2,84
i =1

2.
m= 8
H = Pi log Pi = 2,76
i =1

, , (q > H).

,
.

20: , , x1 x2
(1) = 0,9; P(x2) = 0,1.
,
. , .
, 1, 0,

m= 2
H = Pi log Pi = 0,47
i =1
,

..

m
q = Pi q i = 1 H = 0, 47.
i =1

, , :
3.4.


1

x1x1

0,81

x1x2

0,09

x2x1

0,09

x2x2

0,01

,
.

m= 4
q = Pi q i = 1,29,
i =1

1,29/2 = 0,645, .. = 0,47


.
, , :
3.5.

x1x1x1

Pi

0,729

x2x1x1

0,081

x1x2x1

0,081

x1x1x2

0,081

x2x2x1

0,009

x2x1x2

0,009

x1x2x2

0,009

x2x2x2

0,001

1,59, - 0,53, 12%


.
,
, ..
.
,

.

-
, ..
, :
3.6.

()
xi

Pi

1- 2-

1

x1

0,22

x2

0,20

x3

0,16

x4

0,16

x5

0,10

x6

0,10

x7

0,04

x8

0,02

.

.

.
.
,
. ,
,
.
,
, .
,
:
3.7.

x1

0,22

0,22 0,22 0,26 0,32 0,42 0,58 1 01

x2

0,20

0,20 0,20 0,22 0,26 0,32 0,42

00

x3

0,16

0,16 0,16 0,20 0,22 0,26

111

x4

0,16

0,16 0,16 0,16 0,20

110

x5

0,10

0,10 0,10 0,16

100

x6

0,10

0,10

1011

x7

0,04

0,06

10101

x8

0,02

10100

. , 1,
, 1,
0.
,
.

. 3.1.
,
.

21: -

4.
4.


. , 2-
() . , 0110111
0100110, .
,
:
1. , ,
, ,
, ,
.
2. ,
,
.
,
. ,
.
,
, , ,
.

,
. ,
.

:
1) /;
2) .

4.1

, ,
.
:
1) ;
2) .
.

. .
:

1) ;
2) .

( k , )
n . k ,
.
, n
.
.
,
. , ,
, () ,

.

.
() ,


, .
.
4.2

k
. n ,
n>k.
2k 2n .
2n 2k
. .

2n-2k

. .
,
.
2k
, 2k*2n .
:
1) 2k ;
2) 2k(2k 1) ,
;
3) 2k(2n 2k) ,
.
,

k

n
k
k
2 (2 2 ) = 1 2
n
k
n
2 *2
2

22: ,
(n=k+1).
: 1. 2k+1, ..
.
2. , ,
2k , ( ).
3. k
(0 1), ,
.
,
.

1 2

k +1

=1

2.


2k Mi,
.
, Mi, ,
Ai. ,
Ai, .. 2n-2k c.
2k(2n 2k). ,
.



n
k
2 2 = 1
k
n
k
k
2 (2 2 ) 2 .

,
.

() .

,
r
p.
r n :
r

p r = c rn p (1 p )

nr

p ; r ; n
cr
; n r.

, p<<1, .
.
4.3

,
.

.

,
, d.
,
2.
1001111101
1100001010
0101110111

( 2: y= 1 2, 1 , 1 x2
).
, ,
.
D,
dij (i,j = 1,2,,m) m
.
23: 1 = 000; 2 = 001; 3 =
010; 4 = 111.
. 1. d=1.
2.

4.1.

00

00

01

11

x1

x2

x3

x4

00

00

01

11

1
1

2
2

,
,
.

, d=1
. , n=3 :
000, 001, 010, 011, 100, 101, 110, 111.
. ,
. d = 2,
.
,
. , n=3:
000, 011, 101, 110 ;
001, 010, 100, 111 .
, (
n=3 ).
r

r, . d0 minr+1.
, , r,
.

.
,
. n=3
, , 000 111. 000
001, 010, 100,
000.

111

: 110, 011, 101,


111:
001
010
000 100

111 011
101

110
. 4.1.

s
,

,
.
n-
m- , .. , 1.
n=2 :
11

01
d=2

00 4.2.
.

10

n=3 :

. 4.3.
n- 2n ,
.

.
, , .
, ,
, ,
:

r<

1
d
2

d 2r + 1 . ,

r s (r>s),
d r+s+1 (rs).
.
, (d-1)/2
, .
, (d-1)/2,
.
( d/2) ( ,
), .
, ,

. .
, , : 1 = 00; 2 =
01; 3 = 10; 4 = 11. 2,
( d=1).
0 1 , , 1 = 000; 2 = 011; 3 = 101; 4
= 110. d=2, , , .
,
(, 2
). , 2
0, 1. .
( ,
parity check ).

. 4.4.
n- M 2 ,
, (n+1)- (parity bit)
. (n+1)-
. ,
2 0,
. ,
1, (n+1) . ,
, .
(n+1)-
, 1, ,
.

, , ,
, ..
2,
2 ( ). ,
, 0.
,
.
, ,
, , ,
.
, (
) .
, ,
. , ,
.
- .
, .
. ,
,
, , 2.
P<<1, ,
.
. .
.
-
, .
: 2
, ,
.
,
.
, - ,
.

.
, .
, , :
1 = 00000; 2 = 01101; 3 = 10110; 4 = 11011;
:
4.2.
x1

D=

x2

x3

x4

x1

x2

x3

3
3

x4

, d 3, (d 2+3+1).
23: :
1) ;
2) ;
3) .

, .
:
- , - ;
, -
.
.
.
.
, .
.

.
:
;
.
, ,
: , ,

.
,
.
. ,
, .0 , .
1 .
, .. , .
,
.
, ,
.
,
,
. ,
,
.
:
;
.
, ,
, .
, .
, ,
. .

.
,
. , 11011 10110 d = 3,
(, ).
m .
2

00 ... 0 11 ... 1.

, .
, 1101 : 0101,
; 1001, , .. ,
d min = 1. .

, N 1 = 1101, N 2 = 0101,
(
N 2 = 0101). (,
),
d min 2. ,
. , ,
, , ..
.
d min = 2 , m
, ,
. ,
. :

(8),
0.
(7), ,
, .
.
, , (.. ,
), ,
.
. ,
, .. . ,
, .. ,
.. ,
. ,
.
, ..
,
. , , , , ,
0
.
, ().

2 . 1 , 2 ,, n
, = 1 2 3
,, n . = 0, , .
,

= ...((a 1 2 ) 3 ) ... n . i
(i + 1),
(i + 1) p i +1 = p i i +1 , ,
.

1

p i +1 = p i i +1 (. 1) , .0
(p i +1 = p i ), .1 (p i +1 = pi ).
(.1).

.1. .
, 0,
,
. .1 1, . 1
0 .. ,
= 0; = 1.


2 ,
..
.2.

.2. .
( ) ( .2 =1)
, 2.
..
.
:

,
2, .3.

.3. , 2.
.
n .
i

1,2,4,8,..., n/2,

q = 2. k- k = 1, 1 =a k q

k 1

k 1

= n/2

2 = n.
k.
:


.
.
N 1 = 10111
. : N 2 = N 1 +1.

-
2- 3-. :

N 2 N 2 , ,
. , N 2 . ,
( )
, .

( ) k , k.
q.

. .
N q, r N .
N .
N* q r N *.
q (.4).

.4. q.
r N r N *,
. . 5
.

.5. , .
N 1 N 2 N*. r N 1 r N 2
r N . r N *, N*
q, r N ,
.
q = 3, q = 7. q
,
.
. 5. q = 3, N 1 = 32 10 = 100000 2 ,

N 2 = 29 10 = 011101 2 . r N 1 = 2 10 = 10 2 , r N 2 = 2 10 =
10 2 ( q = 3 0, 1, 2
).
N* = N 1 + N 2 = 61 10 = = 111101 2 , 3
r N * = 01 2 . r N 1 r N 2 3, r N = 01 2 .
r N * = r N .
r N * r N .
, . 2.
2

, ,
. ,
; ,
, 7 , 3.
7 , 3. 7
( 3) , ,
( ).
3.
.
. . 3 3 ,
(.. ).
1, 2. ,
3
3.
3

, N = 11001011 2 ; , ,
S=12+11 + 02 + 01 + 12+01+12+11 = 8; , 8 3, r N = 2.
3

3,
,
,
. . 4.
b , ,
; b = 0, b = 1.
4

JK- (. 5)
. 6 , 1 2
:

.6. , 1 2
.
J 1 J 2 -:

.7. b
3.
(),
. ,
3 1 b = 1,
b= 0.

.7. .


, . 8.

. 1 0 , 1 , 2 (0,1,2).
, ,
.
.
:

n = 2 , k,
(n 1).

4.4

.
m k
(m-k) ,
: Rm = (m-k)/m Rk = (m-k)/k.
Rk, 0 , ,
. ,
, .
, ,
Q m- ,
s .
, d=2s+1.

cim

i =1

Cmi i.
,
.
.

cim

1+ i =1

,
. m-
2m,
m

(1 +

i =1

Q 2m

i
m

i =0

i
m

.
d, Q :
4.3.
d Q

22

m +1

2m 1

m +1
m 1

m +1

...

...
...

2
2
1 + c + cm
+ ... + c km
1
m

, ,
.

,
. ,

.

,
,
.
,
.
,
,
. , ,
.
,
.
,
.
4.5

,
0. 1,
, ,
, 0, . ( ,
) ,
, ,
. .
.
,
( ).
, , ,
.
,
.
.
4.6

(
, , ).
, ,
.
, ,
.

.
( a+b=c)
( a*b=c), , ,
.
,
.
,

:
1.
( ).

2. a,b,c (a+b)+c=a+(b+c),
, a(bc)=(ab)c,
.
3. Gn ,
a Gn +0=0+, ,
*1=1*=, .
0, 1.
4. ,
+(-)=-+=0, , *-1= -1*=1,
.
(-),
-1.
, , ,
a+b=b+a ( ) a*b=b*a ( ),
.
, , .
n-
,
.
q (q ),
,
q.
2.
0, , 1,
, ,

1011101
0111101
0001110
1101110

,
.
, .
2 . ,
2 .
24. ,
:

1) 0001, 0110, 0111, 0011;


2) 0000, 1101, 1110, 0111;
3) 000, 001, 010, 011, 100, 101, 110, 111.
: , .
, ,
, 2 1101 1110 0011,
.
.
, ,
, . ,
: 000, 001, 010, 011
.
Gn . ,
Gn, ( 2)
Gn ,
.
, , ,
. Bj ,
,
.
Bj .
, ,
,
.
25:
.
: :
4.4.
A1=0

A2

A3

A4

000

001

010

011

B1

A2B1

A3B1

A4B1

100

101

110

111

26:
.

: ,
.
:
4.5.
A1=0

A2

A3

A4

0000

0001

0110

0111

B1

A2B1

A3B1

A4B1

0100

0101

0110

0111

B2

A2B2

A3B2

A4B2

1010

1011

1000

1001

B3

A2B3

A3B3

A4B3

1100

1101

1110

1111

R,

( ), ,
1) R ;
2) R bR R (
);
3)

a,b,c

a(bc)=(ab)c

( );
4) a,b,c R a(b+c)=ab+ac
(b+c)a=ba+ca ( );
ab=ba,
.
.

.
F , , ,

, :
1) ;
2) ;
3)

a,b,c

( ) a(b+c)=ab+ac.
F , ,
, .
.

GF(P), ,
. , q, ,

. , q, q -
, .
,
(0)
(1). , 0 1, GF(2).
:
+

. 4.5
, n
GF(2),
n GF(P).
, .
Aj Ai Af = Ai + Aj, Ak
(k=1,2,,n) k- ,
GF(P). n-
.
, q,
GF(q) q.
4.7

(, , )
().
.
,
(, L ).
,
L L.
F ()

V (), :
1) V ;

2) v V F cv,
V ( );
3) u v V , d F , (+v)=cu+cv;
(c+d)v=cv+dv ( );
4) v-, d-, (cd)v=c(dv) 1*v=v
( ).
,
.
n GF(P) ( ) ai
GF(P) : ai(a1, a2, , an)= (ai a1, ai a2, , ai an)
( GF(P)).

(..3.4) , n-
GF(2) (.. 0 1).
2. (1) ,
(0) ,
0=(0 00).
n GF(P)
,
(, , ),

n-

GF(P).
,
, .

n- GF(P).
GF(2)
,
n- .
.
4.8

,
Q, . .


.
n- ,

, , .
( )
2 .
2k l Q ( ,
), k,
.
2k - 1 k -
. k

2 .
2k ( )
n- , 2k n-
, , n .
.

, .
2n n- 2k
n- ,
. 2n-k 1
. 2
.
,
, ,
.

, . ( 2)
, .
, 2n 1
2n-k 1 .
,
,

,
().


,
.
,
, 2 ( ),
, . .
.
,
. ,
.
,
, .
,
k . ,
. , ,
, :
00001
00010
.
01000
10000
.
, ,
2n-k -1 n 2n-k -1 n

,
,
1

2n-k-l n + n

2n-k-l n + n ++ n

,
,

. ,
.

.
4.8.1


. , 15 .
. 2n-k - 1= ,
, , , (n = 7).

.

.
, ,
(. 4.6).
4.6.

0000001

001

0010000

101

0000010

010

0100000

110

0000100

011

1000000

111

0001000

100

,
, .
, ,
.

.
, , 0...001 0...010.
0...011
.
, , ,
0...011.


0...0100,
. 0...0101
0...0100 0...001 , ,
, 2
, .. 0...0101.
, 0...0110
0...0110.
, ,
, 0...0111. ,
i- ,
i, ,
, i- , ,
.
: 0...01001, 0...01010,
0...01100.

0...0111,
00111

00111

00111

00001

00010

00100

_______

________

_______

00110

00101

00011


, : 0...0110, 0...0101, 0...0011.
,


1000.
0...01001, 0...01010, 0...01100
:
0...01001, 0...01010, 0...01100.
,
01111.

,
,
:

0...010001

001110

0...010010

001101

0...010100

001011

0...011000

000111

,
.
2
,
.
, ,
29- [ .
. .:, 1964].
. 4.7.
,
, .
4.8.2

, ,
( ),
. ,
,
.
4.7.

1

00000001

00010000

11

01101010

00000010

00100000

12

10000000

00000100

00110011

13

10010110

00001000

01000000

14

10110101

00001111

10

01010101

15

11011011

,
(. 4.8).

4.8.

0001

0111

12

1100

0010

1000

13

1101

0011

1001

14

1110

0100

10

1010

15

1111

0101

11

1011

16

10000

0110
, .

, (7, 4), (15, 11), n,


k, , , ,
.
,
.
,
. ,
, . ,
1, 3, 5 7- : a1 a3 a5 a7=0.
,
.
a2 a3 a6 a7= 0 .
: a4 a5 a6 a7= 0 .

,
. ,
.
. ,
. ,
.
, (7, 4), ,
, . . , , :
a1=a3 a5 a7,
a2=a3 a6 a7, (4.1)

a4=a5 a6 a7 .
dmin = 3,
. .
4.8, ,
, .
27. 15 ,
.
d

0 min

r+s+1

, 4. .
, . (7, 4).
,
.
, (8, 4). :
a1=a3 a5 a7,
a2=a3 a6 a7,
a4=a5 a6 a7 .
a8=a1 a2 a3 a4 a5 a6 a7,
(7, 4) S1,
8

S2(S2 =

a
i =1

) 3 ,

:
S1= 0 S2= 0 ;
S1= 0 S2= 1 ;
S1 0 S2= 0 ( ,
);
S1 0 S2= 1 ( ).
28. . 4.8, (8,2),
.
. 4.7 , :
a1 a5 a8=0,
a2 a5 a8=0,
a3 a5=0,
a4 a5=0,
a6 a8=0,

a7 a8=0.

a1=a5 a8 (4.2 )
a2=a5 a8 (4.2 )
a3=a5 (4.2 )
a4=a5 (4.2 )
a6=a8 (4.2 )
a7=a8 (4.2 )
, dmin = 5, , ,
1 4.
,
, .
, ,
, .
.
4.8.3

, ,
, .

. ,
,
.
.

, .
i d ( )
.

i.

. ,
d , ,
, , .
,
. d 2s+ 1
s s ,

.
, aj(j i)
. .

29.

(8,2).
,
5.
(4.2 ) (4.2 ) 8, (4.2 ) (4.2 )
a5 (4.2 ) (4.2 ) a5 = a5,
a5:
a5 = a6 a1,
a5 = a7 a2,
5 = 3,
5 = a4,
5 = 5.
a8 :
a8 = a3 a1,
a8 = a4 a2,
a8 = 6,
a8 = a7,
a8 = 8.
4.8.4

l n l n ,

l n :
a11 a12 .....a1n
a a ....a
2n
A 21 22
.
...................

a l1 al 2 .....a ln

, :
a11 a12 .....al1
a a ....a
l2
T
A 21 22
.
...................

a1n a 2 n .....a ln

n n n.
, ,
, I. |ij| |bij|
l n l n:
+ |ij| + |bij| |ij + bij|.

|ij| l n l n:
c |ij| |c ij|.

|ij| l n |bjk| n m ,
cik l m
l- k-
:
n

cik =

a b
j =1

ij

jk

GF(P),
.
GF(P).
30. GF (2):
011
111

M 1 = 100 M 2 = 010
001
100

cik = M1M2 :
c11 = (011) (101) = 0 + 0 + 1 = 1
c12 = (011) (110) = 0 + 1 + 0 = 1
c13 = (011) (100) = 0 + 0 + 0 = 0
c21 = (100) (101) = 1 + 0 + 0 = 1
c22 = (100) (110) = 1 + 0 + 0 = 1
c23 = (100) (100) = 1 + 0 + 0 = 1
c31 = (001) (101) = 0 + 0 + 1 = 1
c32 = (001) (110) = 0 + 0 + 0 = 0
c33 = (001) (100) = 0 + 0 + 0 = 0

110
M = 111
100

,
. , ,

n-
() GF(P). (n, k)- n
2k1 ( ). , (8,2),
,
a5 a8 a1 a 2 a3 a 4 a 6 a 7

0 111 0 0 11

1 0 11 11 0 0

1 1 0 0 1 1 1 1

n k , , .

, ,
,
.

V1, V2, V3, ..., Vn ,


1,..n ( ),
c1V1 + c2V2++ cnVn= 0

, ,
.

. .
2k 1 k.
, (8,2)

M 8, 2

a1 a 2 a3 a 4 a5 a 6 a7 a8

= 11 0 0 0 11 1

1 1 1 1 1 0 0 0

, ,
, () .
k n GF(q),
(n, k)-. (n, k)- k n k
. ( ) Q = qk-1.
, ,
ki k .
ki n,k:

ni = ki n,k .

(8,2),

a5=l, a8 = 1:
1 1 0 0 0 1 1 1
M 8, 2 = 11
=0 0 111111
1 1 1 1 1 0 0 0
.


: 1) ; 2)
; 3) -
, .
M2 M1
, .

. .

.
(n, k)-,
, (n,k) :
k k - (
) k (n k), n k :

M n,k

1 0...0 p1,k +1 p1,k + 2 ... p1, j ... p1,n

0 1...0 p 2,k +1 p 2,k + 2 ... p 2, j ... p 2,n

..............................................

= [I k Pk ,n k ] =
0 1...0 p p ... p ... p
i , k +1 i , k + 2
i, j
i ,n

..............................................

0 0...1 p k ,k +1 p k ,k + 2 ... p k , j ... p k ,n

(4.3)

,
k ,
(n - k) . , - Ak,i = = (a1
a2ai...ak) n,k= [IkPk,n-k],
An,i = (a1a2...ai...ak...ak+1...aj...an),

:
k

a j = ai pij .
i =1

(4.4)

j(k

+1 j n)

, , .
. (4.3), (4.4),
-.
( ) ,
- ,
.
31. Ik, k,n-k_ Mn,k (7,4).

1000
0100
.
I4 =
0010

0001
, (4.1)

P4,3

110
101
= .
011

111

M 7, 4

a3 a5 a 6 a 7 a1 a 2 a 4

1 0 0 0 11 0

= 010 0101

0 0 1 0 0 11
0 0 0 1111

(7,4):

M 7, 4

a1 a 2 a3 a 4 a5 a 6 a 7

1 0 0 0 11 0

= 010 0101

0 0 1 0 0 11
0 0 0 1111

, - Pk,n-k ,
. ,

.
, .

- ,

-.
d
, - k ,
: - ,
l (1 l k) , d l
.
,
, l , d
, l
.
(7,4) d = 3.
- - ( l=1)
. : 011, 110, 101,
111.
.
, ,
:

M 7, 4

1 0 0 0

0 1 0 0
=
0 0 1 0

0 0 0 1

0 1 1

1 1 1

1 0 1

1 1 0

, (l>1)
-, d=3 .
n,k= [IkPk,n-k],
() (n k) n:

H = P T k ,n k I n k

p1,k +1 p 2,k +1 ... p k ,k +1 1 0.....0

p1,k + 2 p 2,k + 2 ... p k ,k + 2 0 1......0


=

................................................

p1,n p 2,n ..... p k ,n

0
0
...
1

ni ,
, , :

p1, k +1 ... p1, j ... p1, n

p 2, k +1 ... p 2, j ... p 2, n
............................

An ,i H T = a1 , a 2 ,..., a k , a k +1, ..., a j ,..., a n p k , k +1 ... p k , j ... p k , n =

1........0........0

0...... 1........0

0.........0..... 1
= S k +1 , S k + 2 ,..., S j ,...S n = 0,0,..,0,..,0 .

Sj
:
k

S j = ai Pij a j = 0.
i =1

, ni =(a1, a2,, ai,,ak,ak+1,,aj,,an)


ni =(1, 2,, i,,k,ak+1,,j,,n), (ni + ni)
:
k

Sj =

ij

j = 0.

i =1

, Sj(k +1 j n) ,
, S = (Sk + 1, Sk + 2, ...,, Sj, ..., Sn) ,
().
( )

H = P T k ,n k I n k

p1,k +1 p 2,k +1 ... p k ,k +1 1 0......0

p1,k + 2 p 2,k + 2 ... p k ,k + 2 0 1.....0

=
..........................................

p1,n p 2,n ..... p k ,n 0 0....1

32. (7,4) :

M 7, 4

1 0 0 0 1 1 0

0 1 0 0 1 0 1
=

0 0 1 0 0 1 1

0 0 0 1 1 1 1

1100011.
P4,3

P4,3

1101
= 1011 .
0111

:
1101100
H = 1011010 .
0111001

1100011 :

[1100011]

110
101

011

111 = [000].
100

010
001

, , 4- (1101011) :

[1101011]

110
101

011

111 = [111].
100

010
001

, - 111 ()
. .
(7,4),
-,
() .
4.8.5

,
. n k
.
( ) ()
.

,
- 2.
.
33. (7,4),
.

a1=a3 a5 a7,
a2=a3 a6 a7,
a4=a5 a6 a7.
. 4.6.

. 4.6.

k- , , n- . ,
, . 4.9.
1, 2 3,
0 1
. , C1
, 3, 5 7- , , 1
1, 2
0, 4 1.

(.

4.10)

, .
.
(. 4.7),
. (7, 4) :
a1 a3 a5 a7= 0 ,
a2 a3 a6 a7= 0,
a4 a5 a6 a7= 0 .
4.9.
r1

r2

Tr3

r4

r5

Tr6

r7

, , n-
( . 4.7 1 7).
(C1 3) .
4.10.
1

T6

. 4.7.
0 1
. ,
0, .
. DC
.
,
, , .

. , ,
, .
,
. (7,4)
, ,
.
,
, .
4.11.
4.11.
1

T7

:
1 a1 a3 a5 a7= 1+1+1+0=1,
2 a2 a3 a6 a7= 0+1+1+0=0,
3 a4 a5 a6 a7= 1+1+1+0=1 .

. 4.8.
, , , 101 5.
5, .
34. (8,2),
.

.
. 4.8.
, ,

(5- 8-).
,
.
4.9
4.9.1

(n, k) , k
n , , k n
. ,
.

, . ,
, .
,
. , , ,
001011:

(n, k)-
(n, k)-.
n-
. x
( ),
GF(q). 0 = 1.
GF(q) GF(q).
,
0 1. , GF(2).
, , 01011:
G(x) = 0x4 + 1x3 + 0x2 + 1x + 1
,
:
G(x) = x3 + x + 1


.
.
.
n - k
.
, , (001011), g0() = x3
+ x + 1, , (010110), g0(x).
, ,
, x3 + x + 1
x+1. ,

(n-) ()

n + 1= n 1, . . n + 1.
,

xn + l. ,

.
, ,
. .
.

, .
4.9.2

n-
, ,
n-1.

, .

, n : .

.
. ,

. ,
, n-1, 2(n-1),
, n , ,
.
:
1) ,
;
2) n-1,
;
3) n,
n
.
n-1, , ,
k- .

, n- n + 1.
, n-1
G(x) = (xn-1 + xn-2 + + x + 1)x = xn + xn-1 + + x
,

, ,
n 1.
xn + 1 ,
xn + 1 ( ).
,
g(x). , g(x)-
.


. 0,
, 0.
1[g(x) = 1],
. ,
n-k, 2k.
,
n- . ,
g(x), .
4.9.3 ,

,
, g(x) . , g(x)
, .
, g(x)
xn + 1.
, gi(x)
g(x)i xn + 1 :
gi(x)=g(x)xi + c(xn + 1)
=1, g(x) i -1; = 0, g(x) i -1.
, ,
g(x) , g(x)
xn + 1.
, g(x) , , , ,
xn + 1.
, -
, ,
.
,
.
, .
.
g(x) m = n-k xn + 1,
g(x) ( ),
r(), m-1.

, ri(x),
. r() ,
g(x) m . 4.12,
f(x)- n-m-1.
4.12.
0

g(x)

xg(x)

(x+1)g(x)

f(x)g(x)

r1(x)

g(x) + r1(x)

xg(x) + r1(x)

(x+1)g(x) + r1(x)

f(x)g(x) + r1(x)

r2(x)

g(x) + r2(x)

xg(x) + r2(x)

(x+1)g(x) + r2(x)

f(x)g(x) + r2(x)

rn(x)

g(x) + rn(x)

xg(x) + rn(x)

(x+1)g(x) + rn(x)

f(x)g(x) + rn(x)

, ,
. ,
,
, ,
.
, 2m - 1 ( ),
() ,
( 1).
4.10

k.
n,
.
g(x).
,
.
4.10.1

h(x), ,
f(x)
(x):
h(x) = f(x) (x)

h(x) g(x) ,
, , ,
, g(x): f(x)- , , g(x)
.

. (x) = xi. g(x).
, n+1, ,
, x + 1.
x + 1 :
0 1. ,
, , , 1.
,
.
, , , xn + 1.

, .
4.10.2

,
, . ,

.
g(x), g(x)

. , .
m = n-k 2n-k - 1 (
).
,

1
2n-k - 1 C n = n,
1
C n -

;
m = n k log2(n+1)

. k
m . 4.13.
4.13.
M

10

15

31

63

127 255 511 1023

11

26

57

120 247 502 1013

, g(x) n+1.
, 2m-1+ 1 = n+1
, ( 1
). ,
, n+1.
, ,
, n
m . , ,
.
35. n = 15 m = 4.
x15 + 1 ,
4. 1, 2, 4.
,
x+1, x2 + x + 1 : 4 + x + 1, 4
+ 3 + 1, 4 + 3 + 2 + + 1. ,
( + 1)(2 + + 1)(4 + + 1)(4 + 3+ 1)(4 + 3 + 2 + + 1) = x15 + 1

. , , 4 + 3 + 1, 11001.
,
, 11001. m
: 00000, 000010, 000100, 001000.
g(x).
. ,
, 00...10000 11001, ..

. ,
g(x)
:

.
, , g(x)
= 15, , , , g(x),
.
4 + + 1. , .
4 + 3 + x2 + + 1 .
, 15, 5. ,

, x4 + 3 + 2 + + 1
x15+ 1, x5 + 1.
,
g(x) ( ), ,
+ 1, + 1,
. , g(x)
.
. 4.14 ,
.
4.14.

x2 + x + 1

x3 + x + 1

x3 + x2 + 1

x4 + x3 + 1

15

15

x +x+1

15

15

x5 + x2 + 1

31

31

x5 + x3 + 1

31

31

,

.
.
, , () = i j, (x) = i(j i
+ 1) j>i. j i<n, a g(x) , (x)
g(x), .
4.10.3

, ,
, , .
() ,
z, g(x) ,
(z + 1), () + 1,
.
n + l.
. 4.15 ,
.
4.15.

(x+1)(x3 + x + 1)

(x+1)(x4+ x + 1)

11

16

(x+1)(x5+ x + 1)

26

32

4.10.4

, ,
, --. ,
m s<n/2 =
2-1 ms,
2s s.
.
4.10.5

(, k)-,
b , ,
, : n k

2b
b
l b b + l
.
, ,
, -.
.
- .
, ,
.
4.10.6

(),

( ),
g(x). .
,
.
.
( )
k , ,
n-k . ,
. (), k-
, , m = n-k. ,

(), ,
m . ()
g(x). q(x) ,
() r(). ().
f(x) = a(x)xm + r(x)
g(x) , r() m 1.
,

(),

, r() ()
.
, f(x) g(x) , . . ,
. , ()
a(x)xm = q(x)g(x) + r(x)
, r()
, .
a(x)xm+ r(x) = f(x) = q(x)g(x)
, ,

. ,
, .
.
,
.

:
ai + k =

k 1

h a
j

i+ j

j =0

(4.5)

h- h(x),

h(x) = (xn + 1)/g(x) = h0 + h1x + + hkxk
(4.5)
a0, a1, ..., ak-1 n-k ak, ak+1, ... ..., an-1. ,
, .
, , ,
.

,
, --.
4.10.7

Mn,k :
Ik ( k ) k,n-k
( ):
Mn,k = || IkCk,n-k ||

Ik .
,
, , .
k,n-k
r(). Ik r()
() g(x).
Ik.
g(x)
. - r()
n k 1,
, r() -k 1.
k .
36. (15,11)
g(x) = 4 + 3 + 1.
,

,
(n, k)-. ,
. .

4.10.8

.
, .
, , k = 5,
, ,
8.
, n= 15.
11 .
, (n, k) - j
.
,
.
(n-j, k-j)- .
, (n, k)-, .
(n, k)- j
, . , (9,5),
(15,11),

4.11
4.11.1


, ,
.

. ,
.
, 1, . 0,
. ,
, , , .

,
.

. 4.9.
. 4.9 , (,
)
a(x) = a0 + a1x + + ak-1xk-1
(, )
g(x) = g0 + g1x + + gn-kxn-k.

a(x)g(x)=a0g0 + (a0g1 + a1g0)x + +(ak-2gn-k + ak-1gn-k-1)xn-2 +ak-1gn-kxn-1
,
n-k .
k-1 ()
,
ak-1gn-k

ak-2gn-k + ak-1gn-k-1 ,
.. , . . n- , ,
0g0

(. 4.10).
. 4.11 , ,

a(x)xm = a0 + a1x + + an-1xn-1


(, )
g(x) = g0 + g1x + + gn-kxn-k
g(x).
g(x), .
,

, (
0).

. 4.10.

. 4.11.
n-k - ,
.
, ,
, - .
, .
,
, .
-.
, . .
, - m
= n-k, , ,
m- .
.
37. () =(x3+1)x3
g(x) = 3+ 2+1. . 4.12, 1, 2, 3- .
. 4.16.

. 4.12.
.

. .
,
. 4.10, 4.11,
: - - ,

n - k .
4.11.2

,
,
.
4.16.

6
7

10

11

12

13

14

() g(x).
, n-k (. 4.13).

. 4.13.
,
n-k , .
.

1 1.
, , k .
K1 2 .
38. () = (3 + 1)x3 g(x) = x3 +
2+ 1 k .

g(x) . 4.14.
. 4.17,
, .

, . .
. k-
(. 4.15).

. 4.14.
4.17.

01

001

1001

01001

101001

1101001



h(x) = (xn + 1)/g(x) = h0 + h1x + + hkxk
1 1. k
.
2.

,
. n-k
K1 1.
k
.
39.
g(x) = x3 + x2 + 1 (x) = x3 + 1.
:
h( x ) =

x7 + 1
= x4 + x3 + x2 + 1
x3 + x2 + 1

. 4.15.

. 4.16.
h(x) . 4.16.
. 4.18.
.
4.11.3

,
.
.
,
f(x),
, g0(x).
, .
4.18.

6
7

1
01
001
1001
01001
101001
1101001

. 4.17.
, ,
.
.
( ),
. ( ),

. .
, , , , .
. 4.17.
, , , , ,
n- , n
,
. (n + 1)-
.
,
(). ,
, - ,
, ( ),
,

. 1,
, , .
1
.
, ,
. , .
.
, ,
. ,
, , 2n .
.
, .
,
,
. g0(x)
, g0(x)
. , n- ,
.
( ).

, .

, n (. . 4.11), , k
(. 4.13). k
() n- ,
(), (x). ,
, .
40.
(7,4) g(x) = 3 + 2 + 1
n k .

n :

,
110,
-.
. 4.18 . . 4.19
, 1001011 (.
. 4.18) 4-
(1000011).
n ( 7) II
101.

. 4.18.
4.19.

II

10

01

11

001

12

1001

13

01001

14

101001
1101001


, II .
10- ,
.
, .
II (
). k
n- .

. 4.19.

4.20.

10

11

12

13

14


II
1
01
001
1001
01001
101001
1101001

100
-. . 4.19
. . 4.20
1000011 ( 4- ). ,
k ,

, .
41.
. (7,3) g(x) = (
+ 1)(x3 + x2+1).

k ,
:


. . 4.20.
1000010 4- 5-
. 4.21. 9- II
1100. -
, 5-
II,
4 (1000). 11- -
, .
4- II.

. 4.20.
4.21.

10

11

12

13

14


II
1
01
101
1101
11101
011101
0011101


.. .
. .: , 1989 320 .