Hidden Markov Model

Forward Algoritmas
Viterbi Algoritmas

Do.Dr.Banu Diri

Rasgele Olmayan /Gerekirci Model

Bir trafik lambas dnelim; klarn srasyla red - red/amber -

green - amber - red. Bu sralama bir durum makinesi ile
grntlensin ve trafik nn her farkl durumu birbirini takip
etsin.
red red-amber green amber

Herbir durum sadece bir ceki duruma baldr, yleki eer k yeil
ise onu izleyen renk amber olacaktr. nk sistem deterministik. Bu
tip sistemlerde bir durumdan dier bir duruma geii anlamak ve
analiz etmek kolaydr.
Slide 1

1
Rasgele Olmayan /Gerekirci Model

Bir trafik lambas dnelim; klarn srasyla red - red/amber -

green - amber - red. Bu sralama bir durum makinesi ile
grntlensin ve trafik nn her farkl durumu birbirini takip
etsin.
red red-amber green amber

Herbir durum sadece bir ceki duruma baldr, yleki eer k yeil
ise onu izleyen renk amber olacaktr. nk sistem deterministik. Bu
tip sistemlerde bir durumdan dier bir duruma geii anlamak ve
analiz etmek kolaydr.
Slide 2

Rasgele Olmayan /Gerekirci Model

Bir trafik lambas dnelim; klarn srasyla red - red/amber -

green - amber - red. Bu sralama bir durum makinesi ile
grntlensin ve trafik nn her farkl durumu birbirini takip
etsin.

red red-amber green amber

Herbir durum sadece bir ceki duruma baldr, yleki eer k yeil
ise onu izleyen renk amber olacaktr. nk sistem deterministik. Bu
tip sistemlerde bir durumdan dier bir duruma geii anlamak ve
analiz etmek kolaydr.
Slide 3

2
Rasgele Olmayan /Gerekirci Model

Bir trafik lambas dnelim; klarn srasyla red - red/amber -

green - amber - red. Bu sralama bir durum makinesi ile
grntlensin ve trafik nn her farkl durumu birbirini takip
etsin.
red red-amber green amber

Herbir durum sadece bir ceki duruma baldr, yleki eer k yeil
ise onu izleyen renk amber olacaktr. nk sistem deterministik. Bu
tip sistemlerde bir durumdan dier bir duruma geii anlamak ve
analiz etmek kolaydr.
Slide 4

Rasgele Olmayan /Gerekirci Model

Bir trafik lambas dnelim; klarn srasyla red - red/amber -

green - amber - red. Bu sralama bir durum makinesi ile
grntlensin ve trafik nn her farkl durumu birbirini takip
etsin.
red red-amber green amber

Herbir durum sadece bir nceki duruma baldr, yleki eer k yeil
ise onu izleyen renk amber olacaktr. nk sistem deterministik. Bu
tip sistemlerde bir durumdan dier bir duruma geii anlamak ve
analiz etmek kolaydr.
Slide 5

3
 Rasgele Olan /Gerekirci Olmayan Model
Markov modelde bir durumdan dier bir duruma gei nceki n
duruma bal olarak gerekletirilir. Bu ilem order n model olarak
adlandrlr, n deeri gelecek durumun seiminde etkili olan durum
saysdr. N basit Markov model first order (n=1) modeldir.
Gerekirci modele benzemez, nk burada durumlarn olaslklar
szkonusudur.

0.25
0.5

ilk olaslklar

vektr

M adet durum (state) varsa maksimum M2 adet balant (transition)

olabilir. Bu balantlarn olaslklar da Transition Matrix ile verilir.
Slide 6

First order Markov process :

states : 3 durum - sunny, cloudy, rainy.

vector (): 0 annda herbir statein olasl
state transition matrix : Verilen bir nceki gne gre
havann ne olabileceinin olasl

Slide 7

4
HMM kullanan uygulamalar

NLP
Part-of-speech tagging
Word segmentation
Information extraction
Optical Character Recognition (OCR)
Speech recognition
Modeling acoustics
Computer Vision
gesture recognition
Biology
Gene finding
Protein structure prediction
Economics, Climatology, Communications, Robotics

Slide 8

Sakl Markov Model (Hidden Markov Model)

Markov modelden farkl olarak Sakl Markov Modelde sistemin

herhangi bir t annda, hangi durumda olduu bilinmez, ancak sistem
bir durumda iken bu durumun tetikledii gzlemi ortaya karr.

(outputs)

Slide 9

5
 Sakl Markov model (HMM) bir ldr ( ,A, B)

Statelerin balang durumlar;

state transition matrix;

confusion matrix;

HMM de problem vardr.

1. Gzlemlenen bir sekansn gerekleme olaslnn bulunmas

(Forward Algorithm).
2. Gzlemlere dayanarak sakl statelerin en muhtemel
sekansnn bulunmas (Viterbi Algorithm).
3. Gzlemlenen sekansn retilebilmesi iin model
parametrelerin belirlenmesi (Forward-Backward).
Slide 10

Forward Algorithm

Gzlemlenen bir sekansn olaslnn bulunmas

27 farkl
Pr(dry,damp,soggy | HMM) = Pr(dry,damp,soggy | sunny,sunny,sunny) +
durum,rainy) + . .
Pr(dry,damp,soggy | sunny,sunny ,cloudy) + Pr(dry,damp,soggy | sunny,sunny
. . Pr(dry,damp,soggy | rainy,rainy ,rainy)
Slide 11

6
 T uzunluunda gzlemlenen sekans
Intermediate probabilities ( 's) deeri t=1 deki btn stateler
iin hesaplanr.

t = 2, ..., T her adm iin her statein partial probability hesaplanr

Son olarak btn partial probabilityler toplanr ve verilen HMM iin

gzlemlenen sekansn olasl hesaplanr.

Slide 12

Hidden Observed Initial State

States
(weather) States Prob.( vector)
Sunny Dry
Sunny 0.63
Dryish
Cloudy Cloudy 0.17
Damp
Rainy Rainy 0.20
Soggy

State transition matrix (a' matrix) Confusion matrix (b' matrix)

Today Weather
Sunny Cloudy Rainy
Yesterday Weather

Sunny 0.5 0.25 0.250

Cloudy 0.375 0.125 0.375

Rainy 0.125 0.675 0.375

Slide 13

7
Slide 14

Slide 15

8
Slide 16

Slide 17

9
0.03092813

Slide 18

0.026640628

Slide 19

10
0.039965626

Slide 20

Slide 21

11
Olas Hidden State Sekansnn Bulunmas

Gzlemlenen sekans veren Hidden State sekanslarnn bulunmas

gerekir. Farkl pathler karlabilir ancak ama en iyi path
bulmaktr.

Maksimum olasl veren path aranr. Bunu iin partial probability

hesaplanr.

Slide 22

Viterbi Algoritmas

Slide 23

12
Viterbi Algorithm

Slide 24

Slide 25

13
Slide 26

Slide 27

14
 Delta = max ((0.37800002*0.5), (0.0425*0.375), (0.010000001*0.125)) * 0.15 = 0.028350003
Slide 28

Delta = max ((0.37800002*0.25), (0.0425*0.125), (0.010000001*0.675)) * 0.25 = 0.023625001

Slide 29

15
Delta = max ((0.37800002*0.25), (0.0425*0.375), (0.010000001*0.375)) * 0.35 = 0.033075
Slide 30

Slide 31

16
 Kaynaklar

http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/mai
n.html

Slide 32

17