Backpropagation

Metode Jaringan Saraf Tiruan :

BACKPROPAGATION (PROPAGASI BALIK)

¾ Penemu :
- Bryson dan Ho (1969)
- Paul Werbos (1974)
- David E. Rumelhart, Geoffrey E. Hinton, Richard J. Williams ( 1986)

¾ Konsep Dasar
- Arsitektur : Multilayer
- Metode Pembelajaran : Supervised (Terawasi)
- Fungsi Aktivasi : Sigmoid, Transig, Purelin
- Secara umum pelatihan sebuah jaringan backpropagation terdiri dari 3
langkah :
1. Pelatihan pola input secara feedforward
2. Perhitungan dan Propagasi Balik dari kumpulah kesalahan (error/galat)
3. Penyesuaian bobot

Input signals
1
x1 1 y1
1
2
x2 2 y2
2

i wij j wjk
xi k yk

m
n l yl
xn
Input Hidden Output
layer layer layer

Error signals

1
Backpropagation

ALGORITMA BACKPROPAGATION

Langkah 1 : Inisialisasi bobot dengan bilangan nilai acak kecil

Langkah 2 : Selama kondisi berhenti salah, kerjakan langkah 3 s.d. 8

Umpan Maju (Feedforward)

Langkah 3 : Tiap unit masukan (xi, i=1,…..,n) menerima isyarat masukan xi dan diterus-
kan ke unit-unit tersembunyi (hidden layer)

Langkah 4 : Tiap unit tersembunyi (zj , z=1,….,p) menjumlahkan bobot sinyal input.
n
Z _ in jk = v 0 j + ∑ xi vij
i =1
dengan menerpakan fungsi aktivasi hitung :
Z j = f ( Z _ in j )
misal, fungsi aktivasi yang digunakan adalah sigmoid :
1
y = f ( x) =
1 + e− x
dan mengirimkan isyarat ini ke semua unit pada unit keluaran

Langkah 5 : Tiap unit keluaran (yk, k=1,…..,m) menjumlahkan isyarat masukan berbobot
p
Y _ ink = w0 j + ∑ z j v jk
k =1
dengan menerpakan fungsi aktivasi hitung :
Y j = f (Y _ ink )

Perambatan Galat Mundur (Backpropagation)

Langkah 6 : Tiap unit keluaran (yk, k=1,…..,m) menerima pola pelatihan masukannya.
Hitung galat (error) informasinya :
δ k = (tk − yk ) f ' ( y _ ink )
Hitung koreksi bobot dan biasnya :
∆w jk = αδ k x j
∆w0 k = αδ k

Langkah 7 : Tiap unit tersembunyi (zj , z=1,….,p) menjumlahkan delta masukannya (dari
unit-unit yang berada pada lapisan atasanya).
m
δ _ in j = ∑ δ k w jk
k =1

2
Backpropagation

Hitung galat (error) informasinya :

δ j = δ _ in j f ( x _ in j )
Hitung koreksi bobot dan biasnya :
∆vij = αδ j xi

Perbaiki bobot dan bias

Langkah 8 : Tiap unit keluaran (yk, k=1,..,m) memperbaharui bobot dan bias ( j=0,1,..p)
w jk (baru ) = w jk (lama ) + ∆w jk
Tiap unit tersembunyi (zj, z=1,.,p) memperbaharui bobot dan biasnya
(i=0,1,..n)
vij (baru ) = vij (lama) + ∆vij

Langkah 9 : Uji syarat berhenti