SVEUILITE/UNIVERZITET VITEZ TRAVNIK

FAKULTET POSLOVNE INFORMATIKE

STUDIJ I CIKLUSA; GODINA STUDIJA: I CIKLUS: II GODINA
SMIJER: INFORMACJISKE TEHNOLOGIJE

Osnovne karakteristike Ekspertnih sistema

SEMINARSKI RAD

Travnik, April 2013. godine

SVEUILITE/UNIVERZITET VITEZ TRAVNIK

FAKULTET POSLOVNE INFORMATIKE
STUDIJ I CIKLUSA; GODINA STUDIJA: I CIKLUS: III GODINA
SMIJER: INFORMACJISKE TEHNOLOGIJE

Osnovne karakteristike Ekspertnih sistema

SEMINARSKI RAD

IZJAVA:
Ja, xxxxxx, student Sveuilita/Univerziteta VITEZ Travnik, Index broj:
xxxxx, odgovorno i uz moralnu i akademsku odgovornost
izjavljujem da sam ovaj rad izradio potpuno samostalno uz koritenje citirane
literature i pomo asistenta odnosno profesora.

Predmet: EKSPERTNI SISTEMI

Profesor: prof. dr. Lazo Rolji
Asistent: Mr. sc. Hadib Salki
Student: xxxxxxx
Smjer: IT
Broj indeksa: xxxxx

SADRAJ
1

1. UVOD...................................................................................................... 1
1.1. PROBLEM, PREDMET I OBJEKAT ISTRAIVANJA................................1
1.2. SVRHA I CILJEVI ISTRAIVANJA........................................................1
1.3. HIPOTEZA.......................................................................................... 1
1.4. METODOLOGIJA................................................................................1
2. UOPTENO O EKSPERTNIM SISTEMIMA..................................................2
2.1. ZATO KORISTITI EKSPERTNE SISTEME............................................2
2.2. POELJNE OSOBINE EKSPERTNIH SISTEMA......................................3
3. OSNOVNE OSOBINE EKSPERTNIH SISTEMA.............................................4
4. PROCES ZAKLJUIVANJA........................................................................5
4.1. ZAKLJUIVANJE PREMA NAPRIJED...................................................6
4.2. ZAKLJUIVANJE PREMA NATRAG......................................................6
5. INENJERSTVO ZNANJA..........................................................................7
5.1. PROGRAMIRANJE NASPRAM INENJERSTVA ZNANJA.......................8
6. PRIMJENE EKSPERTNIH SISTEMA...........................................................9
7. ZAKLJUAK............................................................................................ 9
8. LITERATURA......................................................................................... 11

1. UVOD
1.1. PROBLEM, PREDMET I OBJEKAT ISTRAIVANJA
Ekspertni sistemi su raunarski programi, oni sadre odreena specifina znanja iz
jednog ili vie odreenih podruja znanosti. Takvi programi su komercijalizirani kroz
80-e godine prolog stoljea, a razvili su ih znanstvenici u podruju umjetne
inteligencije u 60-im i 70-im.
Najei oblik ekspertnih sistema sastoji se od seta pravila po kojima se analiziraju
informacije o specifinoj vrsti problema, ali i pruanja matematike analize
problema. Ovisno o njihovoj

izvedbi, pruaju korisniku odreene povratne

informacije koje je potrebno poduzeti da bi se rijeio zadani problem.

Ekspertni sistemi najvie pomau kod organizacija koje imaju visok nivo iskustva i
znanja u direktnom i pravilnom rjeavanju problema koje je teko prenijeti na druge
lanove te iste organizacije ili na nekog treeg. Takvi su sistemi dizajnirani za lake
prenoenje inteligencije, znanja i informacija koje posjeduju strunjaci prema
drugim lanovima organizacije u svrhu rjeavanja problema. Oni mogu nai
priblino rjeenje problema ak i kada podaci o problemu nisu potpuni te mogu
objasniti nain na koji su doli do predloenog rjeenja.
Predmet rada je opis i opti prikaz koncepta i osnovne karakteristike ekspertnih
sistema.
U radu se mogu uoiti slijedei objekti istraivanja: osobine ekspertnih sistema,
procesi zakljuivanja i t.d.
1.2. SVRHA I CILJEVI ISTRAIVANJA
Osnovni cilj seminarskog rada je da se pokae osnovni koncept nastanka,
rada i osnovne osobine ekspertnih sistema
1.3. HIPOTEZA
Na temelju problema i predmeta istraivanja postavlja se hipoteza:
Ekspertni sistemi su odgovarajui alat za zamjenu i pomo eksperta u
organizacijama i uvelike pomau poveanju brzine rada i pouzdanosti rjeavanja
problema.
1.4. METODOLOGIJA
Metode koje e biti koritene u radu:
2

Deskriptivna metoda

Metoda posmatranja

Induktivna i deduktivna metoda

2. UOPTENO O EKSPERTNIM SISTEMIMA

Sistemi bazirani na znanju (knowledge-based systems) ili ekspertni sistemi
stavljaju naglasak na znanje (bazu znanja) pre nego na nain pretraivanja i
zakljuivanja. Uoptene metode zakljuivanja i sistemi ija oblast nije dovoljno
specifcirana se pokazuju nedovoljno sposobnim za mnoge realne probleme (i njihovo
rjeavanje u realnom vremenu). Ekspert je osoba koja izuzetno dobro poznaje neku
oblast ljudskog znanja kao i naine rjeavanja problema vezanih za tu oblast. Po
defniciji ekspertni sistem je program koji je projektovan da modelira sposobnosti
rjeavanja problema ljudskog eksperta u nekoj oblasti. Dvije stvari se prije svega
modeliraju u ekspertnom sistemu (ES): znanje eksperta i njegovo zakljuivanje. Zato
se ES sastoji iz baze znanja i maine zakljuivanja (inference engine). Znanje koje
nam ekspert prua moe se predstavljati injenicama, pravilima, konceptima ili
relacijama. Nain i problem njegovog predstavljanja jeste reprezentovanje znanja,
dok nain i problem zakljuivanja na osnovu baze znanja i zadatih upita je pitanje
tehnika zakljuivanja. Ekspert je esto veoma neophodna osoba u mnogim
organizacijama, i postavlja se onda pitanje zato ga zamenjivati mainom? Prije
svega, donekle slino zamjeni nekih ljudi i njihovih poslova mainom tokom
industrijske revolucije, ekspertni sistem moe biti koristan kao pomo kada ovjek
nije raspoloiv, ili prosto kao alat koji olakava posao i omoguava automatizaciju
nekih postu paka, radi sa veim stepenom formalizma koji iskljuuje mogunost
greke ili slabosti zbog ljudskog faktora i sl. Postoji i jedna dodatna prednost znanjem kao optim dobrom ili kapitalom neke organizacije se lake upravlja, lake
se prenosi i primenjuje jer ne zavisi u toj meri od pojedinca-eksperta ako se koristi
ekspertni sistem. Gotovo da nema oblasti ljudskih djelatnosti gjde nije napravljen
neki ES i uspjeno primjenjivan i njihov broj geometrijski raste.
2.1. ZATO KORISTITI EKSPERTNE SISTEME
Prije nego se odluimo za izgradnju ili koritenje gotovog ekspertnog sistema
potrebno je ispitati jesu li ekspertni sistemi odgovarajui alat za problem koji
3

rjeavamo, odnosno podruje u kojem radimo. Odgovor e ovisiti o nekoliko

razliitih imbenika.
Prvo, ekspertni sistem se ne isplati uvoditi ukoliko postoji dovoljno ekspetata
u nekom podruju. Da bi se ekspertni sistemi mogli izgraditi, potrebni su eksperti
koji ele suraivati i staviti svoje znanje na raspolaganje drugima. Ekspertni sistemi
najprikladniji su za situacije u kojima nema uinkovitog algoritamskog rjeenja, a
takve vrste problema nazivaju se slabo struktuirani problemi. Da bi imalo smisla
kreirati ekspertne sisteme potrebno je imati dobro definirano znanje i opis eljene
funkcionalnosti ekspertnog sistema. Ako je znanje utemaljeno na iskustvu, osnosno
nesigurno i slabo struktuirano, tada su ekspertni sistemi prikladan alat za rjeavanje
problema.
2.2. POELJNE OSOBINE EKSPERTNIH SISTEMA
Ekspertni sistemi imaju vie poeljnih osobina, od kojih veina predstavlja
prednost pred ljudima ekspertima. Oni su znatno dostupniji od eksperata jer se mogu
koristiti na bilo kojoj lokaciji i u bilo koje doba dana ili noi. To je vrlo vano jer
eksperata nedostaje u mnogim podrujima ljudske aktivnosti i na mnogo geografskih
lokacija. Ekspertni sistemi su takoer znatno jeftiniji od eksperata.
Ekspertni sistemi imaju i poveanu pouzdanost jer ne zaboravljaju i ne prave
greke zbog umora. Stoga njihova rjeenja esto slue i kao potvrda miljenja
ovjeka eksperta, ime ekspertni sistemi takoer doprinose pouzdanosti odluka. To
su sistemi koji imaju mogunost brze reakcije na nastali problem (npr. u sluaju
opasnosti). Ekspertni sistemi daju detaljni opis postupka zakljuivanja koje je dovelo
do dobivenog rezultata.

Baza injenica

Baza znanja

3. OSNOVNE OSOBINE EKSPERTNIH SISTEMA

Korisnik
Mehanizam zakljuivanja

Korisniko suelje

Slika 1 - Model rada ekspertnog sistema

Na dijagramu iznad je prikazan odnos i poredenje modela rada jednog ljudskog eksperta i strukture ekspertnog sistema. Osnovna struktura ekspertnog sistema
se tako sastoji iz osnovnih komponenti: baze znanja, radne memo- rije (koja se menja
tokom sesije u radu sa ES dobijenim novim cinjenicama i zakljuccima) i masine
zakljucivanja (procesor koji povezuje cinjenice iz baze znanja sa dobijenim
zakljuccima i cinjenicama iz radne memorije i izvlaci nove zakljucke o problemu).
Pored ovih osnovnih komponenti postoje do- datno i neke osnovne osobine
ekspertnih sistema:

objanjenja (kako, zato) - u svakom trenutku u toku sesije sa ES

moe se dobiti objanjenje kako je dosao do nekog zakljuka ili
pitanja (ugraeno u sve komponente)

interfejs (prema korisniku) - esto se trai komunikacija prirodnim

jezikom kroz interaktivni dijalog s korisnikom (mada mogu biti
zastupljeni i multimedijalni i drugi sadraji i vidovi komunikacije to
zavisi od prirode same oblasti i namjene ES)
5

razdvojeno znanje od kontrole - veoma vana karakteristika ES

nasuprot klasinim proceduralnim programima gdje se upravljaka
kontrola u programu mijea sa raspoloivim znanjem (kontrola tj.
zakljuivanje kod ES se moe mjenjati nezavisno od baze znanja)

posjeduje bazu znanja - baza znanja koja potie prije svega od

ljudksih eksperata, gdje se pod ekspertizom podrazumjeva sposobnost
efikasnog rjeavanja problema u nekoj oblasti

naglasak na ekspertizi - svako irenje oblasti znanja obavezno nosi

rizik da ES postane neefkasan i nepotrebno sloen (bilo je pokuaja
ogranienog uspjeha, GPS ili Ham 1984.) - uvjek je lake rjeavati
problem kroz potprobleme odnosno probleme u podoblastima

koristi simbole (injenice, koncepte, pravila) predstavljanje

znanja u razliitim strukturama (od deklarativnih oblika kao to je
prirodni jezik do potpuno proceduralnih) ini ES obraivaima znanja
nasuprot

konvencionalnim

proceduralnim

programima

kao

procesorima podataka

zakljuivanje heuristikama - da bi mogao da efkasno zakljuuje

mora da vodi rauna o najboljem nainu rjeavanje problema ne samo
kroz algoritme pretraivanja s heuristikama, nekakvim poznatim
preama

esto se koristi neegzaktno zakljuivanje - zakljuivanje sa

vjerovatnoom, mogunostima ili uverenjima

ogranienje na probleme koji su rijeivi ekspertnim sistemom - ne

treba oekivati nemogue ...

borba sa kompleksnou - rjeavanje veoma jednostavninh problema

ES se jo i moe opravdati, ali ako je problem previe kompleksan
nemoe se opravdati predugako vrijeme potrebno za njegovo
rjeavanje

moe napraviti greku - kao i pravi (ljudski) ekspert

4. PROCES ZAKLJUIVANJA
Ekspertni sistemi rjeavaju postavljene probleme koritenem znanja i
podataka o stanju problema pohranjenih u bazi znanja i bazi injenica. Proces
6

zaljuivanja moe tei u u jednom od dvaju smjerova; od injenica prema zakljuku

(zaljucima) ili od postavljene hipoeze (cilja) prema injenicama.
Ta dva osnovna tipa zakljuivanja su:

Zakljuivanje prema naprijed i

Zakljuivanje prema natrag

4.1. ZAKLJUIVANJE PREMA NAPRIJED

Zakljuivanje prema naprijed kree od injenica o poetnom stanju problema
(npr. simptoma kvara stroja), preko pravila koja te injenice aktiviraju, pa do
zavrnog stanja problema (npr. otklanjanja kvara stroja). Ono se moe upotrijebiti za
dokazivanje jednog cilja koji je unaprijed postavljen (npr. neke pretpostavljene
bolesti) i za pronaenje svih moguih zakljuaka koji proistjeu iz poznatih injenica
(npr.otkrivanja vie bolesti koje pacijent ima).
Ako se tijekom procesa zakljuivanja dokae istinitost svih svih uvjeta nekog
pravila, tada je dokazan i zakljuak tog pravila koji se dodaje bazi injenica. Pritom
se uvjet pravila moe dokazati ako se uspjeno podudara s nekim injenicama iz baze
injenica. Novostvorene injenice (zakljuci dokazanih pravila) mogu nadalje i same
omoguiti aktiviranje nekih drugih pravila i time postii dodavanje njihovih
zakljuaka bazi znanja. Ovaj proces zavrava kada se dokae da je postavljeni cilj ili
kada se pronau svi zakljuci koji slijede iz danih injenica.
Ukoliko se tijekom procesa zakljuivanja pokae da se u jednom trenutku
moe dokazati vie od jednog pravila, tada se izbor pravila koje e se prvo aktivirati
rjeava tzv. Strategijama rjeavanja konflikta.
Nekoliko moguih strategija rjeavanja konflikta:
a) Izabire se samo prvo pravilo po redoslijedu iz baze znanja koje se
podudara s injenicama iz baze injenica
b) Izabire se najspecifinije pravilo koje se podudara s injenicama, pri
emu je najspecifinije pravilo ono ija se pretpostavka sastoji od
najveeg broja uvjeta
c) Izabire se pravilo koje se podudara sa injenicama koje su najsvjeije
dodane bazi injenica
4.2. ZAKLJUIVANJE PREMA NATRAG
7

Zakljuivanje prema natrag kree se od postavljene hipoteze (cilja) o rjeenju

problema (npr. pretpostavljenog razloga za kvar stroja), preko pravila koja ta
hipoteza aktivira, pa sve do injenica koje potvruju istinitost hipoteze (npr.
simptoma kvara stroja).
Cilj se uzima kao hipoteza koja se pokuava dokazati, i to tako da se dokau
pretpostavke onog pravila koje u zakljuku imaju zadani cilj. Te pretpostavke postaju
podciljevi koje treba dokazati kako bi se dokazao originalno postavljani cilj.
Podciljevi se dokazuju na isti nain kao i zadani cilj, tako da se pokuavaju dokazati
njihove pretpostavke. Proces zakljuivanja zavrava kada se dokae postavljeni cilj
ili ekspertni sistem iscrpi sve mogunosti dokazivanja cilja, a da ga nije uspio
dokazati.
Postupak dokazivanja istinitosti cilja moe ukljuivati i vezivanje varijabli,
to se dogaa u sluaju openitih pravila koje sadre varijable. Ukoliko je za jedno
vezivanje varijable cilj ne moe dokazati tada se izvodi povratak po tragu na akciju
kojom je to vazivanje varijable bilo napravljeno. To vezivanje varijable se ponitava i
pokuava se s drugaijim vezivanjem. Ako ni jedno vezivanje varijable ne vodi
dokazivanju cilja, tada se trai drugo pravilo kojim se cilj pokuava dokazati.

5. INENJERSTVO ZNANJA
Ininjerstvo znanja je proces izgradnje inteligentnih sistema koji ukljuuje
prikupljanje znanja od eksperata i iz drugih izvora, te kodiranje tog znanja za potrebe
inteligentnog sistema.
Slian postupak se korist pri razvoju informacijskih sistema. Jedan od
najvanijih postupaka u razvoju ekspertnih sistema je prikupljanje znanja koje e se
ugraditi u ekspertni sistem. To je znanje koje se koristi u rjeavanju problema, i koje
u pravilu nije strukturirano i sistematizirano, ve se najee nalazi u glavama
eksperata i u njihovim neformalnim biljekama.
Znanje se tradicionalno prikuplja dugim intervjuima koje ininjer znanja vodi
s ekspertom. To je vrlo neuinkovit proces kojim se dnevno generira svega izmeu tri
do pet pravila. Razlozi neuinkovitosti su prvenstveno problemi u prevoenju jezika
eksperata u jezik koji je svima razumljiv, te problemi pravoenja znanja koje koriste
eksperti u matematike ili druge formalne oblike modela.
Neuinkovitost intervjua potaknula je razvoj alternativnih naina prikupljanja
znanja, od kojih su najpoznatiji automatizirano prikupljanje znanja, koje se izvodi na
8

temelju dijaloga izmeu eksperata i raunala i strojno uenje u kojem ekspertni

sistemi analiziraju primjere koji su im zadani i iz njih izvlae znanje.
5.1. PROGRAMIRANJE NASPRAM INENJERSTVA ZNANJA
Konvencionalno programiranje ima dobro poznate i prouene metode razvoja
i odvija se sekvencijalno (iterativno), grubo reeno u tri faze redom (ivotni ciklus):
projektovanje, kodiranje i provjera / otklanjanje greaka (debug). Konvencionalni
program je zavren tek nakon prolaska kroz sve tri faze do posljednje. Inenjerstvo
znanja u odnosu na konvencionalno programiranje nema jo uvjek tako dobro
ustanovljene metodologije razvoja. Ovde nije naglasak na obradi podataka
(algoritmom, programom) ve na oblikovanju (baze) znanja deklarativnoproceduralna kontroverza: kontrolna struktura ES kod kojih je naglasak na
deklarativnom znanju je potpuno odvojena od podataka za razliku od proceduralnih
programa, paradigma deklarativnih jezika naspram proceduralnih, i sl.. Grubo
reeno, faze razvoja su:
Faza procjene: Tokom ove faze se identifikuju vani problemi, izvodivost
njihovog rjeenja u odnosu na ciljeve, i drugi vani inioci projekta kaoto su ciljevi,
oblast i potrebni resursi - podaci i ljudi (eksperti). Tako se formiraju osnovni zahtjevi
projekta.

Faza prikupljanja znanja: Znanje se obino preuzima od eksperta,

organizuje i prouava kako radi boljeg uvida u problem, tako i zbog
potreba daljeg razvoja. Moe biti usko grlo projekta i zato se smatra
vanom fazom.

Faza projektovanja: Definiu se ukupna struktura i organizacija

znanja sistema, metodi obrade znanja - bira se (npr.) alat kojim se
znanje predstavlja i obrauje (nain zakljuivanja u upravljanja
znanjem) tako da bude sto sliniji ljudskom ekspertu.

Faza testiranja: Ova faza se esto odvija zapravo tokom svih

prethodnih faza, i nakon nje se po potrebi iterativno vraa na neku od
prethodnih.

Faza dokumentacije: Specifinost u odnosu na konvencionalnu

dokumentaciju je rjenik znanja - daje inenjeru uvid u organizovano
predstavljeno znanje i procedure rijeavanja sistema.

Faza odravanja: ES je po pravilu sistem koji zivi jer se baza znanja

mijenja vremenom.

6. PRIMJENE EKSPERTNIH SISTEMA

Ekspertni sistemi mogu se koristiti na vie naina.
Dijagnoza oznaava zakljuivanje pomou ekspertnih sistema o uzrocima
pogrenog funkcioniranja sistema.
Otklanjanje kvara trai nain na koji se sistem moe dovesti u
zadovoljavajue stanje.
Predvianje se odnosi na zakljuivanje o posljedicama odreenih stanja u
sistemu i njegovoj okolini.
Oblikovanje oznaava konfiguriranje sistema unutar zadanih ogranienja.
Neke od primjena ekspertnih sistema u poslovanju su u podrujima procjene
rizika u osiguranju, davanja financijskih savjeta o projektima, proizvodima te
spajanjima i akvizicijama tvrtki, pomaganje menaderima portfelja da odrede ciljeve
investiranja svojih klijenata i izabiru portfelje koji najbolje realiziraju te ciljeve, ili
davanja savjeta pri izraunavanju poreza.
Jedna od tipinih poslovnih primjena ekspertnih sistema je pomo pri
odobravanju kredita na prodajnim mjestima s ciljem da se minimaliziraju gubici kod
davanja kredita te onemogue zloupotrebe kreditinih kartica. U tu svtrhu ekspertni
sistem ispituje ima li vlasnik kartice uvjete za dobivanje kredita, plaa li redovito
svoje raune te je li nabava u okviru njegove tipine srtukture i dinamike troenja.
Ekspertni sistemi primjenjuju se i u mnogim drugim podrujima. Tako su npr.
vrlo uspjeni ekspertni sistemi koji odreuju konfiguraciju sloenih raunarskih
sistema ili oni koji otkrivaju nalazita rudaa na temelju zranih snimaka. Ekspertni
sistemi pokazali su se uspjenima i kod prognoziranja vremena, u automatskim
alarmnim sistemima ili detekciji kvarova u telefonskim mreama.

7. ZAKLJUAK

10

Ekspertni sistemi su raunarski programi, vrsta inteligentnih sistema.

Komercijalizirani su kroz 80-e godine prolog stoljea, a razvili su ih znanstvenici u
podruju umjetne inteligencije u 60-im i 70-im. Koriste prikaz ljudskog znanja u
simbolikom obliku. Mogu nai priblino rjeenje problema ak i kada podaci o
problemu nisu potpuni i mogu objasniti nain na koji su doli do predloenog
rjeenja.
Oslanjaju se na znanje i spadaju u sisteme potpore odluivanja. Najprikladniji
su za situacije u kojima nema uinkovitog algoritamskog rjeenja. Imaju prednost
pred ljudima ekspertima. Ekspertni sistemi su znatno dostupniji i znatno jeftiniji od
eksperata.Njihova pouzdanost je poveana zato to ne zaboravljaju i ne prave greke
zbog umora i imaju mogunost brze reakcije na nastali problem.
Struktura ekspertnih sistema se sastoji od baze injenica, baze znanja,
mehanizma zakljuivanja i korisnikog suelja.
Proces zakljuivanja moe tei u u jednom od dvaju smjerova; od injenica
prema zakljuku (zaljucima) - zakljuivanje prema naprijed, i od postavljene
hipoeze (cilja) prema injenicama- zakljuivanje prema nazad.
U ekspertnim sistemima kod postupka zakljuivanja s nepouzdanim zanjem,
moraju pokuati dokazati sva pravila koja se podudaraju s ciljem.
Ininjerstvo znanja je proces izgradnje inteligentnih sistema koji ukljuuje
prikupljanje znanja od eksperata i iz drugih izvora, te kodiranje tog znanja za potrebe
inteligentnog sistema.
Najvaniji postupak u razvoju ekspertnih sistema je prikupljanje znanja (koje
se koristi u rjeavanju problema) koje e se ugraditi u ekspertni sistem. Znanje se
tradicionalno prikuplja dugim intervjuima koji su neuinkoviti pa je to potaknulo
razvoj alternativnih naina prikupljanja znanja, od kojih su najpoznatiji
automatizirano prikupljanje znanja.
Mogu se koristiti na vie naina, a to su dijagnoza, otklanjanje, predvianje i
oblikovanje. Jedna od tipinih poslovnih primjena ekspertnih sistema je pomo pri
odobravanju kredita na prodajnim mjestima s ciljem da se minimaliziraju gubici kod
davanja kredita te onemogue zloupotrebe kreditinih kartica. Pokazali su se
uspjenima i kod prognoziranja vremena, u automatskim alarmnim sistemima ili
detekciji kvarova u telefonskim mreama.

11

Kroz rad smo pokazali da su ekspertni sistemi odgovarajui alat za zamjenu i

pomo eksperta u organizacijama i uvelike pomau poveanju brzine rada i
pouzdanosti rjeavanja problema ime smo dokazali hipotezu.

8. LITERATURA
Knjige:
John Durkin: Expert Systems - Design and Development
Jean-Louis Lauriere: Problem-Solving and Artificial Intelligence
Web
http://hr.wikipedia.org/wiki/Ekspertni_sustavi
http://www.slideshare.net/krunoris/ekspertni-sustavi
http://www.znanje.org/knjige/computer/access/access_01/EKSPERTNI
%20SISTEMI.htm

12