REGRESI LINIER SEDERHANA

Tugas Mata Kuliah Analisis Regresi

Oleh Annis Kurnia Ramadhani (3115102296) Beni Adam (3115100122)

Pendidikan Matematika Reguler 2010 Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Negeri Jakarta 2013

A. PENDAHULUAN Sepanjang sejarah umat manusia, orang melakukan

penelitian tentang ada tidaknya hubungan antara dua hal, fenomena, kejadian atau lainnya. Dan ada tidaknya pengaruh antara satu kejadian dengan kejadian lainnya. Oleh karena itu, untuk mempermudah dalam melakukan perhitungan suatu kejadian maka digunakan korelasi dan regresi dalam ilmu statistika. Regresi merupakan salah satu analisis yang bertujuan untuk mengetetahui lain. pengaruh analisis suatu variabel terhadap yang variabel Dalam regresi, variabel

mempengaruhi disebut variabel/peubah bebas sedangkan variabel yang dipengaruhi disebut variabel/peubah terikat. A. TUJUAN Adapun tujuan dari pembuatan makalah ini yaitu: 1. Memberikan informasi dan wawasan mengenai apa itu regresi. 2. Mengetahui pengaruh suatu variabel terhadap variabel lain dalam analisis regresi 3. Memenuhi tugas mata kuliah Analisis Regresi yang diampu oleh Dra. Ratnaningsih, M.Si

B. URAIAN MATERI
1. Asumsi Model Regresi Linear Sederhana

Sering kali dalam praktek kita berhadapan dengan persoalan yang menyangkut sekelompok peubah bila diketahui bahwa diantara peubah tersebut terdapat suatu hubungan alamiah. Misalnya dalam industri diketahui bahwa kadar ter hasil suatu proses kimia berkaitan dengan temperature masukan. Mungkin perlu dikembangkan suatu metode peramalan, yaitu suatu cara kerja guna menaksir kadar ter untuk berbagai taraf temperature masukan yang didapat dari data percobaan. Untuk terdapat sepanjang contoh ini dan yang kebanyakan jelas perannya terapannya peubah proses

perbedaan

antara dalam

menyangkut

percobaan. Seringkali terdapat suatu peubah terikat yang tunggal atau yang disebut respon Y. Respon bergantung misalnya
1

pada ,
2

satu
3

atau

lebih

peubah

bebas,

,, k, yang galat pengukurannya

dapat diabaikan. Dalam makalah ini yang akan dibahas adalah regresi linear sederhana, yang hanya menyangkut satu peubah bebas. Nyatakanlah sampel acak ukuran n dengan himpunan . Bila diambil sampel

tambahan tepat sama dengan nilai harga akan berbeda-beda. Jadi

maka kita yakin harga

i

pada

pasangan terurut ( i, i) merupakan harga dari sebuah peubah acak Yi. Untuk mudahnya akan ditulis YIx dan ini menyatakan peubaha acak Y yang berkaitan dengan suatu nilai tetap x, dan nyatakan rataan dan variansinya masing-masing dengan YIX dan variansinya . Jelas,

bahwa bila

maka lambang YIxi menyatakan

peubah acak Yi dengan rataan YIX dan variansinya Istilah Regresi Linear berarti, bahwa rataan YIX berkaitan linear dengan linear populasi. YIX Koefisien . regresi dan merupakan dua dalam bentuk persamaan

parameter yang ditaksir dari data sampel. Bila taksiran kedua parameter itu masing-masing dinyatakan dengan dan regresi. maka YIX dapat ditaksir dengan dari bentuk

garis regresi berdasarkan sampel atau garis kecocokan

Dengan taksiran perpotongan Lambang

dan

masing-masing menyatakan dan tanjakannya. antara

dengan digunakan

sumbu untuk

membedakan

taksiran atau nilai prediksi yang diberikan oleh regresi sampel dan nilai amatan percobaan yang

sesungguhnya untuk suatu nilai . Dalam hal regresi linear sederhana, yaitu hanya terdapat peubah bebas dan satu peubah acak terikat Y, datanya dapat disajikan sebagai pasangan pengamatan . Akan menolong bila digunakan gagasan dari pasal sebelumnya untuk mendefinisikan setiap peubah acak I dengan suatu model statistika. Bila dimisalkan bahwa semua rataan terletak pada suatu garis lurus, maka setiap

dapat ditulis sederhana. I dengan galat acak

sebagai

model

regresi

linear

, , galat model, haruslah mempunyai ) dalam sampel

rataan nol. Setiap pengamatan ( memenuhi hubungan dengan nilai yang dicapai bila

mendapat nilai

Persamaan di atas dapat dipandang sebagai model untuk pengamatan tunggal . Demikian juga, dengan

menggunakan taksiran atau kecocokan garis regresi

Tiap pasangan pengamatan memenuhi , disebut galat sisa dan memberikan galat dalam kecocokan model pada titik data ke i.
2. Prosedur untuk Melakukan Estimasi Parameter

(Metode Kuadrat Kecil) Akan dicari dan , taksiran dan , sehingga jumlah

kuadrat sisa minimum. Jumlah kuadrat sisa sering pula disebut jumlah kuadrat galat terhadap garis regresi dan dinyatakan menaksir terkecil. dengan parameter Jika dan JKG. Cara peminimuman metode untuk dinamakan akan kuadrat akan

dicari

sehingga

meminimumkan

Bila J diturunkan terhadap

dan , maka diperoleh

Menaksir

koefisien

regresi

bila

diketahui

sampel dan

maka taksiran kuadrat terkecil :

dari koefisien regresi dan dihitung menggunakan rumus

Contoh soal
1. Tariklah garis regresi untuk data pencemaran pada tabel di

bawah ini ! Tabel 1 Penurunan zat pada (%) 3 7 11 15 18 27 29 Kebutuhan x oksigen kimiawi y(%) 5 11 21 16 16 28 27 Penurunan zat pada (%) 36 37 38 39 39 39 40 Kebutuhan x oksigen kimiawi y(%) 34 36 38 37 36 45 39

30 30 31 31 32 33 33 34 36 36 Jawab :

25 35 30 40 32 34 32 34 37 38

41 42 42 43 44 45 46 47 50

41 40 44 37 44 46 46 49 51

Dari tabel di atas diperoleh , ,

Jadi, taksiran regresinya adalah 3. Pengujian Hipotesis Parameter Regresi Uji model regresi sebaiknya dilakukan dengan dua macam, yaitu : a. Uji Serentak

Statistik uji yang dipakai untuk melakukan uji serentak ini adalah uji F. Uji F dikenal juga dengan uji Anova (Analysis Of Varians) yaitu uji untuk melihat bagaimanakah pengaruh semua variabel prediktornya secara bersamasama terhadap variabel terikatnya atau untuk menguji apakah model regresi yang kita buat baik (signifikan) atau tidak baik (non signifikan). Jika model signifikan maka model bisa digunakan untuk peramalan, sebaliknya jika non signifikan maka model regresi tidak bisa digunakan untuk peramalan. Uji serentak merupakan uji terhadap nilai-nilai koefisien regresi secara bersama-sama dengan hipotesa. Hipotesisnya sebagai berikut :
1.

H0 : 1 = 2 = ... = k = 0

H1 : j 0, j = 1,2,,k 2. Tentukan taraf nyata

3.

Daerah

kritik

penerimaan

Daerah kritik penolakan

: F0<

atau

F0 >

4. Uji Statistik

5. Kesimpulan fhitung f(v1,v2), H0 gagal tolak

fhitung > f(v1,v2), Ho ditolak

Tabel Analisis Ragam Regresi Linear Sumb er varian si

df

SS

MS

F hitung

Y Y

Y Y

Regre si

atau
X X

Atau

X X

2 ( X X )
2 Se

Galat

n-2

Y Y

2 e

Y Y = n 2

Total

n-1 Dimana:

Yi
i =1

1 n ( Y ) 2 n i =1

(Y Y )

= simpangan total simpangan regresi

Y ) (Y =

) (Y Y = simpangan residu

Uji F dapat dilakukan dengan membandingkan F hitung dengan F tabel, jika F hitung > dari F tabel, maka Ho di tolak dan H1 diterima dengan kata lain persamaaan garis regresi tersebut tidak bisa kita terima sebagai penduga hubungan antara variabel X dengan variabel Y. Bila bentuk hubungan antar variabel X dengan variabel Y sudah dapat kita terima maka kita bisa mengetahui seberapa besar keeratan hubungannya (korelasinya).

Walaupun

bentuk

hubungan

antara

variabel

dengan variabel Y ada dalam bentuk yang benar belum tentu korelasinya besar karena banyak variabel lain yang turut mempengaruhi perubahan variabel Y. Besarnya perubahan variabel Y yang dapat diterangkan oleh variabel X dengan menggunakan persamaan garis regresi yang diperoleh disebut koefisien determinan. b. Uji Parsial Statistik uji yang dipakai untuk melakukan uji parsial ini adalah statistik uji T. Uji T digunakan untuk menguji bagaimana pengaruh masing-masing variabel bebasnya secara sendiri-sendiri terhadap variabel terikatnya. Jika hasil pada uji serentak menunjukkan bahwa H0 ditolak, maka perlu dilakukan uji individu dengan hipotesa : 1. H0: = 0 H1: 0 atau H1: < 0 atau H1: >0 2. Tentukan taraf nyata 3. Daerah kritik penerimaan : Daerah kritik penolakan : t0< 4. Uji statistik t
hitung

atau

t0 >

(b 1 ) se /

(X X )2

atau

thitung =

(a 0 ) 1 x2 se + n ( xi x ) 2

dapat juga ditulis (b 1 ) thitung = s / J e xx Dimana: a = taksiran bagi 0 b = taksiran bagi 1 t = nilai sebaran t

5. Keputusan: a. H0 ditolak jika thitung > t/2(n-2) atau thitung < - t/2(n2)

untuk lawan alternatif H1: 0 b. H0 ditolak jika thitung < - t(n-2) untuk lawan

alternatif H1: < 0 c. H0 ditolak jika thitung > t(n-2) untuk lawan alternatif H1: > 0 4. Selang Kepercayaan Nilai dugaan bagi parameter yang sesungguhnya bagi dan yang didasarkan pada n pengamatan yang diperoleh. Nilai-nilai dugaan lain bagi dan yang dapat diperoleh melalui pengambilan contoh berukuran n beberapa kali dapat dipandang sebagai nilai-nilai peubah acak. Selang kepercayaan sebesar (1-)100% untuk parameter adalah
b t 2 < < b + t 2 (X X ) se 2 2 ( X X ) se

Dapat ditulis juga dengan

t s t s b 2 < < b+ 2 J xx Jxx

Dimana: b = taksiran bagi 1 t = nilai sebaran t selang kepercayaan sebesar (1-)100%

Sedangkan untuk adalah

a t 1 + S 2 e n

x2 < a + t < (x i x ) 2

se 2

1 + n

x2 2 (x x ) i

Dapat ditulis juga dengan

n 2 t t S x i 2 i =1 a < < a+ nJ xx

x
= i 1 2 i

nJ xx

Dimana: a = taksiran bagi = nilai rata-rata x

Contoh soal :
2. Dengan menggunakan nilai taksiran b = 0,903643 pada

contoh soal 1, ujilah hipotesis bahwa = 1,0 pada taraf keberartian 0,05 lawan tandingan bahwa < 1,0 Jawab :
1. H0 : = 1,0

2. H1 : < 1,0

3. Pilih taraf keberartian 0,05 4. Daerah kritis t < -1,699 (tabel) 5. Hitungan (b 1 ) (0,903643 1, 0) = = 1,92 = s / J 3, 2295 / 4152,18 e xx

hitung

P 0,03 diperoleh dari hitungan program komputer 6. Keputusan : harga t berarti pada taraf 0,03, suatu

petunjuk kuat bahwa < 1,0. H0 ditolak

C. RANGKUMAN
1. Regresi adalah garis yang menunjukan hubungan dua

macam variabel (estimating line). Regresi disebut juga dengan metode statistika yang digunakan untuk membentuk model hubungan antara variabel terikat (Y) dan variabel bebas (X). 2. Regresi ada dua macam yaitu regresi linear sederhana dan regresi berganda. 3. Analisis regresi merupakan sebuah alat statistik yang memberikan penjelasan tentang pola hubungan antara variabel bebas dan variabel terikat.
4. Analisis regresi setidak-tidaknya memiliki 3 kegunaan

yaitu untuk tujuan deskripsi dari fenomena data atau

kasus yang sedang diteliti, untuk tujuan kontrol, serta untuk tujuan prediksi.
5. Persamaan regresi adalah hubungan antara variabel

bebas

dan

terikat,

yang

dicocokkan

pada

data

percobaan, ditandai dengan persamaan prediksi : , Dengan :

6. Uji model regresi sebaiknya dilakukan dengan dua

macam, yaitu uji serentak dan uji parsial.

7. Uji serentak menggunakan statistik uji F yang dikenal

juga dengan uji Anova (Analysis Of Varians) 8. Interval konfedensi sebesar (1-)100% untuk parameter 1 adalah
b t 2 < < b + t 2 ( X X ) se 2 ( X X )2 se

9. Interval konfidensi sebesar (1-) untuk adalah

a t

1 + S 2 e n

x2 < a + t < (x i x ) 2

se 2

1 + n

x2 2 (x x ) i

D. TES FORMATIF

1. Nilai 9 orang murid dari suatu kelas pada ujian tengah

semester ( ) dan pada ujian akhir ( ) adalah sebagai berikut: 77 50 82 99 68 71 66 72 81 78 94 34 96 47 99 85 67 99

a. Taksirlah garis regresi linear b. Taksirlah nilai ujian akhir seorang murid yang

mendapat nilai 85 pada ujian tengah semester.

2. Carilah selang kepercayaan 95% untuk dalam garis

regresi YIX

berdasarkan data nomor 1.

E. PENYELESAIAN
1. Tabel perhitungan

77 50 71 72 81 94 96 99 67 707

82 66 78 34 47 85 99 99 68 658

5929 2500 5041 5184 6561 8836 9216 9801 4489 57557

6314 3300 5538 2448 3807 7990 9504 9801 4556 53258

a. Garis regresi

0.77714

12.06232

Jadi,

persamaan

regresinya

adalah

b. Untuk

Jadi, apabila seorang murid mendapatkan nilai 85 pada saat UTS maka nilai UAS nya dapat ditaksir sebesar 78.
70 7 8 65 7 5755 8 5325

2 i

=51980

2. Jadi, Jxx = 57557

( 707 )
9

= 2018,22

Jyy = 51980

( 658)
9

= 3872,89 = 1568,44

Jxy = 53258

( 707 ) ( 658 )
9

Dari nomor 1, diperoleh b = 0.77714 s2 = J yy bJ xy n2 = 3872,89 (0, 77714)(1568,44) = 379,1418 92

s = 19, 4716 dari tabel, t0,025 = 2,262 untuk derajat kebebasan 9 jadi, selang kepercayaan 95% untuk adalah

t s t s b 2 < < b+ 2 J xx Jxx

(2, 262)(19, 4716) (2, 262)(19, 4716) 0,77714 < 0,77714 + < 2018, 22 2018, 22

-0,2032 < < 1,7575 DAFTAR PUSTAKA Draper, N. R. 1992. Analisis Regresi Terapan Edisi Ke 2. Jakarta: PT. Pustaka Gramedia Utama Sembiring, R. K. 1995. Analisis Regresi. Bandung: Institut Teknologi Bandung Walpole. Ronald E. 1995. Ilmu Peluang dan Statistika untuk Ilmuwan. Bandung: Institut Teknologi Bandung Fatwa, Irmaya. 2011. Modul VI : Analisis Regresi. Tersedia : http://www.slideshare.net/irmayafatwayukha/hasilmakalah-6 (diakses pada 23 Februari 2013 pukul 08.55 WIB) http://teratainear.blogspot.com/p/makalah-regresi-dankorelasi.html?m=1 (diakses pada 23 Februari 2013 pukul 07.30 WIB)