Regresi Linier Berganda

Model regresi linier berganda melibatkan lebih dari satu variabel bebas. Modelnya :

​

Dimana

Y = variabel terikat

X_i = variabel bebas ( i = 1, 2, 3, …, k)

β₀ = intersep

β_i = koefisien regresi ( i = 1, 2, 3, …, k)

Model penduganya adalah

1

Regresi Linier Berganda

Misalkan model regresi dengan kasus 2 peubah bebas X₁ dan X₂ maka modelnya :

​

​

Sehingga setiap pengamatan

Akan memenuhi persamaan

​

2

Metode Pendugaan Parameter Regresi

Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2 variabel bebas

​

​

Tahapan pendugaannya :

1. Dilakukan turunan pertama terhadap b₀ , b₁ dan b₂

​

​

3

Metode Pendugaan Parameter Regresi

2. Ketiga persamaan hasil penurunan disamakan dengan nol

​

​

​

​

​

4

Metode Pendugaan Parameter Regresi

3. Nilai b₁ dan b₂ dapat diperoleh dengan memakai aturan-aturan dalam matriks

​

​

5

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

Tahapan perhitungan dengan matriks :

1. Membentuk matriks A, b dan g

​

6

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

Dari hasil Metode Kuadrat Terkecil didapatkan persamaan normal :

​

​

​

…..

7

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

8

Menaksir Koefisien Regresi Dengan Menggunakan Matriks

2. Membentuk persamaan normal dalam bentuk matriks

A b = g

​

3. Perhitungan matriks koefisien b

b = A^-1 g

​

9

10

CONTOH: PERMINTAAN DIPENGARUHI HARGA DAN PENDAPATAN

11

Untuk mendapatkan koefisien regresi, perlu dihitung : ∑Y, ∑X₁, ∑X₂, ∑X₁Y, ∑X₁², ∑X₁ ∑X₂, ∑X₂Y, ∑X₂²

12

Dengan metode eliminasi

68 = 10a + 63b1+ 46b₂ …(1)

409 = 63a + 405b₁+ 317b₂ …(2)

239 = 46a + 317b₁+ 324b₂ …(3)

-428,4 = -63a –396,9 b1-289,8b2 …persamaan 1 dikalikan – 6,3

409 = 63a + 405b₁ + 317b₂ …..…………………. (2)

-19,4 = 0 + 8,1b1 + 27,2b₂ ……………………. (4)

Untuk mendapatkan nilai koefisien regresi a, b1, dan b2 dapat dilakukan dengan Subtitusi antar persamaan

-312,8 = -46a –289,8 b₁ - 211,6b₂ Persamaan 1 dikalikan –4,6

239 = 46a + 317b₁ + 324b₂ ………………………..... (3)

-73,8 = 0 + 27,2b₁ + 112,4b₂ ………………………. (5)

13

Dari persamaan diatas, nilai b2 adalah = -8,65/21,06 = -0,41. Setelah menemukan nilai b2, nilai b1 dapat dicari dengan mempergunakan persamaan 4 atau 5.

68 = 10a + 63 (-1,015) + 46(-0,41)……………………….. (1)

68 = 10a - 63,96 – 18,90

10a = 63 + 92,86

a = 150,86/10 = 15,086

-19,4 = 0 + 8,1b1 + 27,2(-0,41) ……… (4)

19,4 = 8,1b1 - 11,18

8,1b1 = -19,4 + 11,18

8,1 b1 = - 8,22

b1 = -8,22/8,1 = -1,015

Dengan menemukan nilai koefisien regresi a, b1, dan b2 maka persamaan regresinya dapat dinyatakan sebagai berikut:

Y = 15,086 – 1,015X₁ – 0,41 X₂

Uji Kecocokan Model

1. Dengan Koefisien Determinasi

​

​

R² menunjukkan proporsi variasi total dalam respon Y yang dapat diterangkan oleh model

​

​

r merupakan koefisien korelasi antara Y dengan kelompok X₁ , X₂ , X₃ , … , X_k

14

15

RUMUS KOEFISIEN DETERMINASI (R²)

Koefisien Determinasi menunjukkan suatu proporsi dari varian yang dapat diterangkan oleh persamaan regresi (regression of sum squares, RSS). Besarnya koefisien determinasi dirumuskan sebagai berikut:

atau

Uji Kecocokan Model

2. Dengan Pendekatan Analisis Ragam

Tahapan Ujinya :

1. Hipotesis =

H₀ : β = 0

H₁ : β ≠ 0

dimana

β = matriks [ β₀, β₁, β₂, … , β_k ]

​

​

16

Uji Kecocokan Model

2. Tabel Analisis Ragam

​

17

Uji Kecocokan Model

3. Pengambilan Keputusan

​

H₀ ditolak jika

pada taraf kepercayaan α

​

18

F_hitung > F_{tabel(1 , n-k-1)}

Uji Parsial Koefisien Regresi

Tahapan Ujinya :

1. Hipotesis =

H₀ : β_j = 0

H₁ : β_j ≠ 0

dimana β_j merupakan koefisien yang akan diuji

19

Uji Parsial Koefisien Regresi

2. Statistik uji :

​

​

​

Dimana :

b_j = nilai koefisien b_j

s =

c_jj = nilai matriks A^-1 ke-jj

​

20

Uji Parsial Koefisien Regresi

3. Pengambilan keputusan

​

H₀ ditolak jika

pada taraf kepercayaan α

​

21

t_hitung > t _{α/2(db= n-k-1)}

22

RUMUS KOEFISIEN DETERMINASI (R²)

Koefisien Determinasi menunjukkan suatu proporsi dari varian yang dapat diterangkan oleh persamaan regresi (regression of sum squares, RSS). Besarnya koefisien determinasi dirumuskan sebagai berikut:

atau

23

24

Coba hitung masing-masing nilai korelasi tersebut.

25

26

KORELASI PARSIAL: Hubungan variabel

dengan asumsi variabel lain tetap

r_yX1.X2= korelasi Y dengan X₁, dimana X₂ tetap

27

Coba hitung masing-masing nilai korelasi parsial tersebut

28

29

Kesalahan Baku (standar error pendugaan)

S_Y.X1.X2: Kesalahan baku atau standar error pendugaan Variabel Y

berdasarkan variabel X₁ dan X₂

Ŷ : Nilai dugaan dari Y di mana X₁ dan X₂ diketahui

Y : Nilai pengamatan dari Y

N : Jumlah sampel atau data

K : Jumlah variabel bebas

30

Persamaan Ŷ=15,086 – 1,015 X₁ – 0,41 X₂

31

n – (k+1) 10 – (2+1)

32

Atau dapat juga dicari dengan rumus sbb:

Kesalahan baku penduga (standar error estimation S_b)

• Yaitu seberapa nilai penduga yaitu b₁ dan b₂ dari nilai sebenarnya (parameter populasi)

​

33

34

Uji Signifikansi parsial atau individu

35

Uji Parsial

• Dalam uji pasial, masing-masing koefisien t_hit untuk masing-masing koefisien tersebut diuji, apakah signifikan atau tidak
• Bentuk pengujian sama seperti sebelumnya dua arah atau satu arah
• Hipothesis yang diuji:
• Ho: b1=0 dan
• Ha: b2 ≠ 0

36

37

UJI GLOBAL ATAU UJI SIGNIFIKANSI SERENTAK (UJI F)

Hipotesa yang ingin diuji adalah kemampuan variabel bebas menjelaskan tingkah laku variabel tidak bebas, apabila variabel bebas tidak dapat mempengaruhi variabel bebas dapat dianggap nilai koefisien regresinya sama dengan nol, sehingga berapa pun nilai variabel bebas tidak akan berpengaruh terhadap variabel bebas. Terhadap persamaan pada contoh satu yaitu Y = 15,086 – 1,015X₁ – 0,41 X₂, variabel bebas X₁, dan X₂ dikatakan mampu mempengaruhi Y apabila nilai koefisien b₁ dan b₂ tidak sama dengan nol, apabila sama dengan nol, maka dikatakan tidak mampu mempengaruhi variabel bebas Y.

Tabel F

Untuk uji ini digunakan tabel F. Nilai F-tabel perlu diketahui derajat bebas pembilang pada kolom, derajat bebas penyebut pada baris dan taraf nyata Diketahui ada tiga variabel yaitu Y, X₁, dan X₂, jadi k=3, sedangkan jumlah n=10.

Jadi derajat pembilang k - 1=3 - 1=2, sedangkan derajat penyebut n - k=10 - 3=7 dengan taraf nyata 5%. Nilai F-tabel dengan derajat pembilang 2 dan penyebut 7 pada taraf nyata 5% adalah 4,74

38

Nilai F-hitung ditentukan dengan rumus sebagai berikut:

39

40

UJI GLOBAL ATAU UJI SIGNIFIKANSI SERENTAK (UJI F)

Terima Ho

F-Tabel=4,74

F-Hitung= 48,74

Tolak Ho

Tampilan printout Regresi Berganda

41

Berdasarkan data Tabel diatas menunjukkan hasil uji regresi berganda :

( 1 ) Nilai R square = 0,419.

( 2 ) Nilai Ry₁₂ = 0,647.

( 3 ) Nilai SEE = 537.549,547.

42

Dari data diatas,

• a = 1.000.044.
• b1= 792.852,6.
• b2= 3,378.
• Persamaan regresi yang didapat adalah sebagai berikut :
• Y = 1.000.044 + 792.852,6 X₁ + 3,378 X₂
• Dimana, Y = Penjualan, X1 = Harga dan X2 = Biaya Promosi

43

Asumsi-asumsi Model Regresi Linier Berganda

Pemilihan Model Terbaik

1. All Possible Regression

Tahapan pemilihan :

1. Tuliskan semua kemungkinan model regresi dan kelompokkan menurut banyaknya variabel bebas
2. Urutkan model regresi menurut besarnya R²
3. Periksalah untuk setiap kelompok apakah terdapat suatu pola variabel yang konsisten
4. Lakukan analisa terhadap kenaikan R² pada tiap kelompok

​

45

Pemilihan Model Terbaik

Contoh :

Akan dianalisis model regresi yang terdiri dari 4 variabel bebas

Pembagian kelompoknya

Kelompok A terdiri dari koefisien intersep

Kelompok B terdiri dari 1 variabel bebas

Kelompok C terdiri dari 2 variabel bebas

Kelompok D terdiri dari 3 variabel bebas

Kelompok E terdiri dari 4 variabel bebas

46

Pemilihan Model Terbaik

Persamaan regresi yang menduduki posisi utama dalam setiap kelompok adalah

​

​

​

​

​

​

​

​

Persamaan terbaiknya adalah Y = f(X₁ , X₄)

​

47

Pemilihan Model Terbaik

2. Backward Elimination Procedur

Tahap pemilihannya :

1. Tuliskan persamaan regresi yang mengandung semua variabel
2. Hitung nilai t parsialnya
3. Banding nilai t parsialnya
• Jika t_L < t_O maka buang variabel L yang menghasilkan t_L, kemudian hitung kembali persamaan regresi tanpa menyertakan variabel L
• Jika t_L > t_O maka ambil persamaan regresi tersebut

​

​

48

Pemilihan Model Terbaik

Contoh :

Akan dianalisis model regresi yang terdiri dari 4 variabel bebas

Model regresi yang mengandung semua variabel bebas

​

​

Model terbaiknya

Y = f(X₁,X₂)

​

49

Pemilihan Model Terbaik

3. Stepwise Regression Procedur

Tahap pemilihannya :

1. Hitung korelasi setiap variabel bebas terhadap variabel Y. Variabel bebas dengan nilai korelasi tertinggi masukkan dalam model regresi (syarat uji F menunjukkan variabel ini berpengaruh nyata)
2. Hitung korelasi parsial setiap variabel bebas tanpa menyertakan variabel bebas yang telah mauk model. Masukkan variabel bebas dengan korelasi parsial tertinggi ke dalam model
3. Hitung nilai t parsial variabel yang telah masuk model, jika tidak berpengaruh nyata keluarkan dari model
4. Kembali ke langkah ii

50

Pemilihan Model Terbaik

Contoh :

Akan dianalisis model regresi yang terdiri dari 4 variabel bebas

​

​

​

51

52

Model terbaik

Y = f(X₁ , X₂)