Setiap β dihitung sambil mengontrol prediktor lain
Estimasi lebih akurat & tidak meminjam kredit variabel lain
Contoh: omzet dimodelkan dari lama usaha + karyawan + lokasi (dummy) sekaligus
Menambah prediktor relevan $\to R^{2}$ naik, estimasi lebih bersih. Menambah prediktor tidak relevan $\to R^{2}$ adjusted turun (ada penalti). Prediktor (variabel bebas / variabel independen) = variabel X; Y = variabel respons (variabel terikat / variabel dependen).
Bagian 1 · Slide 5–9
Model Regresi Berganda
Persamaan, asumsi, dan prinsip estimasi OLS (Ordinary Least Squares — metode kuadrat terkecil)
Tujuan OLS: minimalkan $\sum e_{i}^{2} = \sum (Y_{i} - Ŷ_{i})^{2}$ — di mana Σ (sigma) berarti "jumlahkan untuk seluruh observasi i = 1 hingga n". Konvensi angka Indonesia: titik = pemisah ribuan, koma = desimal. Contoh: 1.845,2 = seribu delapan ratus empat puluh lima koma dua.
Asumsi OLS & Intuisi Estimasi
OLS menghasilkan estimasi BLUE (Best Linear Unbiased Estimator — estimator linear tak-bias terbaik) jika asumsi Gauss-Markov terpenuhi.
A1 — Linearitas
Hubungan Y dan X memang linear — tidak melengkung secara sistematis.
A2 — Tidak Ada Multikolinearitas Sempurna ⚠
Prediktor tidak 100% berkorelasi satu sama lain. Akan dibahas lebih dalam di Bagian 3.
A3 — Galat Berperilaku Rapi
Rata-rata nol, varians konstan (homoskedastik), tidak berkorelasi antarobservasi.
Catatan penting: Normalitas galat BUKAN syarat BLUE. Teorema Gauss-Markov hanya membutuhkan A1–A3 untuk menjamin OLS adalah BLUE. Normalitas hanya diperlukan agar uji t dan F valid secara eksak pada sampel kecil.
Estimasi OLS: $\hat{\beta} = (X'X)^{-1}X'Y$
Regresi berganda = menyelesaikan k+1 persamaan serentak. Matriks adalah cara ringkas menulis sistem persamaan itu.
$$\hat{\beta} = (X'X)^{-1}X'Y$$
Komponen Rumus
X = matriks desain n×(k+1) — kolom pertama semua bernilai 1 (untuk intercept)
X' (X transpose) = X dengan baris dan kolom ditukar
$(X'X)^{-1}$ = invers matriks, seperti "membagi" dalam aljabar matriks
Anda tidak perlu menginversi matriks secara manual. Pahami bahwa software melakukannya untuk Anda. Fokus pada interpretasi output.
Hitung dari Nol 1 — UMKM Kuliner Semarang (n=30)
Data 30 UMKM kuliner Semarang — Dinas Koperasi dan UMKM Kota Semarang (nilai ilustratif)
Variabel
Simbol
Keterangan
Y
Omzet (Rp juta/bulan)
$X_{1}$
Lama usaha (tahun)
$X_{2}$
Jumlah karyawan
$X_{3}$
Lokasi dummy (1=pusat kota, 0=pinggiran)
Output software regresi berganda (k=3, n=30):
$$Ŷ = 8,42 + 1,85X_{1} + 3,20X_{2} + 5,60X_{3}$$
Langkah membaca output:
Catat persamaan regresi berganda
Interpretasikan tiap koefisien (slide berikutnya)
Periksa $R^{2}, R^{2}$ adjusted, F-stat, p-value
Output regresi (regression output) = tabel hasil yang dihasilkan software statistik, memuat koefisien, standar error, t-stat, p-value, $R^{2}$, dan F-stat. Nilai parameter diperoleh dari software karena k=3 membutuhkan inversi matriks 4×4.
Interpretasi Koefisien Parsial: Ceteris Paribus
$$Ŷ = 8,42 + 1,85X_{1} + 3,20X_{2} + 5,60X_{3}$$
$b_{0} = 8,42$ Ketika $X_{1}=0, X_{2}=0, X_{3}=0 \to$ omzet dugaan Rp 8,42 juta/bulan (UMKM baru, nol karyawan, pinggiran). Hati-hati: intercept bisa tidak bermakna praktis.
$b_{1} = 1,85$ Setiap +1 tahun lama usaha → omzet naik ~Rp 1,85 juta/bulan, dengan $X_{2}$ dan $X_{3}$ dipegang konstan.
$b_{2} = 3,20$ Setiap +1 karyawan $\to$ omzet naik ~Rp 3,20 juta/bulan, dengan $X_{1}$ dan $X_{3}$ dipegang konstan.
$b_{3} = 5,60$ UMKM pusat kota $$(X_{3}=1)$$ memiliki omzet ~Rp 5,60 juta/bulan lebih tinggi vs. pinggiran $(X_{3}=0)$, dengan $X_{1}$ dan $X_{2}$ konstan.
Kata kunci: "…dengan variabel lain dipegang konstan" = ceteris paribus (Latin: "hal-hal lain dipegang konstan"). Koefisien parsial ≠ korelasi bivariate — bisa berbeda nilai, bahkan berbeda tanda.
Coba Sendiri: Putar Bidang Regresi 3D, Amati Koefisien Parsial
Putar bidang regresi tiga dimensi dan ubah nilai satu prediktor sementara prediktor lain tetap konstan.
n = jumlah observasi; k = jumlah prediktor (tidak termasuk intercept)
Memberikan penalti untuk prediktor tambahan yang tidak berguna
$R^{2}_$adj bisa turun jika prediktor baru tidak meningkatkan fit secara bermakna
Gunakan $R^{2}_$adj untuk membandingkan model dengan jumlah prediktor berbeda
Σ (sigma) = "jumlahkan untuk seluruh i dari 1 hingga n". Patokan informal: untuk data bisnis cross-sectional, $R^{2}_$adj di atas 0,50 sudah cukup baik — yang penting koefisien masuk akal secara teori.
$SE(b_{j})$ (Standard Error koefisien) = ukuran ketidakpastian estimasi $b_{j}$
Tolak $H_{0}$ jika $|t_$hitung| > $t_$tabel atau p-value < 0,05 (uji dua sisi)
Variabel
$b_{j}$
$SE(b_{j})$
t_hitung
p-value
Ket.
$b_{0}$ Intercept
8,42
2,15
3,92
0,001
Sig.
$b_{1}$ Lama usaha $(X_{1})$
1,85
0,48
3,85
0,001
Sig.
$b_{2}$ Karyawan $(X_{2})$
3,20
0,72
4,44
<0,001
Sig.
$b_{3}$ Lokasi dummy $(X_{3})$
5,60
1,34
4,18
<0,001
Sig.
$df = 26; t_$tabel(α=0,05, dua sisi) ≈ 2,056. Semua |t| > $2,056 \to$ tolak $H_{0}$.
Dalam laporan riset, lazim bintang signifikansi: * = p<0,05; ** = p<0,01; *** = p<0,001 — standar yang sama di jurnal internasional maupun SINTA.
Hitung dari Nol 2 — Emiten LQ45 IDX (n=25)
ROE (Return on Equity, %) ~ DER + TATO + NPM — data laporan keuangan tahunan IDX (nilai ilustratif)
Output Regresi Berganda
$$Ŷ = -4,21 + 2,18X_{1} + 8,74X_{2} + 1,52X_{3}$$
$R^{2}_$adj = 0,712 → 71,2% variasi ROE dijelaskan model F_hitung = 20,36 (p < 0,001) → model signifikan keseluruhan df galat = n − k − 1 = 25 − 3 − 1 = 21
Variabel
$b_{j}$
t_hitung
p-value
Sig.?
$X_{1}$ DER (Debt-to-Equity Ratio, kali)
2,18
1,84
0,081
Tidak
$X_{2}$ TATO (Total Asset Turnover, kali)
8,74
4,92
<0,001
Ya
$X_{3}$ NPM (Net Profit Margin, \%)
1,52
3,67
0,001
Ya
TATO dan NPM = driver ROE yang signifikan (konsisten dengan dekomposisi DuPont: ROE = NPM × TATO × ekuitas multiplier). DER tidak signifikan pada α=0,05 dalam model ini (p=0,081).
Emiten ilustratif: BBCA, TLKM, ASII, UNVR, BBRI, ICBP, BMRI, KLBF (LQ45 IDX). Data aktual bervariasi per tahun laporan keuangan.
Bagian 3 · Slide 17–20
Variabel Dummy & Multikolinearitas
Mengkodekan kategori dengan dummy 0/1 dan mendeteksi masalah antar prediktor
0 / 1
Variabel Dummy: Mengkodekan Kategori 0/1
Variabel kategoris (lokasi, sektor, jenis kelamin) tidak bisa langsung masuk regresi sebagai angka 1, 2, 3 — pengkodean ordinal memaksakan urutan yang tidak ada.
Solusi: Dummy Coding 0/1 Untuk k kategori → buat (k−1) variabel dummy. Satu kategori = "kategori referensi" (kode 0) = basis pembanding.
Contoh: Lokasi UMKM (2 kategori) $X_{3} = 1$ jika pusat kota, $X_{3} = 0$ jika pinggiran (referensi). $b_{3} =$ selisih rata-rata Y antara pusat kota vs. pinggiran, dengan $X_{1}$ dan $X_{2}$ konstan.
Tiga sektor (manufaktur, jasa, perdagangan):
Observasi
Sektor
$D_{1}$ (jasa)
$D_{2}$ (dagang)
$D_{3}$ (manuf.)
A
Jasa
1
0
0
B
Perdagangan
0
1
0
C
Manufaktur
0
0
1
$D_{3} = 1 - D_{1} - D_{2}$ untuk setiap baris $\to$ kolom $D_{3}$ tidak membawa informasi baru! Memasukkan $D_{3} =$ dummy trap (multikolinearitas sempurna) $\to$ OLS gagal estimasi.
Referensi: manufaktur $(D_{1}=0, D_{2}=0)$. Hanya butuh 2 dummy untuk 3 kategori.
Semua |r| antar prediktor < 0,50 → multikolinearitas rendah → estimasi OLS relatif stabil.
Aturan praktis (awal):
|r| < 0,50 → aman
0,50 ≤ |r| < 0,80 → perlu diperhatikan
|r| ≥ 0,80 → sinyal masalah serius → cek VIF
Catatan: Matriks korelasi antar prediktor ≠ korelasi Y dengan prediktor. Korelasi Y dengan prediktor yang tinggi = bagus (prediktor kuat). Korelasi antar prediktor yang tinggi = masalah (multikolinearitas).
Coba Sendiri: Hitung VIF — Ukuran Formal Multikolinearitas
Variance Inflation Factor (VIF) mengkuantifikasi seberapa besar variansi koefisien membengkak akibat korelasi antar prediktor. Ambang praktis: VIF > 10 berarti masalah serius.
Studi Kasus: Properti Residensial vs Aksesibilitas
Harga rumah Jabodetabek dipengaruhi luas bangunan, jarak ke stasiun MRT/KRL, dan kawasan — data BPS DKI Jakarta (ilustratif)
Model Regresi Berganda
Y = Harga rumah (Rp juta)
$X_{1}$ = Luas bangunan $(m^{2})$
$X_{2}$ = Jarak ke stasiun terdekat (km)
$X_{3}$ = Kawasan (1 = CBD / dekat pusat, 0 = pinggiran). CBD (Central Business District / Kawasan Pusat Bisnis) seperti Sudirman-Thamrin Jakarta.
Jika $b_{2} = -8,5 (Rp$ juta per km): setiap 1 km lebih jauh dari stasiun, harga turun Rp 8,5 juta, dengan luas dan kawasan konstan.
Pertanyaan Diskusi Kelas (2 menit):
Tanda apa yang Anda harapkan untuk $b_{1}, b_{2}$, dan $b_{3}?$ Mengapa?
Jika $b_{2} = -8,5 (Rp$ juta per km), apa artinya secara praktis?
Apa yang terjadi pada $b_{1}$ jika $X_{2}$ dan $X_{3}$ tidak dimasukkan?
Apakah ada dugaan multikolinearitas antara $X_{2}$ dan $X_{3}?$ Mengapa?
Aksesibilitas (accessibility) = kemudahan menjangkau fasilitas dari suatu lokasi. Kawasan CBD biasanya juga dekat stasiun $\to X_{2}$ dan $X_{3}$ mungkin berkorelasi negatif $\to$ perlu cek matriks korelasi!
Batasan prediksi — PENTING: Jangan ekstrapolasi jauh di luar rentang data training (misal: UMKM 50 karyawan padahal data maks 10). Model regresi = model linear; hubungan mungkin tidak linear di luar rentang. Prediksi adalah rata-rata kondisional (E[Y|X]) — estimasi rata-rata, bukan nilai individu tunggal yang pasti.
Lima Jebakan Regresi Berganda yang Sering Terjadi
1. Menambah prediktor tanpa teori $R^{2}$ naik, tapi $R^{2}_$adj bisa turun; model kehilangan parsimoni (parsimony) — prinsip model paling sederhana yang cukup menjelaskan data adalah yang terbaik.
2. Melupakan cek multikolinearitas SE membengkak; koefisien tidak stabil; salah kesimpulan signifikansi. Cek matriks korelasi SEBELUM regresi.
3. Menginterpretasikan b seperti regresi sederhana Koefisien parsial BUKAN korelasi bivariate — bisa berbeda tanda sekalipun (reversal paradox / Simpson's paradox).
4. Mengabaikan asumsi residual Jika residual tidak rapi (heterokedastik, tidak normal pada sampel kecil), uji t dan F tidak valid. Cek residual plot.
5. Ekstrapolasi berlebihan Prediksi di luar rentang data = tidak andal; tandai jelas sebagai spekulasi dalam laporan.
Dalam laporan/skripsi: selalu tampilkan tabel koefisien lengkap $(SE, t, p), R^{2}_$adj, F, dan diskusi asumsi residual.
Peta Konsep Regresi Berganda
Diskusi & Latihan Kelas
Latihan A — Interpretasi (5 menit, individu)
$$Ŷ = 120 + 0,8X_{1} + 15X_{2} - 5X_{3}$$
Y = premi asuransi jiwa (Rp ribu/bulan)$; X_{1} =$ usia (tahun)$; X_{2} =$ nilai pertanggungan (Rp juta)$; X_{3} =$ dummy tidak merokok (1=tidak merokok, 0=perokok).
Interpretasikan $b_{1}, b_{2}, b_{3}$ secara lengkap dengan frasa ceteris paribus.
Siapa yang lebih murah preminya, perokok atau tidak perokok? Berapa selisihnya?
Latihan B — Diskusi (5 menit, pasangan)
Jika $F_$hitung = 45,2 (p < 0,001) dan $R^{2}_$adj = 0,82, tetapi uji t untuk $X_{3}$ menunjukkan p = 0,38:
Apa kesimpulan Anda terhadap model dan terhadap $X_{3}?$
Apakah Anda tetap memasukkan $X_{3}$ dalam model? Jelaskan pertimbangannya.
Pertimbangan: teori, jarak p dari 0,05, perubahan koefisien $X_{1}$ dan $X_{2}$ jika $X_{3}$ dihapus.
Ini diskusi penelitian nyata — tidak ada satu jawaban benar. Berpikirlah secara teoritis DAN statistik.
Persiapan Pertemuan 11
"Model regresi berganda $Ŷ = \beta _{0} + \beta _{1}X_{1} + \dots + \beta _{k}X_{k}$ memungkinkan estimasi pengaruh parsial tiap prediktor ceteris paribus, diuji dengan F (overall) dan t (parsial), diperkaya dengan dummy dan dijaga kualitasnya dari multikolinearitas."
Exit Ticket — Periksa Pemahaman Anda
Saya bisa menuliskan dan menginterpretasikan model berganda dengan 3 prediktor termasuk dummy
Saya bisa membedakan makna $R^{2}, R^{2}_$adj, uji F, dan uji t
Saya bisa mengidentifikasi tanda masalah multikolinearitas dari matriks korelasi
Tugas: Kerjakan 3 soal pilihan dari Lampiran B — pilih yang paling menantang, bukan yang paling mudah. Dikumpulkan awal Pertemuan 11.
Regresi bertahap (stepwise regression) dan pemilihan model
Korelasi parsial dan semi-parsial
Exit ticket = cara cepat mahasiswa mengecek pemahaman sendiri sebelum meninggalkan kelas. Jika ada butir yang belum tercentang, itu sinyal bagian mana yang perlu diulang sebelum Pertemuan 11.