stdsquare²
🎓 Kelas
stdsquare / materi / slides / pertemuan-11
Tema
Japan
Arcade
Dark Retro
Font
‹ Daftar slide Pertemuan 11: Asumsi Regresi Berganda dan Penyimpangannya (Asumsi Klasik, BLUE, Multikolinearitas)
Program Studi Manajemen · FEB UNDIP · Statistika Bisnis II

Asumsi Regresi Berganda & Penyimpangannya

Pertemuan 11 · Asumsi Klasik, BLUE, Multikolinearitas

Anda sudah bisa menghitung parameter regresi berganda. Sekarang pertanyaan yang lebih penting: kapan hasil regresi itu boleh dipercaya, dan apa yang terjadi bila asumsinya dilanggar.

RPS Minggu 12 · Sub-CPMK 8 · 2 × 50 menit

Tujuan Pembelajaran Hari Ini

Setelah pertemuan ini, Anda mampu menjelaskan asumsi regresi berganda dan mendiagnosis penyimpangannya (Sub-CPMK 8). Rincinya:

Capaian 1 — Tujuh Asumsi
7
Asumsi Klasik
Menyebut & menjelaskan asumsi Gauss-Markov dan arti tiap pelanggaran — fondasi seluruh pertemuan.
Capaian 2 — Multikolinearitas
VIF
Variance Inflation Factor
Menghitung VIF & toleransi, memutuskan multikol serius (VIF > 10) dari korelasi antar-prediktor.
Capaian 3 — Spesifikasi & Bias
β₂·δ
Rumus Bias
Menunjukkan bias variabel terhilang secara numerik — satu-satunya penyimpangan yang membiaskan koefisien.
Capaian 4 — BLUE & Diagnosis
BLUE
Best Linear Unbiased Estimator
Menghubungkan pelanggaran ke sifat BLUE — bias, inefisiensi, atau std error keliru.

Modelnya Sudah Jadi — Tapi Boleh Dipercaya?

Bayangkan output regresi penjualan toko terhadap iklan & jumlah tenaga penjual ini muncul di layar Anda:

VariabelKoefisient-statp-value
Iklan (X₁)4,80,90,38 (tak signifikan?)
Tenaga Penjual (X₂)6,10,80,44 (tak signifikan?)
Uji-F keseluruhanSangat signifikan · R² = 0,97
Aneh: model secara keseluruhan kuat (R² 0,97, F signifikan), tapi tak ada satu pun variabel yang signifikan sendiri. Ini gejala klasik multikolinearitas — salah satu penyimpangan asumsi yang kita bedah hari ini. (Angka = ilustrasi.)
Bagian 1 dari 4
Tujuh Asumsi Regresi Klasik
Sebelum percaya pada satu pun angka regresi, kita harus tahu syarat-syaratnya. Model populasi, galat, dan tujuh asumsi Gauss-Markov.
LINEAR TAK BIAS GALAT

Dari Regresi Sederhana ke Berganda — Apa yang Berubah?

Idenya sama: garis kuadrat-terkecil. Yang berubah: satu X jadi beberapa X, dan garis jadi bidang.

Sederhana (yang lalu)
ŷ = b₀ + b₁X
Satu prediktor · Garis 2D
Hubungkan Y dengan satu variabel X. Geometri: garis di bidang dua dimensi. (Statistika Bisnis I P14.)
Berganda (sekarang)
ŷ = b₀ + b₁X₁ + b₂X₂ + …
Banyak prediktor · Bidang/Hyperplane
Tiap bₖ = efek parsial Xₖ: perubahan ŷ per satu satuan Xₖ dengan variabel lain ditahan konstan.
Kata kunci baru: efek parsial (ceteris paribus). b₁ = perubahan ŷ per satu satuan X₁, dengan X₂ ditahan tetap. Inilah keunggulan regresi berganda: mengontrol variabel lain sekaligus.

Hitung dari Nol — HDN-1: Koefisien Regresi Berganda

Data 5 toko (ilustratif). Y = penjualan (Rp jt); X₁ = iklan (Rp jt); X₂ = tenaga penjual (orang). Cari b₀, b₁, b₂ via persamaan normal.

Data: X₁ = 1,2,3,4,5 · X₂ = 2,1,3,2,4 · Y = 15,13,23,21,31 · (x̄₁=3; x̄₂=2,4; ȳ=20,6)

LangkahPerhitunganNilai
S₁₁ = Σ(X₁−x̄₁)²Jumlah kuadrat deviasi X₁10
S₂₂ = Σ(X₂−x̄₂)²Jumlah kuadrat deviasi X₂5,2
S₁₂ = Σ(X₁−x̄₁)(X₂−x̄₂)Hasil-kali silang (kovarians)5
S₁ᵧ ; S₂ᵧKovarians dengan Y40 ; 30,8
det = S₁₁·S₂₂ − S₁₂²10·5,2 − 5² = 52 − 2527
b₁ = (S₁ᵧ·S₂₂ − S₂ᵧ·S₁₂) / det(40·5,2 − 30,8·5) / 27 = 54/272,000
b₂ = (S₁₁·S₂ᵧ − S₁₂·S₁ᵧ) / det(10·30,8 − 5·40) / 27 = 108/274,000
b₀ = ȳ − b₁x̄₁ − b₂x̄₂20,6 − 2·3 − 4·2,45,000
ŷ = 5 + 2·X₁ + 4·X₂. Tafsir parsial: +Rp 1 jt iklan → +Rp 2 jt penjualan (tenaga penjual tetap); +1 tenaga penjual → +Rp 4 jt penjualan (iklan tetap).

Model Populasi & Suku Galat (ε) — Pusat Semua Asumsi

Asumsi regresi bukan soal data yang kita lihat, tapi soal galat ε yang tak kita lihat.

Y = β₀ + β₁X₁ + β₂X₂ + … + βₖXₖ + ε
Bagian Sistematis
β₀ + β₁X₁ + …
Dijelaskan prediktor
Bagian Y yang dijelaskan prediktor. β = parameter populasi yang sebenarnya (tidak kita tahu, kita taksir dengan b).
Bagian Acak (ε)
ε
Galat · Tak Teramati
Semua faktor lain + keacakan. Tidak bisa dilihat. Estimasinya = residual e = Y − ŷ yang bisa kita hitung.
Hampir semua asumsi klasik adalah pernyataan tentang ε: rata-ratanya nol, variansnya tetap, tak saling berkorelasi, dan (untuk uji) berdistribusi normal. Residual e adalah "mata" kita untuk memeriksa ε.

Tujuh Asumsi Regresi Linear Klasik (CLRM)

#AsumsiArtinyaCara Cek
1Linearitas (dalam parameter)Y = fungsi linear β + εScatter / plot residual
2E(ε) = 0Rata-rata galat nol di tiap nilai XOtomatis bila ada b₀
3HomoskedastisitasVar(ε) tetap di semua XPlot residual / uji BP
4Non-autokorelasiGalat antar-observasi tak berkorelasiDurbin-Watson
5Tak ada multikol sempurnaX tak saling = kombinasi linear pastiVIF / korelasi
6Eksogenitas XX tak berkorelasi dengan εTeori / spesifikasi
7Normalitas ε (untuk uji)Galat berdistribusi normalHistogram / Q-Q / uji
Asumsi 1–6 = inti Gauss-Markov (menjamin OLS = BLUE). Asumsi 7 (normalitas) ditambahkan agar uji-t & uji-F sah pada sampel kecil — bukan untuk ketakbiasan koefisien.

Miskonsepsi #1: Yang Harus Normal Itu Residual, Bukan X/Y

Keliru ✗
X & Y normal?
Bukan asumsi regresi
"Variabel X dan Y harus berdistribusi normal." — Salah. X boleh apa saja (bahkan dummy 0/1), Y boleh miring. Menguji normalitas X adalah pekerjaan sia-sia.
Benar ✓
Residual e
Diperiksa lewat e = Y − ŷ
Yang diasumsikan normal hanya galat ε (diperiksa lewat residual). Itu pun terutama penting di sampel kecil — sampel besar dilindungi CLT.
Di sampel besar, berkat Teorema Limit Pusat (Statistika Bisnis I P10), uji-t & uji-F tetap sahih kira-kira meski galat tak persis normal. Normalitas paling krusial saat n kecil. Cek: histogram residual, Q-Q plot, atau uji Jarque-Bera / Shapiro-Wilk.
Bagian 2 dari 4
BLUE — Hadiah Bila Asumsi Terpenuhi
Kalau asumsi Gauss-Markov terpenuhi, OLS bukan sekadar "sebuah" estimator — ia yang terbaik. Apa artinya, dan apa yang hilang bila asumsi runtuh.
OLS + asumsi 1–6 ⟹ BLUE

Teorema Gauss-Markov: OLS adalah BLUE

Bila asumsi 1–6 terpenuhi, estimator OLS adalah B-L-U-E:

B — Best
B
Paling Efisien
Varians terkecil di antara semua estimator linear tak bias. OLS paling presisi — paling jarang jauh dari sasaran β.
L — Linear
L
Kombinasi Linear Y
Koefisien = kombinasi linear dari nilai-nilai Y. Sifat ini memungkinkan derivasi matematis yang eksak.
U — Unbiased
U
Tak Bias
Rata-rata taksiran = nilai sebenarnya: E(bₖ) = βₖ. Tidak meleset secara sistematis ke satu arah.
E — Estimator
E
Penaksir Parameter
Sebuah penaksir parameter populasi β dari sampel. OLS menghasilkan b yang terbaik di kelasnya.
Inti: di antara semua cara "adil" (tak bias) menaksir β secara linear, OLS yang paling presisi. Itu jaminan matematis — bukan kebetulan.

Coba Sendiri: Langgar Asumsi, Lihat OLS Kehilangan Gelar BLUE

Aktifkan satu per satu pelanggaran asumsi klasik dan amati bagaimana sifat Best, Linear, Unbiased dari OLS terpengaruh.

Peta Diagnosis: Pelanggaran Mana, Akibat Apa?

PelanggaranKoefisien Bias?Std Error Rusak?Akibat Utama
MultikolinearitasTidakMembengkakt kecil palsu — variabel tampak tak signifikan
HeteroskedastisitasTidakYa (keliru)Uji-t / p-value menyesatkan
AutokorelasiTidakYa (keliru)Uji-t / p-value menyesatkan
Variabel Terhilang (endogen)Ya !Koefisien bias & menyesatkan
Non-normalitas (n kecil)TidakUji tak sahp-value tak akurat
Pelajaran kunci: kebanyakan pelanggaran TIDAK membuat koefisien bias — yang rusak std error / uji-nya. Pengecualian berbahaya: variabel terhilang / endogenitas → koefisien benar-benar bias.
Bagian 3 dari 4
Multikolinearitas & Spesifikasi Model
Dua penyimpangan paling sering di skripsi FEB: variabel bebas yang saling tumpang tindih (multikol), dan variabel penting yang lupa dimasukkan (salah spesifikasi).

Multikolinearitas — Ketika Variabel Bebas Saling Tumpang Tindih

Gejala (Tanda-Tanda)
R² ↑, t ↓
Paradoks khas multikol
  • tinggi tapi koefisien banyak tak signifikan
  • Tanda koefisien terbalik dari teori
  • Koefisien berubah drastis saat variabel ditambah/dibuang
  • Std error sangat besar
Penyebab
r(X₁,X₂) ↑
Korelasi antar-prediktor kuat
  • Iklan ↔ tenaga penjual bergerak berbarengan
  • Total aset ↔ total penjualan nyaris identik
  • Komputer sulit memisahkan kontribusi masing-masing
Multikolinearitas sempurna (r = ±1) → koefisien tak bisa dihitung (det = 0). Yang lebih umum: multikol tinggi tapi tak sempurna → koefisien terhitung, std error membengkak.

Mengukur Multikolinearitas: VIF & Toleransi

VIF mengukur seberapa membengkak varians koefisien akibat korelasi dengan prediktor lain.

VIFⱼ = 1 / (1 − R²ⱼ)  ·  Toleransi = 1 / VIF = 1 − R²ⱼ

R²ⱼ = R² dari regresi bantu Xⱼ terhadap semua prediktor lain. Untuk 2 prediktor: R²ⱼ = r²₁₂.

Korelasi rR²ⱼ = r²VIFTafsir
0,000,00001,00Tak ada multikol
0,700,49001,96Ringan, aman
0,900,81005,26Perlu waspada
0,950,902510,26Batas serius
0,990,980150,25Berat
Aturan praktis baku: VIF > 10 (⇔ R²ⱼ > 0,9 ⇔ Toleransi < 0,1) → multikolinearitas serius. Sebagian buku pakai ambang lebih ketat VIF > 5.

Hitung dari Nol — HDN-2: VIF dari Korelasi

Data 8 toko (ilustratif). X₁ = iklan, X₂ = tenaga penjual. Diketahui korelasi antar-keduanya r₁₂ = 0,9941. Hitung VIF & toleransi, lalu putuskan.

LangkahPerhitunganNilai
R² bantu = r₁₂²0,9941²0,9883
Toleransi = 1 − R²ⱼ1 − 0,98830,0117
VIF = 1 / Toleransi1 / 0,011785,5
Keputusan85,5 ≫ 10 (dan Tol < 0,1)Multikol SERIUS
VIF ≈ 85,5 ≫ 10 → multikolinearitas serius. Varians koefisien membengkak ~85× dibanding bila X₁ & X₂ tak berkorelasi → std error meledak → uji-t tak bisa dipercaya.
Solusi: buang salah satu, gabung jadi indeks, atau tambah data (lihat Slide 25).

Salah Spesifikasi: Bahaya Variabel Terhilang

Kalau variabel penting yang berkorelasi dengan X dihilangkan, pengaruhnya "menyelinap" ke koefisien lain → bias. Ini satu-satunya penyimpangan yang membiaskan koefisien.

Model Penuh (Benar)
Y = β₀ + β₁X₁ + β₂X₂ + ε
Dua prediktor · Efek murni
b₁ = efek murni X₁ (X₂ dikontrol). Koefisien tak bias.
Model Pendek (X₂ Hilang)
Y = a₀ + a₁X₁ + u
X₂ terhilang · Bias!
a₁ = efek X₁ + titipan pengaruh X₂ lewat korelasinya dengan X₁. Bias!
bias(a₁) = β₂ · δ    dengan δ = slope regresi X₂ ~ X₁
Arah bias: β₂ > 0 dan korelasi(X₁,X₂) > 0 → a₁ kelebihan (overstate). Inilah penyebab umum koefisien "kelihatan besar" di skripsi yang modelnya kurang lengkap.

Hitung dari Nol — HDN-3: Besar Bias Variabel Terhilang

Model benar: Y = 10 + 3·X₁ + 5·X₂ (8 toko ilustratif). Apa jadinya koefisien iklan bila X₂ dihilangkan?

LangkahPerhitunganNilai
β₁ benar (model penuh OLS)OLS dua variabel3,000
β₂ benar (model penuh OLS)OLS dua variabel5,000
δ = slope X₂ atas X₁Regresi bantu X₂ ~ X₁0,3214
Bias = β₂ · δ5 × 0,3214+1,6071
a₁ pendek = β₁ + bias3 + 1,60714,6071
Cek langsung: regresi pendek Y ~ X₁ saja benar-benar memberi a₁ = 4,607 (≠ 3 yang benar). Koefisien iklan kelebihan 54% karena menyerap efek tenaga penjual yang terhilang.
R² model pendek = 0,9955 — tetap tinggi! R² tinggi tidak melindungi dari bias.

Adjusted R² — Hukuman untuk Variabel Sampah

Masalah R² biasa: selalu naik tiap variabel ditambah, bahkan variabel sampah. Adjusted R² menghukum penambahan tak berguna.

R²ₐdⱼ = 1 − (1 − R²) · (n − 1) / (n − k − 1)

n = ukuran sampel · k = jumlah prediktor. Penalti membesar seiring k.

k (Jumlah X)R²ₐdⱼ (n = 8)
10,850,825
20,850,790
30,850,738 (turun!)
R² sama 0,85, tapi adjusted turun saat k naik — itu hukuman untuk variabel yang tak menambah penjelasan. Gunakan R²ₐdⱼ untuk membandingkan model berbeda jumlah variabel.
Bagian 4 dari 4
Heteroskedastisitas & Autokorelasi
Dua pelanggaran tentang perilaku galat: variansnya tak sama (hetero), dan galat antar-waktu saling berkorelasi (autokorelasi). Keduanya merusak std error, bukan koefisien.

Heteroskedastisitas — Varians Galat yang Tak Konstan

Asumsi homoskedastisitas: sebaran galat sama lebar di semua nilai X. Pelanggarannya = heteroskedastisitas (sering berbentuk corong).

Homoskedastik ✓
Var(ε) = σ²
Tetap di semua X
Plot residual = pita rata. Contoh ilustrasi: var(X-rendah) ≈ var(X-tinggi). Asumsi terpenuhi.
Heteroskedastik ✗
Var(ε) ≠ σ²
Berubah dengan X — corong
Plot residual = corong melebar. Ilustrasi: var(X-rendah) = 3,3 vs var(X-tinggi) = 57,7 → melebar 17×!
Sering muncul di data lintas-unit dengan skala beragam (penjualan toko kecil vs raksasa). Akibat: koefisien tetap tak bias, tapi std error keliru → uji-t menyesatkan. Deteksi: plot residual; uji formal Breusch-Pagan / White (terapan pertemuan berikut).

Autokorelasi & Uji Durbin-Watson

Autokorelasi: galat satu periode berkorelasi dengan periode sebelumnya. Umum di data deret waktu. Uji bakunya: Durbin-Watson (DW).

DW = Σ(eₜ − eₜ₋₁)² / Σeₜ²
024Autokorelasi+SehatAutokorelasi−
DW ≈Tafsir
0Autokorelasi positif kuat
2Tak ada autokorelasi (ideal)
4Autokorelasi negatif kuat
DW dekat 2 = sehat. DW jauh di bawah 2 (mis. < 1,5) → curiga autokorelasi positif. (Batas pasti d_L, d_U dari tabel DW sesuai n & k.) Akibat: std error keliru → uji-t menyesatkan.

Hitung dari Nol — HDN-4: Statistik Durbin-Watson

Diberi 10 residual berurutan (deret waktu). Hitung DW, lalu simpulkan. Dua kasus dibandingkan.

Kasus A (sehat): e = 1, 1, −1, −1, 1, 1, −1, −1, 1, −1

LangkahPerhitunganNilai
Σeₜ²10 × (1)² — tiap residual ±110
Selisih (eₜ − eₜ₋₁)0, −2, 0, 2, 0, −2, 0, 2, −2
Σ(eₜ − eₜ₋₁)²0+4+0+4+0+4+0+4+420
DW = Σ(...) / Σeₜ²20 / 102,00 → Sehat
Kasus A: DW = 2,00 → tak ada autokorelasi (sehat). Bandingkan Kasus B (residual menanjak: −3, −2, −1, 0,5, 1, 2, 1,5, 0, −1, −2): DW ≈ 0,40 → autokorelasi positif kuat (galat menempel berurutan).

Studi Kasus: Mendiagnosis Output Regresi Penjualan Toko

Anda menerima output regresi penjualan ritel (Y) terhadap iklan (X₁) & tenaga penjual (X₂), n = 30 toko. Jalankan checklist asumsi:

CekTemuan (ilustrasi)Vonis
VIFX₁ = 6,2 ; X₂ = 6,2⚠ Waspada (mendekati 10, belum serius)
Plot residual vs ŷMelebar (corong)✗ Heteroskedastisitas
Durbin-WatsonDW = 1,1✗ Autokorelasi positif
Normalitas residualQ-Q hampir lurus✓ Wajar (n = 30 cukup)
Tanda koefisienb₁, b₂ > 0 sesuai teori✓ Masuk akal
Vonis: koefisien (arah/besar) masih dipercaya (tak bias), tetapi uji-t & p-value harus dikoreksi karena hetero + autokorelasi. Laporkan dengan std error robust, jangan baca p-value mentah.

Apa yang Harus Dilakukan Bila Asumsi Dilanggar?

MasalahObat Praktis
MultikolinearitasBuang salah satu variabel kembar · gabungkan jadi indeks · tambah ukuran sampel (lanjutan: PCA / ridge)
Variabel TerhilangMasukkan variabel yang hilang · pakai variabel kontrol/proxy (lanjutan: variabel instrumen)
HeteroskedastisitasStd error robust (White) · transformasi log Y · WLS (weighted least squares)
AutokorelasiStd error Newey-West · tambah lag · transformasi selisih
Non-normalitasPerbesar sampel (CLT) · transformasi · periksa outlier
Prinsip: diagnosa dulu, baru obati. Untuk skripsi S1, yang wajib dilaporkan: VIF · plot residual · DW · uji normalitas — beserta penjelasan tindakan yang Anda ambil.

Cheat Sheet — Asumsi & Penyimpangan Regresi Berganda

HalInti / Rumus
7 Asumsi Klasiklinear · E(ε)=0 · homoskedastik · non-autokorelasi · tak multikol sempurna · eksogen · normal(ε)
BLUEBest (efisien) · Linear · Unbiased · Estimator — hadiah Gauss-Markov bila asumsi 1–6 terpenuhi
VIF1/(1 − R²ⱼ) · VIF > 10 = multikol serius · Toleransi = 1/VIF
Bias Var. Terhilangbias = β₂·δ · Satu-satunya yang membiaskan koefisien
Adjusted R²1 − (1−R²)(n−1)/(n−k−1) · menghukum variabel sampah
Durbin-WatsonΣ(eₜ−eₜ₋₁)²/Σeₜ² · ≈2 sehat · →0 autokorelasi positif · →4 negatif
Logika tunggal: kebanyakan pelanggaran merusak STD ERROR (uji), bukan KOEFISIEN. Pengecualian: variabel terhilang / endogenitas → KOEFISIEN bias. Diagnosa: VIF → plot residual → DW → normalitas.

Latihan Kelas & Penutup

Latihan 1 — VIF
r = 0,8
Dua prediktor
Hitung R² bantu, toleransi, dan VIF, lalu putuskan apakah multikol serius (ambang VIF > 10).
Petunjuk: VIF = 1/(1 − r²).
Latihan 2 — Bias & Asumsi
Y = β₀ + 2X₁ + 6X₂
X₂ dihilangkan · δ = 0,5
(a) Hitung bias koefisien X₁. (b) Sebutkan satu pelanggaran asumsi yang tidak membiaskan koefisien.
Petunjuk: bias = β₂·δ.
Kerjakan 8 menit. Tulis langkah, hitung, lalu satu kalimat tafsir. Kunci: Latihan 1: VIF = 2,78 (tidak serius). Latihan 2: (a) bias = 3,0; a₁ = 5. (b) Multikol / hetero / autokorelasi.
Pertemuan berikut: Pengujian asumsi klasik terapan — uji normalitas & kesamaan varians di software.