Asumsi OLS

Anda menjalankan regresi dan layar memberi kabar gembira: garis cocok rapat, angka kecocokan tinggi, dan nilai-$p$ kecil sekali. Rasanya pekerjaan selesai. Anda tinggal menuliskan kesimpulan.

Tahan dulu. Angka-angka cantik itu hanya bisa dipercaya kalau garis yang dipasang OLS memang dipasang dengan cara yang benar. Bayangkan timbangan pasar: jarumnya bisa menunjuk angka yang sangat meyakinkan, tetapi kalau timbangannya tidak ditara, angka itu menyesatkan. Asumsi OLS adalah daftar “syarat tara” untuk regresi Anda — kalau salah satu tidak terpenuhi, hasilnya bisa miring tanpa Anda sadari.

Materi ini membahas lima asumsi inti itu satu per satu: apa artinya dengan bahasa sehari-hari, dan apa akibatnya bila dilanggar.

Bintang Utamanya: Sisa

Hampir semua asumsi OLS sebenarnya berbicara tentang satu hal yang sama: sisa (juga disebut residual atau galat). Maka kita kenalkan dulu pemain ini, polos-polosan.

Setelah garis regresi terpasang, tiap titik data punya dua nilai-$y$: nilai aktual yang sungguh terjadi, dan nilai prediksi yang ditunjuk garis. Selisih keduanya adalah sisa:

$$e = y - \hat{y} = (\text{nilai aktual} - \text{nilai prediksi})$$

Penjelasan tiap lambang:

• $y$ = nilai aktual yang teramati di data. Misalnya seorang mahasiswa belajar 3 jam dan nilainya 10.
• $\hat{y}$ (dibaca “y-topi”) = nilai yang diramalkan garis untuk titik itu. Kalau garisnya $\hat{y} = 2 + 2x$, maka untuk $x = 3$ ramalannya $2 + 2(3) = 8$.
• $e$ = sisa, yaitu seberapa meleset ramalan. Pada contoh tadi $e = 10 - 8 = +2$: nilai aktual dua poin di atas garis.

Sisa positif berarti titik berada di atas garis (aktual lebih tinggi dari ramalan); sisa negatif berarti di bawah garis. Secara gambar, sisa adalah jarak tegak dari titik ke garis:

Kenapa sisa begitu penting? Karena lima asumsi OLS pada dasarnya adalah lima janji tentang perilaku sisa: sisa harus rata di kedua sisi garis, tidak boleh berhubungan dengan $x$, sebarannya harus seragam, satu sisa tidak boleh meramalkan sisa berikutnya, dan bentuk sebarannya sebaiknya menyerupai lonceng. Sekali Anda paham sisa, kelima asumsi menjadi mudah dibaca.

Kenapa Asumsi Ini Ada: OLS Ingin Jadi BLUE

OLS memilih garis dengan satu aturan: minimkan total luas persegi sisa. Tiap sisa dijadikan sisi sebuah persegi (luasnya $e^2$), lalu garis digeser sampai jumlah seluruh luas itu sekecil mungkin. Itulah arti harfiah “kuadrat terkecil”.

Pertanyaannya: apakah garis hasil aturan ini bisa dipercaya? Para ahli statistik membuktikan satu hasil indah lewat teorema Gauss-Markov: bila sekumpulan asumsi terpenuhi, taksiran OLS adalah BLUE — Best Linear Unbiased Estimator, taksiran linear tak-bias yang terbaik:

• Best (terbaik): di antara semua taksiran linear yang tak-bias, OLS punya ragam paling kecil — paling stabil, paling tidak gampang berubah dari sampel ke sampel.
• Linear: taksirannya adalah kombinasi linear dari nilai $y$.
• Unbiased (tak-bias): rata-rata, taksiran mengena ke nilai sebenarnya, $E(\hat{\beta}) = \beta$ — tidak sistematis terlalu tinggi atau terlalu rendah.
• Estimator: ia menaksir parameter sebenarnya $\beta$ yang tak kita ketahui.

Jadi asumsi bukan ritual birokrasi. Asumsi adalah harga yang harus dibayar agar label BLUE berlaku. Langgar satu, dan jaminan itu gugur — entah taksiran jadi bias, atau galat bakunya (ukuran ketidakpastian) jadi salah.

Lima Asumsi Inti, Satu per Satu

Tabel ini ringkasannya; bagian berikut membahas tiap baris polos-polosan.

1. Linearitas

Arti polos. Hubungan antara $x$ dan $y$ memang berbentuk garis lurus, bukan lengkung. Modelnya:

$$y = \beta_0 + \beta_1 x + \varepsilon$$

Di sini $\beta_0$ (alas) dan $\beta_1$ (kemiringan) adalah parameter sebenarnya, dan $\varepsilon$ (dibaca “epsilon”) adalah galat acak. Yang penting: tiap parameter masuk secara lurus, dikalikan lalu dijumlahkan. Bentuk seperti $y = \beta_0 + x^{\beta_1}$ — yang pangkatnya parameter — bukan linear dan tidak boleh dipasangi OLS apa adanya.

Contoh pelanggaran. Hubungan dosis obat dan kesembuhan sering melengkung: tambahan dosis awal sangat menolong, tambahan berikutnya makin sedikit pengaruhnya. Memaksakan garis lurus akan meramalkan terlalu rendah di tengah dan terlalu tinggi di ujung.

Akibat & obat. Garis salah bentuk, taksiran bias. Obatnya: ubah bentuk variabel (mis. pakai logaritma), tambah suku kuadrat ($x^2$), atau gunakan metode tanpa-bentuk-tetap.

2. Eksogenitas (rata-rata sisa nol)

Inilah asumsi paling penting — dan yang paling sering merusak diam-diam. Secara lambang:

$$E(\varepsilon \mid x) = 0$$

Arti polos. Apa pun nilai $x$-nya, rata-rata sisa di situ adalah nol. Dengan kata lain, sisa tidak menyimpan pola yang berhubungan dengan $x$. Kalau dilihat sebar, sisa harus berserak acak di sekitar nol, tanpa kecenderungan naik atau turun mengikuti $x$.

• $E(\cdot)$ artinya “rata-rata harapan” — bayangkan saja rata-rata.
• Tanda $\mid x$ dibaca “untuk $x$ tertentu” — jadi rumusnya berkata: untuk setiap kelompok $x$, rata-rata sisanya nol.

Kenapa krusial. Kalau sisa berhubungan dengan $x$, berarti garis “memikul” sesuatu yang seharusnya bukan tugasnya — biasanya ada variabel penting yang lupa dimasukkan dan menyelinap ke dalam sisa. Gejala ini disebut endogenitas, dan akibatnya taksiran $b_1$ bias: kemiringan garis terbaca terlalu curam atau terlalu landai dari yang sebenarnya.

Contoh pelanggaran. Anda meregresikan gaji ($y$) terhadap lama sekolah ($x$), tetapi lupa memperhitungkan kemampuan bawaan. Orang yang lebih mampu cenderung sekolah lebih lama dan bergaji lebih tinggi; kemampuan itu masuk ke sisa dan berhubungan dengan $x$. Akibatnya pengaruh sekolah terbaca lebih besar dari yang sebenarnya.

Obat. Variabel instrumen, efek tetap (fixed effect), atau desain data panel.

3. Homoskedastisitas (sebaran sisa seragam)

$$\text{Var}(\varepsilon \mid x) = \sigma^2 \quad \text{(sama untuk semua } x)$$

Arti polos. Ragam sisa — seberapa lebar sisa berpencar — sama besar di semua nilai $x$. Titik di sisi kiri grafik dan di sisi kanan grafik sama-sama berserak dengan lebar yang mirip. Kata “homo” = sama, “skedastik” = sebaran.

• $\text{Var}(\cdot)$ = ragam, ukuran lebar pencaran (lihat Variabilitas).
• $\sigma^2$ (dibaca “sigma kuadrat”) = sebuah angka tetap; intinya tidak bergantung pada $x$.

Lawannya disebut heteroskedastisitas: sebaran sisa melebar atau menyempit seiring $x$. Di sebar sisa, polanya tampak seperti corong — sempit di satu ujung, lebar di ujung lain.

Contoh pelanggaran. Regresi pengeluaran rumah tangga terhadap pendapatan. Keluarga berpendapatan kecil pola belanjanya seragam (semua untuk kebutuhan pokok); keluarga berpendapatan besar bisa belanja sangat hemat atau sangat boros — sebaran sisanya jauh lebih lebar. Corong khas heteroskedastisitas.

Akibat & obat. Kabar baiknya, taksiran $b_0$ dan $b_1$ tetap tak-bias — garisnya masih benar. Yang rusak adalah galat baku, sehingga nilai-$p$ dan selang kepercayaan jadi salah, dan kesimpulan uji bisa keliru. Obat: galat baku kokoh (robust standard error) atau kuadrat terkecil terboboti.

4. Tanpa Autokorelasi (sisa saling bebas)

$$\text{Cov}(\varepsilon_i, \varepsilon_j) = 0 \quad \text{untuk } i \neq j$$

Arti polos. Sisa satu pengamatan tidak boleh meramalkan sisa pengamatan lain. Mengetahui satu titik meleset ke atas tidak boleh memberi tahu Anda apakah titik berikutnya juga meleset ke atas.

• $\text{Cov}(\cdot,\cdot)$ = peragam, ukuran seberapa dua hal bergerak bersama; nol berarti tak berhubungan.
• $\varepsilon_i$ dan $\varepsilon_j$ = sisa pengamatan ke-$i$ dan ke-$j$ yang berbeda.

Contoh pelanggaran. Data runtun waktu paling rawan. Kalau penjualan bulan ini di atas garis, bulan depan kemungkinan masih di atas garis — sisa “menempel” dari periode ke periode. Inilah autokorelasi, lazim pada data ekonomi bulanan atau tahunan.

Akibat & obat. Mirip heteroskedastisitas: garis masih tak-bias, tetapi galat baku salah — biasanya terlalu kecil, sehingga Anda merasa lebih yakin daripada yang pantas. Obat: model deret waktu (AR/MA) atau galat baku Newey-West.

5. Kenormalan Sisa

$$\varepsilon \sim \mathcal{N}(0, \sigma^2)$$

Arti polos. Sisa menyebar mengikuti kurva lonceng (distribusi normal) yang berpusat di nol. Kebanyakan sisa kecil, sisa besar makin jarang, dan banyaknya sisa positif seimbang dengan yang negatif.

• Lambang $\sim$ dibaca “berdistribusi mengikuti”.
• $\mathcal{N}(0, \sigma^2)$ = distribusi normal dengan rata-rata nol dan ragam $\sigma^2$ (lihat Distribusi normal).

Akibat & obat. Ini asumsi paling longgar. Untuk sampel kecil, kenormalan diperlukan agar nilai-$p$ dan selang kepercayaan tepat. Untuk sampel besar, teorema limit pusat menyelamatkan: taksiran tetap berperilaku normal walau sisa aslinya tidak. Obat saat $n$ kecil dan sisa jauh dari normal: ubah bentuk variabel, atau bootstrap.

Contoh Hitung Sisa dari Nol

Mari turunkan sisa dengan tangan dan periksa dua janji asumsi paling penting — rata-rata sisa nol dan sisa tak berhubungan dengan $x$ — pakai data kecil yang sama dengan gambar persegi di atas.

Misalkan $x$ = jam belajar dan $y$ = nilai kuis lima mahasiswa:

Langkah 1 — pasang garis OLS. Dengan rumus dari regresi linear sederhana, dari data ini diperoleh $b_1 = 2$ dan $b_0 = 2$, sehingga garisnya:

$$\hat{y} = 2 + 2x$$

Langkah 2 — hitung prediksi dan sisa tiap titik. Untuk tiap $x$, isi $\hat{y} = 2 + 2x$, lalu $e = y - \hat{y}$:

Langkah 3 — periksa eksogenitas. Dua hal harus dipenuhi, dan keduanya benar di sini:

• Rata-rata sisa nol. Jumlah kolom $e$ adalah $+1-2+2-2+1 = 0$, jadi rata-ratanya $0/5 = 0$. Ini selalu terjadi pada OLS — bagian “rata-rata nol” dari eksogenitas otomatis terpenuhi oleh cara OLS memasang garis.
• Sisa tak berhubungan dengan $x$. Saat $x$ membesar (1→5), sisa tidak ikut naik atau turun secara teratur: urutannya $+1, -2, +2, -2, +1$ — naik-turun tanpa pola searah $x$. Perhitungan korelasinya tepat 0. Sisa di sini “bersih” dari $x$.

Langkah 4 — kaitkan ke garis OLS. Kolom $e^2$ menjumlah menjadi $\sum e^2 = 14$. Inilah total luas persegi yang diminimalkan OLS pada gambar di atas; tidak ada garis lurus lain yang bisa membuat angka 14 ini lebih kecil untuk data tersebut.

Jadi untuk contoh ini, dua janji terpenting (rata-rata sisa nol dan sisa tak berhubungan dengan $x$) terpenuhi — modelnya lolos pemeriksaan eksogenitas dasar.

Menafsirkan: Apa yang Hilang Kalau Asumsi Dilanggar

Bedakan dua jenis kerusakan, karena obatnya beda:

• Taksiran jadi bias (garis salah arah). Dipicu oleh pelanggaran linearitas dan eksogenitas. Ini paling berbahaya: berapa pun banyak datanya, jawaban Anda tetap meleset secara sistematis. Tidak bisa diperbaiki sekadar dengan menambah data.
• Galat baku jadi salah (garis benar, tetapi ukuran ketidakpastiannya keliru). Dipicu oleh heteroskedastisitas dan autokorelasi. Garisnya masih bisa dipercaya, tetapi nilai-$p$ dan selang kepercayaan menyesatkan. Biasanya bisa ditambal dengan galat baku kokoh.
• Kenormalan berada di kategori paling ringan: untuk sampel besar nyaris tak jadi soal.

Urutan kepedulian yang masuk akal: utamakan eksogenitas dan linearitas (penyebab bias), lalu homoskedastisitas dan autokorelasi (penyebab galat baku salah), terakhir baru kenormalan.

Bereksperimen Sendiri

Geser pengatur dan lihat langsung bentuk pelanggaran tiap asumsi pada sebar sisa — pola corong untuk heteroskedastisitas, lengkungan untuk pelanggaran linearitas, dan seterusnya.

Cek Pemahaman

1. Sebuah garis regresi $\hat{y} = 10 + 3x$. Seorang individu punya $x = 4$ dan nilai aktual $y = 25$. Berapa sisanya, dan apakah titik ini di atas atau di bawah garis?

Lihat jawaban

Prediksi: $\hat{y} = 10 + 3(4) = 22$. Sisa: $e = y - \hat{y} = 25 - 22 = +3$. Karena sisa positif, titik berada di atas garis (aktual tiga satuan lebih tinggi dari ramalan).

2. Anda meregresikan pengeluaran iklan ($x$) terhadap penjualan ($y$) dan menemukan sebar sisa berbentuk corong: melebar saat $x$ membesar. Asumsi mana yang dilanggar? Apakah garis taksiran Anda masih bisa dipercaya?

Lihat jawaban

Bentuk corong adalah ciri khas heteroskedastisitas (sebaran sisa tidak seragam). Kabar baiknya, taksiran $b_0$ dan $b_1$ tetap tak-bias — arah dan kemiringan garis masih benar. Yang rusak adalah galat baku, sehingga nilai-$p$ dan selang kepercayaan jadi salah. Tambalannya: pakai galat baku kokoh sebelum menyimpulkan signifikansi.

3. (Soal transfer) Seorang peneliti meregresikan upah ($y$) terhadap lama sekolah ($x$), tetapi tidak punya data kemampuan bawaan — padahal orang yang lebih mampu cenderung sekolah lebih lama dan berupah lebih tinggi. Asumsi mana yang terancam, dan apa akibatnya bagi taksiran pengaruh sekolah? Apakah menambah jumlah data menyelesaikannya?

Lihat jawaban

Yang terancam adalah eksogenitas $E(\varepsilon \mid x) = 0$. Kemampuan bawaan yang hilang dari model menyelinap ke dalam sisa dan berhubungan dengan $x$ (lama sekolah) — inilah endogenitas. Akibatnya taksiran pengaruh sekolah bias, umumnya terbaca lebih besar dari yang sebenarnya karena ikut memikul pengaruh kemampuan. Menambah data tidak menolong: bias tetap ada berapa pun besarnya sampel. Yang dibutuhkan adalah strategi identifikasi seperti variabel instrumen atau memasukkan ukuran kemampuan.

Kesalahan Umum

Melewati pemeriksaan asumsi karena “merepotkan”. Tanpa cek, Anda tidak tahu apakah angka cantik di layar berarti sesuatu. Sebar sisa cuma butuh satu langkah, dan ia menangkap tiga asumsi sekaligus (linearitas, eksogenitas, homoskedastisitas).

Mengira angka kecocokan tinggi membuktikan asumsi terpenuhi. Kecocokan tinggi sama sekali tidak menjamin sisa bersih, sebarannya seragam, atau tidak ada variabel penting yang hilang. Dua hal yang berbeda.

Memakai OLS pada data runtun waktu tanpa penyesuaian. Data deret waktu hampir pasti terkena autokorelasi; galat baku polos akan salah dan membuat Anda terlalu percaya diri.

Menganggap kenormalan wajib untuk semua ukuran sampel. Untuk $n$ besar, teorema limit pusat menutupinya. Kenormalan baru benar-benar penting saat $n$ kecil.

Lupa memikirkan eksogenitas. Asumsi paling penting justru paling tak kasat mata — tidak ada “corong” yang terlihat. Selalu tanyakan: adakah variabel penting yang saya lupakan dan berhubungan dengan $x$?

Dipakai di Dunia Nyata

• Ekonomi tenaga kerja. Studi pengaruh pendidikan terhadap upah berdiri-jatuh pada asumsi eksogenitas; seluruh metode variabel instrumen dikembangkan justru untuk mengakali pelanggaran asumsi ini.
• Keuangan. Regresi imbal hasil saham hampir selalu memakai galat baku kokoh, karena heteroskedastisitas dan autokorelasi adalah aturan, bukan kekecualian, pada data pasar.
• Pemasaran. Model penjualan terhadap belanja iklan diperiksa heteroskedastisitasnya sebelum dipakai menetapkan anggaran — galat baku yang salah bisa membuat keputusan jutaan rupiah berdiri di atas signifikansi semu.
• Penelitian kebijakan publik. Sebelum melaporkan dampak sebuah program, peneliti memeriksa kenormalan dan kebebasan sisa agar selang kepercayaan dampak bisa dipertanggungjawabkan.

Lanjutan

Asumsi memberi tahu Anda apa yang harus dipenuhi; langkah berikutnya adalah belajar cara memeriksanya secara rapi — plot sisa, uji formal seperti Breusch-Pagan dan Durbin-Watson, dan ukuran seperti VIF untuk multikolinearitas.

• Lanjut ke Diagnostik regresi — alat dan uji untuk memeriksa tiap asumsi di sini secara sistematis.
• Perlu menyegarkan dasar garis regresinya dulu? Balik ke Regresi linear sederhana.
• Setelahnya, Regresi linear berganda memperluas semua ini ke banyak peubah penjelas — tempat asumsi multikolinearitas mulai berperan.