Logit, Probit, dan Tobit

Sebuah bank ingin menebak satu hal sederhana tentang setiap calon nasabah kartu kredit: akan gagal bayar, atau tidak. Jawabannya cuma dua — ya atau tidak, 1 atau 0. Tim risiko punya banyak informasi tiap pelamar: penghasilan, usia, lama bekerja, riwayat cicilan. Mereka ingin mengubah informasi itu menjadi satu angka yang berguna: peluang orang ini gagal bayar.

Godaannya adalah memakai regresi biasa — tarik garis lurus dari penghasilan ke “gagal bayar”. Tetapi garis lurus punya masalah serius di sini: ia bisa memuntahkan “peluang gagal bayar = −0,15” atau “peluang = 1,30”. Peluang di bawah nol atau di atas seratus persen jelas mustahil. Untuk menebak sesuatu yang nilainya terbatas — entah hanya 0/1, entah tidak boleh negatif — kita butuh keluarga model yang berbeda: logit, probit, dan tobit.

Apa Itu Variabel Terikat Terbatas

Di regresi biasa, variabel terikat ($Y$) bebas bergerak ke angka berapa pun: nilai ujian, harga rumah, gaji. Variabel terikat terbatas (limited dependent variable) adalah $Y$ yang gerakannya dibatasi. Dua bentuk paling sering:

• Biner — hanya dua nilai, 0 atau 1. Contoh: lulus/tidak, beli/tidak, gagal bayar/tidak.
• Tersensor — kontinu, tetapi mentok di satu batas, paling sering nol. Contoh: pengeluaran untuk wisata (banyak rumah tangga nol), jam kerja (tidak bisa negatif), donasi.

Pembatasan inilah yang membuat OLS — alat untuk garis lurus tak terbatas — jadi tidak pas. Mari lihat dulu kenapa, dengan kasus biner.

Kenapa OLS Gagal untuk Outcome Biner

Andai kita paksakan OLS pada $Y \in \{0, 1\}$. Model ini punya nama: Linear Probability Model (LPM), karena garisnya dibaca sebagai peluang:

Tiap lambang:

• $P(Y = 1 \mid x)$ = peluang outcome bernilai 1, mengingat nilai $x$ tertentu. Tanda “$\mid x$” dibaca “diberikan $x$”.
• $b_0, b_1$ = intercept dan slope, persis seperti regresi biasa.

Masalahnya muncul karena garis lurus tidak tahu batas. Ia terus menanjak (atau menurun) tanpa henti. Padahal peluang wajib berada di rentang $[0, 1]$. Contoh nyata: dengan data fiktif jam-belajar lawan lulus yang kita pakai nanti, LPM memberi $\hat{P} = -0{,}166 + 0{,}0995\,x$. Coba beberapa nilai:

• $x = 0$ jam → $\hat{P} = -0{,}166$ — peluang negatif, mustahil.
• $x = 13$ jam → $\hat{P} = 1{,}127$ — peluang di atas 100%, mustahil.

Selain itu, hubungan peluang dengan $x$ sebenarnya tidak lurus: di ujung-ujung (peluang sudah mendekati 0 atau 1) tambahan $x$ hampir tidak mengubah apa-apa, sedangkan di tengah pengaruhnya besar. Garis lurus tidak bisa menangkap lengkungan ini. Inilah inti masalahnya, dalam satu gambar:

LPM tidak haram — koefisiennya mudah dibaca dan, dengan kesalahan baku robust, sering “cukup baik” untuk efek rata-rata. Tetapi untuk publikasi dan untuk peluang yang masuk akal di seluruh rentang, logit dan probit lebih tepat secara teori. Keduanya menyelesaikan masalah yang sama dengan satu trik: jangan memodelkan peluang dengan garis lurus, modelkan dengan kurva berbentuk S yang otomatis terkurung di $[0, 1]$.

Logit: Sigmoid, Odds, dan Log-Odds

Fungsi sigmoid

Logit memetakan kombinasi linear $z = \beta_0 + \beta_1 x$ ke peluang lewat fungsi logistik (sering disebut sigmoid, karena bentuknya seperti huruf S):

Tiap lambang:

• $z = \beta_0 + \beta_1 x$ = indeks linear, satu-satunya tempat $x$ masuk. Ini garis lurus biasa, persis seperti di regresi. Bedanya, $z$ tidak langsung jadi peluang.
• $e$ = bilangan Euler ($\approx 2{,}718$), basis logaritma natural. $e^{-z}$ adalah $e$ dipangkatkan $-z$.
• Pembagian $\dfrac{1}{1 + e^{-z}}$ adalah “mesin penekuk”: berapa pun $z$, hasilnya pasti antara 0 dan 1.

Contoh polos. Berapa pun nilai $z$, sigmoid mengembalikan peluang yang sah:

• $z = 0$ → $\dfrac{1}{1 + e^{0}} = \dfrac{1}{1+1} = 0{,}5$ (titik tengah).
• $z = 2$ → $\dfrac{1}{1 + e^{-2}} = \dfrac{1}{1+0{,}135} \approx 0{,}881$.
• $z = -2$ → $\dfrac{1}{1 + e^{2}} = \dfrac{1}{1+7{,}389} \approx 0{,}119$.

Lihat polanya: $z$ besar-positif mendorong peluang mendekati 1, $z$ besar-negatif mendekati 0, dan keduanya tidak pernah benar-benar tembus — persis kurva pada gambar di atas.

Odds dan log-odds

Kenapa fungsi yang itu, bukan kurva-S lain? Karena logit punya tafsiran aljabar yang rapi lewat odds. Odds adalah cara lain menyatakan peluang — bukan “peluang menang”, tetapi “perbandingan menang lawan kalah”:

Bacalah polos: odds = peluang kejadian dibagi peluang bukan-kejadian. Contoh: kalau peluang lulus $p = 0{,}8$, maka $\text{odds} = \dfrac{0{,}8}{0{,}2} = 4$ — artinya 4 banding 1, empat kali lebih mungkin lulus daripada tidak. Tabel kecil untuk merasakannya:

Keajaiban logit: kalau peluang dimodelkan dengan sigmoid, maka logaritma natural dari odds ternyata persis garis lurus $z$:

Sisi kiri disebut log-odds (atau logit, dari sinilah nama modelnya). Inilah hadiahnya: di skala peluang hubungannya melengkung (sigmoid), tetapi di skala log-odds ia kembali menjadi garis lurus dengan slope $\beta_1$. Model jadi tetap linear di balik layar — yang melengkung hanya cara kita menerjemahkannya kembali ke peluang.

Menafsirkan koefisien: odds ratio

Karena $\beta_1$ adalah slope di skala log-odds, ia bukan perubahan peluang langsung. Tetapi ia punya tafsiran yang indah lewat odds ratio $e^{\beta_1}$: setiap kenaikan satu unit $x$ mengalikan odds dengan $e^{\beta_1}$.

Contoh hitung. Andai modelnya $z = -4 + 0{,}6\,x$, dengan $x$ = jam belajar. Odds ratio per tambahan satu jam adalah $e^{0{,}6} = 1{,}8221$. Buktikan: di $x = 5$ jam, odds $= e^{-4 + 0{,}6 \cdot 5} = e^{-1} = 0{,}3679$. Di $x = 6$ jam, odds $= e^{-0{,}4} = 0{,}6703$. Rasionya $\dfrac{0{,}6703}{0{,}3679} = 1{,}8221$ — persis $e^{0{,}6}$. Maknanya polos: tiap tambahan satu jam belajar menggandakan (lebih sedikit) odds lulus, hampir dua kali lipat.

Aturan praktisnya: $e^{\beta_1} > 1$ → odds naik (pengaruh positif); $e^{\beta_1} < 1$ → odds turun; $e^{\beta_1} = 1$ → tidak berpengaruh.

Probit: Lewat CDF Normal

Probit menyelesaikan masalah yang sama — menekuk garis lurus ke dalam $[0, 1]$ — tetapi memakai “mesin penekuk” yang berbeda: fungsi distribusi kumulatif (CDF) normal baku, dilambangkan $\Phi$ (huruf Yunani Phi besar):

Tiap lambang:

• $\Phi(z)$ = luas di bawah kurva normal baku (distribusi normal) sampai titik $z$ — yaitu peluang sebuah nilai normal baku jatuh di bawah $z$. Seperti sigmoid, $\Phi$ selalu menghasilkan angka antara 0 dan 1.
• $z = \beta_0 + \beta_1 x$ = indeks linear yang sama persis seperti logit.

Secara cerita, probit berangkat dari gagasan variabel laten (tersembunyi): bayangkan ada “kecenderungan tersembunyi” $Y^*$ yang berdistribusi normal, dan kita hanya melihat $Y = 1$ ketika kecenderungan itu melewati ambang tertentu. Logit dan probit menghasilkan kurva-S yang nyaris berimpit dalam praktik — perbedaan prediksinya kecil. Anda bisa membuktikannya sendiri di widget di bawah.

Logit atau probit?

Keduanya sahih. Logit lebih populer karena odds ratio mudah diceritakan. Yang penting: jangan bandingkan koefisien logit lawan probit secara langsung — skalanya berbeda. Secara teori varians logistik adalah $\pi^2/3$ sehingga koefisien logit kira-kira $\pi/\sqrt{3} \approx 1{,}81$ kali koefisien probit; aturan praktis yang sering dipakai (Amemiya) adalah logit $\approx 1{,}6 \times$ probit. Untuk membandingkan dua model, bandingkan marginal effect-nya, bukan koefisien mentah.

Marginal Effect: Efek pada Peluang

Inilah jebakan tafsir terbesar. Koefisien $\beta_1$ adalah efek pada log-odds (logit) atau pada indeks laten (probit) — bukan efek pada peluang. $\beta_1 = 0{,}6$ tidak berarti “peluang naik 0,6”. Yang punya makna langsung dalam satuan peluang adalah marginal effect (efek marginal):

Tiap lambang:

• $\dfrac{\partial P}{\partial x}$ = laju perubahan peluang saat $x$ naik sedikit (kemiringan kurva-S di titik itu).
• $g(z)$ = kerapatan kurva pada $z$ — untuk logit $g(z) = p(1-p)$, paling besar saat $p = 0{,}5$ (di sana $g = 0{,}5 \cdot 0{,}5 = 0{,}25$) dan mengecil menuju nol di kedua ujung.

Konsekuensi pentingnya: marginal effect tidak tetap — ia bergantung pada posisi di kurva. Tambahan satu jam belajar untuk mahasiswa yang peluang lulusnya 50% (di lereng paling curam) mengubah peluang jauh lebih banyak daripada untuk mahasiswa yang peluangnya sudah 95% (di bagian datar). Karena itu, hasil biasa dilaporkan sebagai satu ringkasan:

• Average Marginal Effect (AME) — hitung ME untuk tiap pengamatan, lalu rata-ratakan. Paling lazim.
• Marginal Effect at Means (MEM) — hitung ME pada nilai rata-rata semua peubah.

Contoh Hitung dari Nol

Mari kerjakan kasus biner sampai tuntas. Dua puluh mahasiswa, $x$ = jam belajar per minggu, $Y = 1$ kalau lulus, $0$ kalau tidak.

Langkah 1 — data mentah.

Dari 20 mahasiswa, 11 lulus. Tidak ada rumus tangan tertutup untuk logit — koefisien dicari lewat maximum likelihood (cari $\beta$ yang membuat data teramati paling mungkin terjadi), yang dikerjakan perangkat lunak secara berulang. Yang penting di sini: paham arti keluarannya, bukan menghitung iterasinya dengan tangan.

Langkah 2 — koefisien (dari statsmodels). Logit menghasilkan:

Langkah 3 — terjemahkan ke peluang. Pakai sigmoid pada beberapa nilai jam belajar:

Mahasiswa yang belajar 5 jam: peluang lulus sekitar 28%. Yang belajar 10 jam: 90%. Kurva-S terlihat — kenaikan dari 5 ke 8 jam menambah peluang banyak (28% → 72%), tetapi dari 8 ke 10 jam tambahannya mengecil (72% → 90%).

Langkah 4 — odds ratio. $e^{\beta_1} = e^{0{,}6333} = 1{,}8838$. Tiap tambahan satu jam belajar per minggu mengalikan odds lulus dengan 1,88 — odds naik sekitar 88%.

Langkah 5 — marginal effect. Average Marginal Effect-nya $\text{AME} = 0{,}0854$: rata-rata seluruh mahasiswa, satu jam belajar tambahan menaikkan peluang lulus sekitar 8,5 poin persen. (Marginal Effect at Means lebih besar, 0,1514, karena rata-rata jam belajar jatuh dekat lereng curam kurva.) Perhatikan: AME 8,5 poin persen sangat berbeda dari koefisien mentah 0,63 — inilah kenapa koefisien mentah tidak boleh dibaca sebagai perubahan peluang.

Langkah 6 — pseudo-$R^2$. Tidak ada $R^2$ biasa di logit. Ukuran penggantinya adalah pseudo-$R^2$ McFadden, di sini 0,389. Tafsirnya berbeda dari $R^2$ regresi — bukan “proporsi variasi dijelaskan”, melainkan perbaikan likelihood relatif terhadap model kosong. Nilai 0,2–0,4 sudah tergolong cocok untuk model biner.

Visualisasi Interaktif

Geser koefisien dan bandingkan ketiga kurva pada data biner yang sama.

Hal yang patut dicoba:

1. Perhatikan kurva logit dan probit nyaris berimpit — perbedaan prediksinya kecil.
2. Lihat garis LPM (OLS) menembus di bawah 0 dan di atas 1 di ujung, sementara logit/probit tetap terkurung di $[0,1]$.
3. Geser $\beta_1$ (kemiringan): marginal effect paling besar di tengah (peluang $\approx 0{,}5$, lereng paling curam) dan mengecil di kedua ujung.

Tobit: Data Tersensor

Sampai sini kita menggarap outcome biner. Bentuk variabel terikat terbatas yang kedua adalah tersensor — dan untuk itu ada tobit (dari Tobin + probit).

Bayangkan data pengeluaran rumah tangga untuk barang mewah. Banyak rumah tangga mencatat nol — bukan karena mereka “hampir membeli”, tetapi karena memang tidak ikut sama sekali. Nol di sini menumpuk dan bukan sekadar “angka kecil”. Kalau dipaksa OLS, model memperlakukan tumpukan nol itu seperti data kontinu biasa, dan hasilnya bias (slope tertarik mendekati nol).

Tobit menyelesaikannya dengan gagasan variabel laten. Bayangkan ada “keinginan membeli” tersembunyi $Y^*$ yang bisa bernilai negatif (keinginan di bawah ambang), tetapi yang teramati hanya bagian yang menyeberang nol:

Tiap lambang:

• $Y^*$ = variabel laten tak teramati — nilai “sesungguhnya” yang boleh negatif.
• $\max(0,\ Y^*)$ = ambil yang lebih besar antara 0 dan $Y^*$. Kalau $Y^*$ negatif, yang tercatat 0; kalau positif, tercatat apa adanya.
• $\varepsilon$ = error berdistribusi normal (residual polos $\varepsilon = Y^* - (\beta_0 + \beta_1 x)$, selisih nilai laten dari prediksinya).

Estimasi memakai maximum likelihood yang memisahkan dua jenis pengamatan: yang positif (pakai kerapatan normal) dan yang tersensor di nol (pakai peluang $Y^* \le 0$). Dengan begitu tumpukan nol diperlakukan sebagai informasi, bukan gangguan.

Contoh seberapa besar biasnya. Pada data simulasi (model benar $Y^* = -3 + 1{,}2\,x + \varepsilon$, 43% pengamatan tersensor di nol):

OLS meleset jauh; tobit kembali ke kebenaran. Itulah inti masalahnya: bukan teknik yang lebih rumit demi kerumitan, tetapi koreksi atas bias nyata.

Memilih Model: Ringkasan

Bedakan tobit dari Heckman dengan cermat: tobit = nilainya tersensor tetapi semua orang ada di data; Heckman = sebagian orang hilang sama sekali dari sampel karena proses seleksi. Keduanya dibahas tuntas di Heckman selection model.

Cara di Software

# R
logit  <- glm(y ~ x, family = binomial(link = "logit"),  data = dat)
probit <- glm(y ~ x, family = binomial(link = "probit"), data = dat)
exp(coef(logit))                  # odds ratio
library(margins); summary(margins(logit))   # average marginal effect
library(AER); tobit(y ~ x, left = 0, data = dat)   # tobit, batas bawah 0

* Stata
logit y x
margins, dydx(*)        // marginal effect
logistic y x            // langsung odds ratio
probit y x
tobit y x, ll(0)        // tobit, batas bawah 0

# Python (statsmodels)
import statsmodels.api as sm
X = sm.add_constant(x)
m = sm.Logit(y, X).fit()
import numpy as np; np.exp(m.params)   # odds ratio
m.get_margeff(at="overall").summary()  # average marginal effect
sm.Probit(y, X).fit()

Cek Pemahaman

1. Sebuah model logit menghasilkan koefisien $\beta_1 = 0{,}7$ untuk peubah “punya tabungan” pada peluang seseorang lunas tepat waktu. (a) Berapa odds ratio-nya? (b) Tafsirkan dalam satu kalimat polos. (c) Apakah $\beta_1 = 0{,}7$ berarti peluang naik 0,7?

2. (Soal transfer.) Seorang peneliti memodelkan pengeluaran rumah tangga untuk kursus anak (juta rupiah per bulan). Dalam datanya, 38% rumah tangga mencatat pengeluaran nol untuk pos ini, sisanya bernilai positif. (a) Kenapa OLS biasa berisiko bias di sini? (b) Model mana yang tepat, dan apa peran variabel laten $Y^*$? (c) Kalau ternyata sebagian besar rumah tangga yang nol itu tidak masuk data sama sekali (hanya rumah tangga yang pernah ikut kursus yang tercatat), apakah jawaban (b) berubah?

Kesalahan Umum

Menafsirkan koefisien logit/probit sebagai perubahan peluang. Koefisien mentah hanya menunjukkan arah dan signifikansi. Untuk besaran, hitung odds ratio ($e^{\beta}$, khusus logit) atau marginal effect. Koefisien 0,63 dalam contoh kita setara AME hanya 8,5 poin persen.

Membandingkan koefisien logit dan probit langsung. Skalanya berbeda (logit $\approx 1{,}6 \times$ probit). Bandingkan marginal effect, bukan koefisien.

Memakai OLS untuk outcome biner tanpa pikir panjang. LPM boleh untuk efek rata-rata cepat, asalkan pakai kesalahan baku robust dan sadar prediksi bisa keluar dari $[0,1]$. Untuk publikasi, logit/probit lebih aman.

Memakai OLS untuk data dengan banyak nol. Tumpukan nol membuat OLS bias (slope tertarik ke nol). Pertimbangkan tobit, atau model dua bagian (hurdle) kalau keputusan “ikut atau tidak” dan “berapa banyak kalau ikut” digerakkan proses berbeda.

Memakai $R^2$ biasa pada logit. Tidak ada $R^2$ baku. Pakai pseudo-$R^2$ (McFadden) dan sadari tafsirnya berbeda — bukan proporsi variasi yang dijelaskan.

Mengira tobit cocok untuk semua data ber-nol-banyak. Kalau nol muncul karena pengamatan hilang dari sampel (seleksi), bukan karena nilai mentok, tobit salah — itu wilayah Heckman.

Dipakai di Dunia Nyata

• Credit scoring perbankan. Peluang gagal bayar (logit/probit) adalah inti model risiko kredit bank di Indonesia — masuk perhitungan pencadangan kerugian (ECL) dan keputusan persetujuan kredit. Logit dominan karena odds ratio mudah dikomunikasikan ke komite kredit.
• Partisipasi tenaga kerja. Keputusan bekerja atau tidak (biner → logit) dan jam kerja yang tersensor di nol (→ tobit) adalah aplikasi klasik pada data Sakernas BPS. Studi partisipasi kerja perempuan biasanya melangkah dari logit/tobit ke Heckman.
• Adopsi teknologi dan program. Apakah petani mengadopsi benih unggul, apakah rumah tangga ikut program bantuan, apakah UMKM mengambil pinjaman: outcome biner yang lazim dimodelkan logit di evaluasi kebijakan.
• Riset pasar dan asuransi. Peluang membeli produk, peluang klaim asuransi, peluang nasabah pindah (churn) — semuanya outcome biner di mana odds ratio menjadi bahasa standar.

Lanjutan

• Sebelumnya: Distribusi binomial — fondasi outcome ya/tidak yang mendasari model biner, dan Regresi linear sederhana — garis lurus yang kita lengkungkan jadi sigmoid.
• Berikutnya: Heckman selection model — saat masalahnya bukan sensoring melainkan sampel yang ter-seleksi.
• Pelengkap: Functional forms — cara lain “membengkokkan” regresi linear (log, kuadratik) untuk menangkap hubungan tak-lurus.

Reference

• Wooldridge, J. (2019), “Introductory Econometrics: A Modern Approach”, Ch. 17.
• Tobin, J. (1958), “Estimation of Relationships for Limited Dependent Variables”, Econometrica.
• Greene, W. (2018), “Econometric Analysis”, Ch. 17–19.
• Amemiya, T. (1981), “Qualitative Response Models: A Survey”, Journal of Economic Literature.