Regresi sebagai Alat Prediksi

Data Science · Pertemuan 7 · Program Bisnis Digital

CPMK-1 CPMK-2 CPMK-3 CPMK-4 150 menit

Agenda Hari Ini

Teori

Apa itu regresi & mengapa penting
Regresi linear: persamaan & asumsi
Interpretasi koefisien β
Regresi logistik: odds & probabilitas
Metrik evaluasi model

Praktik & Kasus

Studi kasus prediksi nilai pesanan (Tokopedia)
Studi kasus churn pelanggan (Telkom)
Latihan interpretasi output Python
Diskusi: kapan pilih linear vs logistik?
Tugas & preview Pertemuan 8

Tujuan Pembelajaran

Menjelaskan asumsi regresi linear dan mendeteksi pelanggarannya

Menginterpretasikan koefisien β dan odds ratio dalam konteks bisnis

Mengevaluasi performa model menggunakan R², RMSE, dan akurasi

Sub-CPMK: Mahasiswa mampu menerapkan regresi linear dan logistik untuk prediksi variabel bisnis dan menginterpretasikan koefisien.

Topik 1

Regresi Linear: Asumsi & Interpretasi Koefisien

Apa Itu Regresi Linear?

Regresi linear memodelkan hubungan linear antara variabel prediktor (X) dan variabel respons numerik (Y).

ŷ = β₀ + β₁x₁ + β₂x₂ + … + βₙxₙ + ε

β₀ — intersep (nilai Y ketika semua X = 0)
βᵢ — koefisien: perubahan Y per unit Xᵢ, ceteris paribus
ε — error (residual)

Contoh Bisnis Digital

Prediksi nilai pesanan rata-rata (Average Order Value) pengguna Tokopedia berdasarkan:

Jumlah kunjungan per minggu (x₁)
Usia akun dalam bulan (x₂)
Kategori favorit pengguna (x₃)

→ Output: estimasi AOV dalam rupiah

Coba Sendiri: Fit Garis Regresi pada Scatter Plot

Geser titik data pada scatter plot dan amati bagaimana garis regresi serta koefisien korelasinya menyesuaikan.

Empat Asumsi Utama Regresi Linear

Asumsi	Penjelasan	Cara Deteksi
Linearitas	Hubungan X dan Y bersifat linear	Scatter plot X vs Y; residual vs fitted
Independensi	Observasi saling bebas (tidak ada autokorelasi)	Uji Durbin-Watson; plot residual vs urutan waktu
Homoskedastisitas	Varians residual konstan di sepanjang X	Scale-Location plot; uji Breusch-Pagan
Normalitas residual	Residual terdistribusi normal	Q-Q plot; uji Shapiro-Wilk (sampel kecil)

Pelanggaran asumsi tidak selalu membatalkan model—tetapi mengubah cara kita menginterpretasikan dan mempercayai hasilnya.

Coba Sendiri: Uji Durbin-Watson untuk Autokorelasi

Ubah pola residual berurutan dan amati bagaimana statistik Durbin-Watson bergeser dari indikasi autokorelasi positif ke negatif.

Coba Sendiri: Uji Breusch-Pagan untuk Heteroskedastisitas

Ubah sebaran residual terhadap nilai prediksi dan amati bagaimana statistik Breusch-Pagan mendeteksi varians residual yang tidak konstan.

Interpretasi Koefisien β

Contoh Output Model

AOV = 45.000 + 12.500·(kunjungan) + 800·(usia_akun) − 5.000·(mobile_only)

β₀ = 45.000: AOV baseline (Rp)
β₁ = 12.500: setiap +1 kunjungan/minggu → AOV naik Rp 12.500
β₂ = 800: setiap +1 bulan usia akun → AOV naik Rp 800
β₃ = −5.000: pengguna mobile-only → AOV lebih rendah Rp 5.000

Kunci interpretasi:
"Ceteris paribus" — koefisien βᵢ adalah efek Xᵢ ketika semua variabel lain dipegang konstan.

Perhatikan: koefisien negatif bukan berarti variabel "buruk"—ia hanya menunjukkan arah hubungan. Pengguna mobile-only mungkin lebih banyak jumlahnya tetapi dengan nilai pesanan lebih kecil per transaksi.

Topik 2

Regresi Logistik untuk Klasifikasi Biner

Mengapa Tidak Regresi Linear untuk Klasifikasi?

Masalah Regresi Linear pada Y Biner

Prediksi bisa < 0 atau > 1 (tidak bermakna sebagai probabilitas)
Asumsi normalitas residual dilanggar untuk Y = {0, 1}
Hubungan sesungguhnya bersifat S-curve, bukan garis lurus

Solusi: Regresi Logistik

P(Y=1) = 1 / (1 + e^{−(β₀ + β₁x₁ + … + βₙxₙ)})

Output selalu antara 0 dan 1
Fungsi sigmoid menghasilkan kurva S
Threshold default: P ≥ 0.5 → prediksi kelas 1

Odds Ratio: Inti Interpretasi Regresi Logistik

log(odds) = β₀ + β₁x₁ + … + βₙxₙ

Odds Ratio (OR) = e^βᵢ

Cara baca OR:
OR = 1.5 → peluang event naik 50% untuk setiap +1 unit Xᵢ
OR = 0.7 → peluang event turun 30% untuk setiap +1 unit Xᵢ
OR = 1.0 → tidak ada pengaruh

Contoh: Prediksi Churn Telkom

Variabel	β	OR = e^β
Bulan berlangganan	−0.08	0.92
Keluhan per bulan	+0.45	1.57
Pengguna paket bundling	−0.62	0.54
Pernah downgrade paket	+0.91	2.48

Coba Sendiri: Kurva Sigmoid & Odds Ratio

Ubah koefisien beta dan amati bagaimana kurva sigmoid, log-odds, serta odds ratio berubah untuk kasus prediksi churn.

Threshold dan Confusion Matrix

Confusion Matrix

	Prediksi: Tidak Churn	Prediksi: Churn
Aktual: Tidak Churn	True Negative (TN)	False Positive (FP)
Aktual: Churn	False Negative (FN)	True Positive (TP)

Akurasi & Metrik Turunan

Akurasi = (TP + TN) / Total
Presisi = TP / (TP + FP) — seberapa tepat prediksi positif
Recall = TP / (TP + FN) — seberapa banyak positif yang tertangkap
F1-Score = harmonic mean presisi & recall

Threshold 0.5 bukan satu-satunya pilihan. Untuk kasus churn, mungkin lebih baik menurunkan threshold ke 0.3 agar lebih banyak pelanggan berisiko terdeteksi.

Topik 3

Evaluasi Model Regresi: R², RMSE, & Akurasi

Metrik Evaluasi: Regresi Linear

R² (Koefisien Determinasi)

R² = 1 − (SS_res / SS_tot)

Rentang: 0 sampai 1 (atau negatif jika model sangat buruk)
R² = 0.75 → model menjelaskan 75% variasi Y
Adjusted R² mengoreksi penambahan variabel tidak relevan

RMSE (Root Mean Squared Error)

RMSE = √( Σ(yᵢ − ŷᵢ)² / n )

Satuan sama dengan Y (misal: rupiah)
RMSE lebih sensitif terhadap outlier (dikuadratkan)
Semakin kecil RMSE → model semakin akurat
Bandingkan antar model, bukan nilai absolutnya

R² tinggi tidak selalu berarti model bagus—bisa saja model overfitting pada data training. Selalu evaluasi pada data uji (test set) yang belum pernah dilihat model.

Coba Sendiri: Bagaimana R² Mengukur Kecocokan Garis

Geser titik data menjauh dari garis regresi dan amati bagaimana nilai R² turun seiring residual membesar.

Metrik Evaluasi: Regresi Logistik

Metrik	Formula	Kapan Utamakan
Akurasi	(TP + TN) / Total	Kelas seimbang; keputusan umum
Presisi	TP / (TP + FP)	Biaya FP tinggi (mis. spam filter)
Recall / Sensitivity	TP / (TP + FN)	Biaya FN tinggi (mis. deteksi fraud, churn)
F1-Score	2 × (P × R) / (P + R)	Kelas tidak seimbang; butuh keseimbangan P&R
AUC-ROC	Area under ROC curve	Evaluasi model secara keseluruhan di semua threshold

Studi Kasus: Prediksi AOV di Platform E-Commerce

Konteks

Tim data science sebuah platform e-commerce Indonesia membangun model regresi linear untuk memprediksi Average Order Value (AOV) pengguna dalam 30 hari ke depan.

AOV = f(frekuensi_login, riwayat_pembelian, kategori_dominan, metode_bayar)

Metrik	Training Set	Test Set
R²	0.81	0.74
Adjusted R²	0.79	0.72
RMSE	Rp 32.500	Rp 41.200

Gap R² (0.81 vs 0.74) menunjukkan sedikit overfitting → perlu regularisasi atau pengurangan fitur yang tidak signifikan.

Coba Sendiri: Regresi Berganda untuk Prediksi AOV

Ubah nilai koefisien beta tiap prediktor dan amati bagaimana estimasi AOV serta kontribusi masing-masing variabel berubah.

Studi Kasus: Model Churn Pelanggan Telekomunikasi

Konteks

Tim analitik perusahaan telekomunikasi Indonesia membangun model regresi logistik untuk mengidentifikasi pelanggan yang berisiko berhenti berlangganan dalam 90 hari.

Fitur: durasi kontrak, jumlah keluhan, paket layanan, frekuensi pembayaran terlambat.

Metrik	Nilai	Interpretasi
Akurasi	82%	Model benar 82% kasus
Presisi	71%	71% prediksi churn benar
Recall	85%	85% churn aktual terdeteksi
F1-Score	0.77	Keseimbangan baik
AUC-ROC	0.89	Diskriminasi sangat baik

Diagram: Alur Pemodelan Regresi

Rangkuman Pertemuan 7

Key Takeaway 1 — Regresi Linear untuk Prediksi Numerik
Model ŷ = β₀ + β₁x₁ + … + βₙxₙ memprediksi nilai numerik. Koefisien β diinterpretasikan sebagai perubahan Y per unit X, ceteris paribus. Empat asumsi (linearitas, independensi, homoskedastisitas, normalitas residual) harus diperiksa.

Key Takeaway 2 — Regresi Logistik untuk Klasifikasi Biner
Menghasilkan probabilitas P(Y=1) melalui fungsi sigmoid. Interpretasi melalui Odds Ratio (OR = eᵝ). Threshold prediksi dapat disesuaikan berdasarkan biaya bisnis dari False Positive dan False Negative.

Key Takeaway 3 — Evaluasi adalah Wajib
R² dan RMSE untuk regresi linear; Akurasi, Recall, Presisi, F1, AUC-ROC untuk logistik. Selalu evaluasi pada test set. Pilih metrik sesuai konteks bisnis, bukan hanya yang nilainya paling tinggi.

Tugas & Diskusi

Tugas Individu (dikumpulkan P8)

Unduh dataset publik penjualan e-commerce (Kaggle atau data.go.id)
Bangun model regresi linear untuk memprediksi nilai transaksi
Periksa minimal 2 asumsi regresi dan interpretasikan hasilnya
Hitung R² dan RMSE pada training dan test set
Tulis laporan singkat (max 500 kata) tentang implikasi bisnis temuan Anda

Pertanyaan Diskusi

Kapan Anda akan memilih regresi logistik alih-alih regresi linear? Berikan contoh kasus dari bisnis yang Anda minati.
Jika model churn Anda memiliki akurasi 90% tetapi recall hanya 40%, apakah model ini berguna? Mengapa?
Bagaimana cara menjelaskan koefisien regresi kepada manajer yang tidak memiliki latar belakang statistik?

Tanya Jawab

Apakah ada yang ingin Anda klarifikasi mengenai regresi linear, logistik, atau metrik evaluasinya?

Preview Pertemuan 8: Klasifikasi & Segmentasi Pelanggan

Decision Tree dan Random Forest untuk klasifikasi
K-Means Clustering untuk segmentasi pelanggan
Studi kasus: segmentasi pengguna GoPay berdasarkan perilaku transaksi
Persiapan: bawa laptop, pastikan Python + scikit-learn terinstal

📖 Baca juga: Dcf Valuation — penjelasan mendalam dan contoh numerik.