stdsquare²
🎓 Kelas
stdsquare / materi / slides / pertemuan-09
Tema
Japan
Arcade
Dark Retro
Font
‹ Daftar slide Pertemuan 9: Regresi Linear Sederhana
Program Studi Manajemen • FEB UNDIP

Statistika Bisnis II

Pertemuan 9 — Regresi Linear Sederhana

Dari dua variabel yang berkorelasi menuju persamaan prediksi: membangun, mengestimasi, dan mengevaluasi model Ŷ = a + bX.

RPS MINGGU 10 • SUB-CPMK 6 • DURASI 2 × 50 MENIT

Tujuan Pembelajaran Hari Ini

Setelah pertemuan ini, Anda mampu (Sub-CPMK6):

Capaian 1
Membangun
Model
Menuliskan persamaan Ŷ = a + bX dan menjelaskan makna setiap parameternya secara lisan maupun tertulis.
Capaian 2
Menghitung
OLS
Mengestimasi b dan a dari data mentah menggunakan rumus OLS (Ordinary Least Squares — metode kuadrat terkecil biasa).
Capaian 3
Mengevaluasi
Model
Menghitung dan menginterpretasikan R², Se, uji F, dan uji t pada taraf signifikansi α = 5%.
Capaian 4
Prediksi &
Tafsir
Menghasilkan prediksi titik dan menginterpretasikan slope secara ekonomis dalam konteks bisnis Indonesia.

Dari Korelasi ke Prediksi: Pertanyaan Bisnis

"Korelasi menjawab Ada hubungan? — Regresi menjawab Berapa prediksinya?"

Pertanyaan Korelasi (P7–8)

"Apakah pengeluaran iklan berhubungan dengan penjualan?"

r = 0,87

Hubungan positif kuat — tapi tidak memberi angka prediksi.

Pertanyaan Regresi (P9)

"Jika iklan bulan ini Rp 500 juta, berapa prediksi penjualan?"

Ŷ = a + bX → angka spesifik

Menghasilkan nilai prediksi yang bisa masuk anggaran.

Regresi = korelasi + kemampuan prediksi kuantitatif
Bagian 1
Apa Itu Regresi
dan Mengapa Penting
Variabel bebas vs terikat · Scatter diagram · Garis regresi

Hubungan Linear: Variabel Bebas dan Terikat

X = Variabel Bebas
X
independent variable / prediktor
Variabel yang kita ketahui atau kita kontrol.
Contoh: jumlah pengunjung, capex, jam belajar.
Y = Variabel Terikat
Y
dependent variable / respons
Variabel yang kita prediksi.
Contoh: pendapatan, laba, nilai ujian.
Pengunjung (ribu) — XPendapatan (Rp juta) — YX →↑ Y
Aturan: X selalu di sumbu horizontal (mendatar), Y selalu di sumbu vertikal (tegak) — konvensi universal.

Model Regresi: Ŷ = a + bX

Model populasi (tidak teramati):

Y = α + βX + ε

Persamaan estimasi dari data:

Ŷ = a + bX
SimbolNamaMakna
ŶY-hatNilai Y yang diprediksi model
aInterceptNilai Ŷ saat X = 0
bSlopePerubahan rata-rata Ŷ per 1 satuan X
eResiduY aktual − Ŷ (kesalahan prediksi)
a (intercept)b = ΔY/ΔXe = Y−ŶXY
Penting: Ŷ adalah nilai prediksi, bukan nilai aktual Y. Selisihnya, e = Y − Ŷ, disebut residu.

Prinsip OLS: Garis yang Meminimumkan SSE

Dari tak terhingga garis yang bisa digambar, OLS memilih garis yang meminimumkan:

SSE = Σeᵢ² = Σ(Yᵢ − Ŷᵢ)² → minimum

SSE (Sum of Squares Error — jumlah kuadrat kesalahan/residu)

Garis Sembarang — SSE besarResidu panjang → SSE besar
Garis OLS — SSE minimumResidu pendek → SSE minimum ✓
Mengapa dikuadratkan? Agar residu positif & negatif tidak saling menghapus, dan residu besar mendapat "hukuman" lebih berat. Hasil: satu garis OLS unik untuk setiap dataset.

Coba Sendiri: Geser α dan β, Kalahkan OLS

Garis putus-putus = error tiap titik data. Perkecil SSE sekecil mungkin dengan dua slider, lalu klik ⌖ Optimum — bisakah Anda mengalahkannya?

Bagian 2
Menghitung Parameter OLS
Rumus b dan a · Hitung dari nol · Verifikasi aritmetika

Rumus OLS: b dan a dari Data Mentah

Dua rumus OLS yang wajib dikuasai:

b = Σ(Xᵢ−X̄)(Yᵢ−Ȳ) ÷ Σ(Xᵢ−X̄)²

Intuisi: b = "kovarians X-Y" ÷ "sebaran X" — seberapa banyak Y bergerak per unit X

a = Ȳ − b · X̄

Intuisi: garis regresi selalu melewati titik (X̄, Ȳ) — a menyesuaikan posisi vertikal garis

Urutan hitung: X̄ & Ȳ → deviasi (Xᵢ−X̄) & (Yᵢ−Ȳ) → Σ(Xᵢ−X̄)(Yᵢ−Ȳ) & Σ(Xᵢ−X̄)² → b → a
X̄ (X-bar) = rata-rata variabel bebas  |  Ȳ (Y-bar) = rata-rata variabel terikat  |  Σ = notasi penjumlahan seluruh i

HDN-1: Gerai Mall Semarang — Hitung b & a

Konteks: Data 12 bulan gerai fashion di Trans Studio Mall Semarang. X = pengunjung (ribu orang), Y = pendapatan gerai (Rp juta). Data ilustrasi.

BulanXYXᵢ−X̄Yᵢ−Ȳ(Xᵢ−X̄)(Yᵢ−Ȳ)(Xᵢ−X̄)²
Jan30120−10−36,67366,67100
Feb35138−5−18,6793,3325
Mar28112−12−44,67536,00144
Apr42165+2+8,3316,674
Mei38150−2−6,6713,334
Jun45175+5+18,3391,6725
Jul50195+10+38,33383,33100
Agt33130−7−26,67186,6749
Sep401580+1,330,000
Okt36142−4−14,6758,6716
Nov48185+8+28,33226,6764
Des55210+15+53,33800,00225
Σ4801.880002.773756

X̄ = 480/12 = 40  |  Ȳ = 1.880/12 = 156,67  |  Deviasi (Xᵢ−X̄): selisih nilai observasi dari rata-ratanya.

HDN-1: Gerai Mall Semarang — Prediksi & R²

Lanjutan dari tabel Slide 10 (Σ(Xᵢ−X̄)(Yᵢ−Ȳ) = 2.773    Σ(Xᵢ−X̄)² = 756)

LangkahPerhitunganNilai
3. Hitung b2.773 ÷ 7563,668
4. Hitung a156,67 − 3,668 × 40 = 156,67 − 146,729,947
5. ModelŶ = 9,947 + 3,668·X
6. Prediksi X=509,947 + 3,668 × 50 = 9,947 + 183,40Rp 193,35 juta
7. SSEΣ(Yᵢ−Ŷᵢ)² (12 residu kuadrat)11,330
SST (SSyy)Σ(Yᵢ−Ȳ)²10.182,667
1 − 11,330 / 10.182,6670,9989 ≈ 99,89%
Se√(11,330 / (12−2)) = √1,1331,065 Rp juta
Interpretasi: Setiap tambahan 1.000 pengunjung → pendapatan rata-rata naik Rp 3,668 juta. Model menjelaskan 99,89% variasi pendapatan. Rata-rata meleset Rp 1,065 juta (Se).

Koefisien Determinasi R² — Seberapa Pas Garis?

R² mengukur proporsi variasi Y yang dijelaskan oleh X:

R² = 1 − SSE/SST = SSR/SST

SSR = SST − SSE (Sum of Squares Regression — variasi Y yang berhasil dijelaskan model)
SST = SSR + SSE (Sum of Squares Total — total variasi Y)
Untuk regresi sederhana: R² = r² (kuadrat koefisien korelasi Pearson)

Interpretasi:
R² = 0 → X tidak menjelaskan variasi Y sama sekali
R² = 1 → X menjelaskan 100% variasi Y
R² = 0,75 → "75% variasi Y dijelaskan oleh X"
SSR (dijelaskan) 75%SSE 25%R² = SSR/SST = 75% R² ≈ 0,30R² ≈ 0,95

Standard Error of Estimate (Se) — Simpangan Tipikal

Se mengukur rata-rata besarnya kesalahan prediksi dalam satuan Y:

Se = √(SSE / (n−2)) = √(Σ(Yᵢ−Ŷᵢ)² / (n−2))

Derajat kebebasan = n − 2 (karena dua parameter a dan b sudah diestimasi dari data)

Contoh: Se = 1,065 Rp juta → prediksi model rata-rata meleset ±Rp 1,065 juta dari pendapatan aktual.
Se vs R²: R² mengukur proporsi variasi yang dijelaskan; Se mengukur besaran absolut kesalahan dalam satuan Y.
+Se−SeGaris OLSKoridor ±Se di sekitar garis OLS
Interpretasi praktis:
Se kecil → prediksi rapat ke nilai aktual → model presisi
Se besar → prediksi sering meleset jauh → model kurang presisi
Bagian 3
Menilai Signifikansi Model
Uji F (model keseluruhan) · Uji t (koefisien slope) · Interpretasi ekonomis

Uji F: Apakah Model Secara Keseluruhan Bermakna?

Hipotesis Uji F:
H₀: Model tidak bermakna (β = 0; X tidak memengaruhi Y)
H₁: Model bermakna (β ≠ 0; X memengaruhi Y)
SumberSSdfMSF hitung
Regresi (SSR)SST − SSE1SSR/1MSR/MSE
Error (SSE)Σ(Yᵢ−Ŷᵢ)²n−2SSE/(n−2)
Total (SST)Σ(Yᵢ−Ȳ)²n−1
Kriteria tolak H₀:
F hitung > F tabel (df₁=1, df₂=n−2, α=0,05)
atau p-value < 0,05

ANOVA (Analysis of Variance — analisis variansi, mempartisi total variasi Y menjadi komponen yang bisa dan tidak bisa dijelaskan model)

MS (Mean Square — rata-rata kuadrat, SS dibagi derajat kebebasannya)

p-value — nilai probabilitas mendapatkan statistik uji yang setidaknya se-ekstrim yang teramati jika H₀ benar

Distribusi F — Tolak H₀ jika F > F kritisF kritisTolak H₀

Uji t: Apakah Slope b Bermakna?

Hipotesis:
H₀: β = 0 (slope nol — X tidak memengaruhi Y)
H₁: β ≠ 0 (two-tailed, α = 0,05)
t = b / Sb     Sb = Se / √Σ(Xᵢ−X̄)²

Sb (standard error of b — simpangan baku estimasi koefisien slope)
df (degrees of freedom — derajat kebebasan) = n − 2
Tolak H₀ jika |t hitung| > t tabel (df=n−2, α/2=0,025, two-tailed)

Hubungan dengan r: t = r√(n−2) / √(1−r²) — sama persis dengan uji t korelasi di P7–8.
Distribusi t — Two-tailed (α = 0,05)−t kritis+t kritisTolak H₀Tolak H₀Gagal Tolak H₀

Semakin jauh b dari nol relatif terhadap Sb, semakin kuat bukti bahwa β ≠ 0 di populasi. Semakin besar variasi X, semakin kecil Sb, semakin mudah menemukan signifikansi.

HDN-2: Capex vs Laba Pertamina — OLS

Konteks: Data 10 tahun (ilustrasi) PT Pertamina (Persero). X = capex (Capital Expenditure — pengeluaran modal, Rp triliun); Y = laba operasional (Rp triliun).

ThnX (capex)Y (laba)Xᵢ−X̄Yᵢ−Ȳ(Xᵢ−X̄)(Yᵢ−Ȳ)(Xᵢ−X̄)²
T12818−8,5−6,151,8572,25
T23522−1,5−2,13,152,25
T34228+5,5+3,921,4530,25
T43825+1,5+0,91,352,25
T53020−6,5−4,126,6542,25
T62516−11,5−8,193,15132,25
T73221−4,5−3,113,9520,25
T84027+3,5+2,910,1512,25
T94530+8,5+5,950,1572,25
T105034+13,5+9,9133,65182,25
Σ36524100405,50568,50
X̄ = 365/10 = 36,5
Ȳ = 241/10 = 24,1
b = 405,50/568,50 = 0,713
a = 24,1 − 0,713×36,5 = −1,936
Ŷ = −1,936 + 0,713·X  |  Setiap kenaikan capex Rp 1 T → laba operasional rata-rata naik Rp 0,713 T

HDN-2: Capex vs Laba Pertamina — Uji t & F

Lanjutan HDN-2 — Uji signifikansi (α = 0,05). SST = Σ(Yᵢ−Ȳ)² = 290,90

LangkahPerhitunganNilai
SSEΣ(Yᵢ−Ŷᵢ)² (10 residu kuadrat)1,665
Se√(1,665 / (10−2)) = √0,20810,456 Rp T
Sb0,456 / √568,50 = 0,456 / 23,8430,01913
t hitung0,7133 / 0,0191337,28
t tabeldf=8, α/2=0,025, two-tailed2,306
Keputusan t|37,28| > 2,306 → Tolak H₀Signifikan
SSR290,90 − 1,665289,235
F hitung289,235/1 ÷ (1,665/8) = 289,235/0,20811.390,4
F tabeldf₁=1, df₂=8, α=0,055,32
Keputusan F1.390,4 >> 5,32 → Tolak H₀Signifikan
Cek silangt² = 37,28² ≈ 1.390 ≈ F ✓Konsisten
Kesimpulan: Pada α = 0,05, terdapat bukti kuat bahwa capex berpengaruh positif signifikan terhadap laba operasional Pertamina (t = 37,28; F = 1.390,4; p < 0,001).

Interpretasi Slope Secara Ekonomis

Template interpretasi: "Setiap kenaikan 1 [satuan X], rata-rata [variabel Y] [naik/turun] sebesar [|b|] [satuan Y], jika faktor lain konstan (ceteris paribus)."
ModelbInterpretasi ekonomis
Mall Semarang3,668Setiap tambahan 1.000 pengunjung, pendapatan gerai rata-rata naik Rp 3,668 juta, ceteris paribus.
Pertamina0,713Setiap kenaikan capex Rp 1 T, laba operasional rata-rata naik Rp 0,713 T, ceteris paribus.
Frasa wajib:
• "rata-rata" — karena b adalah ekspektasi, bukan kepastian
• "ceteris paribus" (dengan hal lain sama/konstan) — karena model hanya memasukkan satu X
Regresi ≠ Kausalitas
Hubungan X dan Y mungkin terjadi karena keduanya dipengaruhi variabel perancu (confounding variable — variabel ketiga yang memengaruhi baik X maupun Y, menghasilkan korelasi semu).
Bagian 4
Prediksi, Residual,
dan Keterbatasan
Interval prediksi · Plot residual · Bahaya ekstrapolasi

Interval Estimasi vs Interval Prediksi

Interval Estimasi (lebih sempit)

Estimasi rentang rata-rata Y populasi untuk X tertentu.

Ŷ ± t·Se·√(1/n + (X₀−X̄)²/Σ(Xᵢ−X̄)²)

"Berapa rata-rata pendapatan gerai yang punya 50.000 pengunjung?"

Interval Prediksi (lebih lebar)

Estimasi rentang Y untuk satu observasi baru pada X tertentu.

Ŷ ± t·Se·√(1 + 1/n + (X₀−X̄)²/Σ(Xᵢ−X̄)²)

"Berapa pendapatan gerai ini bulan depan jika pengunjung 50.000?"

Interval EstimasiInterval PrediksiX₀
Keduanya melebar di ujung (jauh dari X̄) — prediksi ekstrapolasi sangat tidak andal.

Residual dan Plot Residual — Memeriksa Asumsi

Residu: eᵢ = Yᵢ − Ŷᵢ   |   Plot residual: eᵢ vs Ŷᵢ (atau vs Xᵢ)

(a) Ideal — acak
(b) Pola U → nonlinear
(c) Corong → hetero
(d) Tren → var. terlewat
"Pola bermasalah": (b) hubungan nonlinear — model perlu transformasi  |  (c) heteroskedastisitas (heteroscedasticity — variansi residu tidak konstan, melanggar asumsi OLS)  |  (d) variabel X lain terlewat
R² tinggi tidak menjamin residu acak. Selalu buat plot residual!

Studi Kasus: Penjualan Ritel vs UMP Jawa Tengah

Konteks: Seorang analis di PT Ramayana Lestari Sentosa (kode BEI: RALS) ingin memodelkan penjualan ritel (Rp miliar/tahun) gerai-gerai di Jawa Tengah sebagai fungsi UMP (Upah Minimum Provinsi — batas minimum upah yang ditetapkan pemerintah provinsi setiap tahun), selama 8 tahun terakhir.
Komponen outputNilaiInterpretasi
ModelŶ = 120 + 0,015·XX = UMP (ribu Rp/bulan), Y = penjualan (Rp miliar/tahun)
0,8282% variasi penjualan dijelaskan UMP
Se18,5 miliarPrediksi rata-rata meleset ±Rp 18,5 miliar
p-value uji F0,003< 0,05 → model signifikan
1
Interpretasikan slope 0,015
Dalam bahasa bisnis untuk manajer yang tidak paham statistika.
2
Prediksi UMP 2024 Jateng
UMP 2024 Jawa Tengah = Rp 2.036.947/bulan (BPS). Berapa prediksi penjualan? Ŷ = 120 + 0,015 × 2.037 ≈ Rp 150,56 miliar
3
Kausalitas?
Apakah kenaikan UMP menyebabkan penjualan naik? Atau keduanya tumbuh karena tren waktu?
4
18% tidak dijelaskan
Sebutkan dua faktor lain yang mungkin memengaruhi penjualan ritel di Jateng.

Lima Jebakan Regresi yang Sering Bikin Salah

1
Ekstrapolasi berbahaya
Memprediksi jauh di luar rentang X sampel — model tidak valid di luar data latih. Garis regresi hanya berlaku di dalam rentang data yang digunakan membangunnya.
2
Kausalitas vs korelasi
R² tinggi ≠ bukti sebab-akibat. Selalu tanya "ada variabel ketiga?" Mungkin keduanya dipengaruhi faktor lain (variabel perancu / omitted variable).
3
Konstanta a diklaim bermakna selalu
Kalau X = 0 tidak logis dalam konteks bisnis (tidak ada gerai tanpa pengunjung), nilai a hanyalah parameter matematis, bukan prediksi yang bermakna.
4
Mengabaikan plot residual
R² tinggi tidak menjamin asumsi linearitas dan homoskedastisitas (homoscedasticity — variansi residu konstan, asumsi OLS) terpenuhi. Selalu periksa plot residual.
5
Overgeneralisasi dari sampel kecil
Dengan n = 5, hampir semua R² akan tinggi secara kebetulan — terlalu sedikit observasi untuk menggeneralisasi. Minimum praktis sekitar 20 observasi untuk regresi sederhana yang andal.

Cheat Sheet Regresi Linear Sederhana

KomponenRumus / DefinisiInterpretasi / Catatan
ModelŶ = a + bXPersamaan garis prediksi
Slope bΣ(Xᵢ−X̄)(Yᵢ−Ȳ) / Σ(Xᵢ−X̄)²Perubahan rata-rata Y per 1 unit X
Intercept aȲ − b·X̄Nilai Ŷ saat X = 0 (tidak selalu bermakna)
SSEΣ(Yᵢ − Ŷᵢ)²Variasi Y yang tidak dijelaskan model
SSTΣ(Yᵢ − Ȳ)²Total variasi Y (= SSR + SSE)
1 − SSE/SSTProporsi variasi Y yang dijelaskan X (0–1); = r²
Se√(SSE/(n−2))Rata-rata besar kesalahan prediksi (satuan Y); df = n−2
t uji bb/Sb;   Sb = Se/√Σ(Xᵢ−X̄)²Uji H₀: β = 0; df = n−2; two-tailed
F uji model(SST−SSE)/1 ÷ SSE/(n−2)Uji model keseluruhan; df = (1, n−2)
Residue = Y − ŶSelisih aktual vs prediksi; plot untuk cek asumsi
Cek silangF = t² (regresi sederhana)Verifikasi internal konsistensi F dan t
Urutan hitung efisien: X̄&Ȳ → tabel deviasi → b → a → residu → SSE → R² & Se → t & F  |  Ingat: df = n−2, bukan n atau n−1.

Persiapan Pertemuan Berikutnya

Hari ini Anda telah belajar
  • Membangun model Ŷ = a + bX dan memahami peran a dan b
  • Menghitung b dan a via OLS dari data mentah
  • Mengevaluasi model: R², Se, Uji F, Uji t (α = 5%)
  • Menginterpretasikan slope secara ekonomis (ceteris paribus)
  • Memeriksa residual dan mengenali lima jebakan umum
Selamat — Anda sudah menguasai fondasi regresi!
Tugas & Pertemuan Berikutnya
  • Kerjakan Latihan Bab 13 no. 1–5 dari Lind et al. (2015)
  • Input salah satu dataset HDN ke Excel (Data Analysis → Regression) dan bandingkan output dengan perhitungan tangan
Pertemuan berikutnya:
Regresi Linear Berganda (Multiple Regression — model regresi dengan dua atau lebih variabel bebas: Ŷ = a + b₁X₁ + b₂X₂ + …) — memperluas model ke lebih dari satu variabel X. Logika dan prinsipnya sama persis dengan yang sudah Anda kuasai hari ini.

📖 Baca juga: Beta Unlevering Relevering — penjelasan mendalam dan contoh numerik.