stdsquare²
Kelas
stdsquare / Kelas / Statistika Bisnis II / Pertemuan 9: Regresi Linear Sederhana
Tema
Japan
Arcade
Dark Retro
Font
Program Studi Manajemen • FEB UNDIP

Statistika Bisnis II

Pertemuan 9 — Regresi Linear Sederhana

Dari dua variabel yang berkorelasi menuju persamaan prediksi: membangun, mengestimasi, dan mengevaluasi model $\hat{Y} = a + bX$.

RPS MINGGU 10 • SUB-CPMK 6 • DURASI 2 × 50 MENIT

Tujuan Pembelajaran Hari Ini

Setelah pertemuan ini, Anda mampu (Sub-CPMK6):

Capaian 1
Membangun
Model
Menuliskan persamaan $\hat{Y}$ = a + bX dan menjelaskan makna setiap parameternya secara lisan maupun tertulis.
Capaian 2
Menghitung
OLS
Mengestimasi b dan a dari data mentah menggunakan rumus OLS (Ordinary Least Squares — metode kuadrat terkecil biasa).
Capaian 3
Mengevaluasi
Model
Menghitung dan menginterpretasikan $R^{2}, Se$, uji F, dan uji t pada taraf signifikansi $\alpha = 5\%$.
Capaian 4
Prediksi &
Tafsir
Menghasilkan prediksi titik dan menginterpretasikan slope secara ekonomis dalam konteks bisnis Indonesia.

Dari Korelasi ke Prediksi: Pertanyaan Bisnis

"Korelasi menjawab Ada hubungan? — Regresi menjawab Berapa prediksinya?"

Pertanyaan Korelasi (P7–8)

"Apakah pengeluaran iklan berhubungan dengan penjualan?"

r = 0,87

Hubungan positif kuat — tapi tidak memberi angka prediksi.

Pertanyaan Regresi (P9)

"Jika iklan bulan ini Rp 500 juta, berapa prediksi penjualan?"

$$\hat{Y} = a + bX \to angka spesifik$$

Menghasilkan nilai prediksi yang bisa masuk anggaran.

Regresi = korelasi + kemampuan prediksi kuantitatif
Bagian 1
Apa Itu Regresi
dan Mengapa Penting
Variabel bebas vs terikat · Scatter diagram · Garis regresi

Hubungan Linear: Variabel Bebas dan Terikat

X = Variabel Bebas
X
independent variable / prediktor
Variabel yang kita ketahui atau kita kontrol.
Contoh: jumlah pengunjung, capex, jam belajar.
Y = Variabel Terikat
Y
dependent variable / respons
Variabel yang kita prediksi.
Contoh: pendapatan, laba, nilai ujian.
Pengunjung (ribu) — XPendapatan (Rp juta) — YX→↑ Y
Aturan: X selalu di sumbu horizontal (mendatar), Y selalu di sumbu vertikal (tegak) — konvensi universal.

Model Regresi: $\hat{Y} = a + bX$

Model populasi (tidak teramati):

$$Y = \alpha + \beta X + ε$$

Persamaan estimasi dari data:

$$\hat{Y} = a + bX$$
SimbolNamaMakna
$\hat{Y}$Y-hatNilai Y yang diprediksi model
aInterceptNilai $\hat{Y}$ saat X = 0
bSlopePerubahan rata-rata $\hat{Y}$ per 1 satuan X
eResiduY aktual $- \hat{Y}$ (kesalahan prediksi)
a (intercept)b = ΔY/ΔXe = Y-ŶXY
Penting: $\hat{Y}$ adalah nilai prediksi, bukan nilai aktual Y. Selisihnya, $e = Y - \hat{Y}$, disebut residu.

Prinsip OLS: Garis yang Meminimumkan SSE

Dari tak terhingga garis yang bisa digambar, OLS memilih garis yang meminimumkan:

$$SSE = \sum e_{i}^{2} = \sum(Y_{i} - \hat{Y}_{i})^{2} \to minimum$$

SSE (Sum of Squares Error — jumlah kuadrat kesalahan/residu)

Garis Sembarang — SSE besarResidu panjang → SSE besar
Garis OLS — SSE minimumResidu pendek → SSE minimum ✓
Mengapa dikuadratkan? Agar residu positif & negatif tidak saling menghapus, dan residu besar mendapat "hukuman" lebih berat. Hasil: satu garis OLS unik untuk setiap dataset.

Coba Sendiri: Geser $\alpha$ dan $\beta$, Kalahkan OLS

Garis putus-putus = error tiap titik data. Perkecil SSE sekecil mungkin dengan dua slider, lalu klik ⌖ Optimum — bisakah Anda mengalahkannya?

🧪 Buka kalkulator penuh (rumus + contoh + FAQ) · kalkulator R²

Coba Sendiri: Geser Titik Scatter, Amati Garis & Residual Mengikuti

Lihat OLS dari sudut data: tambah/pindahkan titik dan amati bagaimana garis regresi beserta residual (jangkauan error) menyesuaikan secara otomatis.

Bagian 2
Menghitung Parameter OLS
Rumus b dan a · Hitung dari nol · Verifikasi aritmetika

Rumus OLS: b dan a dari Data Mentah

Dua rumus OLS yang wajib dikuasai:

$$b = \frac{\sum (X_{i}-\bar{X})(Y_{i}-\bar{Y})}{\sum (X_{i}-\bar{X})^{2}}$$

Intuisi: b = "kovarians X-Y" ÷ "sebaran X" — seberapa banyak Y bergerak per unit X

$a = \bar{Y} - b \cdot \bar{X}$

Intuisi: garis regresi selalu melewati titik $(\bar{X}, \bar{Y}) - a$ menyesuaikan posisi vertikal garis

Urutan hitung: $\bar{X}$ & $\bar{Y} \to$ deviasi $(X_{i}-\bar{X})$ & $(Y_{i}-\bar{Y}) \to \sum(X_{i}-\bar{X})(Y_{i}-\bar{Y})$ & $\sum(X_{i}-\bar{X})^{2} \to b \to a$
$\bar{X} (X-$bar) = rata-rata variabel bebas  |  $\bar{Y} (Y-$bar) = rata-rata variabel terikat  |  $\sum =$ notasi penjumlahan seluruh i

HDN-1: Gerai Mall Semarang — Hitung b & a

Konteks: Data 12 bulan gerai fashion di Trans Studio Mall Semarang. X = pengunjung (ribu orang), Y = pendapatan gerai (Rp juta). Data ilustrasi.

BulanXY$X_{i}-\bar{X}$$Y_{i}-\bar{Y}$$(X_{i}-\bar{X})(Y_{i}-\bar{Y})$$(X_{i}-\bar{X})^{2}$
Jan30120−10−36,67366,67100
Feb35138−5−18,6793,3325
Mar28112−12−44,67536,00144
Apr42165+2+8,3316,674
Mei38150−2−6,6713,334
Jun45175+5+18,3391,6725
Jul50195+10+38,33383,33100
Agt33130−7−26,67186,6749
Sep401580+1,330,000
Okt36142−4−14,6758,6716
Nov48185+8+28,33226,6764
Des55210+15+53,33800,00225
$\sum$4801.880002.773756

$\bar{X} = 480/12 =$ 40  |  $\bar{Y} = 1.880/12 =$ 156,67  |  Deviasi $(X_{i}-\bar{X})$: selisih nilai observasi dari rata-ratanya.

HDN-1: Gerai Mall Semarang — Prediksi & $R^{2}$

Lanjutan dari tabel Slide $10 (\sum(X_{i}-\bar{X})(Y_{i}-\bar{Y}) = 2.773$    $\sum(X_{i}-\bar{X})^{2} = 756)$

LangkahPerhitunganNilai
3. Hitung b2.773 ÷ 7563,668
4. Hitung a156,67 − 3,668 × 40 = 156,67 − 146,729,947
5. Model$\hat{Y} = 9,947 + 3,668\cdot X$
6. Prediksi X=509,947 + 3,668 × 50 = 9,947 + 183,40Rp 193,35 juta
7. SSE$\sum(Y_{i}-\hat{Y}_{i})^{2} (12$ residu kuadrat)11,330
SST (SSyy)$\sum(Y_{i}-\bar{Y})^{2}$10.182,667
$R^{2}$1 − 11,330 / 10.182,6670,9989 ≈ 99,89%
Se$\sqrt(11,330 / (12-2)) = \sqrt1,133$1,065 Rp juta
Interpretasi: Setiap tambahan 1.000 pengunjung $\to$ pendapatan rata-rata naik Rp 3,668 juta. Model menjelaskan 99,89\% variasi pendapatan. Rata-rata meleset Rp 1,065 juta (Se).

Koefisien Determinasi $R^{2}$ — Seberapa Pas Garis?

$R^{2}$ mengukur proporsi variasi Y yang dijelaskan oleh X:

$$R^{2} = 1 - \frac{SSE}{SST} = \frac{SSR}{SST}$$

SSR = SST − SSE (Sum of Squares Regression — variasi Y yang berhasil dijelaskan model)
SST = SSR + SSE (Sum of Squares Total — total variasi Y)
Untuk regresi sederhana: $R^{2} = r^{2}$ (kuadrat koefisien korelasi Pearson)

Interpretasi:
$R^{2} = 0 \to X$ tidak menjelaskan variasi Y sama sekali
$R^{2} = 1 \to X$ menjelaskan 100\% variasi Y
$R^{2} = 0,75 \to "75\%$ variasi Y dijelaskan oleh X"
SSR (dijelaskan) 75%SSE 25%R² = SSR/SST = 75% R² ≈ 0,30R² ≈ 0,95

Standard Error of Estimate (Se) — Simpangan Tipikal

Se mengukur rata-rata besarnya kesalahan prediksi dalam satuan Y:

$$Se = \sqrt{\frac{SSE}{n-2}} = \sqrt{\frac{\sum (Y_{i}-\hat{Y}_{i})^{2}}{n-2}}$$

Derajat kebebasan = n − 2 (karena dua parameter a dan b sudah diestimasi dari data)

Contoh: Se = 1,065 Rp juta $\to$ prediksi model rata-rata meleset ±Rp 1,065 juta dari pendapatan aktual.
$$Se vs R^{2}$$: $R^{2}$ mengukur proporsi variasi yang dijelaskan; Se mengukur besaran absolut kesalahan dalam satuan Y.
+Se−SeGaris OLSKoridor ±Se di sekitar garis OLS
Interpretasi praktis:
Se kecil $\to$ prediksi rapat ke nilai aktual $\to$ model presisi
Se besar $\to$ prediksi sering meleset jauh $\to$ model kurang presisi

Coba Sendiri: Geser Titik, Lihat r dan R² Bergerak Bersama

Ingat kembali korelasi dari Pertemuan 8 — di sini kita lihat bagaimana r berhubungan langsung dengan $R^{2}$ (koefisien determinasi) yang mengukur kualitas garis regresi.

Bagian 3
Menilai Signifikansi Model
Uji F (model keseluruhan) · Uji t (koefisien slope) · Interpretasi ekonomis

Uji F: Apakah Model Secara Keseluruhan Bermakna?

Hipotesis Uji F:
$H_{0}$: Model tidak bermakna $(\beta = 0; X$ tidak memengaruhi Y)
$H_{1}$: Model bermakna $(\beta \neq 0; X$ memengaruhi Y)
SumberSSdfMSF hitung
Regresi (SSR)SST − SSE1SSR/1MSR/MSE
Error (SSE)$\sum(Y_{i}-\hat{Y}_{i})^{2}$n−2SSE/(n−2)
Total (SST)$\sum(Y_{i}-\bar{Y})^{2}$n−1
Kriteria tolak $H_{0}$:
F hitung > F tabel $(df_{1}=1, df_{2}=n-2, \alpha=0,05)$
atau p-value < 0,05

ANOVA (Analysis of Variance — analisis variansi, mempartisi total variasi Y menjadi komponen yang bisa dan tidak bisa dijelaskan model)

MS (Mean Square — rata-rata kuadrat, SS dibagi derajat kebebasannya)

p-value — nilai probabilitas mendapatkan statistik uji yang setidaknya se-ekstrim yang teramati jika $H_{0}$ benar

Distribusi F — Tolak H₀ jika F > F kritisF kritisTolak H₀

Uji t: Apakah Slope b Bermakna?

Hipotesis:
$H_{0}: \beta = 0$ (slope nol — X tidak memengaruhi Y)
$H_{1}: \beta \neq 0$ (two-tailed, $\alpha = 0,05)$
$$t = \frac{b}{S_{b}} \qquad S_{b} = \frac{Se}{\sqrt{\sum (X_{i}-\bar{X})^{2}}}$$

Sb (standard error of b — simpangan baku estimasi koefisien slope)
df (degrees of freedom — derajat kebebasan) = n − 2
Tolak $H_{0}$ jika |t hitung| > t tabel $(df=n-2, \alpha/2=0,025$, two-tailed)

Hubungan dengan r: $t = r\sqrt{n-2} / \sqrt{1-r^{2}} -$ sama persis dengan uji t korelasi di P7–8.
Distribusi t — Two-tailed (α = 0,05)−t kritis+t kritisTolak H₀Tolak H₀Gagal Tolak H₀

Semakin jauh b dari nol relatif terhadap Sb, semakin kuat bukti bahwa $\beta \neq 0 di$ populasi. Semakin besar variasi X, semakin kecil Sb, semakin mudah menemukan signifikansi.

Coba Sendiri: Bedah Tabel Output Regresi Langkah demi Langkah

Output regresi standar punya tiga blok — Model Summary (R/R²/Se), ANOVA (uji F), dan Coefficients (a, b, uji t). Alat ini membongkar setiap blok.

HDN-2: Capex vs Laba Pertamina — OLS

Konteks: Data 10 tahun (ilustrasi) PT Pertamina (Persero). X = capex (Capital Expenditure — pengeluaran modal, Rp triliun); Y = laba operasional (Rp triliun).

ThnX (capex)Y (laba)$X_{i}-\bar{X}$$Y_{i}-\bar{Y}$$(X_{i}-\bar{X})(Y_{i}-\bar{Y})$$(X_{i}-\bar{X})^{2}$
T12818−8,5−6,151,8572,25
T23522−1,5−2,13,152,25
T34228+5,5+3,921,4530,25
T43825+1,5+0,91,352,25
T53020−6,5−4,126,6542,25
T62516−11,5−8,193,15132,25
T73221−4,5−3,113,9520,25
T84027+3,5+2,910,1512,25
T94530+8,5+5,950,1572,25
T105034+13,5+9,9133,65182,25
$\sum$36524100405,50568,50
$\bar{X} = 365/10 =$ 36,5
$\bar{Y} = 241/10 =$ 24,1
b = 405,50/568,50 = 0,713
a = 24,1 − 0,713×36,5 = −1,936
$\hat{Y} = -1,936 + 0,713\cdot X$  |  Setiap kenaikan capex $Rp 1 T \to$ laba operasional rata-rata naik Rp 0,713 T

HDN-2: Capex vs Laba Pertamina — Uji t & F

Lanjutan HDN-2 — Uji signifikansi $(\alpha = 0,05)$. SST $= \sum(Y_{i}-\bar{Y})^{2} =$ 290,90

LangkahPerhitunganNilai
SSE$\sum(Y_{i}-\hat{Y}_{i})^{2} (10$ residu kuadrat)1,665
Se$\sqrt(1,665 / (10-2)) = \sqrt0,2081$0,456 Rp T
Sb$0,456 / \sqrt568,50 = 0,456 / 23,843$0,01913
t hitung0,7133 / 0,0191337,28
t tabel$df=8, \alpha/2=0,025$, two-tailed2,306
Keputusan t|37,28| > $2,306 \to$ Tolak $H_{0}$Signifikan
SSR290,90 − 1,665289,235
F hitung289,235/1 ÷ (1,665/8) = 289,235/0,20811.390,4
F tabel$df_{1}=1, df_{2}=8, \alpha=0,05$5,32
Keputusan F1.390,4 >> $5,32 \to$ Tolak $H_{0}$Signifikan
Cek silang$t^{2} = 37,28^{2} \approx 1.390 \approx F ✓$;Konsisten
Kesimpulan: Pada $\alpha = 0,05$, terdapat bukti kuat bahwa capex berpengaruh positif signifikan terhadap laba operasional Pertamina (t = 37,28; F = 1.390,4; p < 0,001).

Interpretasi Slope Secara Ekonomis

Template interpretasi: "Setiap kenaikan 1 [satuan X], rata-rata [variabel Y] [naik/turun] sebesar [|b|] [satuan Y], jika faktor lain konstan (ceteris paribus)."
ModelbInterpretasi ekonomis
Mall Semarang3,668Setiap tambahan 1.000 pengunjung, pendapatan gerai rata-rata naik Rp 3,668 juta, ceteris paribus.
Pertamina0,713Setiap kenaikan capex Rp 1 T, laba operasional rata-rata naik Rp 0,713 T, ceteris paribus.
Frasa wajib:
• "rata-rata" — karena b adalah ekspektasi, bukan kepastian
• "ceteris paribus" (dengan hal lain sama/konstan) — karena model hanya memasukkan satu X
Regresi ≠ Kausalitas
Hubungan X dan Y mungkin terjadi karena keduanya dipengaruhi variabel perancu (confounding variable — variabel ketiga yang memengaruhi baik X maupun Y, menghasilkan korelasi semu).
Bagian 4
Prediksi, Residual,
dan Keterbatasan
Interval prediksi · Plot residual · Bahaya ekstrapolasi

Interval Estimasi vs Interval Prediksi

Interval Estimasi (lebih sempit)

Estimasi rentang rata-rata Y populasi untuk X tertentu.

$$\hat{Y} \pm t \cdot Se \cdot \sqrt{ \frac{1}{n} + \frac{(X_{0}-\bar{X})^{2}}{\sum (X_{i}-\bar{X})^{2}} }$$

"Berapa rata-rata pendapatan gerai yang punya 50.000 pengunjung?"

Interval Prediksi (lebih lebar)

Estimasi rentang Y untuk satu observasi baru pada X tertentu.

$$\hat{Y} \pm t \cdot Se \cdot \sqrt{ 1 + \frac{1}{n} + \frac{(X_{0}-\bar{X})^{2}}{\sum (X_{i}-\bar{X})^{2}} }$$

"Berapa pendapatan gerai ini bulan depan jika pengunjung 50.000?"

Interval EstimasiInterval PrediksiX₀
Keduanya melebar di ujung (jauh dari $\bar{X}) -$ prediksi ekstrapolasi sangat tidak andal.

Residual dan Plot Residual — Memeriksa Asumsi

Residu: $e_{i} = Y_{i} - \hat{Y}_{i}$   |   Plot residual: $e_{i} vs \hat{Y}_{i}$ (atau $vs X_{i})$

(a) Ideal — acak
(b) Pola U → nonlinear
(c) Corong → hetero
(d) Tren → var. terlewat
"Pola bermasalah": (b) hubungan nonlinear — model perlu transformasi  |  (c) heteroskedastisitas (heteroscedasticity — variansi residu tidak konstan, melanggar asumsi OLS)  |  (d) variabel X lain terlewat
$R^{2}$ tinggi tidak menjamin residu acak. Selalu buat plot residual!

Studi Kasus: Penjualan Ritel vs UMP Jawa Tengah

Konteks: Seorang analis di PT Ramayana Lestari Sentosa (kode BEI: RALS) ingin memodelkan penjualan ritel (Rp miliar/tahun) gerai-gerai di Jawa Tengah sebagai fungsi UMP (Upah Minimum Provinsi — batas minimum upah yang ditetapkan pemerintah provinsi setiap tahun), selama 8 tahun terakhir.
Komponen outputNilaiInterpretasi
Model$\hat{Y} = 120 + 0,015\cdot X$X = UMP (ribu Rp/bulan), Y = penjualan (Rp miliar/tahun)
$R^{2}$0,8282% variasi penjualan dijelaskan UMP
Se18,5 miliarPrediksi rata-rata meleset ±Rp 18,5 miliar
p-value uji F0,003< $0,05 \to$ model signifikan
1
Interpretasikan slope 0,015
Dalam bahasa bisnis untuk manajer yang tidak paham statistika.
2
Prediksi UMP 2024 Jateng
UMP 2024 Jawa Tengah = Rp 2.036.947/bulan (BPS). Berapa prediksi penjualan$? \hat{Y} = 120 + 0,015 \times 2.037 \approx$ Rp 150,56 miliar
3
Kausalitas?
Apakah kenaikan UMP menyebabkan penjualan naik? Atau keduanya tumbuh karena tren waktu?
4
18% tidak dijelaskan
Sebutkan dua faktor lain yang mungkin memengaruhi penjualan ritel di Jateng.

Lima Jebakan Regresi yang Sering Bikin Salah

1
Ekstrapolasi berbahaya
Memprediksi jauh di luar rentang X sampel — model tidak valid di luar data latih. Garis regresi hanya berlaku di dalam rentang data yang digunakan membangunnya.
2
Kausalitas vs korelasi
$R^{2}$ tinggi $\neq$ bukti sebab-akibat. Selalu tanya "ada variabel ketiga?" Mungkin keduanya dipengaruhi faktor lain (variabel perancu / omitted variable).
3
Konstanta a diklaim bermakna selalu
Kalau X = 0 tidak logis dalam konteks bisnis (tidak ada gerai tanpa pengunjung), nilai a hanyalah parameter matematis, bukan prediksi yang bermakna.
4
Mengabaikan plot residual
$R^{2}$ tinggi tidak menjamin asumsi linearitas dan homoskedastisitas (homoscedasticity — variansi residu konstan, asumsi OLS) terpenuhi. Selalu periksa plot residual.
5
Overgeneralisasi dari sampel kecil
Dengan n = 5, hampir semua $R^{2}$ akan tinggi secara kebetulan — terlalu sedikit observasi untuk menggeneralisasi. Minimum praktis sekitar 20 observasi untuk regresi sederhana yang andal.

Cheat Sheet Regresi Linear Sederhana

KomponenRumus / DefinisiInterpretasi / Catatan
Model$\hat{Y} = a + bX$Persamaan garis prediksi
Slope b$\sum(X_{i}-\bar{X})(Y_{i}-\bar{Y}) / \sum(X_{i}-\bar{X})^{2}$Perubahan rata-rata Y per 1 unit X
Intercept a$\bar{Y} - b\cdot\bar{X}$Nilai $\hat{Y}$ saat X = 0 (tidak selalu bermakna)
SSE$\sum(Y_{i} - \hat{Y}_{i})^{2}$Variasi Y yang tidak dijelaskan model
SST$\sum(Y_{i} - \bar{Y})^{2}$Total variasi Y (= SSR + SSE)
$R^{2}$1 − SSE/SSTProporsi variasi Y yang dijelaskan $X (0-1); = r^{2}$
Se$\sqrt$(SSE/(n-2))Rata-rata besar kesalahan prediksi (satuan Y); df = n−2
t uji bb/Sb;   $Sb = Se/\sqrt\sum(X_{i}-\bar{X})^{2}$Uji $H_{0}: \beta = 0; df = n-2$; two-tailed
F uji model(SST−SSE)/1 ÷ SSE/(n−2)Uji model keseluruhan; df = (1, n−2)
Residu$e = Y - \hat{Y}$Selisih aktual vs prediksi; plot untuk cek asumsi
Cek silang$F = t^{2}$ (regresi sederhana)Verifikasi internal konsistensi F dan t
Urutan hitung efisien: $\bar{X}$&$\bar{Y} \to$ tabel deviasi $\to b \to a \to$ residu $\to$ SSE $\to R^{2}$ & $Se \to t$ & F  |  Ingat: df = n-2, bukan n atau n-1.

Persiapan Pertemuan Berikutnya

Hari ini Anda telah belajar
  • Membangun model $\hat{Y}$ = a + bX dan memahami peran a dan b
  • Menghitung b dan a via OLS dari data mentah
  • Mengevaluasi model: $R^{2}, Se$, Uji F, Uji $t (\alpha = 5\%)$
  • Menginterpretasikan slope secara ekonomis (ceteris paribus)
  • Memeriksa residual dan mengenali lima jebakan umum
Selamat — Anda sudah menguasai fondasi regresi!
Tugas & Pertemuan Berikutnya
  • Kerjakan Latihan Bab 13 no. 1–5 dari Lind et al. (2015)
  • Input salah satu dataset HDN ke Excel (Data Analysis $\to$ Regression) dan bandingkan output dengan perhitungan tangan
Pertemuan berikutnya:
Regresi Linear Berganda (Multiple Regression — model regresi dengan dua atau lebih variabel bebas: $\hat{Y}$ $= a + b_{1}X_{1} + b_{2}X_{2} +$ …) — memperluas model ke lebih dari satu variabel X. Logika dan prinsipnya sama persis dengan yang sudah Anda kuasai hari ini.

📖 Baca juga: Beta Unlevering Relevering — penjelasan mendalam dan contoh numerik.