ANALISIS REGRESI LINEAR
SEDERHANA & GANDA
Widyastuti, S. Psi., M. Si., Psikolog
Ahmad Ridfah, S. Psi., M. Psi., Psikolog
Nur Akmal, S. Psi., M.A.
FAKULTAS PSIKOLOGI UNM
FEBRUARI 2021
Sejarah (Gonick & Smith, 2020)
Prosedur ini disebut dengan analisis regresi karena …
Pada sekitar peralihan abad ke-20, ahli genetika Francis
Galton menemukan suatu fenomena yang disebut regresi
menuju rata-rata (regression to the mean). Ketika
mencoba mencari hukum pewarisan sifat, ia menemukan
bahwa tinggi anak laki-laki cenderung susut menuju tinggi
rata-rata populasi. Dibandingkan dengan ayah mereka,
ayah yang tinggi cenderung memiliki anak yang lebih
pendek, dan sebaliknya. Galton mengembangkan suatu
analisa regresi untuk mempelajari pengaruh ini.
Tugas Pokok Anareg (Hadi, 2001)
• Mencari korelasi antara kriterium dan
prediktor.
• Menguji apakah korelasi itu signifikan ataukah
tidak.
• Mencari persamaan garis regresinya.
• Menemukan sumbangan relatif antara sesama
prediktor, jika prediktornya lebih dari satu.
Sekilas Anareg
• Analisis regresi hanya dapat dilakukan apabila
telah diketahui, bahwa ada hubungan yang
signifikan antar variabel yang bersangkutan.
• Apabila tidak ada hubungan antar variabel, maka
variabel tersebut tidak dapat digunakan untuk
memprediksi keadaan variabel yg lain.
• Jadi kita berusaha mengetahui keadaan suatu
variabel (misal variabel Y), lewat variabel lain
(misal variabel X) atau sebaliknya.
• Korelasi sempurna, jika r = 1.00 atau r = -1.00.
• Variabel X = VI = variabel prediktor
• Variabel Y = VD = variabel kriterium
• Hubungan antara variabel prediktor dengan
variabel kriterium biasanya dilukiskan dalam
sebuah garis, yang disebut garis regresi.
• Garis regresi ada yg berbentuk linear (lurus),
dan ada yg berbentuk melengkung (kurva)
• Dalam penghitungan regresi biasanya
diasumsikan garis regresinya linear.
• Oleh karena itu perlu dilakukan uji linearitas.
• Apabila garis regresi yg diperoleh tidak linear,
maka tidak dapat dikenai rumus yg sama,
yaitu harus dihitung dengan rumus garis
regresi non linear (misal: regresi eksponensial,
regresi logistik, dls).
Rumus Anareg Sederhana
• Rumus persamaan garis regresi dg satu prediktor
Y = a+bX (Santoso, 2010).
Y = variabel kriterium
X = variabel prediktor
b = koefisien prediktor (slope), merupakan tingkat
kemiringan garis regresi, yang juga berarti berapa
banyaknya peningkatan Y jika X meningkat
sebanyak 1 poin.
a = bilangan konstan (intercept), merupakan nilai
dari prediksi Y jika nilai dari X adalah nol.
Rumus Anareg Sederhana
Rumus persamaan garis regresi dg satu
prediktor (Hadi, 2001)
Y = aX + K
Y = kriterium
X = prediktor
a = koefisien prediktor
K = bilangan konstan
Langkah dalam anareg sederhana
• Menghitung korelasi antara kedua variabel
• Jika koefisien korelasi (r) yg diperoleh
signifikan, buat persamaan garis regresinya.
• Garis regresi yang ingin didapatkan harus
memiliki kriteria khusus, yakni memiliki
kesalahan prediksi paling kecil dibandingkan
semua garis regresi yang mungkin di buat (Santoso,
2010). Tujuan peneliti adalah ingin mendapatkan
dasar ramalan yang menghasilkan kesalahan-
kesalahan yang sekecil-kecilnya (Hadi, 2001).
• Tujuan tersebut di atas dapat tercapai, jika
dari serangkaian ramalan, jumlah kesalahan-
kesalahan ramalan tersebut sama dengan nol.
Kesalahan ramalan ini di sebut residu (Hadi, 2001).
• Untuk mengisi persamaan garis regresi (Y = aX
+ K) itu, harga koefisien prediktor (a) dan
harga bilangan konstan (K) harus ditemukan
terlebih dahulu. Harga-harga a dan K dapat
ditemukan dengan dua jalan, yaitu dengan
metode skor kasar dan metode skor deviasi
(Hadi, 2001).
• Rumus metode skor kasar
• Rumus metode skor deviasi
y = ax
• Setelah garis regresi diketahui, maka perlu
dilakukan analisis varians terhadap garis
regresi, dengan maksud menguji signifikansi
garis regresi yang bersangkutan, hal ini
terutama dilakukan jika dalam prediksi
digunakan beberapa prediktor. Jika hanya satu
prediktor maka setelah garis regresi diketahui,
maka tugas yang kita kerjakan boleh dikatakan
selesai (Hadi, 2001).
Anareg dalam SPSS (Santoso, 2006)
1. Analyze  Regression  Linear
2. Pengisian kotak dialog (dependen,
independen)
3. Pilih Statistics  Estimates  Model Fit 
Descriptives  Casewise diagnostics  all
cases  Continue
4. Pilih Plots  SDRESID pada VD  ZPRED
pada VI  Next  ZPRED pada VD 
DEPENDNT pada VI  Next  Normal
Probability Plot  Continue  Ok
Hasil
1. Statistik deskriptif
2. Tingkat signifikansi korelasi dan besarnya
korelasi.
3. Variables Entered/Removed
4. Model Summary
R = koefisien korelasi
R square = pengkuadratan dari koefisien korelasi
= koefisien determinasi = semakin kecil angka
R square, semakin lemah hubungan kedua
variabel = berkisar 0-1 = sekian % dari variabel
dependen dapat dijelaskan oleh variabel
independen, sisanya oleh variabel lain yg tidak
di teliti.
SEE  variabel dependen  jika SEE < SD
variabel dependen, maka model regresi lebih
bagus dalam bertindak sebagai prediktor
variabel dependen, daripada rata-rata dari
variabel dependen itu sendiri.
5. Anova  Lihat Sig. jika < 0,05 maka model
regresi bisa digunakan untuk memprediksi
variabel dependen.
6. Coefficients
Menunjukkan persamaan garis regresi  Y=
B(constan)+ B X
Uji t  menguji signifikansi konstanta dan
variabel dependen  apakah benar variabel
independen dapat memprediksi variabel
dependen  Sig < 0,025 maka koef regresi
signifikan  uji dilakukan dua sisi sehingga
probabilitas = 0,05/2 = 0,025
7. Casewise diagnostics  membahas ttg residu
 semakin kecil residu atau standardized
residual (residu/SEE) akan semakin baik bagi
persamaan regresi dalam memprediksi data.
8. Residuals statistics  ringkasan deskiriptif
dari nilai residu.
9. Gambar Normal P-P Plot of Regression
Standardized Residual  jika residual berasal
dari distribusi normal, maka sebaran data
akan terletak di sekitar garis lurus.
10. Scatterplot 1  Menggambarkan hubungan
antara nilai yg diprediksi dengan Studentized
Delete Residual-nya  Jika model regresi
layak dipakai untuk prediksi (fit), maka data
akan berpencar di sekitar angka nol (0 pada
sumbu Y) dan tidak membentuk suatu pola
atau tren tertentu.
11. Scatterplot 2  Menggambarkan hubungan
antara varibel dependen dengan nilai
prediksinya  Jika model memenuhi syarat,
maka sebaran data akan berada mulai dari kiri
bawah lurus ke arah kanan atas.
Analisis Regresi Ganda
• Memiliki lebih dari 1 prediktor.
• Untuk anareg ganda dengan 2 prediktor,
berarti terdapat 1 variabel kriterium dan 2
variabel prediktor, dst.
• Prinsip-prinsip untuk memprediksikan
kriterium dari satu prediktor berlaku juga
untuk memprediksikan kriterium dari dua
prediktor atau lebih (Hadi, 2001).
• Persamaan garis regresi (Hadi, 2001).
• Langkah SPSS dalam anareg ganda tergolong
sama dengan anareg sederhana, begitu pula
dengan cara pembacaan hasilnya.
• Harus diingat untuk melakukan uji asumsi
sebelum uji hipotesis, baik pada anareg
sederhana maupun ganda.
Daftar Pustaka
Gonick, L. & Smith, W. 2020. Kartun Statistik.
Jakarta: KPG (Kepustakaan Populer Gramedia).
Hadi, S. 2001. Analisis Regresi. Yogyakarta: Andi.
Santoso, A. 2010. Statistik untuk Psikologi dari
Blog menjadi Buku. Yogyakarta: Universitas
Sanata Darma.
Santoso, S. 2006. Menguasai Statistik di Era
Reformasi Informasi dengan SPSS 14. Jakarta:
Elex Media Komputindo
Tugas I
• Reviu tentang analisis regresi.
Tugas II
• Mengerjakan 3 nomor soal. Dikumpulkan
besok jam 08.00.
Tugas
Membuat paper tentang analisis regresi logistik,
sekurang-kurangnya berisi tentang:
• Apa itu regresi logistik?
• Kapan regresi logistik digunakan?
• Asumsi regresi logistik.
• Fungsi regresi logistik.
• Langkah-langkah regresi logistik di SPSS.
• Contoh soal yang berkaitan dengan psikologi dan
interpretasi datanya.
Paper dikumpulkan minggu depan

Analisis regresi sederhana ganda

  • 1.
    ANALISIS REGRESI LINEAR SEDERHANA& GANDA Widyastuti, S. Psi., M. Si., Psikolog Ahmad Ridfah, S. Psi., M. Psi., Psikolog Nur Akmal, S. Psi., M.A. FAKULTAS PSIKOLOGI UNM FEBRUARI 2021
  • 2.
    Sejarah (Gonick &Smith, 2020) Prosedur ini disebut dengan analisis regresi karena … Pada sekitar peralihan abad ke-20, ahli genetika Francis Galton menemukan suatu fenomena yang disebut regresi menuju rata-rata (regression to the mean). Ketika mencoba mencari hukum pewarisan sifat, ia menemukan bahwa tinggi anak laki-laki cenderung susut menuju tinggi rata-rata populasi. Dibandingkan dengan ayah mereka, ayah yang tinggi cenderung memiliki anak yang lebih pendek, dan sebaliknya. Galton mengembangkan suatu analisa regresi untuk mempelajari pengaruh ini.
  • 3.
    Tugas Pokok Anareg(Hadi, 2001) • Mencari korelasi antara kriterium dan prediktor. • Menguji apakah korelasi itu signifikan ataukah tidak. • Mencari persamaan garis regresinya. • Menemukan sumbangan relatif antara sesama prediktor, jika prediktornya lebih dari satu.
  • 4.
    Sekilas Anareg • Analisisregresi hanya dapat dilakukan apabila telah diketahui, bahwa ada hubungan yang signifikan antar variabel yang bersangkutan. • Apabila tidak ada hubungan antar variabel, maka variabel tersebut tidak dapat digunakan untuk memprediksi keadaan variabel yg lain. • Jadi kita berusaha mengetahui keadaan suatu variabel (misal variabel Y), lewat variabel lain (misal variabel X) atau sebaliknya. • Korelasi sempurna, jika r = 1.00 atau r = -1.00.
  • 5.
    • Variabel X= VI = variabel prediktor • Variabel Y = VD = variabel kriterium • Hubungan antara variabel prediktor dengan variabel kriterium biasanya dilukiskan dalam sebuah garis, yang disebut garis regresi. • Garis regresi ada yg berbentuk linear (lurus), dan ada yg berbentuk melengkung (kurva) • Dalam penghitungan regresi biasanya diasumsikan garis regresinya linear.
  • 6.
    • Oleh karenaitu perlu dilakukan uji linearitas. • Apabila garis regresi yg diperoleh tidak linear, maka tidak dapat dikenai rumus yg sama, yaitu harus dihitung dengan rumus garis regresi non linear (misal: regresi eksponensial, regresi logistik, dls).
  • 7.
    Rumus Anareg Sederhana •Rumus persamaan garis regresi dg satu prediktor Y = a+bX (Santoso, 2010). Y = variabel kriterium X = variabel prediktor b = koefisien prediktor (slope), merupakan tingkat kemiringan garis regresi, yang juga berarti berapa banyaknya peningkatan Y jika X meningkat sebanyak 1 poin. a = bilangan konstan (intercept), merupakan nilai dari prediksi Y jika nilai dari X adalah nol.
  • 8.
    Rumus Anareg Sederhana Rumuspersamaan garis regresi dg satu prediktor (Hadi, 2001) Y = aX + K Y = kriterium X = prediktor a = koefisien prediktor K = bilangan konstan
  • 9.
    Langkah dalam anaregsederhana • Menghitung korelasi antara kedua variabel • Jika koefisien korelasi (r) yg diperoleh signifikan, buat persamaan garis regresinya. • Garis regresi yang ingin didapatkan harus memiliki kriteria khusus, yakni memiliki kesalahan prediksi paling kecil dibandingkan semua garis regresi yang mungkin di buat (Santoso, 2010). Tujuan peneliti adalah ingin mendapatkan dasar ramalan yang menghasilkan kesalahan- kesalahan yang sekecil-kecilnya (Hadi, 2001).
  • 10.
    • Tujuan tersebutdi atas dapat tercapai, jika dari serangkaian ramalan, jumlah kesalahan- kesalahan ramalan tersebut sama dengan nol. Kesalahan ramalan ini di sebut residu (Hadi, 2001). • Untuk mengisi persamaan garis regresi (Y = aX + K) itu, harga koefisien prediktor (a) dan harga bilangan konstan (K) harus ditemukan terlebih dahulu. Harga-harga a dan K dapat ditemukan dengan dua jalan, yaitu dengan metode skor kasar dan metode skor deviasi (Hadi, 2001).
  • 11.
    • Rumus metodeskor kasar
  • 12.
    • Rumus metodeskor deviasi y = ax
  • 13.
    • Setelah garisregresi diketahui, maka perlu dilakukan analisis varians terhadap garis regresi, dengan maksud menguji signifikansi garis regresi yang bersangkutan, hal ini terutama dilakukan jika dalam prediksi digunakan beberapa prediktor. Jika hanya satu prediktor maka setelah garis regresi diketahui, maka tugas yang kita kerjakan boleh dikatakan selesai (Hadi, 2001).
  • 14.
    Anareg dalam SPSS(Santoso, 2006) 1. Analyze  Regression  Linear 2. Pengisian kotak dialog (dependen, independen) 3. Pilih Statistics  Estimates  Model Fit  Descriptives  Casewise diagnostics  all cases  Continue 4. Pilih Plots  SDRESID pada VD  ZPRED pada VI  Next  ZPRED pada VD  DEPENDNT pada VI  Next  Normal Probability Plot  Continue  Ok
  • 15.
    Hasil 1. Statistik deskriptif 2.Tingkat signifikansi korelasi dan besarnya korelasi. 3. Variables Entered/Removed 4. Model Summary R = koefisien korelasi
  • 16.
    R square =pengkuadratan dari koefisien korelasi = koefisien determinasi = semakin kecil angka R square, semakin lemah hubungan kedua variabel = berkisar 0-1 = sekian % dari variabel dependen dapat dijelaskan oleh variabel independen, sisanya oleh variabel lain yg tidak di teliti. SEE  variabel dependen  jika SEE < SD variabel dependen, maka model regresi lebih bagus dalam bertindak sebagai prediktor variabel dependen, daripada rata-rata dari variabel dependen itu sendiri.
  • 17.
    5. Anova Lihat Sig. jika < 0,05 maka model regresi bisa digunakan untuk memprediksi variabel dependen. 6. Coefficients Menunjukkan persamaan garis regresi  Y= B(constan)+ B X Uji t  menguji signifikansi konstanta dan variabel dependen  apakah benar variabel independen dapat memprediksi variabel dependen  Sig < 0,025 maka koef regresi signifikan  uji dilakukan dua sisi sehingga probabilitas = 0,05/2 = 0,025
  • 18.
    7. Casewise diagnostics membahas ttg residu  semakin kecil residu atau standardized residual (residu/SEE) akan semakin baik bagi persamaan regresi dalam memprediksi data. 8. Residuals statistics  ringkasan deskiriptif dari nilai residu. 9. Gambar Normal P-P Plot of Regression Standardized Residual  jika residual berasal dari distribusi normal, maka sebaran data akan terletak di sekitar garis lurus.
  • 19.
    10. Scatterplot 1 Menggambarkan hubungan antara nilai yg diprediksi dengan Studentized Delete Residual-nya  Jika model regresi layak dipakai untuk prediksi (fit), maka data akan berpencar di sekitar angka nol (0 pada sumbu Y) dan tidak membentuk suatu pola atau tren tertentu. 11. Scatterplot 2  Menggambarkan hubungan antara varibel dependen dengan nilai prediksinya  Jika model memenuhi syarat, maka sebaran data akan berada mulai dari kiri bawah lurus ke arah kanan atas.
  • 20.
    Analisis Regresi Ganda •Memiliki lebih dari 1 prediktor. • Untuk anareg ganda dengan 2 prediktor, berarti terdapat 1 variabel kriterium dan 2 variabel prediktor, dst. • Prinsip-prinsip untuk memprediksikan kriterium dari satu prediktor berlaku juga untuk memprediksikan kriterium dari dua prediktor atau lebih (Hadi, 2001). • Persamaan garis regresi (Hadi, 2001).
  • 21.
    • Langkah SPSSdalam anareg ganda tergolong sama dengan anareg sederhana, begitu pula dengan cara pembacaan hasilnya. • Harus diingat untuk melakukan uji asumsi sebelum uji hipotesis, baik pada anareg sederhana maupun ganda.
  • 22.
    Daftar Pustaka Gonick, L.& Smith, W. 2020. Kartun Statistik. Jakarta: KPG (Kepustakaan Populer Gramedia). Hadi, S. 2001. Analisis Regresi. Yogyakarta: Andi. Santoso, A. 2010. Statistik untuk Psikologi dari Blog menjadi Buku. Yogyakarta: Universitas Sanata Darma. Santoso, S. 2006. Menguasai Statistik di Era Reformasi Informasi dengan SPSS 14. Jakarta: Elex Media Komputindo
  • 23.
    Tugas I • Reviutentang analisis regresi.
  • 24.
    Tugas II • Mengerjakan3 nomor soal. Dikumpulkan besok jam 08.00.
  • 25.
    Tugas Membuat paper tentanganalisis regresi logistik, sekurang-kurangnya berisi tentang: • Apa itu regresi logistik? • Kapan regresi logistik digunakan? • Asumsi regresi logistik. • Fungsi regresi logistik. • Langkah-langkah regresi logistik di SPSS. • Contoh soal yang berkaitan dengan psikologi dan interpretasi datanya. Paper dikumpulkan minggu depan