Pendahuluan

  • Regresi adalah proses memprediksi nilai kontinu menggunakan variabel yang diberikan.
  • Variabel umumnya ada 2 jenis: - variabel bebas dan variabel terikat
  • Variabel terikat adalah variabel yang ingin kita prediksi — disebut juga array target (y).
  • Variabel bebas adalah variabel yang menyimpan nilai fitur suatu data. Dilambangkan sebagai Fitur (X).
  • Jadi pada dasarnya model regresi menghubungkan y dengan x.

Jenis model Regresi

  • Ada 2 jenis model regresi dalam Machine Learning

Regresi Sederhana:-

  • Digunakan ketika satu variabel independen digunakan untuk memprediksi satu variabel dependen
  • Contoh:- Algoritma Regresi Linier Sederhana

Regresi Berganda:-

  • Ini digunakan ketika banyak (lebih dari 1) variabel independen digunakan untuk memprediksi satu variabel dependen.
  • Contoh:- Algoritma Regresi Linier Berganda

Algoritma Regresi Linier Sederhana

  • Regresi linier adalah perkiraan model linier yang digunakan untuk menggambarkan hubungan antara 2 variabel atau lebih
  • Seperti yang telah dibahas di atas, jika hanya satu variabel yang digunakan untuk memprediksi variabel lain dengan menggunakan model linier, maka model regresi tersebut disebut regresi linier sederhana.

  • Kita harus menghitung nilai kemiringan dan intersep untuk menemukan garis yang paling cocok untuk 'menyesuaikan' data karena regresi linier memperkirakan koefisien garis.
  • Kita harus menyesuaikan parameter (kemiringan dan intersep) untuk menyelaraskan garis yang paling sesuai dalam model.
  • Kesalahan sisa:- Jarak dari titik data ke garis regresi yang dipasang

  • Rata-rata dari semua kesalahan sisa menunjukkan kepada kita seberapa buruk titik data dipasang. Secara matematis dapat ditunjukkan dengan persamaan Mean squared error (MSE).

  • Jadi, tujuannya adalah untuk menemukan garis yang MSE-nya paling kecil, untuk meminimalkannya kita perlu mencari parameter terbaik (nilai kemiringan dan intersep terbaik).

Untuk mencari parameter terbaik atau meminimalkan persamaan MSE digunakan metode kuadrat terkecil biasa. Topik ini akan dibahas di blog berikutnya.