Metode Kernel dipopulerkan dalam Pembelajaran Mesin oleh Support Vector Machine pada tahun 1995. Metode Kernel dan pendekatan Kernel lainnya menikmati popularitas selama dua dekade, namun secara bertahap diambil alih oleh jaringan saraf dalam. Namun baru-baru ini, ditemukan bahwa jaringan saraf dalam kira-kira merupakan metode kernel yang menggunakan kernel yang disebut Neural Tangent Kernel. Penemuan ini memungkinkan pemahaman yang lebih mendalam tentang pelatihan dan perilaku generalisasi jaringan saraf.

Dalam tutorial interaktif ini, saya memotivasi konsep matematika utama Metode Kernel, menggunakan Regresi Kernel dengan Kernel Gaussian 1-D sebagai contoh kerja.

Pada tingkat deskripsi paling dasar, Metode Kernel mana pun akan membuat “kurva” agar sesuai dengan n titik data, sebagai jumlah tertimbang dari n kurva sederhana, semuanya berasal dari kelompok yang sama. Setiap kurva yang lebih sederhana berpusat di sekitar titik data dalam arti tertentu. Fungsi Kernel dua argumen digunakan sebagai pembangkit fungsi dari fungsi satu argumen (kurva yang lebih sederhana ini). Terlepas dari pilihan fungsi Kernel ini, n bobot adalah satu-satunya parameter yang harus dipelajari.

Dalam plot animasi di atas, n kurva sederhana ditampilkan dalam warna abu-abu, dan jumlah bobotnya ditampilkan dalam warna biru. Pada bagian pertama animasi, kurva abu-abu muncul, dan berpusat di sekitar setiap titik masukan data. Pada bagian kedua, bobot setiap kurva abu-abu disesuaikan sehingga jumlah bobotnya sesuai dengan titik data. Terakhir, kurva lain yang juga sesuai dengan data akan ditampilkan, dan dibandingkan dengan kurva oranye “optimal”, yang dibuat menggunakan kurva tidak terpusat.

Artikel Lengkap dengan visualisasi Interaktif

Dasar matematika terperinci dan interpretasi teknik ini diberikan dalam tutorial interaktif. Sayangnya ini tidak dapat ditampilkan di Medium karena pembatasan javascript. Ini juga memerlukan trackpad atau mouse asli untuk berinteraksi dengan plot.