วิธีเคอร์เนลได้รับความนิยมในแมชชีนเลิร์นนิงโดย "Support Vector Machine" ในปี 1995 วิธีเคอร์เนลและวิธีการเคอร์เนลอื่นๆ ได้รับความนิยมมานานสองทศวรรษ แต่ค่อยๆ ถูกครอบงำโดยโครงข่ายประสาทเทียมระดับลึก อย่างไรก็ตาม เมื่อเร็วๆ นี้ มีการค้นพบว่าโครงข่ายประสาทเทียมระดับลึกเป็นวิธีเคอร์เนลโดยประมาณซึ่งใช้เคอร์เนลที่เรียกว่า "เคอร์เนลแทนเจนต์ประสาท" การค้นพบนี้ทำให้มีความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับพฤติกรรมการฝึกฝนและลักษณะทั่วไปของโครงข่ายประสาทเทียม

ในบทช่วยสอนแบบโต้ตอบนี้ ฉันกระตุ้นแนวคิดทางคณิตศาสตร์ส่วนกลางของวิธีเคอร์เนล โดยใช้ Kernel Regression กับเคอร์เนลเกาส์เซียน 1 มิติเป็นตัวอย่างการทำงาน

ในระดับคำอธิบายขั้นพื้นฐานที่สุด วิธีการเคอร์เนลใดๆ ก็ตามจะสร้าง "เส้นโค้ง" เพื่อให้พอดีกับจุดข้อมูล n จุด โดยเป็นผลรวมแบบถ่วงน้ำหนักของเส้นโค้งที่เรียบง่ายกว่า n เส้น ทั้งหมดนี้มาจากกลุ่มเดียวกัน เส้นโค้งที่เรียบง่ายแต่ละเส้นจะมีศูนย์กลางรอบจุดข้อมูลในแง่หนึ่ง ฟังก์ชันเคอร์เนลสองอาร์กิวเมนต์ใช้เป็นตัวสร้างฟังก์ชันของฟังก์ชันอาร์กิวเมนต์เดียว (เส้นโค้งที่เรียบง่ายกว่าเหล่านี้) นอกเหนือจากการเลือกฟังก์ชันเคอร์เนลแล้ว น้ำหนัก n เป็นเพียงพารามิเตอร์เดียวที่ต้องเรียนรู้

ในพล็อตภาพเคลื่อนไหวด้านบน เส้นโค้งที่เรียบง่ายกว่าจะแสดงเป็นสีเทา และผลรวมถ่วงน้ำหนักจะแสดงเป็นสีน้ำเงิน ในส่วนแรกของภาพเคลื่อนไหว เส้นโค้งสีเทาจะปรากฏขึ้น และอยู่ตรงกลางรอบจุดข้อมูลอินพุตแต่ละจุด ในส่วนที่สอง น้ำหนักของเส้นโค้งสีเทาแต่ละเส้นจะถูกปรับเพื่อให้ผลรวมถ่วงน้ำหนักเหมาะสมกับจุดข้อมูล สุดท้ายนี้ จะแสดงเส้นโค้งอื่นๆ ที่พอดีกับข้อมูลด้วย และเปรียบเทียบกับเส้นโค้งสีส้มที่ "เหมาะสมที่สุด" ซึ่งสร้างขึ้นโดยใช้เส้นโค้งที่ไม่อยู่กึ่งกลาง

บทความฉบับเต็มพร้อมการแสดงภาพเชิงโต้ตอบ

รากฐานทางคณิตศาสตร์โดยละเอียดและการตีความเทคนิคนี้มีให้ไว้ใน "บทช่วยสอนแบบโต้ตอบ" น่าเสียดายที่ไม่สามารถแสดงบนสื่อได้เนื่องจากข้อจำกัดของจาวาสคริปต์ นอกจากนี้ยังต้องใช้แทร็กแพดหรือเมาส์จริงเพื่อโต้ตอบกับโครงเรื่อง