Klasifikasi Support Vector Machine (SVM)

Konsep klasifikasi dengan Support Vector Machine (SVM) adalah mencari hyperlane terbaik yang berfungsi sebagai pemisah dua kelas data. Ide sederhana dari SVM adalah memaksimalkan margin, yang merupakan jarak pemisah antara kelas data. SVM mampu bekerja pada dataset yang berdimensi tinggi dengan menggunakan kernel trik. SVM hanya menggunakan beberapa titik data terpilih yang berkontribusi (Support Vector) untuk membentuk model yang akan digunakan dalam proses klasifikasi.

Tujuan utama dari model klasifikasi SVM adalah mencari hyperplane maksimum. Berikut gambar yang dapat membantu kita dalam memahami tujuan utama dari SVM:

  • Decision Boundary yaitu pemisah antar class (hyperplane).
  • Margin yaitu jarak terdekat dari decision boundary dengan data yang ingin dipisahkan.
  • Support Vector yaitu anggota kelas yang berperan untuk menentukan margin.
Kasus itu tidak melulu tampilannya mudah seperti gambar sebelumnya. Faktanya ketika di lapangan, data bisa rapat-rapat, data dapat menumpuk-numpuk, sehingga tidak semudah pada gambar sebelumnya dalam membuat pemisahnya. Bentuk datanya juga bisa acak-acak dan belum tentu juga ada dua kelas yang dipisahkan. Berikut salah satu contohnya:

Datanya bisa saja melingkar seperti gambar di atas, sehingga kita tidak dapat langsung menarik garis diagonal untuk membuat pemisahnya. Oleh sebab itu kita dapat menggunakan cari lain untuk membuat pemisahnya dengan cara Lineary Inspereable & Kernel Trick. Kernel Trick ini menggunakan fungsi-fungsi, jadi pemisahnya tidak hanya berupa garis tetapi bisa berupa parabola, lingkaran, dan lain sebagainya.
Pada kasus seperti gambar di atas, ketika dipisahkan dengan sebuah kernel, pemisahnya menjadi 3 dimensi (x, y, dan z). Hasilnya seperti gambar berikut:


Berikut contoh agar kita lebih memahami bagaimana konsep kerja dari SVM:

  • Karena ada dua fitur (x1 dan x2), maka w juga akan memiliki 2 fitur (w1 dan w2).
  • Formulasi yang digunakan adalah sebagai berikut:

Didapatkan beberapa persamaan berikut:


Sehingga didapatkan persamaan hyperplane sebagai berikut:

Dari model tersebut, kita dapat uji menggunakan data uji berikut:

Sehingga menghasilkan hyperplane terbaik untuk kasus tersebut, antara lain sebagai berikut:









Sekian dari saya, terimakasih cantik/ganteng sudah berkunjung di blog saya 😊











Komentar

Posting Komentar

Postingan populer dari blog ini

Klasifikasi Decision Tree

Gambar
Decision Tree adalah model klasifikasi yang menggunakan struktur pohon, dimana setiap node mempresentasikan atribut dan cabangnya mempresentasikan nilai dari atribut, sedangkan daunnya digunakan untuk mempresentasikan kelas. Berikut contoh dari model klasifikasi decision tree: Dari data tersebut, terdapat 4 atribut (nilai x) yaitu age, income, student dan credit rating. Kelas (nilai y) pada data tersebut adalah buys computer dimana ada 2 kelas (binary class) yaitu yes dan no. Yang menjadi root (akar) pada data tersebut adalah age. Terdapat 4 tahapan algoritma decision tree, antara lain sebagai berikut: 1.     Siapkan data training 2.     Pilih atribut sebagai akar 3.     Buat cabang untuk tiap-tiap nilai 4.     Ulangi proses untuk setiap cabang sampai semua kasus pada cabang memiliki kelas yang sama Agar lebih jelas uraian di atas, perhatikan contoh berikut: Siapkan data training Pilih atribut sebagai akar Untuk m...
Baca selengkapnya

Klasifikasi Naive Bayes

Gambar
Pada blog sebelumnya, kita telah membahas mengenai pemanfaatan machine learning, salah satunya untuk memprediksi. Sebenarnya memprediksi itu bisa ditarik ke arah regresi ataupun klasifikasi, hanya bedanya kalau regresi output-nya adalah numerik (berupa angka-angka) sedangkan klasifikasi output-nya berupa kategorikal (bisa binary atau multiclass). Dimana binary class itu hanya 2 pilihan (yes/no, on/off, 0/1, hitam/putih, dan lain sebagainya) sedangkan pada multiclass itu jika pilihannya atau keputusannya ada 3, 4, 5, dan seterusnya (jadi lebih besar dari 2). Terdapat beberapa model yang bisa digunakan untuk mengklasifikasi dataset yaitu: Naive Bayes (NB). Pada model ini terkait dengan probabilitas (kemunculan suatu kelas dari data yang ada) K Nears Neighbords (KNN), intinya adalah melihat tetangga terdekat dari data yang ada. Decision Tree (DT), intinya adalah melihat percabangan pohon terakhirnya menuju ke kelas yang mana. Support Vector Machine (SVM), kerjanya yaitu kita coba membuat ...
Baca selengkapnya