Agglomerative Hierarchical Clustering (AHC)


Hierarchical Clustering adalah metode analisis kelompok yang berusaha untuk membangun sebuah hirarki kelompok data. Strategi pengelompokkannya umumnya ada 2 jenis yaitu Agglomerative (Bottom-Up) dan Devisive (Top-Down). Namun kali ini kita hanya akan membahas tentang konsep Agglomerative (Bottom-Up).


Berikut proses algoritma AHC (Agglomerative Hierarchical Clustering) : 

1.    Hitung matrik jarak antar data (menggunakan Euclidean atau Manhattan Distance).

2.    Gabungkan dua kelompok terdekat menjadi satu kelompok data:

·    Single Lingkage (Jarak Terdekat)

·    Complete Lingkage (Jarak Terjauh)

·    Average Lingkage (Jarak Rata-Rata)

3.  Perbarui matrik jarak antar data untuk mempresentasikan antara kelompok baru dengan kelompok yang masih tersisa

     4.   Ulangi langkah 2-3 sampai hanya satu kelompok yang tersisa


Single, Averages & Complete Linkage
  • Single : Jarak antara member terdekat dari dua cluster
  • Complete : Jarak antara member terjauh dari dua cluster
  • Average : Jarak rata-rata antara cluster
Berikut gambaran dari ketiganya :


Contoh Soal

Kelompokkan dataset di bawah ini dengan menggunakan metode AHC (Single Linkage) dengan Mahattan Distance.

Dataset Skor Kedisiplinan Siswa

Langkah 1
  • Hitung matrik jarak antar data
  • Menghitung jarak dua data secara berpasang-pasangan dengan menggunakan Manhattan Distance




Langkah 2

  • Gabungkan dua kelompok terdekat menjadi satu
  • Menggunakan Single Linkage pilih jarak dari dua kelompok yang terdekat
  • Terpilih kelompok 2 dan 3, sehingga kedua kelompok digabungkan
  • Menghitung jarak terdekat antar kelompok (2 dan 3) dengan kelompok yang tersisa, yaitu 1, 4, 5


Langkah 3
  • Perbarui matrik jarak antar data
  • Hasil matriks jarak penggabungan kelompok 2 dengan kelompok 3
      


Langkah 4
  • Gabungkan dua kelompok terdekat menjadi satu
  • Pilih jarak dua kelompok terdekat
    
  • Terpilih kelompok 1 dan 4, sehingga kedua kelompok digabungkan
  • Menghitung jarak terdekat antar kelompok (1 dan 4) dengan kelompok yang tersisa, yaitu {23} dan 5
   


Langkah 5
  • Perbarui matrik jarak antar data
  • Hasil matriks jarak penggabungan kelompok 1 dengan kelompok 4
      


Langkah 6
  • Gabungkan dua kelompok terdekat menjadi satu
  • Pilih jarak dua kelompok terdekat
    
  • Terpilih kelompok 1 dan 4, sehingga kedua kelompok digabungkan
  • Menghitung jarak terdekat antar kelompok (1 dan 4) dengan kelompok yang tersisa, yaitu {23} dan 5
    


Langkah 7
  • Perbarui matrik jarak antar data
  • Hasil matriks jarak penggabungan kelompok {23} dengan kelompok {14}
     
  • Kelompok (1234) dan 5 digabung menjadi kelompok tunggal dari lima data, yaitu kelompok (12345) dengan jarak terdekat 5
  • Hasil Clustering dengan AHC
   








Sekian dari saya, terimakasih cantik/ganteng sudah berkunjung di blog saya 😊

Komentar

Posting Komentar

Postingan populer dari blog ini

Klasifikasi Support Vector Machine (SVM)

Gambar
Konsep klasifikasi dengan Support Vector Machine (SVM) adalah mencari hyperlane terbaik yang berfungsi sebagai pemisah dua kelas data. Ide sederhana dari SVM adalah memaksimalkan margin, yang merupakan jarak pemisah antara kelas data. SVM mampu bekerja pada dataset yang berdimensi tinggi dengan menggunakan kernel trik. SVM hanya menggunakan beberapa titik data terpilih yang berkontribusi (Support Vector) untuk membentuk model yang akan digunakan dalam proses klasifikasi. Tujuan utama dari model klasifikasi SVM adalah mencari hyperplane maksimum. Berikut gambar yang dapat membantu kita dalam memahami tujuan utama dari SVM: Decision Boundary yaitu pemisah antar class (hyperplane). Margin yaitu jarak terdekat dari decision boundary dengan data yang ingin dipisahkan. Support Vector yaitu anggota kelas yang berperan untuk menentukan margin. Kasus itu tidak melulu tampilannya mudah seperti gambar sebelumnya. Faktanya ketika di lapangan, data bisa rapat-rapat, data dapat menumpuk-numpuk, sehi...
Baca selengkapnya

Klasifikasi Naive Bayes

Gambar
Pada blog sebelumnya, kita telah membahas mengenai pemanfaatan machine learning, salah satunya untuk memprediksi. Sebenarnya memprediksi itu bisa ditarik ke arah regresi ataupun klasifikasi, hanya bedanya kalau regresi output-nya adalah numerik (berupa angka-angka) sedangkan klasifikasi output-nya berupa kategorikal (bisa binary atau multiclass). Dimana binary class itu hanya 2 pilihan (yes/no, on/off, 0/1, hitam/putih, dan lain sebagainya) sedangkan pada multiclass itu jika pilihannya atau keputusannya ada 3, 4, 5, dan seterusnya (jadi lebih besar dari 2). Terdapat beberapa model yang bisa digunakan untuk mengklasifikasi dataset yaitu: Naive Bayes (NB). Pada model ini terkait dengan probabilitas (kemunculan suatu kelas dari data yang ada) K Nears Neighbords (KNN), intinya adalah melihat tetangga terdekat dari data yang ada. Decision Tree (DT), intinya adalah melihat percabangan pohon terakhirnya menuju ke kelas yang mana. Support Vector Machine (SVM), kerjanya yaitu kita coba membuat ...
Baca selengkapnya

Neural Network

Gambar
 Neural network adalah model yang terinspirasi oleh bagaimana neuron dalam otak manusia bekerja. Tiap neuron pada otak manusia saling berhubungan dan informasi mengalir dari setiap neuron tersebut. Berikut beberapa elemen yang diterapkan dalam machine learning: Dendrit (Dendrites) berfungsi untuk mengirimkan impuls yang diterima ke badan sel syaraf. Akson (Axon) berfungsi untuk mengirimkan impuls dari badan sel ke jaringan lain. Sinapsis berfungsi sebagai unit fungsional di antara dua sel syaraf. Berikut bentuk machine learning yang mengacu pada fungsi neuron: Tiap neuron menerima input dan melakukan operasi dot dengan sebuah weight, menjumlahkannya (weighted sum) dan menambahkan bias. Hasil dari operasi ini akan dijadikan parameter dari activation function yang akan dijadikan output dari neuron tersebut. Struktur Neural Network Karakteristik dari ANN (Artificial Neural Network) dilihat dari pola hubungan antar neuron, metode penentuan bobot dari tiap koneksi, dan fungsi aktivitasn...
Baca selengkapnya