DivideMix — Memisahkan Label Noise Secara Probabilistik dan Menggunakannya Kembali dengan Semi-Supervised Learning

DivideMix merupakan metode noise robust learning yang dirancang untuk menangani dataset dengan label yang tidak sepenuhnya benar. Metode ini mengidentifikasi clean sample dan noisy sample berdasarkan probabilitas, kemudian memproses keduanya menggunakan pendekatan pembelajaran yang berbeda melalui semi-supervised learning. Dalam proses training, Deep Learning model biasanya mengalami Memorization Effect, yaitu kondisi ketika model mulai menghafal pola yang salah dari label noise setelah mempelajari pola umum pada data. DivideMix memanfaatkan karakteristik ini dengan menganalisis distribusi sample loss untuk memperkirakan tingkat kepercayaan setiap data. Clean data digunakan sebagai labeled data dalam supervised learning, sedangkan noisy data dimanfaatkan melalui pseudo-label agar pengaruh label yang salah terhadap model dapat dikurangi. Istilah Divide mengacu pada proses pemisahan data menjadi clean dan noisy sample, sementara Mix menunjukkan penggunaan strategi pencampuran data seperti MixMatch dan MixUp dalam training.

07/22/2026

MixMatch — Teknik Semi-Supervised Learning untuk Memurnikan dan Menggabungkan Data Tanpa Label

MixMatch adalah metode semi-supervised learning yang menggabungkan data augmentation, pseudo-labeling, sharpening, dan MixUp dalam satu alur pembelajaran untuk memanfaatkan sejumlah kecil data berlabel bersama dengan data tanpa label dalam jumlah besar. Inti dari metode ini adalah memperbaiki prediksi yang masih memiliki ketidakpastian pada data tanpa label secara bertahap, lalu menggunakan hasil tersebut sebagai bagian dari proses training model.

07/28/2026

Mixup — Metode Mencampurkan Sampel dan Label untuk Mempelajari Decision Boundary yang Lebih Halus

Mixup adalah teknik data augmentation yang membuat contoh training baru dengan mencampurkan dua sampel data beserta dua labelnya berdasarkan rasio tertentu. Berbeda dengan metode augmentation tradisional yang biasanya mengubah satu sampel seperti melakukan rotasi, pembalikan, atau pemotongan gambar, Mixup membuat model belajar dari titik peralihan di antara dua sampel yang berbeda. Pendekatan ini membantu model tidak hanya menghafal data training secara spesifik, tetapi memahami pola yang lebih halus di antara sampel, sehingga dapat meningkatkan performa generalisasi dan membantu mengurangi overfitting.

07/22/2026