pembelajaran mesinkecerdasan buatanpembelajaran mendalamalgoritmapelatihan AI
Pembelajaran Penguatan vs Pembelajaran Terawasi
Pembelajaran penguatan (reinforcement learning) dan pembelajaran terawasi (supervised learning) mewakili dua pendekatan yang sangat berbeda untuk melatih model pembelajaran mesin. Sementara pembelajaran terawasi bergantung pada kumpulan data berlabel untuk mengajarkan model jawaban yang benar, pembelajaran penguatan melatih agen melalui interaksi coba-coba dengan lingkungan, yang dipandu oleh imbalan dan hukuman.
Sorotan
Pembelajaran penguatan (reinforcement learning) belajar dari interaksi lingkungan, sedangkan pembelajaran terawasi (supervised learning) belajar dari contoh yang diberi label.
Pembelajaran terawasi memberikan umpan balik langsung; pembelajaran penguatan seringkali bekerja dengan imbalan yang tertunda dan jarang.
Pembelajaran penguatan (reinforcement learning) unggul dalam pengambilan keputusan berurutan; pembelajaran terawasi (supervised learning) mendominasi tugas klasifikasi dan prediksi.
Kedua pendekatan ini semakin banyak digabungkan dalam sistem hibrida untuk masalah dunia nyata yang kompleks.
Apa itu Pembelajaran Penguatan?
Sebuah paradigma pembelajaran mesin di mana agen mempelajari tindakan optimal melalui interaksi lingkungan, menerima imbalan atau hukuman berdasarkan keputusannya.
Pembelajaran penguatan melatih agen melalui interaksi coba-coba berulang dengan lingkungan, bukan dari kumpulan data statis.
Mekanisme intinya bergantung pada sinyal penghargaan yang memberi tahu agen apakah tindakannya baik atau buruk, tanpa menentukan tindakan yang benar.
Q-learning, yang dikembangkan oleh Christopher Watkins pada tahun 1989, tetap menjadi salah satu algoritma fundamental di bidang ini.
Deep reinforcement learning terkenal karena mencapai performa luar biasa dalam permainan Atari dan mengalahkan juara dunia dalam permainan Go dan catur.
Aplikasi dunia nyata yang terkenal meliputi kontrol robotika, sistem penggerak otonom, dan optimalisasi pendinginan pusat data di Google.
Apa itu Pembelajaran Terbimbing?
Pendekatan pembelajaran mesin di mana model mempelajari pola dari data pelatihan berlabel, memetakan input ke output yang benar dan diketahui.
Pembelajaran terawasi memerlukan kumpulan data berlabel di mana setiap contoh masukan dipasangkan dengan jawaban yang benar atau nilai target.
Algoritma umum meliputi regresi linier, pohon keputusan, mesin vektor pendukung, dan jaringan saraf dalam.
Pendekatan ini mendominasi aplikasi AI praktis saat ini, mendukung sebagian besar sistem pengenalan gambar, deteksi spam, dan diagnosis medis.
Kualitas data pelatihan secara langsung menentukan kinerja model, sehingga pelabelan data menjadi langkah penting dan seringkali mahal.
Backpropagation, yang dipopulerkan pada tahun 1980-an, memungkinkan revolusi pembelajaran mendalam modern yang sebagian besar dibangun di atas teknik-teknik pengawasan.
Tabel Perbandingan
Fitur
Pembelajaran Penguatan
Pembelajaran Terbimbing
Pendekatan Pembelajaran
Metode coba-coba melalui interaksi lingkungan.
Pembelajaran dari contoh input-output berlabel
Persyaratan Data
Tidak memerlukan data berlabel; belajar dari imbalan.
Membutuhkan sejumlah besar data pelatihan berlabel.
Jenis Umpan Balik
Sinyal penghargaan tertunda (jarang atau berkelanjutan)
Jawaban benar langsung untuk setiap contoh
Kasus Penggunaan Utama
Bermain game, robotika, sistem otonom, pengambilan keputusan berurutan
Regresi linier, SVM, random forests, CNN, transformer
Lingkungan Pelatihan
Lingkungan interaktif atau simulator
Dataset statis dengan label yang telah ditentukan sebelumnya
Eksplorasi
Agen harus melakukan eksplorasi untuk menemukan strategi yang baik.
Tidak perlu eksplorasi; mengikuti pola dalam data.
Efisiensi Sampel
Seringkali membutuhkan jutaan interaksi
Secara umum lebih efisien dalam penggunaan sampel dengan label kualitas.
Interpretasi
Fungsi dan kebijakan pemberian penghargaan bisa jadi kompleks.
Seringkali lebih mudah diinterpretasikan, terutama dengan model yang lebih sederhana.
Perbandingan Detail
Filosofi Pembelajaran Inti
Perbedaan mendasar terletak pada bagaimana setiap pendekatan memperoleh pengetahuan. Pembelajaran terawasi (supervised learning) bekerja seperti seorang siswa yang belajar dengan kunci jawaban, belajar memetakan input ke output yang benar yang sudah diketahui. Pembelajaran penguatan (reinforcement learning) menyerupai pembelajaran melalui pengalaman, di mana agen menemukan tindakan mana yang mengarah ke hasil yang menguntungkan dengan benar-benar melakukannya dan mengamati konsekuensinya. Perbedaan filosofis ini membentuk segalanya, mulai dari persyaratan data hingga desain algoritma.
Data dan Umpan Balik
Pembelajaran terawasi membutuhkan kumpulan data berlabel yang dikurasi dengan cermat, yang bisa mahal dan memakan waktu untuk diproduksi tetapi memberikan umpan balik yang jelas dan langsung untuk setiap contoh pelatihan. Pembelajaran penguatan sepenuhnya menghindari masalah pelabelan tetapi memperkenalkan tantangannya sendiri: sinyal imbalan seringkali jarang dan tertunda, sehingga menyulitkan pemberian kredit. Agen mungkin melakukan ratusan tindakan sebelum menerima umpan balik yang berarti tentang apakah strategi keseluruhannya berhasil.
Aplikasi Praktis
Pembelajaran terawasi mendominasi industri di mana data historis dengan hasil yang diketahui tersedia, unggul dalam tugas klasifikasi, regresi, dan pengenalan pola seperti mendiagnosis penyakit dari gambar medis atau mendeteksi transaksi curang. Pembelajaran penguatan (reinforcement learning) bersinar dalam masalah pengambilan keputusan berurutan di mana strategi optimal harus ditemukan melalui interaksi, seperti mengajari robot berjalan, mengoptimalkan rantai pasokan, atau menguasai permainan kompleks seperti StarCraft II.
Tantangan Pelatihan
Kedua pendekatan tersebut menghadapi hambatan yang berbeda. Pembelajaran terawasi (supervised learning) bergumul dengan pergeseran distribusi, di mana model berkinerja buruk pada data yang berbeda dari contoh pelatihan, dan dapat melanggengkan bias yang ada dalam data berlabel. Pembelajaran penguatan (reinforcement learning) bergulat dengan pertukaran eksplorasi-eksploitasi, inefisiensi sampel, dan kesulitan dalam merancang fungsi penghargaan yang menangkap perilaku yang diinginkan tanpa konsekuensi yang tidak diinginkan. Stabilitas pelatihan tetap menjadi area penelitian aktif untuk kedua paradigma tersebut.
Kinerja dan Skalabilitas
Pembelajaran terawasi telah berkembang menjadi disiplin ilmu yang sangat terukur, dengan model pra-terlatih seperti BERT dan GPT yang menunjukkan kemampuan transfer pembelajaran yang luar biasa. Pembelajaran penguatan membutuhkan sumber daya komputasi yang substansial untuk lingkungan yang kompleks, meskipun terobosan seperti AlphaGo dan AlphaZero telah menunjukkan bahwa ia dapat mencapai kinerja luar biasa di domain tertentu. Kedua pendekatan ini semakin banyak digabungkan dalam sistem hibrida yang memanfaatkan kekuatan masing-masing.
Kelebihan & Kekurangan
Pembelajaran Penguatan
Keuntungan
+Belajar tanpa data berlabel
+Mampu menangani keputusan berurutan dengan baik.
+Dapat menemukan strategi baru.
+Beradaptasi dengan lingkungan yang dinamis
Tersisa
−Contoh tidak efisien
−Desain hadiah itu rumit.
−Pelatihan bisa jadi tidak stabil.
−Mahal secara komputasi
Pembelajaran Terbimbing
Keuntungan
+Sinyal pelatihan yang jelas
+Peralatan dan metode yang matang
+Akurasi prediksi yang tinggi
+Lebih mudah dievaluasi
Tersisa
−Membutuhkan data berlabel
−Kurang mahir dalam tugas-tugas berurutan.
−Terbatas pada pola yang sudah dikenal.
−Bias dari data pelatihan
Kesalahpahaman Umum
Mitologi
Pembelajaran penguatan selalu membutuhkan lebih banyak data daripada pembelajaran terawasi.
Realitas
Meskipun pembelajaran penguatan (reinforcement learning) seringkali membutuhkan banyak interaksi, perbandingannya tidak mudah. Satu gambar berlabel dapat mengajari model yang diawasi (supervised model), tetapi agen pembelajaran penguatan terkadang dapat belajar secara efisien dari relatif sedikit episode dalam lingkungan yang dirancang dengan baik. Masalah sebenarnya adalah bahwa interaksi pembelajaran penguatan bersifat sekuensial dan lebih sulit untuk diparalelkan daripada memproses dataset statis.
Mitologi
Pembelajaran terawasi sudah usang karena keberhasilan pembelajaran penguatan (reinforcement learning) baru-baru ini.
Realitas
Pembelajaran terawasi tetap menjadi andalan penerapan AI praktis. Sebagian besar sistem produksi, mulai dari mesin rekomendasi hingga diagnostik medis, bergantung pada pendekatan terawasi. Pencapaian utama pembelajaran penguatan dalam game tidak dapat diterapkan pada sebagian besar aplikasi bisnis di mana data berlabel sudah ada dan pengambilan keputusan berurutan tidak diperlukan.
Mitologi
Pembelajaran penguatan (reinforcement learning) sama sekali tidak membutuhkan data.
Realitas
Meskipun pembelajaran penguatan (reinforcement learning) tidak memerlukan dataset berlabel, ia tetap membutuhkan lingkungan untuk berinteraksi, yang sering kali berisi data implisit atau memerlukan simulasi. Agen menghasilkan data pelatihannya sendiri melalui eksplorasi, tetapi data ini membutuhkan waktu komputasi dan berpotensi menimbulkan konsekuensi nyata di sistem yang diterapkan.
Mitologi
Model pembelajaran terawasi selalu memiliki kemampuan generalisasi yang lebih baik daripada agen pembelajaran penguatan.
Realitas
Generalisasi bergantung pada masalah dan implementasinya. Agen pembelajaran penguatan yang dilatih di berbagai skenario dapat mengembangkan kebijakan yang sangat fleksibel, sementara model yang diawasi seringkali gagal ketika menghadapi distribusi yang berbeda dari data pelatihannya. Kedua pendekatan tersebut mengalami kesulitan dengan contoh di luar distribusi dengan cara yang berbeda.
Mitologi
Anda harus memilih antara pembelajaran terawasi atau pembelajaran penguatan untuk setiap masalah yang diberikan.
Realitas
Sistem AI modern sering menggabungkan kedua pendekatan tersebut. Sebuah robot mungkin menggunakan pembelajaran terawasi untuk persepsi (mengenali objek) dan pembelajaran penguatan untuk kontrol (memutuskan gerakan). Pembelajaran imitasi, suatu bentuk kloning perilaku, menggunakan pembelajaran terawasi untuk memulai pembelajaran penguatan, sehingga secara dramatis meningkatkan efisiensi sampel.
Pertanyaan yang Sering Diajukan
Apa perbedaan utama antara pembelajaran penguatan (reinforcement learning) dan pembelajaran terawasi (supervised learning)?
Perbedaan mendasar terletak pada bagaimana pembelajaran terjadi. Pembelajaran terawasi (supervised learning) belajar dari kumpulan data tetap berupa pasangan input-output di mana jawaban yang benar telah diberikan. Pembelajaran penguatan (reinforcement learning) belajar dengan berinteraksi dengan lingkungan dan menerima imbalan atau hukuman berdasarkan tindakan yang diambil, tanpa diberi tahu jawaban yang benar secara langsung. Anggaplah pembelajaran terawasi sebagai pembelajaran dari contoh dan pembelajaran penguatan sebagai pembelajaran dari pengalaman.
Pendekatan mana yang membutuhkan lebih banyak data untuk pelatihan?
Itu tergantung pada masalahnya. Pembelajaran terawasi membutuhkan contoh berlabel, yang pembuatannya bisa mahal tetapi diproses secara efisien. Pembelajaran penguatan tidak membutuhkan data berlabel sebelumnya tetapi seringkali membutuhkan jutaan interaksi lingkungan untuk mempelajari tugas-tugas kompleks. Untuk masalah dengan data berlabel yang melimpah, pembelajaran terawasi biasanya lebih efisien dalam penggunaan sampel. Untuk masalah pengambilan keputusan berurutan, pembelajaran penguatan mungkin satu-satunya pilihan yang layak meskipun membutuhkan banyak sampel.
Bisakah pembelajaran penguatan (reinforcement learning) berfungsi tanpa fungsi penghargaan?
Pembelajaran penguatan tradisional pada dasarnya membutuhkan sinyal imbalan untuk mendefinisikan apa yang dianggap sebagai perilaku baik. Namun, varian seperti pembelajaran imitasi belajar dari demonstrasi ahli tanpa imbalan eksplisit, dan pembelajaran penguatan invers menyimpulkan fungsi imbalan dari perilaku yang diamati. Pembelajaran penguatan murni tanpa sinyal umpan balik apa pun sebenarnya tidak mungkin, karena fungsi imbalan mendefinisikan tujuan pembelajaran.
Apakah pembelajaran terawasi merupakan bagian dari pembelajaran penguatan?
Tidak, keduanya merupakan paradigma yang berbeda dalam pembelajaran mesin, meskipun keduanya memiliki dasar matematika yang sama. Beberapa peneliti memandang pembelajaran terawasi sebagai kasus khusus di mana setiap contoh memberikan imbalan langsung yang setara dengan kerugian. Namun, kerangka berpikir ini tidak diterima secara universal, dan kedua bidang tersebut berkembang sebagian besar secara independen dengan algoritma, aplikasi, dan kerangka kerja teoretis yang berbeda.
Mana yang lebih baik untuk tugas pengenalan gambar?
Pembelajaran terawasi (supervised learning) jauh lebih disukai untuk pengenalan gambar. Jaringan saraf konvolusional dan transformer visi yang dilatih dengan dataset gambar berlabel mencapai kinerja terbaik dalam tugas klasifikasi, deteksi, dan segmentasi. Pembelajaran penguatan (reinforcement learning) telah diterapkan pada tugas-tugas terkait gambar seperti navigasi visual dan pembuatan keterangan gambar, tetapi ini adalah aplikasi khusus dibandingkan dengan dominasi pendekatan terawasi dalam visi komputer.
Bagaimana pembelajaran mendalam (deep learning) berhubungan dengan kedua pendekatan tersebut?
Deep learning berfungsi sebagai pengaproksimasi fungsi dalam kedua paradigma tersebut. Dalam pembelajaran terawasi (supervised learning), jaringan saraf dalam (deep neural networks) belajar memetakan input ke output melalui backpropagation. Dalam pembelajaran penguatan mendalam (deep reinforcement learning), jaringan saraf mengaproksimasi fungsi nilai atau kebijakan, memungkinkan agen untuk menangani input berdimensi tinggi seperti gambar mentah. Arsitektur seperti CNN dan transformer muncul dalam kedua konteks tersebut, meskipun prosedur pelatihannya berbeda secara signifikan.
Apa saja contoh aplikasi dunia nyata yang terkenal dari masing-masing metode tersebut?
Pembelajaran terawasi (supervised learning) mendukung sebagian besar sistem AI yang diterapkan: pengenalan wajah, diagnosis medis dari pencitraan, filter spam email, penilaian kredit, dan asisten suara. Pembelajaran penguatan (reinforcement learning) telah mencapai keberhasilan yang signifikan dalam permainan (AlphaGo, OpenAI Five), robotika (sistem gerak Boston Dynamics), kendaraan otonom (komponen pengambilan keputusan), dan optimasi industri (pendinginan pusat data Google, yang mencapai penghematan energi 40%).
Bisakah kedua pendekatan ini digabungkan?
Tentu saja, dan pendekatan kombinasi semakin umum. Pembelajaran imitasi menggunakan pembelajaran terawasi pada demonstrasi ahli untuk memulai pembelajaran penguatan. Metode aktor-kritik menggunakan pembelajaran terawasi untuk melatih jaringan kritik sementara pembelajaran penguatan melatih aktor. Sistem hibrida mungkin menggunakan pembelajaran terawasi untuk modul persepsi dan pembelajaran penguatan untuk pengambilan keputusan, menciptakan sistem keseluruhan yang lebih mumpuni daripada salah satu pendekatan saja.
Putusan
Pilih pembelajaran terawasi (supervised learning) ketika Anda memiliki data berlabel berkualitas dan perlu membuat prediksi atau klasifikasi pada masalah yang terdefinisi dengan baik seperti pengenalan gambar atau deteksi penipuan. Pilih pembelajaran penguatan (reinforcement learning) ketika berurusan dengan pengambilan keputusan berurutan di lingkungan dinamis di mana strategi optimal harus ditemukan melalui interaksi, seperti robotika, permainan, atau tugas optimasi waktu nyata.