Xüsusiyyət Budama və Xüsusiyyət Zənginləşdirilməsi
Xüsusiyyətlərin kəsilməsi və zənginləşdirilməsi maşın öyrənməsində əks strategiyaları təmsil edir: biri modelləri sadələşdirmək üçün lazımsız məlumatları silir, digəri isə proqnozlaşdırma gücünü artırmaq üçün yeni məlumatlar əlavə edir. Aralarında seçim modelinizin səs-küydən və ya kontekstin olmamasından asılıdır.
Seçilmişlər
Budama həddindən artıq uyğunluğu azaldır, zənginləşdirmə isə uyğunsuzluqla mübarizə aparır.
Budama hesablama xərclərini azaldır; zənginləşdirmə isə çox vaxt onları artırır.
Zənginləşdirmə xarici mənbələrdən kontekst əlavə edir; budama daxili səs-küyü aradan qaldırır.
Ən uğurlu layihələr hər iki strategiyanı ardıcıllıqla istifadə edir.
Xüsusiyyət Budama nədir?
Modelin performansını artırmaq və mürəkkəbliyi azaltmaq üçün məlumat dəstindən lazımsız və ya artıq xüsusiyyətləri çıxaran bir texnika.
Xüsusiyyət budama, bir çox kontekstdə xüsusiyyət seçimi və ya ölçü azaldılması kimi də tanınır.
Təlim zamanı modeli çaşdıran səs-küylü dəyişənləri aradan qaldıraraq həddindən artıq uyğunluğu azaltmağa kömək edir.
Ümumi metodlara rekursiv xüsusiyyətlərin aradan qaldırılması, L1 nizamlanması və qarşılıqlı məlumat qiymətləndirməsi daxildir.
Kiçik xüsusiyyət dəstləri daha sürətli təlim müddətinə və daha aşağı hesablama xərclərinə səbəb olur.
Budama, yalnız ən mənalı girişlərə diqqət yetirməklə modelin interpretasiyasını yaxşılaşdıra bilər.
Xüsusiyyətlərin Zənginləşdirilməsi nədir?
Maşın öyrənmə modellərinə proqnozlar üçün daha zəngin məlumat vermək məqsədilə yeni dəyişənlərin əlavə edilməsi və ya mövcud dəyişənlərin dəyişdirilməsi prosesi.
Xüsusiyyətlərin zənginləşdirilməsi çox vaxt nisbətlər, aqreqasiyalar və ya yerləşdirmələr kimi xam məlumatlardan əldə edilən xüsusiyyətlərin yaradılmasını əhatə edir.
Konteksti genişləndirmək üçün hava, demoqrafik məlumatlar və ya iqtisadi göstəricilər kimi xarici məlumat mənbələrini daxil edə bilər.
Texnikalara tək aktiv kodlaşdırma, hədəf kodlaşdırma, polinom xüsusiyyətləri və xüsusiyyətlərin kəsişməsi daxildir.
Zənginləşdirmə, kontekstin vacib olduğu fırıldaqçılığın aşkarlanması və tövsiyə sistemləri kimi sahələrdə xüsusilə dəyərlidir.
Orijinal məlumat dəstində vacib proqnozlaşdırıcı siqnallar olmadıqda, bu, dəqiqliyi əhəmiyyətli dərəcədə artıra bilər.
Səs-küylü və ya artıq xüsusiyyətlərin əlavə edilməsi
Hesablama Xərci
Budamadan sonra ümumiyyətlə daha aşağı olur
Daha çox xüsusiyyətə görə ümumiyyətlə daha yüksəkdir
Təfsir edilə bilənlik
Adətən yaxşılaşır
Təfsir etmək çətinləşə bilər
Ətraflı Müqayisə
Əsas Fəlsəfə
Xüsusiyyətlərin kəsilməsi minimalist fəlsəfəyə uyğundur: az daha çoxdur. Proqnozlaşdırma dəyəri az olan dəyişənləri aradan qaldırmaqla, model həqiqətən vacib olan şeylərə diqqət yetirir. Xüsusiyyətlərin zənginləşdirilməsi əks mövqe tutur və daha zəngin və daha ətraflı girişlərin daha ağıllı proqnozlara gətirib çıxardığına inanır. Hər iki fəlsəfənin də öz dəyəri var və düzgün seçim başlanğıc məlumatlarınızın keyfiyyətindən və tamlığından asılıdır.
Hər yanaşma parladıqda
Budama, yüzlərlə və ya minlərlə xüsusiyyətə sahib olduğunuzda və bir çoxunun səs-küylü olduğundan şübhələndiyiniz zaman, məsələn, genomik məlumatlarda və ya söz dəsti modelləri ilə mətn təsnifatında ən yaxşı nəticə verir. Zənginləşdirmə, məlumat dəstiniz seyrək olduqda və ya kritik kontekst çatışmadıqda, məsələn, davranış tarixçəsi olmadan yalnız əsas demoqrafik məlumatlardan istifadə edərək müştəri axınını proqnozlaşdırmaq kimi, üstündür. Praktikada, məlumat alimləri tez-tez hər ikisini birləşdirirlər: əvvəlcə zənginləşdirirlər, sonra genişləndirilmiş dəsti budayırlar.
Performans və Səmərəlilik Kompromisləri
Budanmış modellər adətən daha sürətli məşq edir və daha kiçik yaddaş izləri ilə yerləşdirilir ki, bu da onları kənar cihazlar və ya real vaxt sistemləri üçün ideal hala gətirir. Zənginləşdirilmiş modellər daha yüksək dəqiqliyə nail ola bilər, lakin daha uzun təlim müddəti və daha çox saxlama ehtiyacı bahasına. Zənginləşdirmənin hesablama xərcləri dəqiqlik qazancı birbaşa biznes dəyərinə çevrildikdə, məsələn, tibbi diaqnoz və ya fırıldaqçılığın qarşısının alınmasında haqlı ola bilər.
Səhvlər Riski
Budama ilə bağlı ən böyük təhlükə, əhəmiyyətsiz görünən, lakin incə qarşılıqlı təsirlərdə əslində əhəmiyyətli olan bir xüsusiyyətin aradan qaldırılmasıdır. Zənginləşdirmənin əsas riski, çoxlu törəmə dəyişənlərin əlavə edilməsinin çoxkollinearlığa və həddindən artıq uyğunluğa səbəb olduğu xüsusiyyət partlayışıdır. Hər iki tələ çarpaz doğrulama və təcrübə zamanı doğrulama metrikalarının diqqətlə monitorinqi yolu ilə azaldıla bilər.
Təfsir və Sazlama
Budama təbii olaraq maraqlı tərəflərin başa düşə biləcəyi daha sadə modellərə gətirib çıxarır, çünki daha az məlumat daha aydın izahatlar deməkdir. Zənginləşdirmə, vektorların yerləşdirilməsi və ya qarşılıqlı təsir terminləri kimi mənası açıq olmayan mühəndislik xüsusiyyətlərini təqdim etməklə suları bulandıra bilər. Bununla belə, aydın xüsusiyyət adları olan yaxşı sənədləşdirilmiş zənginləşdirmə boru kəmərləri performansı artırarkən şərh olunma qabiliyyətini qoruya bilər.
Üstünlüklər və Eksikliklər
Xüsusiyyət Budama
Üstünlüklər
+Daha sürətli təlim
+Daha az uyğunluq
+Daha asan şərh
+Daha aşağı saxlama ehtiyacları
Saxlayıcı
−Siqnalın silinməsi riski
−Dəqiqliyə zərər verə bilər
−Doğrulama qayğısı tələb edir
−Mükəmməl avtomatlaşdırmaq çətindir
Xüsusiyyətlərin Zənginləşdirilməsi
Üstünlüklər
+Daha yüksək dəqiqlik potensialı
+Gizli nümunələri ələ keçirir
+Xarici məlumatlardan istifadə edir
+Çevik transformasiyalar
Saxlayıcı
−Artan mürəkkəblik
−Daha yüksək hesablama dəyəri
−Səs-küy riski
−Sazlama daha çətindir
Yaygın yanlış anlaşılmalar
Əfsanə
Daha çox xüsusiyyət həmişə daha yaxşı bir model deməkdir.
Həqiqət
Əsassız olaraq xüsusiyyətlərin əlavə edilməsi çox vaxt səs-küy və çoxkollinearlığa səbəb olur ki, bu da performansa mənfi təsir göstərə bilər. Keyfiyyət və uyğunluq kəmiyyətdən daha çox əhəmiyyət kəsb edir, buna görə də budama zənginləşdirildikdən sonra belə vacib olaraq qalır.
Əfsanə
Xüsusiyyət budama sadəcə sütunları təsadüfi şəkildə silməkdir.
Həqiqət
Effektiv budama, həqiqətən faydasız xüsusiyyətləri müəyyən etmək üçün statistik testlərdən, model əsaslı əhəmiyyət ballarından və ya sahə ekspertizasından istifadə edir. Təsadüfi silinmə, demək olar ki, şübhəsiz ki, dəyərli siqnalı səs-küylə birlikdə siləcək.
Əfsanə
Xüsusiyyətlərin zənginləşdirilməsi həmişə dəqiqliyi artırır.
Həqiqət
Zənginləşdirmə yalnız yeni xüsusiyyətlər orijinal proqnozlaşdırıcı məlumat daşıdıqda kömək edir. Uyğunsuz və ya artıq mühəndislik xüsusiyyətlərinin əlavə edilməsi modelin performansını yaxşılaşdırdığı qədər asanlıqla azalda bilər.
Əfsanə
Bir strategiya və ya digərini seçməlisiniz.
Həqiqət
Real həyatda maşın öyrənmə boru kəmərlərində zənginləşdirmə və kəsmə tamamlayıcı addımlardır. Komandalar adətən əvvəlcə xam məlumatları zənginləşdirir, sonra isə yalnız proqnozları həqiqətən idarə edən xüsusiyyətləri saxlamaq üçün genişləndirilmiş funksiya dəstini kəsirlər.
Əfsanə
Budama modellərin tərifinə görə daha az dəqiq olmasını təmin edir.
Həqiqət
Budama ümumiləşdirməyə mane olan xüsusiyyətləri aradan qaldırır, buna görə də yaxşı yerinə yetirilən budama tez-tez test dəstinin dəqiqliyini artırır. Məqsəd özbaşına olaraq xüsusiyyətləri minimuma endirmək deyil, yalnız proqnozlara mənalı töhfə verənləri saxlamaqdır.
Tez-tez verilən suallar
Xüsusiyyət budama ilə xüsusiyyət seçimi arasındakı fərq nədir?
Xüsusiyyətlərin budama və xüsusiyyət seçimi tez-tez bir-birini əvəz edən şəkildə istifadə olunur və hər ikisi daha az vacib xüsusiyyətlərin müəyyən edilməsi və çıxarılması prosesinə aiddir. Bəzi mütəxəssislər model təlimi zamanı təkrarlanan çıxarılmanı təsvir etmək üçün "budama"dan daha sərbəst şəkildə istifadə edirlər, "seçim" isə daha rəsmi qiymətləndirmə addımını nəzərdə tutur. Praktikada bu üsullar əhəmiyyətli dərəcədə üst-üstə düşür və modelləri sadələşdirmək kimi eyni məqsədə xidmət edir.
Xüsusiyyətlərin budanması və xüsusiyyətlərin zənginləşdirilməsi birlikdə istifadə edilə bilərmi?
Əlbəttə ki, əksər istehsal maşın öyrənmə iş axınları məhz bunu edir. Tipik bir boru kəməri faydalı xüsusiyyətləri inkişaf etdirmək və xarici məlumatları daxil etmək üçün zənginləşdirmə ilə başlayır, sonra mənalı töhfə verməyən hər şeyi aradan qaldırmaq üçün budama tətbiq olunur. Bu kombinasiya, modelləri incə və sürətli saxlayarkən zənginləşdirmənin dəqiqlik üstünlüklərini təmin edir.
Modelimin budama və ya zənginləşdirməyə ehtiyacı olub olmadığını necə bilirəm?
Doğrulama metriklərinizə və öyrənmə əyrilərinizə baxın. Təlim dəqiqliyiniz doğrulama dəqiqliyindən daha yüksəkdirsə, model həddindən artıq uyğundur və çox güman ki, düzəldilməlidir. Hər iki dəqiqlik aşağıdırsa və tez bir zamanda düzələrsə, model uyğun deyil və çox güman ki, daha informativ xüsusiyyətlərlə zənginləşdirilməlidir.
Ümumi xüsusiyyət zənginləşdirmə üsulları hansılardır?
Populyar zənginləşdirmə metodlarına kateqoriyalı dəyişənlər üçün tək tərəfli kodlaşdırma, yüksək kardinallıq xüsusiyyətləri üçün hədəf kodlaşdırması, qarşılıqlı təsirləri ələ keçirmək üçün polinom xüsusiyyətləri və mətn və ya kateqoriyalı məlumatlar üçün yerləşdirmələr daxildir. Hava və ya iqtisadi göstəricilərin əlavə edilməsi kimi xarici məlumatların inteqrasiyası, real dünya kontekstini modelə gətirən digər güclü zənginləşdirmə formasıdır.
Xüsusi budama həddindən artıq uyğunluğu azaldırmı?
Bəli, budama həddindən artıq uyğunlaşma ilə mübarizə aparmağın ən təsirli yollarından biridir. Səs-küylü və ya artıq xüsusiyyətləri aradan qaldırmaqla, modelin təlim məlumatlarında ümumiləşdirilməyən nümunələri yadda saxlamaq üçün daha az imkanı olur. Bu, adətən görünməyən test məlumatları üzərində daha yaxşı performans və istehsalda daha sabit proqnozlarla nəticələnir.
Xüsusiyyətlərin zənginləşdirilməsi xüsusiyyət mühəndisliyi ilə eynidirmi?
Xüsusiyyət zənginləşdirməsi xüsusiyyət mühəndisliyinin bir alt hissəsidir. Xüsusiyyət mühəndisliyi xam məlumatların modelə hazır girişlərə çevrilməsinin bütün növlərini əhatə edir, zənginləşdirmə isə xüsusilə törəmə xüsusiyyətlər, xarici mənbələr və ya inkişaf etmiş kodlaşdırmalar vasitəsilə yeni məlumatların əlavə edilməsini nəzərdə tutur. Hər ikisi də maşın öyrənməsi üçün məlumatların hazırlanması kimi daha geniş bir çətir altına düşür.
Budamadan sonra neçə xüsusiyyəti saxlamalıyam?
Universal rəqəm yoxdur, lakin ümumi bir evristik modelin proqnozlaşdırma gücünün ən azı 1-5 faizini təşkil edən xüsusiyyətləri saxlamaqdır. Çarpaz doğrulama optimal sayı müəyyən etməyin ən yaxşı yoludur: doğrulama performansı azalmağa başladıqda tədricən budayın və dayandırın. Sahə bilikləri həmçinin hansı xüsusiyyətlərin saxlanılmasının vacib olduğunu da istiqamətləndirə bilər.
Xüsusiyyətlərin zənginləşdirilməsi həmişə modelin mürəkkəbliyini artırırmı?
Ümumiyyətlə, bəli, çünki modelin emalı üçün daha çox giriş ölçüsü əlavə edirsiniz. Bununla belə, ağıllı zənginləşdirmə bəzən nümunələri daha aydın etməklə, məsələn, xam qiyməti və sahəni ayrıca vermək əvəzinə, "kvadrat fut başına qiymət" xüsusiyyəti yaratmaqla öyrənməni asanlaşdıra bilər. Əsas məsələ hər yeni xüsusiyyətin yalnız həcm deyil, həm də həqiqi dəyər qatmasını təmin etməkdir.
Kiçik verilənlər dəstləri üçün hansı yanaşma daha yaxşıdır?
Kiçik məlumat dəstləri adətən aqressiv budamadan daha çox diqqətli zənginləşdirmədən daha çox faydalanır. Məhdud məlumatlarla xüsusiyyətlərin silinməsi modelin öyrənilməsi üçün çox az məlumatla qalmasına səbəb ola bilər. Düşünülmüş xüsusiyyət mühəndisliyi və xarici məlumatların inteqrasiyası vasitəsilə zənginləşdirmə, müşahidə başına daha zəngin kontekst təmin etməklə kiçik nümunə ölçüsünü kompensasiya edə bilər.
Xüsusiyyətləri budamaq və zənginləşdirmək üçün avtomatlaşdırılmış vasitələr varmı?
Bəli, bir neçə kitabxana hər iki iş axınını dəstəkləyir. Scikit-learn SelectKBest və budama üçün rekursiv xüsusiyyət aradan qaldırılması təklif edir, Featuretools isə xüsusiyyət sintezi vasitəsilə zənginləşdirməni avtomatlaşdırır. AutoML platformaları kimi daha inkişaf etmiş alətlər hər iki məqsədə xidmət edir və avtomatik olaraq hazırlanmış və seçilmiş xüsusiyyətlərin optimal kombinasiyasını axtarır.
Hökm
Modeliniz həddindən artıq uyğunlaşdıqda, çox yavaş təlim keçdikdə və ya yüksək ölçülü məlumatlarla çətinlik çəkdikdə xüsusiyyət budama seçimini edin. Məlumat dəstinizdə real dünya nümunələrini ələ keçirmək üçün lazım olan kontekst olmadığı üçün dəqiqlik sabit qaldıqda xüsusiyyət zənginləşdirməsindən istifadə edin. Əksər istehsal iş axınlarında ən ağıllı yol optimal tarazlığı tapmaq üçün düşünülmüş şəkildə zənginləşdirmək və sonra aqressiv şəkildə budamaqdır.