Pašvadīta mācīšanās tālizpētē salīdzinājumā ar uzraudzītu klasifikāciju
Pašvadīta mācīšanās tālizpētē apmāca modeļus, izmantojot nemarķētus satelīta vai aerofotoattēlus, radot iegansta uzdevumus, savukārt uzraudzītā klasifikācija balstās uz cilvēka marķētiem datiem, lai iemācītu modeļiem kategorizēt pikseļus vai ainas. Abas pieejas aptver zemes seguma kartēšanu un objektu noteikšanu, taču tās ievērojami atšķiras datu prasību, mērogojamības un reālās pasaules precizitātes ziņā.
Iezīmes
Pašpārraudzīta mācīšanās samazina anotāciju izmaksas, izmantojot nemarķētus satelītu arhīvus.
Uzraudzīta klasifikācija joprojām nodrošina precizitāti, ja ir daudz marķētu datu.
Pašuzraudzītas funkcijas pārsūta datus uzticamāk starp reģioniem un sensoriem.
Hibrīdie cauruļvadi, kas apvieno abas pieejas, kļūst par jauno standartu Zemes novērošanā.
Kas ir Pašvadīta mācīšanās tālizpētē?
Apmācības paradigma, kurā modeļi apgūst attēlojumus no nemarķētiem Zemes novērojumu datiem, risinot iegansta uzdevumus pirms precīzas pielāgošanas lejupējās lietojumprogrammās.
Tas izmanto milzīgus nemarķētu satelītattēlu arhīvus, piemēram, Sentinel-2 vai Landsat, lai iepriekš apmācītu dziļos neironu tīklus.
Bieži sastopami iegansta uzdevumi ietver attēla rotācijas prognozēšanu, ielāpu puzles risināšanu, kontrastīvo instanču atšķiršanu un maskētu automātisko kodēšanu.
Tādi modeļi kā SatMAE, DINO-MC un SeCo ir demonstrējuši spēcīgu pārraides veiktspēju lejupējās tālizpētes uzdevumos.
Tas ievērojami samazina atkarību no dārgām ekspertu anotācijām, kuru izveide augstas izšķirtspējas ainai var aizņemt stundas.
Pašuzraudzītas funkcijas bieži vien labāk vispārināmas dažādos ģeogrāfiskos reģionos un sensoru veidos nekā tikai uzraudzītas funkcijas.
Kas ir Uzraudzīta klasifikācija?
Tradicionāla mašīnmācīšanās pieeja, kurā modeļi tiek apmācīti ar manuāli marķētiem tālizpētes datiem, lai piešķirtu kategorijas pikseļiem, objektiem vai ainām.
Tam nepieciešami marķēti apmācības paraugi, kur katrs pikselis vai attēla plāksteris ir atzīmēts ar zināmu klasi, piemēram, mežs, ūdens vai pilsēta.
Algoritmi ir dažādi – sākot no klasiskām metodēm, piemēram, Random Forest un SVM, līdz dziļām arhitektūrām, piemēram, ResNet, U-Net un Vision Transformers.
Precizitāte ir ļoti atkarīga no etiķetes kvalitātes, klases līdzsvara un apmācības kopas reprezentativitātes.
Tā joprojām ir dominējošā pieeja operatīvajos zemes seguma kartēšanas produktos, piemēram, ESA World Cover un National Land Cover Database.
Veiktspēja parasti stagnē, ja marķētie dati ir nepietiekami, neobjektīvi vai neaptver retas klases, piemēram, neformālas apmetnes vai kanjonu radītos bojājumus.
Salīdzinājuma tabula
Funkcija
Pašvadīta mācīšanās tālizpētē
Uzraudzīta klasifikācija
Nepieciešamie marķētie dati
Minimāls vai nekāds pirmsapmācības laikā
Plaši, ekspertu anotēti datu kopumi
Mērogojamība dažādos reģionos
Augsts, pārskaitījumi starp ģeogrāfiskām vietām
Ierobežota, bieži vien reģionam specifiska
Anotācijas izmaksas
Zems, izmanto neapstrādātu attēlu arhīvus
Augsta, manuāla marķēšana ir dārga
Lejupvērsta precizitāte
Konkurence ar ierobežota apjoma etiķetēm
Visaugstākais, ja etiķešu ir daudz
Apmācības skaitļošana
Spēcīga iepriekšēja apmācība, viegla precizēšana
Vidējs, mērogojas atbilstoši datu kopas lielumam
Retu klašu apstrāde
Labāk, apgūst plašas reprezentācijas
Vājāka, nepieciešami līdzsvaroti paraugi
Interpretējamība
Zemāki, iegansta uzdevumi ir abstrakti
Augstāka līmeņa lēmumu noteikumus var pārbaudīt
Ražošanas briedums
Jauna, galvenokārt pētniecības stadija
Nobriedis, plaši izvietots operācijā
Detalizēts salīdzinājums
Datu prasības un anotāciju apjoms
Uzraudzīta klasifikācija ir atkarīga no rūpīgi marķētām datu kopām, kur katram apmācības piemēram ir pievienota patiesības atzīme (ground-truth tag). Šo atzīmju izveide augstas izšķirtspējas attēliem bieži vien prasa ĢIS zināšanas un var izmaksāt no dažiem centiem līdz vairākiem dolāriem par poligonu. Pašuzraudzīta mācīšanās apgriež šo vienādojumu otrādi, izmantojot brīvi pieejamus, nemarķētus attēlus, ko savākuši tādi satelīti kā Sentinel-2, ļaujot modeļiem apgūt noderīgas funkcijas bez jebkādas cilvēka anotācijas sākotnējā pirmsapmācības fāzē.
Vispārināšana starp sensoriem un reģioniem
Modeļi, kas apmācīti tikai ar uzraudzību, mēdz pārāk labi pielāgoties savu apmācības ainu spektrālajām un telpiskajām īpašībām, kas nozīmē, ka klasifikators, kas apmācīts Eiropas lauksaimniecības zemēs, var rasties problēmas, ja to piemēro tropu mežiem. Turpretī pašuzraudzītas reprezentācijas uztver plašākus vizuālos modeļus no dažādiem attēliem, kas nodrošina ievērojami labāku pārnesi, ja to precīzi pielāgo nelielam marķētam kopumam no jauna reģiona vai sensora. Tas padara pašuzraudzītas pieejas īpaši pievilcīgas globāla mēroga kartēšanas centieniem.
Precizitāte un etalona veiktspēja
Standarta etalonos, piemēram, EuroSAT, BigEarthNet un IEEE GRSS datu sapludināšanas konkursā, uzraudzītajiem modeļiem joprojām ir neliela priekšrocība, ja tiem tiek sniegts pietiekami daudz marķētu apmācības datu. Tomēr pētījumi, kas veikti no 2022. gada, konsekventi liecina, ka pašuzraudzīta iepriekšēja apmācība, kam seko lineāra zondēšana vai precizēšana tikai dažiem simtiem etiķešu, var sasniegt vai pat pārsniegt pilnībā uzraudzītās bāzes līnijas. Atšķirība vēl vairāk samazinās, ja etiķetes ir trokšņainas, nelīdzsvarotas vai aprobežojas ar retām klasēm.
Aprēķinu izmaksas un darbplūsma
Pašuzraudzīta iepriekšēja apmācība ir skaitļošanas ziņā dārga, bieži vien prasot vairākus GPU, kas vairākas dienas darbojas ar miljoniem attēlu ielāpu. Tomēr pēc iepriekšējas apmācības modeli var atkārtoti izmantot daudziem lejupējiem uzdevumiem ar minimālu papildu apmācību. Uzraudzīti cauruļvadi izlaiž smago iepriekšējas apmācības soli, bet tie ir jāapmāca no jauna ikreiz, kad mainās sensors, ģeogrāfija vai klases shēma, kas laika gaitā summējas organizācijām, kuras pārvalda vairākus kartēšanas produktus.
Operatīvā gatavība un uzticēšanās
Uzraudzīta klasifikācija joprojām ir operatīvās tālizpētes darba zirgs, jo tās uzvedība ir labi izprasta, validācijas protokoli ir standartizēti un normatīvie akti bieži vien prasa izsekojamus apmācības datus. Pašuzraudzītas metodes joprojām attīstās, un praktiķi dažreiz vilcinās tās ieviest tādos augstas riska lietojumos kā katastrofu seku likvidēšana vai mežu izciršanas uzraudzība bez plašas salīdzinošās novērtēšanas. Tomēr hibrīdas darbplūsmas, kas apvieno pašaprūpētu iepriekšēju apmācību ar uzraudzītu precizēšanu, strauji iegūst popularitāti gan pētniecībā, gan rūpniecībā.
Priekšrocības un trūkumi
Pašvadīta mācīšanās tālizpētē
Iepriekšējumi
+Zemas anotāciju izmaksas
+Spēcīga starpreģionu pārnešana
+Atkārtoti lietojami iepriekš apmācīti mugurkauli
+Labāk tiek galā ar retām klasēm
Ievietots
−Lieljaudas skaitļošanas iespējas priekšapmācībai
−Mazāks darbības briedums
−Grūtāk interpretēt
−Jebkurā gadījumā ir nepieciešamas lejupējās etiķetes
Uzraudzīta klasifikācija
Iepriekšējumi
+Augsta precizitāte ar etiķetēm
+Nobrieduši un uzticami
+Viegli interpretējams
+Plašs instrumentu atbalsts
Ievietots
−Dārga manuāla marķēšana
−Slikta ģeogrāfiskā pārsūtīšana
−Cīnās ar retām klasēm
−Bieži nepieciešama pārkvalifikācija
Biežas maldības
Mīts
Pašpārraudzīta mācīšanās pilnībā novērš nepieciešamību pēc marķētiem datiem.
Realitāte
Pašuzraudzīta iepriekšēja apmācība noņem etiķetes no sākotnējā posma, bet pakārtotajiem uzdevumiem joprojām ir nepieciešami etiķetes dati precīzai pielāgošanai vai novērtēšanai. Ietaupījumi rodas no tā, ka ir nepieciešams daudz mazāk etiķešu, nevis nulle etiķešu.
Mīts
Uzraudzīta klasifikācija ir novecojusi pašpārraudzītu metožu dēļ.
Realitāte
Uzraudzīta klasifikācija joprojām ir dominējošā pieeja operētājsistēmās un bieži vien sasniedz visaugstāko precizitāti, ja ir daudz etiķešu. Pašuzraudzīta mācīšanās to papildina, nevis aizstāj.
Mīts
Pašuzraudzīti modeļi tālizpētes etalonos vienmēr pārspēj uzraudzītos modeļus.
Realitāte
Veiktspēja ir atkarīga no datu kopas, pieejamo marķēto datu apjoma un pakārtotā uzdevuma. Ar lieliem marķētiem datiem uzraudzītie modeļi joprojām var atbilst vai pārspēt pašuzraudzītas bāzes līnijas.
Mīts
Vairāk nemarķētu datu vienmēr uzlabo pašuzraudzītus modeļus.
Realitāte
Kvalitāte un daudzveidība ir svarīgākas par neapstrādātu apjomu. Pašuzraudzīti modeļi var stagnēt vai pat pasliktināties, ja tiem tiek piegādāti lieki vai zemas kvalitātes attēli bez pietiekamas dažādības gadalaikos, sensoros vai ģeogrāfiskajos apgabalos.
Mīts
Uzraudzīti klasifikatori nevar vispārināt ārpus sava apmācības reģiona.
Realitāte
Ar rūpīgu izstrādi, domēnu pielāgošanu un dažādiem apmācības paraugiem uzraudzītie klasifikatori var vispārināt dažādos reģionos. Ierobežojums ir reāls, bet ne absolūts, un pārneses mācīšanās metodes palīdz novērst šo plaisu.
Bieži uzdotie jautājumi
Kas ir pašvadīta mācīšanās tālizpētē?
Pašvadīta mācīšanās tālizpētē ir apmācības stratēģija, kurā dziļās mācīšanās modeļi apgūst noderīgus attēlojumus no liela apjoma nemarķētu satelītu vai aerofotoattēlu, risinot iegansta uzdevumus, piemēram, rotāciju prognozēšanu, maskētu apgabalu rekonstruēšanu vai attēlu instances atšķiršanu. Pēc iepriekšējas apmācības modelis tiek precizēts mazākā marķētā datu kopā tādiem uzdevumiem kā zemes seguma klasifikācija vai izmaiņu noteikšana.
Kā darbojas uzraudzīta klasifikācija tālizpētē?
Uzraudzīta klasifikācija apmāca modeli attēlos, kur katrs pikselis vai laukums ir manuāli apzīmēts ar klasi, piemēram, mežs, ūdens vai pilsēta. Modelis apgūst ar katru klasi saistītos statistiskos modeļus un pēc tam paredz apzīmējumus jauniem, neredzētiem attēliem. Izplatītākie algoritmi ietver nejaušo mežu, atbalsta vektoru mašīnas un konvolucionālos neironu tīklus.
Kura pieeja ir labāka ierobežotiem marķētiem datiem?
Pašuzraudzīta mācīšanās parasti ir labāka izvēle, ja marķēto datu ir maz. Veicot iepriekšēju apmācību ar lielu daudzumu nemarķētu attēlu, modelis veido bagātīgus iezīmju attēlojumus, kuriem precīzai pielāgošanai nepieciešams tikai neliels marķēto attēlu kopums, bieži vien sasniedzot precizitāti, kas ir salīdzināma ar pilnībā uzraudzītiem modeļiem, kas apmācīti ar daudz lielākām datu kopām.
Vai var apvienot pašpārraudzītas un uzraudzītas metodes?
Jā, un šī hibrīdā darbplūsma kļūst arvien izplatītāka. Modelis vispirms tiek iepriekš apmācīts ar pašpārraudzītu mērķi uz nemarķētiem attēliem, pēc tam tiek precizēts ar uzraudzītu mācīšanos uz marķēta datu kopas konkrētam uzdevumam. Šī kombinācija parasti nodrošina labāko no abām pasaulēm: spēcīgu vispārināšanu un augstu uzdevumam specifisku precizitāti.
Kādi ir populāri pašpārraudzīti satelītattēlu modeļi?
Ievērojami piemēri ir SatMAE Sentinel-2 attēlu maskētai autokodēšanai, DINO un DINO-MC kontrastīvai mācīšanai, SeCo sezonālajam kontrastam un SSL4EO ietvars, ko izstrādājusi Eiropas Kosmosa aģentūra Zemes novērošanai. Šie modeļi kalpo par pamatu daudzām tālizpētes lietojumprogrammām.
Cik daudz marķētu datu ir nepieciešams uzraudzītai klasifikācijai?
Summa mainās atkarībā no uzdevuma sarežģītības un modeļa veida. Klasiskie algoritmi, piemēram, Random Forest, var strādāt ar dažiem simtiem marķētu paraugu katrā klasē, savukārt dziļās mācīšanās modeļiem bieži vien ir nepieciešami tūkstoši. Augstas izšķirtspējas semantiskās segmentācijas uzdevumiem var būt nepieciešami desmitiem tūkstošu anotētu pikseļu, lai sasniegtu ticamu precizitāti.
Vai pašvadīta mācīšanās prasa vairāk skaitļošanas resursu nekā uzraudzīta apmācība?
Pašuzraudzīta iepriekšēja apmācība ir ievērojami skaitļošanas ziņā ietilpīgāka, jo tā apstrādā miljoniem nemarķētu attēlu un izmanto lielus partiju izmērus ar kontrastīviem vai rekonstrukcijas zudumiem. Tomēr lejupējā precizēšanas darbība parasti ir lētāka nekā uzraudzīta modeļa apmācība no nulles, tāpēc kopējās izmaksas var būt zemākas, ja iepriekš apmācītais modelis tiek atkārtoti izmantots vairākos uzdevumos.
Kura pieeja tiek izmantota operatīvajās zemes seguma kartēs?
Lielākā daļa operatīvo zemes seguma produktu, piemēram, ESA World Cover, Copernicus Global Land Service un National Land Cover Database, balstās uz uzraudzītiem klasifikācijas kanāliem, bieži vien apvienojot dziļo mācīšanos ar plašiem marķētiem apmācības datiem. Pašuzraudzītas metodes sāk parādīties pētniecības prototipos un dažos komerciālos produktos, taču tās vēl nav aizstājušas uzraudzītas darbplūsmas plašā mērogā.
Vai pašvadīta mācīšanās darbojas ar multispektrāliem vai hiperspektrāliem attēliem?
Jā, mūsdienu pašuzraudzītas sistēmas, piemēram, SSL4EO-ML un SatMAE, ir izstrādātas, lai apstrādātu multispektrālas Sentinel-2 joslas, un pētnieki ir paplašinājuši maskētās automātiskās kodēšanas pieejas uz hiperspektrāliem sensoriem. Galvenais ir pielāgot iegansta uzdevumu, lai respektētu spektrālo struktūru, nevis apstrādātu joslas kā neatkarīgus RGB kanālus.
Kādi ir galvenie izaicinājumi, kas saistīti ar pašvadītu mācīšanos tālizpētē?
Galvenās problēmas ir augstās iepriekšējas apmācības skaitļošanas izmaksas, grūtības izstrādāt priekšteča uzdevumus, kas aptver jēgpilnus Zemes novērojumu modeļus, nepieciešamība pēc lieliem un daudzveidīgiem nemarķētiem datu kopumiem un ierobežota standartizētu etalonu pieejamība pašapkalpošanās attēlojumu novērtēšanai specifiskos uzdevumos, piemēram, kultūraugu kartēšanā vai plūdu noteikšanā.
Spriedums
Izvēlieties uzraudzītu klasifikāciju, ja jums ir daudz, augstas kvalitātes marķētu datu un ir nepieciešams nobriedis, interpretējams modelis precīzi definētam reģionam vai sensoram. Izvēlieties pašvadītu mācīšanos, ja marķētās vērtības ir ierobežotas, dārgas vai ģeogrāfiski ierobežotas, un vēlaties elastīgu pamatmodeli, kas var pielāgoties daudziem lejupējiem uzdevumiem ar minimālu anotācijas piepūli.