dirbtinis intelektasnuotolinis stebėjimasgilusis mokymasismašininis mokymasisŽemės stebėjimas

Savarankiškai prižiūrimas mokymasis nuotoliniame stebėjime ir prižiūrimas klasifikavimas

Savarankiškai prižiūrimas mokymasis nuotolinio stebėjimo srityje apmoko modelius pagal nepažymėtus palydovinius ar aerofotonuotraukas, kurdamas pretekstines užduotis, o prižiūrimas klasifikavimas remiasi žmogaus pažymėtais duomenimis, kad išmokytų modelius, kaip kategorizuoti pikselius ar scenas. Abu metodai skirti žemės dangos žemėlapių sudarymui ir objektų aptikimui, tačiau jie labai skiriasi duomenų reikalavimais, mastelio keitimu ir realaus pasaulio tikslumu.

Akcentai

Savarankiškai prižiūrimas mokymasis sumažina anotacijų išlaidas, išnaudojant nepažymėtus palydovinius archyvus.
Prižiūrimas klasifikavimas vis dar užtikrina tikslumą, kai paženklintų duomenų yra daug.
Savarankiškai prižiūrimos funkcijos patikimiau perduodamos tarp regionų ir jutiklių.
Hibridiniai vamzdynai, apjungiantys abu metodus, tampa nauju Žemės stebėjimo standartu.

Kas yra Savarankiškai prižiūrimas mokymasis nuotoliniame stebėjime?

Mokymo paradigma, kai modeliai mokosi reprezentacijų iš nepažymėtų Žemės stebėjimo duomenų, spręsdami pretekstines užduotis prieš tiksliai derindami tolesnes programas.

Jis naudoja didžiulius nepažymėtų palydovinių vaizdų, tokių kaip „Sentinel-2“ ar „Landsat“, archyvus, kad iš anksto apmokytų giliuosius neuroninius tinklus.
Įprastos pretekstinės užduotys apima vaizdo pasukimo numatymą, dėlionės sprendimą, kontrastinę instancijų diskriminaciją ir užmaskuotą automatinį kodavimą.
Tokie modeliai kaip „SatMAE“, „DINO-MC“ ir „SeCo“ pademonstravo puikų perdavimo našumą atliekant nuotolinio stebėjimo užduotis.
Tai smarkiai sumažina priklausomybę nuo brangių ekspertų anotacijų, kurios gali užtrukti valandas kiekvienos didelės raiškos scenos sukūrimas.
Savarankiškai prižiūrimos funkcijos dažnai geriau apibendrinamos skirtinguose geografiniuose regionuose ir jutiklių tipuose nei grynai prižiūrimos funkcijos.

Kas yra Prižiūrimas klasifikavimas?

Tradicinis mašininio mokymosi metodas, kai modeliai apmokomi naudojant rankiniu būdu pažymėtus nuotolinio stebėjimo duomenis, kad pikseliams, objektams ar scenoms būtų priskirtos kategorijos.

Tam reikia paženklintų mokymo pavyzdžių, kur kiekvienas pikselis arba vaizdo fragmentas būtų pažymėtas žinoma klase, pvz., miškas, vanduo arba miestas.
Algoritmai svyruoja nuo klasikinių metodų, tokių kaip „Random Forest“ ir SVM, iki giliųjų architektūrų, tokių kaip „ResNet“, „U-Net“ ir „Vision Transformers“.
Tikslumas labai priklauso nuo etiketės kokybės, klasės pusiausvyros ir mokymo rinkinio reprezentatyvumo.
Jis išlieka dominuojančiu metodu operatyviniuose žemės dangos žemėlapių produktuose, tokiuose kaip ESA „World Cover“ ir „National Land Cover Database“.
Našumas paprastai sulėtėja, kai paženklintų duomenų trūksta, jie yra šališki arba neapima retų klasių, tokių kaip neoficialūs gyvenvietės ar civilizacijos padaryta žala.

Palyginimo lentelė

Funkcija	Savarankiškai prižiūrimas mokymasis nuotoliniame stebėjime	Prižiūrimas klasifikavimas
Reikalingi pažymėti duomenys	Minimalus arba jo visai nėra prieš mokymą	Platūs, ekspertų komentuoti duomenų rinkiniai
Mastelio keitimas skirtinguose regionuose	Didelis, pervedimai tarp geografinių vietovių	Ribotas, dažnai regionui būdingas
Anotacijos kaina	Žemas, naudoja neapdorotų vaizdų archyvus	Didelis rankinis ženklinimas yra brangus
Pasrovio tikslumas	Konkurencija su riboto leidimo prekybininkais	Didžiausias, kai etikečių gausu
Mokymo skaičiavimas	Intensyvus pasiruošimas, lengvas tikslinimas	Vidutinis, keičiasi atsižvelgiant į duomenų rinkinio dydį
Retų klasių tvarkymas	Geriau, išmoksta plačius vaizdavimus	Silpnesni, reikia subalansuotų mėginių
Aiškinamasis aspektas	Žemesnės, pretekstinės užduotys yra abstrakčios	Aukštesnės klasės sprendimų taisykles galima patikrinti
Gamybos branda	Besiformuojanti, daugiausia tyrimų stadija	Brandus, plačiai dislokuotas operatyviai

Išsamus palyginimas

Duomenų reikalavimai ir anotacijų kūrimo pastangos

Prižiūrimas klasifikavimas priklauso nuo kruopščiai paženklintų duomenų rinkinių, kur kiekvienas mokymo pavyzdys turi „pagrindinės tiesos“ žymę. Šių žymų sukūrimas didelės skiriamosios gebos vaizdams dažnai reikalauja GIS patirties ir gali kainuoti nuo kelių centų iki kelių dolerių už poligoną. Savarankiškai prižiūrimas mokymasis apverčia šią lygtį aukštyn kojomis, išnaudodamas petabaitus laisvai prieinamų, nepažymėtų vaizdų, kuriuos surinko tokie palydovai kaip „Sentinel-2“, ir leisdamas modeliams išmokti naudingų savybių be jokių žmogaus anotacijų pradinio mokymo etape.

Apibendrinimas tarp jutiklių ir regionų

Vien tik prižiūrimi modeliai linkę per daug prisitaikyti prie savo mokymo scenų spektrinių ir erdvinių charakteristikų, o tai reiškia, kad Europos dirbamojoje žemėje apmokytas klasifikatorius gali suklupti, kai taikomas atogrąžų miškuose. Priešingai, savarankiškai prižiūrimi vaizdai fiksuoja platesnius vizualinius modelius iš įvairių vaizdų, todėl pastebimai geriau perkeliami duomenys, kai jie tiksliai derinami su nedideliu pažymėtu rinkiniu iš naujo regiono ar jutiklio. Dėl to savarankiškai prižiūrimi metodai yra ypač patrauklūs pasaulinio masto kartografavimo pastangoms.

Tikslumas ir etaloninis našumas

Standartiniuose etalonuose, tokiuose kaip „EuroSAT“, „BigEarthNet“ ir IEEE GRSS duomenų sintezės konkursas, prižiūrimi modeliai vis dar turi nedidelį pranašumą, kai jiems pateikiama pakankamai paženklintų mokymo duomenų. Tačiau nuo 2022 m. atlikti tyrimai nuolat rodo, kad savarankiškai prižiūrimas išankstinis mokymas, po kurio atliekamas tiesinis zondavimas arba tikslus derinimas vos su keliais šimtais etikečių, gali atitikti arba net pranokti visiškai prižiūrimas bazines linijas. Skirtumas dar labiau sumažėja, kai etiketės yra triukšmingos, nesubalansuotos arba apsiriboja retomis klasėmis.

Skaičiavimo išlaidos ir darbo eiga

Savarankiškai prižiūrimas išankstinis mokymas yra brangus skaičiavimo požiūriu, dažnai reikalaujantis, kad keli GPU veiktų kelias dienas su milijonais vaizdų pataisų. Tačiau iš anksto apmokytą modelį galima pakartotinai naudoti daugelyje tolesnių užduočių su minimaliu papildomu mokymu. Prižiūrimi srautai praleidžia sunkų išankstinio mokymo etapą, tačiau juos reikia iš naujo apmokyti nuo nulio, kai pasikeičia jutiklis, geografija ar klasės schema, o tai laikui bėgant kaupiasi organizacijoms, valdančioms kelis žemėlapių produktus.

Operatyvinis pasirengimas ir pasitikėjimas

Prižiūrimas klasifikavimas išlieka pagrindiniu operacinio nuotolinio stebėjimo metodu, nes jo elgsena yra gerai suprantama, patvirtinimo protokolai yra standartizuoti, o reguliavimo sistemos dažnai reikalauja atsekamų mokymo duomenų. Savarankiškai prižiūrimi metodai vis dar bręsta, ir praktikai kartais dvejoja juos diegti didelės rizikos programose, tokiose kaip reagavimas į nelaimes ar miškų naikinimo stebėsena, neatlikdami išsamios lyginamosios analizės. Nepaisant to, hibridiniai darbo eigos, kurios derina savarankiškai prižiūrimą išankstinį mokymą su prižiūrimu tiksliu derinimu, sparčiai populiarėja tiek mokslinių tyrimų, tiek pramonės srityse.

Privalumai ir trūkumai

Savarankiškai prižiūrimas mokymasis nuotoliniame stebėjime

Privalumai

+ Maža anotacijų kaina
+ Stiprus tarpregioninis perdavimas
+ Daugkartinio naudojimo iš anksto apmokyti magistralės tinklai
+ Geriau tvarko retas klases

Pasirinkta

− Didelės apkrovos skaičiavimai išankstiniam mokymui
− Mažiau veiklos brandos
− Sunkiau interpretuoti
− Vis tiek reikia tolesnių etikečių

Prižiūrimas klasifikavimas

Privalumai

+ Didelis tikslumas su etiketėmis
+ Subrendęs ir patikimas
+ Lengva interpretuoti
+ Platus įrankių palaikymas

Pasirinkta

− Brangus rankinis ženklinimas
− Prastas geografinis perdavimas
− Kovoja su retomis klasėmis
− Dažnai reikia perkvalifikuoti

Dažni klaidingi įsitikinimai

Mitas

Savarankiškai prižiūrimas mokymasis visiškai panaikina žymėtų duomenų poreikį.

Realybė

Savarankiškai prižiūrimas išankstinis mokymas pašalina etiketes iš pradinio etapo, tačiau tolesnėms užduotims vis tiek reikalingi paženklinti duomenys, skirti tiksliam derinimui ar įvertinimui. Sutaupoma todėl, kad reikia daug mažiau, o ne nulinių etikečių.

Mitas

Prižiūrimas klasifikavimas yra pasenęs dėl savarankiškai prižiūrimų metodų.

Realybė

Prižiūrimas klasifikavimas išlieka dominuojančiu metodu operacinėse sistemose ir dažnai pasiekia didžiausią tikslumą, kai etikečių yra daug. Savarankiškai prižiūrimas mokymasis jį papildo, o ne pakeičia.

Mitas

Savarankiškai prižiūrimi modeliai nuotolinio stebėjimo lyginamuosiuose testuose visada pranoksta prižiūrimus.

Realybė

Našumas priklauso nuo duomenų rinkinio, turimų paženklintų duomenų kiekio ir atliekamos užduoties. Naudojant didelius paženklintus rinkinius, prižiūrimi modeliai vis tiek gali atitikti arba pranokti savarankiškai prižiūrimus bazinius duomenis.

Mitas

Daugiau nepažymėtų duomenų visada pagerina savarankiškai prižiūrimus modelius.

Realybė

Kokybė ir įvairovė yra svarbesnės nei neapdorotas kiekis. Savarankiškai prižiūrimi modeliai gali sustoti arba net pablogėti, jei jiems pateikiami pertekliniai arba žemos kokybės vaizdai, kuriuose nėra pakankamai įvairovės tarp sezonų, jutiklių ar geografinių vietovių.

Mitas

Prižiūrimi klasifikatoriai negali apibendrinti už savo mokymo srities ribų.

Realybė

Kruopščiai projektuojant, pritaikant sritis ir taikant įvairius mokymo pavyzdžius, prižiūrimi klasifikatoriai gali apibendrinti tarp regionų. Apribojimas yra realus, bet ne absoliutus, o perkėlimo mokymosi metodai padeda panaikinti šį atotrūkį.

Dažnai užduodami klausimai

Kas yra savarankiškai prižiūrimas mokymasis nuotoliniame stebėjime?

Savarankiškai prižiūrimas mokymasis nuotoliniame stebėjime yra mokymo strategija, kai gilaus mokymosi modeliai mokosi naudingų reprezentacijų iš didelio kiekio nepažymėtų palydovinių ar aerofotonuotraukų, spręsdami tokias užduotis kaip rotacijų prognozavimas, užmaskuotų sričių rekonstravimas arba vaizdų egzempliorių atskyrimas. Po išankstinio mokymo modelis yra tikslinamas mažesniame pažymėtame duomenų rinkinyje tokioms užduotims kaip žemės dangos klasifikavimas ar pokyčių aptikimas.

Kaip veikia prižiūrimas klasifikavimas nuotoliniame stebėjime?

Prižiūrimas klasifikavimas apmoko modelį vaizdais, kuriuose kiekvienas pikselis ar plotas buvo rankiniu būdu pažymėtas klase, pvz., miškas, vanduo arba miestas. Modelis išmoksta su kiekviena klase susijusius statistinius modelius ir tada numato naujų, nematomų vaizdų žymes. Įprasti algoritmai apima atsitiktinių miškų algoritmą, atraminių vektorių mašinas ir konvoliucinius neuroninius tinklus.

Kuris metodas yra geresnis ribotiems žymėtiems duomenims?

Savarankiškai prižiūrimas mokymasis paprastai yra geresnis pasirinkimas, kai trūksta paženklintų duomenų. Iš anksto apmokydamas su gausiais nepažymėtais vaizdais, modelis sukuria išsamius elementų atvaizdavimus, kuriems tikslinti reikia tik nedidelio paženklinto rinkinio, dažnai pasiekdamas tikslumą, panašų į visiškai prižiūrimų modelių, apmokytų su daug didesniais duomenų rinkiniais.

Ar galima derinti savikontrolės ir prižiūrimus metodus?

Taip, ir šis hibridinis darbo eigas tampa vis dažnesnis. Pirmiausia modelis yra iš anksto apmokomas naudojant savarankiškai prižiūrimą tikslą nepažymėtuose vaizduose, o tada tiksliai derinamas prižiūrimo mokymosi būdu naudojant paženklintą duomenų rinkinį konkrečiai užduočiai atlikti. Šis derinys paprastai suteikia geriausias abiejų pasaulių savybes: stiprų apibendrinimą ir didelį tikslumą, susijusį su užduotimi.

Kokie yra populiarūs savarankiškai prižiūrimi palydovinių vaizdų modeliai?

Žymūs pavyzdžiai: „SatMAE“, skirtas maskuotam „Sentinel-2“ vaizdų automatiniam kodavimui, DINO ir DINO-MC kontrastiniam mokymuisi, „SeCo“ sezoniniam kontrastui ir Europos kosmoso agentūros sukurta SSL4EO sistema Žemės stebėjimui. Šie modeliai yra daugelio nuotolinio stebėjimo programų pagrindas.

Kiek paženklintų duomenų reikia prižiūrimai klasifikacijai?

Kiekis priklauso nuo užduoties sudėtingumo ir modelio tipo. Klasikiniai algoritmai, tokie kaip „Random Forest“, gali dirbti su keliais šimtais paženklintų pavyzdžių kiekvienoje klasėje, o gilaus mokymosi modeliams dažnai reikia tūkstančių. Didelės skiriamosios gebos semantinės segmentacijos užduotims gali prireikti dešimčių tūkstančių anotuotų pikselių, kad būtų pasiektas patikimas tikslumas.

Ar savarankiškai prižiūrimas mokymasis reikalauja daugiau skaičiavimo išteklių nei prižiūrimas mokymas?

Savarankiškai prižiūrimas išankstinis mokymas reikalauja žymiai daugiau skaičiavimo išteklių, nes jo metu apdorojami milijonai nepažymėtų vaizdų ir naudojami dideli paketų dydžiai su kontrastiniais arba rekonstrukcijos nuostoliais. Tačiau tolesnis tikslinimo etapas paprastai yra pigesnis nei prižiūrimo modelio mokymas nuo nulio, todėl bendros išlaidos gali būti mažesnės, kai iš anksto apmokytas modelis pakartotinai naudojamas kelioms užduotims.

Koks metodas naudojamas operatyviniuose žemės dangos žemėlapiuose?

Dauguma veikiančių žemės dangos produktų, tokių kaip ESA „World Cover“, „Copernicus Global Land Service“ ir Nacionalinė žemės dangos duomenų bazė, remiasi prižiūrimais klasifikavimo srautais, dažnai derindami gilųjį mokymąsi su išsamiais žymėtais mokymo duomenimis. Savarankiškai prižiūrimi metodai pradeda atsirasti mokslinių tyrimų prototipuose ir kai kuriuose komerciniuose produktuose, tačiau jie dar nepakeitė prižiūrimų darbo eigų dideliu mastu.

Ar savarankiškai prižiūrimas mokymasis veikia su multispektriniais, ar hiperspektriniais vaizdais?

Taip, šiuolaikinės savarankiškai prižiūrimos sistemos, tokios kaip SSL4EO-ML ir SatMAE, yra sukurtos apdoroti daugiaspektrines „Sentinel-2“ juostas, o tyrėjai išplėtė maskuoto automatinio kodavimo metodus į hiperspektrinius jutiklius. Svarbiausia yra pritaikyti pretekstinę užduotį atsižvelgiant į spektrinę struktūrą, o ne traktuoti juostas kaip nepriklausomus RGB kanalus.

Kokie yra pagrindiniai savarankiškai prižiūrimo mokymosi nuotolinio stebėjimo srityje iššūkiai?

Pagrindiniai iššūkiai yra didelės skaičiavimo sąnaudos, reikalingos išankstiniam mokymui, sunkumai kuriant pretekstines užduotis, kurios užfiksuotų prasmingus Žemės stebėjimo modelius, didelių ir įvairių nepažymėtų duomenų rinkinių poreikis ir ribotas standartizuotų lyginamųjų indeksų, skirtų savarankiškai prižiūrimiems atvaizdavimams įvertinti atliekant konkrečios srities užduotis, pvz., pasėlių kartografavimą ar potvynių aptikimą, prieinamumas.

Nuosprendis

Rinkitės prižiūrimą klasifikavimą, kai turite gausybę, aukštos kokybės paženklintų duomenų ir jums reikia brandaus, interpretuojamo modelio tiksliai apibrėžtam regionui ar jutikliui. Rinkitės savarankiškai prižiūrimą mokymąsi, kai žymų trūksta, jos brangios arba jos yra geografiškai ribotos ir jums reikia lankstaus pagrindinio modelio, kuris galėtų prisitaikyti prie daugelio tolesnių užduočių su minimaliomis anotavimo pastangomis.

Susiję palyginimai

„DeepSeek V4“ ir „GPT-4“ klasės modeliai

„DeepSeek V4“ yra kylantis atvirojo svorio didelių kalbų modelis, sukurtas Kinijos dirbtinio intelekto laboratorijoje, o GPT-4 klasės modeliai nurodo „OpenAI“ flagmanines uždarojo kodo sistemas. Šiame palyginime nagrinėjama jų architektūra, galimybės, kainos, prieinamumas ir našumas realiame pasaulyje, siekiant padėti kūrėjams ir įmonėms išmintingai pasirinkti.

„Google“ paieška ir žinių grafiko paieška

„Google“ paieška yra plataus masto žiniatinklio indeksavimo variklis, kurį dauguma žmonių naudoja kasdien, o „Knowledge Graph Search“ yra „Google“ struktūrizuotų objektų duomenų bazė, kurioje pateikiami tiesioginiai atsakymai ir informacijos skydeliai. Supratimas, kuo jie skiriasi, padeda paaiškinti, kodėl kai kurios užklausos pateikia išsamius faktus, o kitos – tradicines mėlynas nuorodas.

„Google“ paieškos algoritmas ir supaprastinti klasės modeliai

„Google“ paieškos algoritmas reitinguoja milijardus tinklalapių, naudodamas mašininį mokymąsi ir šimtus signalų, o supaprastinti klasių modeliai perteikia dirbtinio intelekto koncepcijas į lengvai mokomas, prieinamas sistemas. Viena sistema veikia planetos mastu gamyboje; kita tarnauja kaip pedagoginis tiltas mokiniams, mokantis, kaip iš tikrųjų veikia dirbtinis intelektas.

„Vienas su vienu“ atitikimas aptikimo ir daugelio su vienu atitikimo metodų srityse

„Vienas su vienu“ atitikimo metodas kiekvienam pagrindiniam objektui priskiria vieną numatomą langelį, o „daugelis su vienu“ atitikimo metodas leidžia kelias prognozes suderinti su vienu taikiniu. Abi strategijos formuoja tai, kaip šiuolaikiniai detektoriai, tokie kaip DETR ir „Faster R-CNN“, mokosi lokalizuoti objektus, kiekvienas iš jų turi skirtingus kompromisus tikslumo, mokymo stabilumo ir pasikartojančių aptikimų tvarkymo srityse.

A/B testavimas modelių aptarnavime ir vieno modelio diegime

A/B testavimas modeliuose nukreipia srautą tarp konkuruojančių modelio versijų, kad būtų galima įvertinti realų našumą, o diegiant vieną modelį visiems vartotojams pateikiamas vienas modelis. Komandos renkasi iš jų pagal rizikos toleranciją, srauto kiekį ir statistinio patvirtinimo poreikį prieš visišką diegimą.