Comparthing Logo
هوش مصنوعیسنجش از دوریادگیری عمیقیادگیری ماشینیرصد زمین

یادگیری خودنظارتی در سنجش از دور در مقابل طبقه‌بندی نظارت‌شده

یادگیری خودنظارتی در سنجش از دور، مدل‌ها را بر اساس تصاویر ماهواره‌ای یا هوایی بدون برچسب، با ایجاد وظایف پیش‌زمینه، آموزش می‌دهد، در حالی که طبقه‌بندی نظارت‌شده برای آموزش مدل‌ها به نحوه دسته‌بندی پیکسل‌ها یا صحنه‌ها، به داده‌های برچسب‌گذاری‌شده توسط انسان متکی است. هر دو رویکرد، نقشه‌برداری پوشش زمین و تشخیص اشیا را انجام می‌دهند، اما از نظر الزامات داده، مقیاس‌پذیری و دقت در دنیای واقعی تفاوت‌های چشمگیری دارند.

برجسته‌ها

  • یادگیری خودنظارتی با بهره‌برداری از بایگانی‌های ماهواره‌ای بدون برچسب، هزینه‌های حاشیه‌نویسی را کاهش می‌دهد.
  • طبقه‌بندی نظارت‌شده حتی زمانی که داده‌های برچسب‌گذاری‌شده فراوان باشند، همچنان دقت بیشتری دارد.
  • ویژگی‌های خودنظارتی با اطمینان بیشتری بین مناطق و حسگرها منتقل می‌شوند.
  • خطوط لوله ترکیبی که هر دو رویکرد را با هم ترکیب می‌کنند، در حال تبدیل شدن به استاندارد جدید در رصد زمین هستند.

یادگیری خودنظارتی در سنجش از دور چیست؟

یک الگوی آموزشی که در آن مدل‌ها با حل وظایف پیش‌زمینه قبل از تنظیم دقیق برنامه‌های پایین‌دستی، بازنمایی‌ها را از داده‌های رصد زمین بدون برچسب یاد می‌گیرند.

  • این سیستم از آرشیوهای عظیم تصاویر ماهواره‌ای بدون برچسب، مانند Sentinel-2 یا Landsat، برای پیش‌آموزش شبکه‌های عصبی عمیق استفاده می‌کند.
  • وظایف متداولِ پیش فرض شامل پیش‌بینی چرخش تصویر، حل پازل تکه‌ای، تشخیص نمونه‌های تقابلی و خودرمزگذاری ماسک‌شده است.
  • مدل‌هایی مانند SatMAE، DINO-MC و SeCo عملکرد انتقال قوی در وظایف سنجش از دور پایین‌دست نشان داده‌اند.
  • این امر به طرز چشمگیری وابستگی به حاشیه‌نویسی‌های پرهزینه متخصصان را کاهش می‌دهد، که می‌تواند ساعت‌ها برای هر صحنه با وضوح بالا زمان ببرد.
  • ویژگی‌های خودنظارتی اغلب در مناطق جغرافیایی و انواع حسگرها بهتر از ویژگی‌های صرفاً تحت نظارت تعمیم داده می‌شوند.

طبقه‌بندی نظارت‌شده چیست؟

یک رویکرد یادگیری ماشین سنتی که در آن مدل‌ها بر اساس داده‌های سنجش از دور با برچسب دستی آموزش داده می‌شوند تا به پیکسل‌ها، اشیاء یا صحنه‌ها دسته‌بندی اختصاص دهند.

  • این روش به نمونه‌های آموزشی برچسب‌گذاری شده نیاز دارد که در آن هر پیکسل یا تکه تصویر با یک کلاس شناخته‌شده مانند جنگل، آب یا شهر برچسب‌گذاری شده است.
  • الگوریتم‌ها از روش‌های کلاسیک مانند جنگل تصادفی و ماشین بردار پشتیبان (SVM) تا معماری‌های عمیق مانند ResNet، U-Net و Vision Transformers متغیر هستند.
  • دقت به شدت به کیفیت برچسب، تعادل کلاس و نماینده بودن مجموعه آموزشی بستگی دارد.
  • این رویکرد همچنان رویکرد غالب در محصولات نقشه‌برداری پوشش اراضی عملیاتی مانند پوشش جهانی ESA و پایگاه داده ملی پوشش اراضی است.
  • عملکرد معمولاً زمانی ثابت می‌ماند که داده‌های برچسب‌گذاری‌شده کمیاب، جانبدارانه یا فاقد پوشش طبقات نادر مانند سکونتگاه‌های غیررسمی یا خسارات ناشی از زلزله باشند.

جدول مقایسه

ویژگی یادگیری خودنظارتی در سنجش از دور طبقه‌بندی نظارت‌شده
داده‌های برچسب‌گذاری‌شده مورد نیاز حداقل یا هیچ برای پیش آموزش مجموعه داده‌های گسترده و حاشیه‌نویسی‌شده توسط متخصصان
مقیاس‌پذیری در مناطق مختلف بالا، نقل و انتقالات بین مناطق جغرافیایی محدود، اغلب مختص منطقه
هزینه حاشیه‌نویسی کم، از آرشیو تصاویر خام استفاده می‌کند برچسب‌گذاری دستی گران است و هزینه بالایی دارد
دقت پایین‌دستی رقابتی با برچسب‌های محدود بالاترین مقدار زمانی که برچسب‌ها فراوان هستند
محاسبات آموزشی پیش تمرین سنگین، تنظیم دقیق سبک متوسط، مقیاس‌بندی با اندازه مجموعه داده
مدیریت کلاس‌های نادر بهتر، بازنمایی‌های کلی را یاد می‌گیرد ضعیف‌تر، به نمونه‌های متعادل نیاز دارد
تفسیرپذیری وظایف سطح پایین‌تر و بهانه‌ای، انتزاعی هستند قوانین تصمیم‌گیری بالاتر را می‌توان بررسی کرد
بلوغ در تولید در حال ظهور، عمدتاً مرحله تحقیق بالغ، با استقرار گسترده عملیاتی

مقایسه دقیق

الزامات داده‌ها و تلاش برای حاشیه‌نویسی

طبقه‌بندی نظارت‌شده به مجموعه داده‌های برچسب‌گذاری‌شده‌ی دقیقی بستگی دارد که در آن هر نمونه‌ی آموزشی دارای یک برچسب واقعیت زمینی است. تولید این برچسب‌ها برای تصاویر با وضوح بالا اغلب به تخصص GIS نیاز دارد و می‌تواند از چند سنت تا چند دلار برای هر چندضلعی هزینه داشته باشد. یادگیری خودنظارتی با بهره‌برداری از پتابایت‌ها تصاویر بدون برچسب و رایگان موجود که توسط ماهواره‌هایی مانند Sentinel-2 جمع‌آوری شده‌اند، این معادله را برعکس می‌کند و به مدل‌ها اجازه می‌دهد تا ویژگی‌های مفید را بدون هیچ گونه حاشیه‌نویسی انسانی در طول مرحله‌ی اولیه‌ی پیش‌آموزش یاد بگیرند.

تعمیم در سراسر حسگرها و مناطق

مدل‌هایی که صرفاً با نظارت آموزش دیده‌اند، تمایل دارند که با ویژگی‌های طیفی و مکانی صحنه‌های آموزشی خود بیش‌برازش داشته باشند، به این معنی که یک طبقه‌بندی‌کننده آموزش‌دیده در زمین‌های کشاورزی اروپا ممکن است هنگام اعمال به جنگل‌های گرمسیری دچار مشکل شود. در مقابل، نمایش‌های خودنظارتی، الگوهای بصری وسیع‌تری را از تصاویر متنوع ثبت می‌کنند و منجر به انتقال به طور قابل توجهی بهتر هنگام تنظیم دقیق روی یک مجموعه کوچک برچسب‌گذاری شده از یک منطقه یا حسگر جدید می‌شوند. این امر رویکردهای خودنظارتی را به ویژه برای تلاش‌های نقشه‌برداری در مقیاس جهانی جذاب می‌کند.

دقت و عملکرد معیار

در معیارهای استاندارد مانند EuroSAT، BigEarthNet و مسابقه تلفیق داده IEEE GRSS، مدل‌های تحت نظارت هنوز هم وقتی داده‌های آموزشی برچسب‌گذاری شده کافی داشته باشند، برتری کمی دارند. با این حال، مطالعات از سال 2022 به بعد به طور مداوم نشان می‌دهد که پیش‌آموزش خودنظارتی و به دنبال آن کاوش خطی یا تنظیم دقیق روی تنها چند صد برچسب می‌تواند با خطوط پایه کاملاً تحت نظارت مطابقت داشته باشد یا حتی از آنها پیشی بگیرد. این شکاف زمانی که برچسب‌ها نویزی، نامتعادل یا محدود به کلاس‌های نادر باشند، بیشتر کاهش می‌یابد.

هزینه محاسباتی و گردش کار

پیش‌آموزش خودنظارتی از نظر محاسباتی پرهزینه است و اغلب نیاز به چندین پردازنده گرافیکی دارد که برای چند روز روی میلیون‌ها تکه تصویر کار می‌کنند. با این حال، پس از پیش‌آموزش، مدل می‌تواند با حداقل آموزش اضافی در بسیاری از وظایف پایین‌دستی مورد استفاده مجدد قرار گیرد. خطوط لوله تحت نظارت، مرحله سنگین پیش‌آموزش را حذف می‌کنند، اما هر زمان که حسگر، جغرافیا یا طرح کلاس تغییر کند، باید از ابتدا دوباره آموزش داده شوند، که این امر به مرور زمان برای سازمان‌هایی که چندین محصول نقشه‌برداری را مدیریت می‌کنند، هزینه‌بر است.

آمادگی عملیاتی و اعتماد

طبقه‌بندی نظارت‌شده همچنان نیروی محرکه سنجش از دور عملیاتی است زیرا رفتار آن به خوبی درک شده است، پروتکل‌های اعتبارسنجی استاندارد شده‌اند و چارچوب‌های نظارتی اغلب به داده‌های آموزشی قابل ردیابی نیاز دارند. روش‌های خودنظارتی هنوز در حال تکامل هستند و متخصصان گاهی اوقات در به‌کارگیری آنها در برنامه‌های پرمخاطره مانند واکنش به بلایا یا نظارت بر جنگل‌زدایی بدون معیارسنجی گسترده تردید دارند. با این حال، گردش‌های کاری ترکیبی که پیش‌آموزش خودنظارتی را با تنظیم دقیق نظارت‌شده ترکیب می‌کنند، به سرعت در تحقیقات و صنعت مورد توجه قرار می‌گیرند.

مزایا و معایب

یادگیری خودنظارتی در سنجش از دور

مزایا

  • + هزینه حاشیه نویسی پایین
  • + انتقال قوی بین منطقه‌ای
  • + ستون فقرات از پیش آموزش‌دیده‌ی قابل استفاده‌ی مجدد
  • + کلاس‌های نادر را بهتر مدیریت می‌کند

مصرف شده

  • محاسبات سنگین برای پیش‌آموزش
  • بلوغ عملیاتی کمتر
  • تفسیرش سخت‌تره
  • به هر حال به برچسب‌های پایین‌دستی نیاز دارد

طبقه‌بندی نظارت‌شده

مزایا

  • + دقت بالا با برچسب ها
  • + بالغ و مورد اعتماد
  • + تفسیر آسان
  • + پشتیبانی گسترده از ابزار

مصرف شده

  • برچسب‌گذاری دستی گران‌قیمت
  • انتقال جغرافیایی ضعیف
  • با کلاس‌های نادر مبارزه می‌کند
  • اغلب به آموزش مجدد نیاز است

تصورات نادرست رایج

افسانه

یادگیری خودنظارتی نیاز به داده‌های برچسب‌گذاری‌شده را به‌طور کامل از بین می‌برد.

واقعیت

پیش‌آموزش خودنظارتی برچسب‌ها را از مرحله اولیه حذف می‌کند، اما وظایف بعدی هنوز برای تنظیم دقیق یا ارزیابی به داده‌های برچسب‌گذاری شده نیاز دارند. صرفه‌جویی‌ها از نیاز به برچسب‌های بسیار کمتر ناشی می‌شود، نه از نیاز به برچسب‌های صفر.

افسانه

طبقه‌بندی نظارت‌شده به دلیل روش‌های خودنظارتی منسوخ شده است.

واقعیت

طبقه‌بندی نظارت‌شده همچنان رویکرد غالب در سیستم‌های عملیاتی است و اغلب زمانی که برچسب‌ها فراوان باشند، به بالاترین دقت دست می‌یابد. یادگیری خودنظارتی به جای اینکه جایگزین آن شود، آن را تکمیل می‌کند.

افسانه

مدل‌های خودنظارتی همیشه در معیارهای سنجش از دور، از مدل‌های تحت نظارت بهتر عمل می‌کنند.

واقعیت

عملکرد به مجموعه داده‌ها، میزان داده‌های برچسب‌گذاری‌شده موجود و وظیفه‌ی بعدی بستگی دارد. با مجموعه‌های برچسب‌گذاری‌شده‌ی بزرگ، مدل‌های نظارت‌شده همچنان می‌توانند با خطوط پایه‌ی خودنظارتی مطابقت داشته باشند یا از آن‌ها پیشی بگیرند.

افسانه

داده‌های بدون برچسب بیشتر، همیشه مدل‌های خودنظارتی را بهبود می‌بخشند.

واقعیت

کیفیت و تنوع مهم‌تر از حجم خام است. مدل‌های خودنظارتی می‌توانند در صورت تغذیه تصاویر اضافی یا بی‌کیفیت بدون تنوع کافی در فصول، حسگرها یا مناطق جغرافیایی، دچار رکود یا حتی افت کیفیت شوند.

افسانه

طبقه‌بندی‌کننده‌های نظارت‌شده نمی‌توانند فراتر از ناحیه آموزشی خود تعمیم دهند.

واقعیت

با طراحی دقیق، تطبیق دامنه و نمونه‌های آموزشی متنوع، طبقه‌بندی‌کننده‌های نظارت‌شده می‌توانند در مناطق مختلف تعمیم داده شوند. این محدودیت واقعی است اما مطلق نیست و تکنیک‌های یادگیری انتقالی به پر کردن این شکاف کمک می‌کنند.

سوالات متداول

یادگیری خودنظارتی در سنجش از دور چیست؟
یادگیری خودنظارتی در سنجش از دور یک استراتژی آموزشی است که در آن مدل‌های یادگیری عمیق، با حل وظایف پیش‌نیاز مانند پیش‌بینی چرخش‌ها، بازسازی تکه‌های پنهان یا تشخیص نمونه‌های تصویر، نمایش‌های مفیدی را از مقادیر زیادی از تصاویر ماهواره‌ای یا هوایی بدون برچسب یاد می‌گیرند. پس از پیش‌آموزش، مدل روی یک مجموعه داده برچسب‌گذاری شده کوچکتر برای کارهایی مانند طبقه‌بندی پوشش زمین یا تشخیص تغییرات تنظیم دقیق می‌شود.
طبقه‌بندی نظارت‌شده در سنجش از دور چگونه کار می‌کند؟
طبقه‌بندی نظارت‌شده، مدلی را بر اساس تصاویری آموزش می‌دهد که در آن هر پیکسل یا قطعه زمین به صورت دستی با یک کلاس مانند جنگل، آب یا شهری برچسب‌گذاری شده است. این مدل الگوهای آماری مرتبط با هر کلاس را یاد می‌گیرد و سپس برچسب‌هایی را برای تصاویر جدید و دیده نشده پیش‌بینی می‌کند. الگوریتم‌های رایج شامل جنگل تصادفی، ماشین‌های بردار پشتیبان و شبکه‌های عصبی کانولوشن هستند.
کدام رویکرد برای داده‌های برچسب‌گذاری‌شده‌ی محدود بهتر است؟
یادگیری خودنظارتی عموماً زمانی که داده‌های برچسب‌گذاری‌شده کمیاب هستند، انتخاب بهتری است. با پیش‌آموزش روی تصاویر فراوان بدون برچسب، مدل، نمایش‌های غنی از ویژگی‌ها را می‌سازد که فقط به یک مجموعه برچسب‌گذاری‌شده کوچک برای تنظیم دقیق نیاز دارند و اغلب به دقتی قابل مقایسه با مدل‌های کاملاً نظارت‌شده که روی مجموعه داده‌های بسیار بزرگ‌تر آموزش دیده‌اند، دست می‌یابند.
آیا می‌توان روش‌های خودنظارتی و تحت نظارت را با هم ترکیب کرد؟
بله، و این گردش کار ترکیبی به طور فزاینده‌ای رایج است. یک مدل ابتدا با یک هدف خودنظارتی روی تصاویر بدون برچسب، از قبل آموزش داده می‌شود، سپس با یادگیری نظارت‌شده روی یک مجموعه داده برچسب‌گذاری‌شده برای یک کار خاص، تنظیم دقیق می‌شود. این ترکیب معمولاً بهترین‌های هر دو جهان را ارائه می‌دهد: تعمیم قوی به علاوه دقت بالای مختص به کار.
مدل‌های خودنظارتی محبوب برای تصاویر ماهواره‌ای کدامند؟
نمونه‌های قابل توجه شامل SatMAE برای خودرمزگذاری ماسک‌شده تصاویر Sentinel-2، DINO و DINO-MC برای یادگیری تطبیقی، SeCo برای کنتراست فصلی و چارچوب SSL4EO که توسط آژانس فضایی اروپا برای رصد زمین توسعه داده شده است، می‌شود. این مدل‌ها به عنوان ستون فقرات بسیاری از کاربردهای سنجش از دور در پایین‌دست عمل می‌کنند.
طبقه‌بندی نظارت‌شده به چه مقدار داده برچسب‌گذاری‌شده نیاز دارد؟
این مقدار بسته به پیچیدگی وظیفه و نوع مدل متفاوت است. الگوریتم‌های کلاسیک مانند جنگل تصادفی می‌توانند با چند صد نمونه برچسب‌گذاری شده در هر کلاس کار کنند، در حالی که مدل‌های یادگیری عمیق اغلب به هزاران نمونه نیاز دارند. وظایف تقسیم‌بندی معنایی با وضوح بالا ممکن است برای دستیابی به دقت قابل اعتماد، به ده‌ها هزار پیکسل حاشیه‌نویسی شده نیاز داشته باشند.
آیا یادگیری خودنظارتی نسبت به آموزش تحت نظارت، محاسبات بیشتری را می‌طلبد؟
پیش‌آموزش خودنظارتی به طور قابل توجهی محاسبات بیشتری را می‌طلبد زیرا میلیون‌ها تصویر بدون برچسب را پردازش می‌کند و از اندازه‌های دسته‌ای بزرگ با تلفات کنتراست یا بازسازی استفاده می‌کند. با این حال، مرحله تنظیم دقیق پایین‌دست معمولاً ارزان‌تر از آموزش یک مدل تحت نظارت از ابتدا است، بنابراین وقتی مدل از پیش آموزش‌دیده در چندین کار مجدداً استفاده شود، هزینه کل می‌تواند کمتر باشد.
کدام رویکرد در نقشه‌های پوشش اراضی عملیاتی استفاده می‌شود؟
اکثر محصولات عملیاتی پوشش زمین، مانند ESA World Cover، Copernicus Global Land Service و پایگاه داده ملی پوشش زمین، به خطوط طبقه‌بندی نظارت‌شده متکی هستند که اغلب یادگیری عمیق را با داده‌های آموزشی گسترده برچسب‌گذاری‌شده ترکیب می‌کنند. روش‌های خودنظارتی در نمونه‌های اولیه تحقیقاتی و چند محصول تجاری شروع به ظهور کرده‌اند، اما هنوز جایگزین گردش‌های کاری نظارت‌شده در مقیاس بزرگ نشده‌اند.
آیا یادگیری خودنظارتی با تصاویر چندطیفی یا فراطیفی کار می‌کند؟
بله، چارچوب‌های خودنظارتی مدرن مانند SSL4EO-ML و SatMAE برای مدیریت باندهای چندطیفی Sentinel-2 طراحی شده‌اند و محققان رویکردهای خودرمزگذاری ماسک‌شده را به حسگرهای فراطیفی گسترش داده‌اند. نکته کلیدی، تطبیق وظیفه پیش‌نهاد با توجه به ساختار طیفی به جای در نظر گرفتن باندها به عنوان کانال‌های RGB مستقل است.
چالش‌های اصلی یادگیری خودنظارتی در سنجش از دور چیست؟
چالش‌های کلیدی شامل هزینه محاسباتی بالای پیش‌آموزش، دشواری طراحی وظایف پیش‌زمینه‌ای که الگوهای معنادار مشاهدات زمین را ثبت می‌کنند، نیاز به مجموعه داده‌های بزرگ و متنوع بدون برچسب، و دسترسی محدود به معیارهای استاندارد برای ارزیابی بازنمایی‌های خودنظارتی در وظایف خاص دامنه مانند نقشه‌برداری از محصولات یا تشخیص سیل است.

حکم

وقتی داده‌های برچسب‌گذاری‌شده فراوان و باکیفیتی دارید و به یک مدل بالغ و قابل تفسیر برای یک منطقه یا حسگر کاملاً تعریف‌شده نیاز دارید، طبقه‌بندی نظارت‌شده را انتخاب کنید. وقتی برچسب‌ها کمیاب، گران یا از نظر جغرافیایی محدود هستند و یک مدل پایه انعطاف‌پذیر می‌خواهید که بتواند با بسیاری از وظایف پایین‌دستی با حداقل تلاش حاشیه‌نویسی سازگار شود، یادگیری خودنظارتی را انتخاب کنید.

مقایسه‌های مرتبط

LLM های مبتنی بر ابزار در مقابل LLM های مستقل

LLM های مبتنی بر ابزار، مدل‌های زبانی مستقل را با اتصال آنها به APIهای خارجی، ماشین‌حساب‌ها و پایگاه‌های داده گسترش می‌دهند و بازیابی اطلاعات و اجرای وظایف را در زمان واقعی امکان‌پذیر می‌سازند. LLM های مستقل صرفاً به پارامترهای آموزش‌دیده خود متکی هستند و آنها را مستقل اما محدود به دانش حاصل از داده‌های آموزشی می‌کنند.

LLM های متن باز در مقابل API های اختصاصی LLM

LLM های متن باز، مدل‌های هوش مصنوعی قابل تنظیم و خود-میزبان با دسترسی کامل به کد ارائه می‌دهند، در حالی که API های اختصاصی LLM، خدمات مدیریت شده و بهبود یافته را از طریق نقاط پایانی مبتنی بر ابر با قیمت گذاری مبتنی بر میزان استفاده ارائه می‌دهند.

RAG (تولید افزوده بازیابی) در مقابل LLM های تنظیم دقیق

RAG و LLM های تنظیم‌شده دقیق، هر دو کیفیت خروجی هوش مصنوعی را بهبود می‌بخشند، اما به روش‌های اساساً متفاوتی عمل می‌کنند. RAG اطلاعات خارجی را در زمان پرس‌وجو دریافت می‌کند، در حالی که تنظیم دقیق، دانش جدید را مستقیماً در وزن‌های مدل قرار می‌دهد. انتخاب بین آنها بستگی به این دارد که داده‌های شما چند وقت یکبار تغییر می‌کنند و به چه نوع دقتی نیاز دارید.

RAG با متن بصری در مقابل RAG با متن فقط متنی

RAG با زمینه بصری، مدل‌های زبانی را با بازیابی تصاویر، نمودارها و دیاگرام‌ها در کنار متن غنی می‌کند، در حالی که RAG فقط متنی صرفاً به متون نوشتاری متکی است. RAG بصری در وظایف چندوجهی مانند درک اسناد و پاسخ به سؤالات بصری برتری دارد، در حالی که RAG فقط متنی ساده‌تر، سریع‌تر و ارزان‌تر برای استقرار باقی می‌ماند.

RAG چندوجهی در مقابل RAG فقط متنی

RAG چندوجهی متن، تصاویر، صدا و ویدیو را برای بازیابی غنی‌تر با هم پردازش می‌کند، در حالی که RAG فقط متنی منحصراً بر محتوای نوشتاری تمرکز دارد. انتخاب بستگی به این دارد که آیا داده‌ها و موارد استفاده شما فراتر از اسناد متنی ساده است یا خیر.