Самостійне навчання в дистанційному зондуванні навчає моделі на немаркованих супутникових або аерофотознімках шляхом створення претекстових завдань, тоді як контрольована класифікація спирається на дані, марковані людиною, щоб навчити моделі категоризувати пікселі або сцени. Обидва підходи стосуються картографування земного покриву та виявлення об'єктів, але вони різко відрізняються вимогами до даних, масштабованістю та точністю в реальному світі.
Парадигма навчання, де моделі вивчають представлення з немаркованих даних спостережень Землі, вирішуючи претекстові задачі перед тонким налаштуванням у наступних застосунках.
Традиційний підхід до машинного навчання, де моделі навчаються на даних дистанційного зондування з ручною міткою для призначення категорій пікселям, об'єктам або сценам.
| Функція | Самостійне навчання в дистанційному зондуванні | Контрольована класифікація |
|---|---|---|
| Позначені дані обов'язкові | Мінімальний або відсутній для попередньої підготовки | Розширені набори даних з коментарями експертів |
| Масштабованість у різних регіонах | Високий, перенесення між географічними регіонами | Обмежений, часто регіонально-специфічний |
| Вартість анотацій | Низький, використовує архіви необроблених зображень | Високий рівень, ручне маркування є дорогим |
| Точність нижче за течією | Конкурентний з обмеженою кількістю лейблів | Найвищий, коли етикеток багато |
| Навчальні обчислення | Важке попереднє тренування, легке точне налаштування | Помірний, масштабується залежно від розміру набору даних |
| Обробка рідкісних класів | Краще, вивчає широкі уявлення | Слабший, потребує збалансованих зразків |
| Інтерпретованість | Нижчі, претекстові завдання є абстрактними | Вищі правила прийняття рішень можна перевірити |
| Зрілість у виробництві | Стадія розвитку, переважно дослідження | Зрілий, широко розгорнутий в оперативному плані |
Класифікація з учителем залежить від ретельно маркованих наборів даних, де кожен навчальний приклад має позначку «ground-truth». Створення цих міток для зображень високої роздільної здатності часто вимагає експертизи в галузі ГІС і може коштувати від кількох центів до кількох доларів за полігон. Самостійне навчання змінює це рівняння, використовуючи петабайти вільно доступних, немаркованих зображень, зібраних супутниками, такими як Sentinel-2, дозволяючи моделям вивчати корисні функції без будь-яких людських анотацій під час початкової фази перед навчанням.
Моделі, навчені виключно під наглядом, мають тенденцію до надмірного налаштування під спектральні та просторові характеристики навчальних сцен, що означає, що класифікатор, навчений на європейських сільськогосподарських угіддях, може спотикатися під час застосування до тропічних лісів. Навпаки, представлення із самонаглядом фіксують ширші візуальні патерни з різноманітних зображень, що призводить до помітно кращої передачі даних при точному налаштуванні на невеликому наборі з нового регіону або датчика. Це робить підходи із самонаглядом особливо привабливими для картографування глобального масштабу.
У стандартних тестах, таких як EuroSAT, BigEarthNet та конкурс IEEE GRSS Data Fusion, моделі з учителем все ще мають невелику перевагу, коли їм надається достатньо розмічених навчальних даних. Однак дослідження, починаючи з 2022 року, послідовно показують, що самостійне попереднє навчання з подальшим лінійним зондуванням або тонким налаштуванням лише кількох сотень міток може відповідати або навіть перевершувати повністю контрольовані базові рівні. Розрив ще більше звужується, коли мітки є шумними, незбалансованими або обмеженими рідкісними класами.
Самостійне попереднє навчання є обчислювально дорогим, часто вимагаючи кількох графічних процесорів, що працюють протягом кількох днів на мільйонах патчів зображень. Однак після попереднього навчання модель можна повторно використовувати для багатьох наступних завдань з мінімальним додатковим навчанням. Конвеєри з керуванням пропускають складний етап попереднього навчання, але їх необхідно перенавчати з нуля щоразу, коли змінюється датчик, географія або схема класів, що з часом накопичується для організацій, які керують кількома картографічними продуктами.
Класифікація з контролем залишається робочою конячкою оперативного дистанційного зондування, оскільки її поведінка добре зрозуміла, протоколи валідації стандартизовані, а нормативно-правові бази часто вимагають відстежуваних даних навчання. Методи з самоконтролем все ще перебувають у стадії розвитку, і практики іноді вагаються застосовувати їх у високовартісних застосуваннях, таких як реагування на стихійні лиха або моніторинг вирубки лісів, без ретельного бенчмаркінгу. Тим не менш, гібридні робочі процеси, що поєднують попереднє навчання з самостійним контролем та контрольоване точне налаштування, швидко набирають обертів як у дослідженнях, так і в промисловості.
Самостійне навчання повністю усуває потребу в маркованих даних.
Самостійне попереднє навчання видаляє мітки на початковому етапі, але подальші завдання все ще потребують маркованих даних для точного налаштування або оцінки. Економія досягається завдяки потребі в набагато меншій кількості міток, а не в нульовій кількості.
Класифікація з контрольованим вивченням застаріла через методи самоконтролю.
Класифікація з учителем залишається домінуючим підходом в операційних системах і часто досягає найвищої точності, коли міток багато. Самостійне навчання доповнює, а не замінює його.
Самокеровані моделі завжди перевершують контрольовані за показниками дистанційного зондування.
Продуктивність залежить від набору даних, обсягу доступних маркованих даних та подальшого завдання. Навіть з великими маркованими наборами моделі з контролем можуть відповідати або перевершувати самоконтрольовані базові рівні.
Більше немаркованих даних завжди покращує самокеровані моделі.
Якість та різноманітність важливіші за обсяг. Моделі із самоконтролем можуть зупинитися або навіть погіршитися, якщо їм надавати надлишкові або низькоякісні зображення без достатньої різноманітності за порами року, датчиками чи географічними регіонами.
Контрольовані класифікатори не можуть узагальнювати за межі своєї навчальної області.
Завдяки ретельному проектуванню, адаптації до предметної області та різноманітним навчальним вибіркам, класифікатори з учителем можуть узагальнюватися в різних регіонах. Обмеження реальне, але не абсолютне, і методи трансферного навчання допомагають подолати цей розрив.
Оберіть контрольовану класифікацію, якщо у вас є велика кількість високоякісних маркованих даних і вам потрібна зріла, інтерпретована модель для чітко визначеної області або датчика. Оберіть самостійне навчання, коли маркування обмежене, дороге або географічно обмежене, і вам потрібна гнучка базова модель, яка може адаптуватися до багатьох наступних завдань з мінімальними зусиллями на анотування.
A/B-тестування в моделюванні спрямовує трафік між конкуруючими версіями моделей для вимірювання реальної продуктивності, тоді як розгортання однієї моделі надає одну модель усім користувачам. Команди обирають між ними на основі толерантності до ризику, обсягу трафіку та необхідності статистичної перевірки перед повним розгортанням.
A/B-тестування в релізах контенту передбачає розгортання варіацій для різних сегментів аудиторії та вимірювання ефективності, тоді як одноразові релізи контенту пропонують одну версію всім одночасно. Кожен підхід відповідає різним цілям, причому A/B-тестування надає перевагу оптимізації на основі даних, а одноразові релізи надають пріоритет швидкості та простоті.
DeepSeek V4 — це нова модель великої мови програмування відкритої ваги від китайської лабораторії штучного інтелекту, тоді як моделі класу GPT-4 відносяться до флагманських систем із закритим кодом OpenAI. Це порівняння досліджує їхні архітектури, можливості, ціни, доступність та реальну продуктивність, щоб допомогти розробникам та компаніям робити правильний вибір.
LLM, що використовують інструменти, розширюють автономні мовні моделі, підключаючи їх до зовнішніх API, калькуляторів та баз даних, що дозволяє отримувати інформацію та виконувати завдання в режимі реального часу. Автономні LLM покладаються виключно на навчені параметри, що робить їх самостійними, але обмеженими знаннями з навчальних даних.
LLM з відкритим кодом пропонують налаштовувані, самостійно розміщені моделі штучного інтелекту з повним доступом до коду, тоді як власні API LLM надають керовані, відшліфовані послуги через хмарні кінцеві точки з ціноутворенням на основі використання.
