У світі машинного навчання набори даних рідко бувають нейтральними. Зменшення упередженості передбачає проактивну інженерію для виявлення та нейтралізації несправедливих перекосів, тоді як посилення упередженості є небезпечним явищем, коли моделі фактично перебільшують існуючу нерівність, часто роблячи прогнози, які є значно більш дискримінаційними, ніж недосконалі дані, на яких вони були навчені.
Стратегічні технічні втручання, розроблені для виявлення, пом'якшення та збалансування системної несправедливості в навчальних даних та результатах моделювання.
Ненавмисний процес, під час якого алгоритми машинного навчання посилюють та надмірно індексують існуючі стереотипні моделі, знайдені в даних.
| Функція | Зменшення зміщення набору даних | Посилення зміщення набору даних |
|---|---|---|
| Основна мета | Досягати справедливих та справедливих результатів | Максимізація прогностичної впевненості (невмисно) |
| Вплив на тенденції даних | Активно вирівнює несправедливі кореляції | Перебільшує та жорстко кодує існуючі перекоси |
| Методологія | Доповнення даних, повторне зважування та аудит | Алгоритмічні скорочення та індуктивне зміщення |
| Ресурсоємність | Високий; вимагає експертного нагляду та курування | Низький; відбувається автоматично, якщо не вимкнути |
| Вплив регулювання | Допомагає дотримуватися Закону ЄС про штучний інтелект та GDPR | Збільшує ризик юридичних та етичних санкцій |
| Довгостроковий результат | Надійний, узагальнюваний та надійний штучний інтелект | Спотворені, дискримінаційні та крихкі моделі |
Зменшення упередженості – це важка боротьба, оскільки часто потрібно пожертвувати крихітною часткою точності, щоб забезпечити справедливе ставлення моделі до всіх груп. З іншого боку, посилення відбувається природним чином, оскільки алгоритми розроблені для пошуку найефективнішого шляху до правильної відповіді, і, на жаль, стереотипи часто пропонують статистично «легкий» шлях, який модель надмірно використовує.
Редукціон намагається виправити історичні помилки, такі як моделі кредитного скорингу, які карають певні райони, шляхом ручного налаштування ваг даних. Ампліфікація бере ці ж історичні помилки та перетворює їх на цифрові закони; якщо модель бачить, що певній групі історично відмовляли в кредитах, вона може вирішити, що цій групі *завжди* слід відмовляти, що зробить майбутнє ще більш обмежувальним, ніж минуле.
Інженери борються зі зменшенням упередженості на трьох етапах: попередня обробка (очищення даних), під час обробки (зміна математичних обчислень під час навчання) та постобробка (коригування кінцевих результатів). Посилення зазвичай прокрадається під час фази «під час обробки», де бажання моделі мінімізувати помилку змушує її ігнорувати «шум» меншості прикладів на користь «сигналу» від більшості.
Найстрашніша частина посилення упередженості полягає в її здатності зростати з часом. Якщо упереджений інструмент найму відфільтровує різноманітних кандидатів, дані про «успішних» працівників стають ще менш різноманітними, що потім навчає наступну версію інструменту бути ще більш обмежувальною. Правильні стратегії скорочення розривають це коло, вводячи «контрфактичні» приклади, які ставлять під сумнів припущення моделі.
Якщо я використовую величезний набір даних, упередженість просто зникне.
Насправді, більші набори даних часто містять більш тонкі, системні упередження, які моделі навіть краще підкреслюють. Об'єм не замінює різноманітності чи справедливості.
Алгоритми нейтральні, бо це просто математика.
Математика нейтральна, але цілі, які ми ставимо перед алгоритмами, такі як «максимізація точності», взаємодіють з упередженими даними, що призводить до упереджених результатів. «Нейтральний» шлях часто є найбільш дискримінаційним.
Зменшення упередженості – це просто «політична коректність» для ШІ.
Насправді це технічна необхідність; моделі, які не зменшують упередженість, часто зазнають невдачі в реальному світі, оскільки вони не можуть обробляти різноманітні вхідні дані, що призводить до гучних збоїв та втрати доходу.
Видалення «чутливих» колонок, таких як раса чи стать, запобігає упередженості.
Це «справедливість крізь сліпоту», і вона рідко спрацьовує. Моделі можуть легко визначити ці риси за допомогою проксі-даних, таких як поштові індекси, купівельні звички або навіть структура речень.
Зменшення упередженості є необхідною етичною та технічною вимогою для будь-якої моделі, яка взаємодіє з людьми або приймає рішення, що змінюють життя. Хоча посилення є поведінкою за замовчуванням більшості неоптимізованих алгоритмів, активне зменшення — єдиний спосіб створити ШІ, який є одночасно законним та надійним у сучасному середовищі.
Вибір між автоматизованим відстеженням моделі та ручним відстеженням експериментів фундаментально впливає на швидкість та відтворюваність команди з обробки даних. У той час як автоматизація використовує спеціалізоване програмне забезпечення для безперешкодного фіксування кожного гіперпараметра, метрики та артефакту, ручне відстеження покладається на ретельність людини за допомогою електронних таблиць або файлів розмітки, створюючи різкий компроміс між швидкістю налаштування та довгостроковою масштабованою точністю.
Агрегація даних у реальному часі та статичні джерела інформації представляють два принципово різні підходи до обробки даних. Агрегація в реальному часі безперервно збирає та обробляє дані в реальному часі з кількох потоків, тоді як статичні джерела покладаються на фіксовані, попередньо зібрані набори даних, які змінюються рідко, надаючи пріоритет стабільності та узгодженості над миттєвістю.
Аналіз ринкових тенденцій розглядає загальні рухи в галузі, поведінку клієнтів та економічні зрушення, тоді як аналіз на рівні компанії зосереджується на ефективності та стратегії конкретного бізнесу. Обидва підходи широко використовуються в інвестуванні, бізнес-плануванні та конкурентних дослідженнях, але вони відповідають на дуже різні питання.
Аналіз стартапів на основі даних спирається на вимірювані показники, такі як зростання, дохід та утримання клієнтів, для оцінки стартапів, тоді як наративний аналіз зосереджується на розповіді історій, баченні та якісних сигналах. Обидва підходи широко використовуються інвесторами та засновниками для оцінки потенціалу, але вони відрізняються тим, як інтерпретуються докази та як обґрунтовуються рішення.
Це порівняння детально описує операційні відмінності між логістичною аналітикою в режимі реального часу, яка обробляє дані датчиків у реальному часі для оптимізації транспортних засобів на середині маршруту, та рефлексією після поїздки, яка оцінює історичні показники поїздок пізніше, щоб виявити системну неефективність автопарку та можливості довгострокової економії коштів.
