Modele transformatorowe i architektury oparte na sieciach neuronowych (CNN) reprezentują dwa dominujące podejścia w uczeniu głębokim, z których każde wyróżnia się w innych dziedzinach. Sieci transformatorowe wykorzystują samouważność do wychwytywania relacji globalnych, podczas gdy sieci neuronowe (CNN) wykorzystują filtry splotowe do efektywnego wykrywania lokalnych wzorców przestrzennych.
Architektury głębokiego uczenia się wykorzystują mechanizmy samouwagi do przetwarzania danych sekwencyjnych i kontekstowych w różnych modalnościach.
Sieci neuronowe stosujące filtry splotowe do danych wejściowych w celu wyodrębnienia hierarchicznych cech przestrzennych służących do rozpoznawania wzorców.
| Funkcja | Modele transformatorów | Architektury oparte na CNN |
|---|---|---|
| Mechanizm rdzenia | Samodzielna uwaga na wszystkich stanowiskach | Filtry splotowe w regionach lokalnych |
| Rok wprowadzenia | 2017 | Lata 80. (Neocognitron), 1998 (LeNet-5) |
| Pole recepcyjne | Globalny od pierwszej warstwy | Lokalny, rozszerzający się z głębią |
| Efektywność danych | Potrzebne są duże zbiory danych, aby zabłysnąć | Dobrze radzi sobie z umiarkowanymi danymi |
| Koszt obliczeniowy | Złożoność kwadratowa z długością sekwencji | Liniowy z rozmiarem wejściowym |
| Domeny podstawowe | NLP, wizja, sztuczna inteligencja multimodalna | Wizja komputerowa, obrazowanie medyczne |
| Interpretowalność | Mapy uwagi dają pewien wgląd | Mapy cech wizualizują nauczone filtry |
| Odchylenie indukcyjne | Minimalne wbudowane założenia | Silna lokalność i niezmienność translacji |
| Skalowalność | Skaluje się zadziwiająco dobrze z parametrami | Malejące zyski powyżej pewnej wielkości |
Transformatory odchodzą od założeń sekwencyjnej lub przestrzennej lokalności wbudowanych we wcześniejsze architektury, pozwalając modelowi uczyć się, które relacje mają znaczenie, poprzez uwagę. Sieci neuronowe (CNN) stosują odwrotne podejście, wpisując lokalność na stałe w projekt za pomocą przesuwnych filtrów, które naturalnie wychwytują pobliskie wzorce. Ten filozoficzny podział kształtuje wszystko, co dzieje się dalej, od ilości danych treningowych, których potrzebuje każdy model, po łatwość ich generalizacji do nowych zadań.
W przetwarzaniu języka naturalnego, transformatory zasadniczo zastąpiły wcześniejsze podejścia, ustanawiając najnowocześniejsze wyniki w testach porównawczych, takich jak GLUE i SuperGLUE. Sieci neuronowe (CNN) nadal dominują w wielu procesach przetwarzania obrazu komputerowego, zwłaszcza gdy liczy się szybkość wnioskowania, choć transformatory wizyjne (ViT) zniwelowały lukę w zakresie dokładności. W przypadku zadań obejmujących zarówno obrazy, jak i tekst, coraz powszechniejsze stają się modele hybrydowe i czyste transformatory.
Samouwaga skaluje się kwadratowo wraz z długością sekwencji, co oznacza, że transformator przetwarzający dane wejściowe w postaci tokenów o rozmiarze 4 tys. wykonuje około 16 razy więcej pracy niż ten przetwarzający tokeny o rozmiarze 1 tys. Sieci neuronowe (CNN) skalują się liniowo wraz z wymiarami wejściowymi, co czyni je znacznie bardziej wydajnymi w przypadku obrazów o wysokiej rozdzielczości lub wideo w czasie rzeczywistym. Z drugiej strony, transformatory doskonale paralelizują się na procesorach graficznych, podczas gdy bardzo głębokie sieci CNN mogą napotykać wąskie gardła pamięci podczas propagacji wstecznej.
Transformatory są znane z tego, że wymagają ogromnych ilości danych i często wymagają milionów przykładów, zanim ich elastyczność się opłaci, choć modele wstępnie wytrenowane, takie jak BERT, zmieniły to równanie dzięki uczeniu transferowemu. Sieci neuronowe (CNN) mogą osiągać dobre wyniki przy mniejszych zbiorach danych dzięki wbudowanym obciążeniom indukcyjnym, dlatego wciąż cieszą się popularnością w dziedzinach takich jak obrazowanie medyczne, gdzie dane z etykietami są rzadkością. Obie technologie w ogromnym stopniu korzystają z wstępnego trenowania, ale droga do działającego modelu jest zazwyczaj krótsza w przypadku sieci CNN w systemach z małą ilością danych.
przypadku urządzeń brzegowych i aplikacji mobilnych sieci neuronowe (CNN) nadal wygrywają pod względem wydajności, a architektury takie jak MobileNet i EfficientNet są zoptymalizowane pod kątem wnioskowania o niskim poborze mocy. Transformatory nadrabiają zaległości dzięki takim technikom jak destylacja wiedzy, kwantyzacja i warianty efektywnej uwagi, takie jak Linformer i Performer. W systemach chmurowych, gdzie dokładność jest priorytetem, transformatory często uzasadniają wyższy koszt obliczeniowy.
Transformery całkowicie zastąpiły sieci CNN w dziedzinie przetwarzania obrazu komputerowego.
Sieci neuronowe (CNN) są nadal szeroko stosowane w produkcyjnych systemach wizyjnych, szczególnie w aplikacjach czasu rzeczywistego i mobilnych. Transformatory dorównują lub przewyższają dokładność sieci CNN w testach porównawczych, ale kompromisy w zakresie wydajności sprawiają, że modele splotowe są istotne w wielu scenariuszach wdrożeniowych.
Sieci CNN nie są w stanie uchwycić zależności dalekiego zasięgu.
Chociaż poszczególne warstwy splotowe mają lokalne pola recepcyjne, ułożenie wielu warstw i zastosowanie splotów rozszerzonych znacząco rozszerza efektywne pole recepcyjne. Współczesne sieci neuronowe (CNN) mogą modelować relacje w dużych obszarach obrazu, choć transformatory czynią to bardziej bezpośrednim.
Transformatory nie mają polaryzacji indukcyjnej.
Transformatory mają słabsze obciążenia indukcyjne niż sieci CNN, ale nie są wolne od obciążeń. Kodowanie pozycyjne, schematy tokenizacji i rozwiązania architektoniczne, takie jak maskowanie przyczynowe, wprowadzają do modelu założenia dotyczące struktury danych.
Większe modele transformatorów są zawsze lepsze.
Prawa skalowania pokazują, że wydajność rośnie wraz z rozmiarem, ale zwroty maleją, a mniejsze modele często przewyższają większe w określonych zadaniach po dostrojeniu. Koszty obliczeniowe, opóźnienia i ograniczenia wdrożeniowe często sprawiają, że mniejsze modele są praktycznym wyborem.
Sieci CNN to przestarzała technologia.
Sieci neuronowe CNN stale ewoluują dzięki innowacjom, takim jak sploty separowalne w głąb, wyszukiwanie architektury neuronowej oraz nowoczesne rozwiązania, takie jak ConvNeXt, które dorównują wydajnością transformatorom. Nadal stanowią fundament wielu najnowocześniejszych systemów.
Wybierz architekturę opartą na sieciach CNN, gdy potrzebujesz wydajnego wnioskowania, pracujesz z ograniczonymi danymi treningowymi lub wdrażasz w środowiskach o ograniczonych zasobach, takich jak urządzenia mobilne. Sięgnij po modele transformatorowe, gdy obsługujesz dane sekwencyjne, zadania multimodalne lub scenariusze, w których rejestrowanie zależności dalekiego zasięgu i skalowanie z wykorzystaniem obliczeń zapewnią znaczący wzrost dokładności.
W tym porównaniu analizuje się strategiczne wybory w uczeniu maszynowym między adaptacją domeny, która przenosi wiedzę z oznaczonego środowiska źródłowego do innego środowiska docelowego, a uczeniem w domenie, które buduje modele wyłącznie w oparciu o dane zebrane w konkretnym środowisku wdrożenia docelowego.
Adaptacja językowa w sztucznej inteligencji koncentruje się na uczeniu modeli obsługi konkretnych języków poprzez precyzyjne dostrajanie i transfer wiedzy, podczas gdy systemy sztucznej inteligencji niezależne od języka dążą do przetwarzania dowolnego języka bez szkolenia językowego. Oba podejścia radzą sobie z wyzwaniami wielojęzyczności, ale różnią się zasadniczo pod względem architektury, danych szkoleniowych i wdrożenia w warunkach rzeczywistych.
Adaptacyjne pobieranie dynamicznie dostosowuje sposób i rodzaj informacji pobieranych przez system na podstawie zapytania, podczas gdy statyczne potoki pobierania podążają za stałymi regułami niezależnie od kontekstu. Oba te rozwiązania napędzają nowoczesne aplikacje AI, ale różnią się znacząco elastycznością, kosztami i dokładnością. Wybór między nimi zależy od złożoności obciążenia i budżetu.
Agenci AI to autonomiczne, zorientowane na cel systemy, które potrafią planować, wnioskować i wykonywać zadania w różnych narzędziach, podczas gdy tradycyjne aplikacje internetowe podążają za sztywnymi, sterowanymi przez użytkownika przepływami pracy. Porównanie podkreśla przejście od statycznych interfejsów do adaptacyjnych, kontekstowych systemów, które mogą proaktywnie wspierać użytkowników, automatyzować decyzje i dynamicznie wchodzić w interakcje z wieloma usługami.
Agenci AI zorientowani na zadania są stworzeni do autonomicznego wykonywania określonych przepływów pracy, podczas gdy uniwersalne modele językowe służą jako wszechstronne generatory tekstu, reagujące na szeroki zakres podpowiedzi. Wybór między nimi zależy od tego, czy potrzebujesz niezawodnego wykonywania zadań, czy elastycznej inteligencji konwersacyjnej.
