تمثل نماذج الرؤية القائمة على المحولات والشبكات العصبية الالتفافية نهجين مختلفين جذريًا لتعليم الآلات الرؤية. تعتمد المحولات على آلية الانتباه الذاتي لالتقاط العلاقات العامة في الصورة، بينما تستخدم الشبكات العصبية الالتفافية مرشحات هرمية لاكتشاف الأنماط المحلية. ولكل بنية نقاط قوة مميزة في مهام رؤية الحاسوب.
نماذج التعلم العميق التي تطبق آليات الانتباه الذاتي لمعالجة الصور كسلاسل من الرقع، والتقاط التبعيات بعيدة المدى عبر المجال البصري بأكمله.
بنى التعلم العميق التي تعالج الصور من خلال طبقات من المرشحات الالتفافية، وتستخرج الميزات تدريجياً من الحواف البسيطة إلى الكائنات المعقدة.
| الميزة | نماذج الرؤية القائمة على المحولات | الشبكات العصبية الالتفافية |
|---|---|---|
| الآلية الأساسية | التركيز الذاتي على أجزاء الصورة | مرشحات التفافية عبر الأبعاد المكانية |
| المجال الاستقبالي | عالمي من الطبقة الأولى | محلي وهرمي، يتوسع مع العمق |
| التحيز الاستقرائي | الحد الأدنى من الافتراضات المضمنة حول الصور | التماثل القوي بين الموضع والترجمة |
| متطلبات البيانات | يحتاج عادةً إلى مجموعات بيانات تدريب مسبق واسعة النطاق | يؤدي أداءً جيداً حتى مع مجموعات البيانات الأصغر حجماً |
| التكلفة الحسابية | التوسيع التربيعي مع دقة الصورة | التوسيع الخطي مع دقة الصورة |
| قابلية التفسير | تكشف خرائط الانتباه عن العلاقات العالمية | تُظهر خرائط الميزات اكتشاف الأنماط الهرمية |
| أفضل حالات الاستخدام | التدريب المسبق واسع النطاق، والمهام متعددة الوسائط، والكشف | النشر عبر الأجهزة المحمولة، والتصوير الطبي، والاستدلال في الوقت الحقيقي |
| البنى الرئيسية | ViT، محول Swin، DeiT، BEiT | ResNet، EfficientNet، ConvNeXt، MobileNet |
| استقرار التدريب | قد يكون حساسًا بدون تهيئة دقيقة | مستقرة بشكل عام مع وصفات التدريب القياسية |
| عام الإنجازات | 2020 (ورقة بحثية حول التحول البصري) | 2012 (AlexNet) و 2015 (ResNet) |
يكمن الاختلاف الجوهري في كيفية "رؤية" كل بنية للصورة. تقوم بنى Transformer بتقسيم الصورة إلى شبكة من الرقع، ثم تستخدم آلية الانتباه الذاتي لتمكين كل رقعة من التواصل مع جميع الرقع الأخرى في آنٍ واحد. أما بنى CNN، فتتبع نهجًا معاكسًا، حيث تُمرر مرشحات صغيرة عبر الصورة لاكتشاف الحواف والنسيج والأشكال بطريقة تصاعدية. هذا يعني أن بنى Transformer تستوعب الصورة كاملةً دفعةً واحدة، بينما تبني بنى CNN الفهم طبقةً تلو الأخرى.
تتمتع الشبكات العصبية التلافيفية (CNNs) بميزة واضحة عند محدودية بيانات التدريب. فافتراضاتها الضمنية حول كيفية عمل الصور، مثل فكرة أن البكسلات القريبة أكثر ترابطًا من البكسلات البعيدة، تُسهّل عملية التعلم. أما نماذج المحولات (Transformers)، التي تفتقر إلى هذه الافتراضات الضمنية، فتحتاج عادةً إلى ملايين أو حتى مئات الملايين من الصور المصنفة قبل أن تتفوق على الشبكات العصبية التلافيفية المُدرّبة جيدًا. مع ذلك، بمجرد تدريبها مسبقًا على مجموعات بيانات ضخمة، غالبًا ما تُحسّن نماذج المحولات أداءها في المهام اللاحقة.
يتناسب الانتباه الذاتي طرديًا مع مربع عدد الرقع، مما يعني أن مضاعفة دقة الصورة تزيد من متطلبات الحوسبة أربعة أضعاف. أما الشبكات العصبية الالتفافية (CNNs) فتتميز بقابلية توسع أكبر بكثير لأن عمليات الالتفاف لها تكلفة ثابتة بغض النظر عن حجم الصورة. وهذا ما يجعل الشبكات العصبية الالتفافية الخيار الأمثل للبيئات ذات الموارد المحدودة مثل تطبيقات الجوال والأجهزة الطرفية، بينما تتألق الشبكات المحولة في البيئات التي تتوفر فيها مجموعات وحدات معالجة الرسومات (GPU) بسهولة.
في معايير مثل ImageNet، يحقق كلا البنيتين الآن دقة فائقة. وقد أظهرت النماذج الهجينة التي تجمع بين جذوع الشبكات الالتفافية ووحدات المحولات، مثل CoAtNet، أن دمج المنهجين غالبًا ما يُحقق أفضل النتائج. أما بالنسبة لمهام التنبؤ الكثيفة مثل اكتشاف الكائنات وتقسيمها، فقد قلصت المحولات الهرمية مثل Swin الفجوة مع الشبكات الالتفافية إلى حد كبير، مع توفيرها في الوقت نفسه إمكانيات جديدة للتعامل مع المدخلات عالية الدقة.
توفر كلتا البنيتين أدوات تصوير، لكنهما تكشفان عن جوانب مختلفة. تُظهر خرائط الانتباه في المحولات مناطق الصورة التي يعتبرها النموذج مهمة بالنسبة لبعضها البعض، مما يوفر رؤية أشمل. من ناحية أخرى، تُسهّل خرائط ميزات الشبكات العصبية التلافيفية (CNN) رؤية كيفية اكتشاف الشبكة للحواف والأشكال، وصولًا إلى الكائنات الكاملة. غالبًا ما يجد الممارسون أن تصحيح أخطاء الشبكات العصبية التلافيفية أسهل لأن طبيعتها الهرمية تُحاكي الطريقة التي قد نصف بها التعرف البصري بشكل بديهي.
تتمتع الشبكات العصبية التلافيفية (CNNs) بميزة تنافسية كبيرة في مجال النشر الإنتاجي، بفضل أطر العمل المُحسّنة ودعم الأجهزة الذي يعود لأكثر من عقد من الزمان. وتلحق بها الشبكات التحويلية (Transformers) بسرعة، لا سيما في التطبيقات البحثية المكثفة والأنظمة متعددة الوسائط التي تجمع بين الرؤية واللغة. وتستخدم العديد من الشركات الآن مناهج هجينة، تستفيد من الشبكات العصبية التلافيفية لاستخراج الميزات والشبكات التحويلية للاستدلال عالي المستوى.
حلت المحولات محل الشبكات العصبية التلافيفية بشكل كامل في مجال رؤية الكمبيوتر.
هذا غير دقيق. فبينما حظيت تقنية المحولات باهتمام كبير، لا تزال الشبكات العصبية التلافيفية (CNNs) مستخدمة على نطاق واسع في أنظمة الإنتاج، وخاصةً في تطبيقات الأجهزة المحمولة والحوسبة الطرفية. في الواقع، تجمع العديد من النماذج الحديثة بين طبقات الالتفاف ووحدات المحولات لتحقيق أفضل النتائج.
تُعتبر الشبكات العصبية التلافيفية تقنية عفا عليها الزمن.
بل على العكس تماماً. فقد صُممت نماذج الشبكات العصبية التلافيفية الحديثة، مثل ConvNeXt، خصيصاً لتُضاهي أداء الشبكات المحولة مع الحفاظ على كفاءة التلافيف. ولا تزال الشبكات العصبية التلافيفية تُهيمن على السيناريوهات التي تكون فيها موارد الحوسبة أو الذاكرة أو بيانات التدريب محدودة.
تتفوق المحولات دائمًا على الشبكات العصبية التلافيفية في جميع مهام الرؤية الحاسوبية.
تتفوق نماذج المحولات عادةً في الاختبارات المعيارية واسعة النطاق التي تعتمد على بيانات تدريب وفيرة، لكن الشبكات العصبية التلافيفية غالبًا ما تضاهيها أو تتفوق عليها في مجموعات البيانات الأصغر حجمًا وفي مهام مثل التصوير الطبي حيث تكون البيانات شحيحة. ويعتمد اختيار أفضل بنية بشكل كبير على طبيعة المشكلة والقيود المفروضة عليها.
إن خاصية الانتباه الذاتي تجعل المحولات أفضل بطبيعتها في فهم الصور.
تمنح آلية الانتباه الذاتي نماذج المحولات رؤية شاملة، لكنها لا تُترجم تلقائيًا إلى فهم أفضل. تقوم الشبكات العصبية الالتفافية بتشفير معلومات مسبقة مفيدة حول الصور الطبيعية، والتي يجب على نماذج المحولات تعلمها من البيانات، ولهذا السبب تحتاج هذه النماذج إلى كمية أكبر بكثير من بيانات التدريب للوصول إلى أداء مماثل.
لا يمكن استخدام محولات الرؤية في التطبيقات التي تعمل في الوقت الفعلي.
على الرغم من أن نماذج ViT القياسية مكلفة حسابيًا، فقد صُممت نسخ فعالة منها، مثل Swin Transformer وEfficientFormer وMobileViT، خصيصًا للاستخدام في الوقت الفعلي وعلى الأجهزة المحمولة. وتتميز هذه العائلة المعمارية بتنوع أكبر مما يتصوره الكثيرون.
اختر نماذج الرؤية القائمة على المحولات عندما يتوفر لديك مجموعات بيانات ضخمة، وموارد حاسوبية كبيرة، ومهام تستفيد من السياق الشامل، مثل الذكاء الاصطناعي متعدد الوسائط أو الكشف عالي الدقة. استخدم الشبكات العصبية الالتفافية عندما تكون البيانات محدودة، أو عندما يكون زمن الاستجابة مهمًا، أو عندما تحتاج إلى النشر على أجهزة طرفية. عمليًا، تجمع العديد من الأنظمة الناجحة بين كلا البنيتين للاستفادة من مزايا كل منهما.
يُحسّن كلٌّ من RAG ونماذج LLM المُحسّنة جودة مخرجات الذكاء الاصطناعي، لكنهما يعملان بطرق مختلفة تمامًا. يستخلص RAG المعلومات الخارجية عند الاستعلام، بينما يُدمج التحسين المعرفة الجديدة مباشرةً في أوزان النموذج. ويعتمد الاختيار بينهما على مدى تكرار تغيّر البيانات ومستوى الدقة المطلوب.
تُعد آليات الانتباه الذاتي ونماذج فضاء الحالة من المناهج الأساسية لنمذجة التسلسلات في الذكاء الاصطناعي الحديث. يتفوق الانتباه الذاتي في التقاط العلاقات الغنية بين الرموز، ولكنه يصبح مكلفًا مع التسلسلات الطويلة، بينما تعالج نماذج فضاء الحالة التسلسلات بكفاءة أكبر مع التوسع الخطي، مما يجعلها جذابة للتطبيقات ذات السياق الطويل والتطبيقات الآنية.
تُعدّ آليات الانتباه أساسية في الذكاء الاصطناعي الحديث، سواءً في مجال رؤية الحاسوب أو معالجة اللغة الطبيعية، إلا أنها تخدم أغراضًا مختلفة وتطورت عبر مسارات متباينة. يساعد الانتباه في مجال الرؤية النماذج على التركيز على مناطق الصورة ذات الصلة، بينما يُمكّن الانتباه في معالجة اللغة الطبيعية من فهم العلاقات بين الكلمات في النصوص.
تجمع أساليب الممثل-الناقد بين تدرجات السياسة ودالة القيمة المُتعلمة لتقليل التباين وتسريع عملية التعلم، بينما تعتمد أساليب تدرج السياسة البحتة كليًا على السياسة وعوائد مونت كارلو. ويعتمد الاختيار بينهما على ما إذا كنت بحاجة إلى الاستقرار وكفاءة العينة أم إلى البساطة والتقديرات غير المتحيزة.
تُفصّل هذه المقارنة الاختلافات الهيكلية الأساسية، وحالات الاستخدام العملية، والمفاضلات في الأداء بين تعلّم الرسم البياني الزمني ونمذجة التسلسل التقليدية. فبينما تُجسّد نمذجة التسلسل التطورات الخطية كالنصوص أو بيانات السلاسل الزمنية، يُعالج تعلّم الرسم البياني الزمني تفاعلات الشبكة والعلاقات المتغيرة مع الزمن في آنٍ واحد، مما يُوفر لك مخططًا شاملاً لاختيار البنية المناسبة.
