تُعالج شبكات الخدمات المصممة لأحمال عمل التعلم الآلي حركة مرور الاستدلال الديناميكية عالية الحجم بإدارة دقيقة لحركة المرور، بينما تركز بوابات واجهة برمجة التطبيقات التقليدية على توجيه الطلبات والمصادقة وتحديد معدل الطلبات للخدمات المصغرة القياسية. ويعتمد الاختيار بينهما على ما إذا كان اهتمامك الرئيسي هو مراقبة التعلم الآلي وإصدارات النماذج، أو تنسيق واجهة برمجة التطبيقات للأغراض العامة.
طبقة بنية تحتية مصممة لإدارة الاتصال بين خدمات التعلم الآلي، ومعالجة حركة مرور الاستدلال، وإصدارات النماذج، والتوجيه المدرك لوحدة معالجة الرسومات.
نقطة دخول مركزية تقوم بتوجيه طلبات واجهة برمجة التطبيقات، وفرض المصادقة، وتطبيق حدود المعدل، وتحويل البيانات المرسلة لخدمات الواجهة الخلفية.
| الميزة | شبكة الخدمات للتعلم الآلي | بوابات واجهة برمجة التطبيقات التقليدية |
|---|---|---|
| حالة الاستخدام الأساسية | إدارة حركة مرور استدلال التعلم الآلي وإصدارات النماذج | توجيه طلبات واجهة برمجة التطبيقات العامة وتنسيقها |
| نمط حركة المرور | مكالمات الاستدلال عالية الحجم بين الشرق والغرب (من خدمة إلى خدمة) | طلب واستجابة من الشمال إلى الجنوب (من العميل إلى الخدمة) |
| نموذج النشر | وكيل Sidecar بجانب كل خدمة (مثل Envoy، Linkerd-proxy) | بوابة مركزية يتم نشرها على حافة الشبكة |
| دعم إصدارات النماذج | تقسيم حركة المرور الأصلية لتطبيقات نموذج الكناري والنموذج الأزرق والأخضر | محدود؛ يتطلب عادةً قواعد توجيه مخصصة |
| مراقبة | مقاييس لكل طلب، وتتبع موزع، وقياس عن بعد خاص بالتعلم الآلي | مقاييس إجمالية، وتسجيل أساسي، وعدد الطلبات |
| ميزات الأمان | بروتوكول mTLS التلقائي بين الخدمات، وسياسات ترخيص دقيقة | التحقق من صحة مفتاح API، وOAuth 2.0، وJWT، وقائمة عناوين IP المسموح بها |
| توجيه مُدرك لوحدة معالجة الرسومات | يمكن توجيه البيانات بناءً على توافر وحدة معالجة الرسومات واستخدام الموارد | غير مدعوم أصلاً |
| تكلفة زمن الاستجابة | عادةً ما يستغرق الأمر من 1 إلى 3 مللي ثانية لكل قفزة بسبب معالجة البيانات الجانبية | عادةً ما تكون أقل بالنسبة لمكالمات البوابة ذات القفزة الواحدة |
| الأنسب لـ | منصات التعلم الآلي القائمة على Kubernetes مع الخدمات المصغرة | واجهات برمجة التطبيقات العامة، والخوادم الخلفية للهواتف المحمولة، والتعرض للخدمات المتجانسة |
تتفوق شبكات الخدمات في إدارة أنماط حركة البيانات المعقدة التي تولدها أنظمة التعلم الآلي، لا سيما عندما تحتاج الفرق إلى طرح إصدارات جديدة من النماذج تدريجيًا. فهي تتيح لك تقسيم حركة البيانات بين إصدارات النماذج على مستوى البنية التحتية، بحيث يمكنك تشغيل نموذج جديد على 5% من الطلبات بينما يتعامل النموذج القديم مع الباقي. يمكن لبوابات واجهة برمجة التطبيقات التقليدية تحقيق تقسيمات مماثلة من خلال قواعد توجيه مخصصة، ولكنها لم تُصمم مع مراعاة إصدارات النماذج، مما يجعل التكوين أكثر هشاشة وأصعب في الصيانة على نطاق واسع.
عندما يحدث خلل في مسار استدلال التعلم الآلي، يجب تحديد ما إذا كانت المشكلة في النموذج، أو البيانات، أو الشبكة. توفر شبكات الخدمات تتبعًا موزعًا يتبع الطلب عبر خدمات متعددة، ويلتقط زمن الاستجابة في كل قفزة ويربطه بإصدارات محددة من النموذج. توفر بوابات واجهة برمجة التطبيقات تسجيلًا ومقاييس جيدة، لكنها عادةً ما تتوقف عند حدود البوابة، مما يترك لك مهمة تجميع ما حدث داخل شبكة الخدمات أو بيئة الخدمات المصغرة.
يُولي كلا النهجين أهمية بالغة للأمن، لكنهما يحلان مشكلات مختلفة. تُطبّق شبكات الخدمات مبدأ انعدام الثقة في الشبكات من خلال التشفير التلقائي لجميع الاتصالات بين الخدمات باستخدام بروتوكول mTLS، وهو أمر بالغ الأهمية عند تدفق بيانات الاستدلال الحساسة بين عشرات الخدمات المصغّرة. بينما تُركّز بوابات واجهة برمجة التطبيقات (API) على أمن المحيط، حيث تتحقق من شرعية الطلبات الواردة قبل وصولها إلى النظام الخلفي. بالنسبة لأنظمة التعلّم الآلي التي تتعامل مع بيانات مُنظّمة، مثل المعلومات الصحية أو المالية، غالبًا ما يكون الجمع بين كلا النهجين هو الخيار الأمثل.
تختلف أحمال عمل التعلم الآلي عن خدمات الويب التقليدية لأنها غالبًا ما تعتمد بشكل كبير على وحدة معالجة الرسومات (GPU) والذاكرة. يمكن تهيئة بعض تطبيقات شبكة الخدمات لتوجيه الطلبات بناءً على توافر وحدة معالجة الرسومات، وإرسال حركة البيانات إلى العُقد ذات سعة التسريع المتاحة. لا تمتلك بوابات واجهة برمجة التطبيقات التقليدية أي مفهوم لموارد الأجهزة الأساسية، إذ تتعامل مع كل نظام خلفي كصندوق أسود. هذا يجعلها أقل كفاءة عند الحاجة إلى تحقيق أقصى استفادة من وحدة معالجة الرسومات باهظة الثمن عبر مجموعة من خوادم الاستدلال.
تُضيف شبكات الخدمات عبئًا تشغيليًا إضافيًا، إذ تحصل كل خدمة على وكيل جانبي (sidecar proxy) يتطلب النشر والمراقبة والتحديث. بالنسبة لفريق مُلمّ بـ Kubernetes، يُمكن إدارة هذا الأمر، ولكنه يتطلب بعض الوقت للتعلم. تُعدّ بوابات واجهة برمجة التطبيقات (API) أسهل في التشغيل عمومًا لأنها مُكوّن واحد، مع أن بوابات المؤسسات مثل Apigee تأتي بتعقيداتها الخاصة فيما يتعلق ببوابات المطورين وإدارة منتجات واجهة برمجة التطبيقات.
يُضيف نمط Sidecar في شبكات الخدمات زمن استجابة في كل قفزة، عادةً بضعة أجزاء من الثانية، وهو ما قد يتفاقم في سلاسل الخدمات المصغّرة المعقدة. بالنسبة لتطبيقات التعلّم الآلي الحساسة لزمن الاستجابة، مثل أنظمة التوصيات الفورية، يُعدّ هذا العبء الإضافي بالغ الأهمية. تُضيف بوابات واجهة برمجة التطبيقات زمن استجابة مرة واحدة فقط عند الحافة، مما يجعلها أكثر قابلية للتنبؤ في أنماط الطلب والاستجابة البسيطة. مع ذلك، يُمكن تعويض التكلفة التشغيلية لتشغيل شبكة خدمات على نطاق واسع من خلال تقليل وقت تصحيح الأخطاء وتحسين أمان نشر نماذج التعلّم الآلي.
تقوم شبكات الخدمات وبوابات واجهة برمجة التطبيقات بنفس الشيء، ولا تحتاج إلا إلى واحدة.
تخدم هذه البوابات أغراضًا مختلفة. تتولى بوابات واجهة برمجة التطبيقات إدارة حركة البيانات بين الشبكات الطرفية، بينما تتولى شبكات الخدمات إدارة حركة البيانات بين الخدمات. وتشغل العديد من المؤسسات كلا النوعين في آنٍ واحد، حيث تتولى كل منهما ما تجيده.
يمكن لبوابات واجهة برمجة التطبيقات (API) التعامل مع إصدارات نماذج التعلم الآلي بنفس كفاءة شبكة الخدمات.
تستطيع بوابات واجهة برمجة التطبيقات (API) توجيه الطلبات بناءً على العناوين أو المسارات، لكنها تفتقر إلى التكامل العميق مع أنظمة النشر الذي توفره شبكات الخدمات. يُعدّ التراجع عن إصدار نموذج به مشكلة أسرع وأكثر أمانًا مع شبكة الخدمات، لأن تقسيم حركة البيانات يُمكن تعديله ديناميكيًا دون الحاجة إلى إعادة نشر إعدادات البوابة.
تُضيف شبكات الخدمات زمن استجابة كبيرًا جدًا لأنظمة التعلم الآلي الإنتاجية.
لا تُضيف خوادم البروكسي الجانبية الحديثة، مثل Envoy وLinkerd-proxy، سوى 1-3 مللي ثانية لكل قفزة في معظم الاختبارات المعيارية. بالنسبة لمعظم أحمال عمل استدلال التعلم الآلي، يُعد هذا العبء الإضافي ضئيلاً مقارنةً بوقت استدلال النموذج الفعلي، والذي غالبًا ما يتراوح بين 10 و100 مللي ثانية أو أكثر.
لست بحاجة إلى شبكة خدمات إذا كان لديك بالفعل بوابة واجهة برمجة تطبيقات (API).
تحمي بوابة واجهة برمجة التطبيقات (API) محيط شبكتك، لكنها لا تؤمّن أو تراقب حركة البيانات بين الخدمات الداخلية. في بنية الخدمات المصغّرة التي تضمّ عشرات الخدمات، توفّر شبكة الخدمات مستوى الأمان والمراقبة اللازمين، وهما عنصران لا يمكن لبوابة واجهة برمجة التطبيقات (API) توفيرهما.
لا تُعدّ شبكات الخدمات مفيدة إلا لبيئات Kubernetes.
على الرغم من أن شبكات الخدمات ترتبط عادةً بـ Kubernetes، إلا أن تطبيقات مثل Consul Connect وLinkerd يمكن تشغيلها على الأجهزة الافتراضية والخوادم المادية. يعمل نمط Sidecar في أي مكان يمكنك فيه نشر وكيل بجانب التطبيق.
إذا كانت بنيتك التحتية تتمحور حول منصات التعلم الآلي القائمة على Kubernetes والتي تتضمن تحديثات متكررة للنماذج وتواصلًا معقدًا بين الخدمات، فإن شبكة الخدمات المصممة خصيصًا لأحمال عمل التعلم الآلي ستمنحك تحكمًا ومراقبة أفضل. أما بالنسبة للمؤسسات التي تعرض عددًا محدودًا من نقاط نهاية التعلم الآلي لعملاء خارجيين أو تطبيقات جوال، فإن بوابة واجهة برمجة التطبيقات التقليدية أسهل في الإدارة وكافية للغرض. في كثير من أنظمة الإنتاج، يُستخدم كلا النظامين، حيث تتولى بوابة واجهة برمجة التطبيقات إدارة حركة البيانات الخارجية، بينما تتولى شبكة الخدمات إدارة اتصالات خدمات التعلم الآلي الداخلية.
هذا المقارنة تتناول خدمات أمازون ويب وسيرفيس وجوجل كلاود من خلال تحليل عروض الخدمات لديهما، ونماذج التسعير، والبنية التحتية العالمية، والأداء، وتجربة المطورين، وحالات الاستخدام المثالية، لمساعدة المؤسسات في اختيار منصة الحوسبة السحابية التي تناسب متطلباتها التقنية والتجارية على أفضل وجه.
تُشغّل أنظمة الاستدلال القابلة للتوسع نماذج الذكاء الاصطناعي على بنية تحتية سحابية موزعة تنمو مع الطلب، بينما تعالج أنظمة الاستدلال المحلية البيانات على أجهزة قريبة أو على الجهاز نفسه لتقليل زمن الاستجابة وزيادة التحكم. ويعتمد الاختيار بينهما على حجم عبء العمل، واحتياجات الخصوصية، ومتطلبات الأداء في الوقت الفعلي.
تعالج أنظمة التعلم الآلي في الوقت الفعلي البيانات وتقدم التنبؤات في غضون أجزاء من الثانية إلى ثوانٍ، مما يجعلها مثالية لكشف الاحتيال وأنظمة التوصية. أما أنظمة التعلم الآلي الدفعية فتتعامل مع مجموعات البيانات الضخمة بشكل دوري، وتتفوق في تدريب النماذج المعقدة وإنشاء التقارير الدورية حيث لا تكون الاستجابات الفورية ضرورية.
تُعطي أنظمة التعلم الآلي الإنتاجية الأولوية للموثوقية وقابلية التوسع والتوافر المستمر للمستخدمين في العالم الحقيقي، بينما تركز أنظمة التعلم الآلي البحثية على التجريب والهياكل المبتكرة وتوسيع حدود قدرات النموذج. ويختلف هذان النوعان من البيئات اختلافًا كبيرًا في البنية التحتية والمراقبة وأولويات الهندسة.
تُنسق أنظمة إدارة الذكاء الاصطناعي نماذج وأدوات وخطوط بيانات متعددة من خلال إطار عمل موحد، بينما يتضمن استخدام النموذج المستقل استدعاء نموذج ذكاء اصطناعي واحد مباشرةً لكل مهمة. وعادةً ما تختار المؤسسات بين هذين النهجين بناءً على التعقيد والحجم والحاجة إلى أتمتة متعددة الخطوات.
