يمثل تحسين الكفاءة وتوسيع القدرات استراتيجيتين متباينتين ولكنهما متكاملتان في تطوير الذكاء الاصطناعي، حيث تركز الأولى على زيادة الأداء لكل وحدة موارد، بينما تدفع الثانية حدود ما يمكن أن تحققه أنظمة الذكاء الاصطناعي.
تحقيق أقصى قدر من أداء الذكاء الاصطناعي مع تقليل التكاليف الحسابية والطاقة والمالية من خلال التحسينات المعمارية والخوارزمية.
توسيع الحدود الوظيفية لأنظمة الذكاء الاصطناعي للتعامل مع المهام الجديدة، والسياقات الأطول، والمدخلات متعددة الوسائط، والسلوكيات الناشئة.
| الميزة | تحسين الكفاءة | توسيع القدرات |
|---|---|---|
| الهدف الرئيسي | أنجز المزيد بموارد أقل - قلل التكلفة، وزمن الاستجابة، والطاقة لكل وحدة إنتاج | افعل ما كان مستحيلاً في السابق - توسيع الحدود الوظيفية وتعقيد المهام |
| التقنيات الرئيسية | التكميم، والتقليم، والتقطير، والهياكل الفعالة (مزيج الخبراء، ونماذج فضاء الحالة) | التوسع، والدمج متعدد الوسائط، وهياكل السياق الطويل، والأطر الوكيلة، والتعلم المعزز من ردود الفعل البشرية |
| كثافة الموارد | يقلل عادةً من متطلبات الحوسبة بمقدار 10 إلى 100 ضعف للمهام المكافئة | غالباً ما تزيد متطلبات الحوسبة بمقدار 10 إلى 1000 ضعف للوصول إلى عتبات قدرة جديدة |
| الجدول الزمني للتطوير | دورات تكرار سريعة، شهور لتطبيق التحسينات | آفاق بحثية أطول، وسنوات لتطوير إنجازات أساسية |
| ملف تعريف المخاطر | مخاطر أقل، وتحسينات تدريجية مع نتائج يمكن التنبؤ بها | مخاطر أعلى وعوائد غير مؤكدة على الاستثمارات الضخمة |
| الجدوى التجارية | توفير فوري في التكاليف، وهو أمر جذاب للتطبيقات الحساسة للهامش | إمكانية ابتكار منتجات ثورية وخلق أسواق جديدة |
| الأثر البيئي | يقلل من البصمة الكربونية لكل عملية استخلاص، وهو أمر بالغ الأهمية لتحقيق أهداف الاستدامة. | يؤدي ذلك إلى زيادة استهلاك الطاقة المطلق، مما يثير مخاوف بشأن انبعاثات مراكز البيانات. |
| إمكانية الوصول | يُضفي طابعًا ديمقراطيًا على الذكاء الاصطناعي من خلال تمكين نشره على الأجهزة ذات الموارد المحدودة | غالباً ما تركز القدرات المتقدمة بين المنظمات ذات الموارد الجيدة |
ينطلق تحسين الكفاءة من فلسفة الكفاية، أي تحديد كيفية تحقيق نتائج كافية أو أفضل بموارد أقل بكثير. غالبًا ما تتعامل الفرق التي تسلك هذا المسار مع القدرات الحالية على أنها كافية إلى حد كبير، وتتساءل عن كيفية جعلها مجدية اقتصاديًا على نطاق واسع. في المقابل، ينطلق توسيع القدرات من فلسفة الإمكانية، متسائلًا عن السلوكيات والخدمات الجديدة كليًا التي قد تظهر إذا تم تخفيف القيود المفروضة على حجم النموذج، أو طول السياق، أو أساليب الإدخال. هذه ليست مجرد اختلافات تقنية، بل تعكس معتقدات متباينة حول ما إذا كانت قيمة الذكاء الاصطناعي على المدى القريب تكمن في سهولة الوصول إليه أم في السعي نحو الذكاء الاصطناعي العام.
أثمرت جهود تحسين الكفاءة ابتكاراتٍ ملحوظة في ضغط النماذج وتصميم البنية. فبنى "مزيج الخبراء" (MoE)، كتلك المستخدمة في ميسترال وديب سيك، تُفعّل مجموعات فرعية فقط من المعلمات لكل مُدخل، بينما تُقدّم نماذج فضاء الحالة، مثل مامبا، بدائل لآليات الانتباه ذات التعقيد الخطي بدلاً من التربيعي. أما على صعيد القدرات، فقد وسّع الباحثون نطاقات السياق من خلال تقنيات مثل التضمينات الموضعية الدورانية والانتباه الحلقي، مما يُتيح تحليل كتب أو قواعد بيانات كاملة. وتدمج مناهج التدريب متعددة الوسائط الآن الرؤية والصوت وفهم النصوص بطرق تُتيح استدلالًا حقيقيًا متعدد الوسائط بدلاً من مجرد دمج أنظمة منفصلة.
أدت مكاسب الكفاءة إلى خفض تكلفة الاستدلال بالذكاء الاصطناعي بشكل كبير، مما مكّن الشركات الناشئة من منافسة الشركات الراسخة، وسمح للمؤسسات بنشر الذكاء الاصطناعي في آلاف التطبيقات بدلاً من عدد محدود من حالات الاستخدام عالية القيمة. يهدد هذا الضغط الناتج عن تحويل الذكاء الاصطناعي إلى سلعة هوامش ربح شركات الذكاء الاصطناعي التي تعتمد على واجهات برمجة التطبيقات (APIs) أولاً. في الوقت نفسه، أدى توسيع القدرات إلى خلق قيمة اقتصادية هائلة تتركز في المختبرات الرائدة - حيث تعكس القيمة السوقية لشركة OpenAI التي تتجاوز 80 مليار دولار اعتقاد السوق بأن ريادة القدرات تُترجم إلى ميزة تنافسية مستدامة. يخلق التوتر بين هذين المسارين معضلات استراتيجية: هل ينبغي للمؤسسات الاستثمار في جعل نماذج اليوم أرخص، أم المراهنة على أن نماذج الغد ستكون تحويلية بما يكفي لتبرير التسعير المرتفع؟
يُقدّم مسار الكفاءة فوائد بيئية حقيقية؛ إذ يُمكن لتشغيل النماذج المُحسّنة على أجهزة عالية الكفاءة أن يُقلّل انبعاثات الكربون لكل استعلام بنسبة 90% أو أكثر. وهذا أمر بالغ الأهمية مع تزايد حجم استعلامات الذكاء الاصطناعي إلى تريليونات الاستعلامات سنويًا. مع ذلك، غالبًا ما تُؤدي مكاسب الكفاءة إلى آثار ارتدادية، أي زيادة في الاستخدام تُعادل جزئيًا أو كليًا تحسينات الكفاءة. أما التكاليف البيئية لتوسيع القدرات فهي أكثر وضوحًا ومباشرة: إذ يستهلك تدريب نماذج من فئة GPT-4 كهرباء تُعادل الاستهلاك السنوي لمئات الأسر. اجتماعيًا، يُثير توسيع القدرات مخاوف بشأن تركز السلطة والوصول إليها، حيث لا تستطيع سوى حفنة من المنظمات تمويل البحوث الرائدة، بينما يُبشّر تحسين الكفاءة بديمقراطية أوسع، ولكنه قد يُرسّخ القدرات القائمة بدلًا من تحدّيها.
إنّ تصوير هذه الأمور على أنها تناقضات مطلقة يُبسّط الواقع تبسيطًا مفرطًا. فالعديد من الإنجازات تُتيح كلا المسارين في آنٍ واحد؛ إذ يُتيح تحسين كفاءة التدريب استخدام نماذج أكبر ضمن ميزانيات محدودة، وغالبًا ما تنشأ قدرات جديدة من ابتكارات معمارية مدفوعة بالكفاءة. وقد كان الدافع وراء تطوير المحوّل نفسه جزئيًا هو الكفاءة الحسابية مقارنةً بالشبكات المتكررة. عمليًا، تسعى مؤسسات الذكاء الاصطناعي الناضجة إلى تحقيق كلا المسارين: تحسين استخدام القدرات الحالية مع الحفاظ على استثمارات البحث في توسيع الجيل القادم. ولعلّ السؤال الأكثر جدوى ليس أيّهما نختار، بل كيف نُهيكل المؤسسات والتمويل لتمكين تفاعل مثمر بين أبحاث الكفاءة والتوسع.
إن تحسين الكفاءة يعني ببساطة تصغير حجم النماذج دون تأثير ملموس على القدرات.
تحافظ تقنيات الكفاءة الحديثة على القدرات أو حتى تعززها من خلال بنى أفضل. تُظهر نماذج مثل MiniCPM وPhi أن التدريب الدقيق والاختيارات المعمارية المناسبة يمكن أن تُنتج نماذج صغيرة ذات قدرات قوية بشكلٍ مُدهش، مما يُشكك في افتراض أن الحجم هو المحرك الرئيسي للأداء.
يتعلق توسيع القدرات بشكل أساسي بإضافة المزيد من القدرات الحاسوبية إلى الأساليب الحالية.
مع أن التوسع مهم، إلا أن التوسع الحقيقي في القدرات يتطلب ابتكارًا خوارزميًا جوهريًا. لم يقتصر الانتقال من GPT-3 إلى GPT-4 على زيادة عدد المعاملات فحسب، بل شمل أيضًا تحسين تقنيات التدريب، وتنسيق البيانات، وأساليب المواءمة. ويُظهر التوسع الخام دون ابتكار مؤشرات على بلوغه حدًا أقصى في بعض المجالات.
يتعين على المنظمات أن تختار بشكل حصري بين الكفاءة والتوسع.
تسعى أنجح مختبرات الذكاء الاصطناعي إلى الجمع بين هذين الهدفين في آن واحد. فعلى سبيل المثال، يستثمر فريق جيميني التابع لشركة جوجل بكثافة في بنية تحتية فعّالة للخدمة، بينما يعمل في الوقت نفسه على تطوير قدرات رائدة. ويتعلق هذا الخيار بنسب تخصيص الموارد أكثر من الالتزام الحصري.
النماذج الفعالة دائماً ما تكون أكثر ملاءمة للبيئة.
غالباً ما تؤدي تحسينات الكفاءة إلى زيادة الاستخدام، مما يُقلل من الفوائد البيئية من خلال تأثيرات ارتدادية. فعلى سبيل المثال، نموذج أكثر كفاءة بعشرة أضعاف، ولكنه يشهد استخداماً أكبر بعشرين ضعفاً، يزيد من إجمالي استهلاك الطاقة. ويعتمد الأثر البيئي المطلق على أنماط التبني، وليس فقط على كفاءة كل استعلام.
لا يُعد توسيع القدرات ذا أهمية إلا لشركات التكنولوجيا الكبيرة التي تمتلك موارد هائلة.
تساهم مجتمعات المصادر المفتوحة والمختبرات الأكاديمية بشكل كبير في توسيع القدرات، حتى وإن كانت بموارد متواضعة. وتُظهر نماذج لاما، ونظرية الانتشار المستقر، والعديد من الأبحاث العلمية، أن التقدم الملحوظ في القدرات ينبع من نماذج تمويل متنوعة، وليس فقط من البحث والتطوير المؤسسي.
لقد ساهم تحسين الكفاءة في حل مشكلة إمكانية الوصول إلى الذكاء الاصطناعي.
رغم انخفاض تكاليف الاستدلال بشكل كبير، إلا أن النشر الفعال لا يزال يتطلب خبرة هندسية واسعة، وبنية تحتية متطورة للبيانات، وصيانة مستمرة. ولا تزال الفجوة بين إمكانية الوصول النظرية والتطبيق العملي كبيرة بالنسبة للعديد من المؤسسات، لا سيما في القطاعات الخاضعة للتنظيم.
ينبغي للمؤسسات التي لديها حالات استخدام مستقرة ومفهومة جيدًا أن تعطي الأولوية لتحسين الكفاءة لزيادة الأرباح وتسهيل الوصول، بينما ينبغي للمؤسسات التي تسعى إلى تحقيق ميزة تنافسية تحويلية أو معالجة مشكلات تتجاوز قدرات الذكاء الاصطناعي الحالية أن تستثمر في توسيع القدرات. وتوازن معظم الاستراتيجيات الناجحة طويلة الأجل بين هذين الجانبين، مستخدمةً مكاسب الكفاءة لتمويل ونشر أبحاث توسيع نطاق إنترنت الأشياء.
يُحسّن كلٌّ من RAG ونماذج LLM المُحسّنة جودة مخرجات الذكاء الاصطناعي، لكنهما يعملان بطرق مختلفة تمامًا. يستخلص RAG المعلومات الخارجية عند الاستعلام، بينما يُدمج التحسين المعرفة الجديدة مباشرةً في أوزان النموذج. ويعتمد الاختيار بينهما على مدى تكرار تغيّر البيانات ومستوى الدقة المطلوب.
تُعد آليات الانتباه الذاتي ونماذج فضاء الحالة من المناهج الأساسية لنمذجة التسلسلات في الذكاء الاصطناعي الحديث. يتفوق الانتباه الذاتي في التقاط العلاقات الغنية بين الرموز، ولكنه يصبح مكلفًا مع التسلسلات الطويلة، بينما تعالج نماذج فضاء الحالة التسلسلات بكفاءة أكبر مع التوسع الخطي، مما يجعلها جذابة للتطبيقات ذات السياق الطويل والتطبيقات الآنية.
تُعدّ آليات الانتباه أساسية في الذكاء الاصطناعي الحديث، سواءً في مجال رؤية الحاسوب أو معالجة اللغة الطبيعية، إلا أنها تخدم أغراضًا مختلفة وتطورت عبر مسارات متباينة. يساعد الانتباه في مجال الرؤية النماذج على التركيز على مناطق الصورة ذات الصلة، بينما يُمكّن الانتباه في معالجة اللغة الطبيعية من فهم العلاقات بين الكلمات في النصوص.
تجمع أساليب الممثل-الناقد بين تدرجات السياسة ودالة القيمة المُتعلمة لتقليل التباين وتسريع عملية التعلم، بينما تعتمد أساليب تدرج السياسة البحتة كليًا على السياسة وعوائد مونت كارلو. ويعتمد الاختيار بينهما على ما إذا كنت بحاجة إلى الاستقرار وكفاءة العينة أم إلى البساطة والتقديرات غير المتحيزة.
تُفصّل هذه المقارنة الاختلافات الهيكلية الأساسية، وحالات الاستخدام العملية، والمفاضلات في الأداء بين تعلّم الرسم البياني الزمني ونمذجة التسلسل التقليدية. فبينما تُجسّد نمذجة التسلسل التطورات الخطية كالنصوص أو بيانات السلاسل الزمنية، يُعالج تعلّم الرسم البياني الزمني تفاعلات الشبكة والعلاقات المتغيرة مع الزمن في آنٍ واحد، مما يُوفر لك مخططًا شاملاً لاختيار البنية المناسبة.
