التعلم الآليالذكاء الاصطناعيعلم البياناتالتعرف على الأنماطالكشف عن الحالات الشاذةتصنيفالكشف عن القيم الشاذة
الكشف عن الحالات الشاذة مقابل التعرف على الأنماط الطبيعية
يكشف نظام كشف الشذوذ عن الأحداث النادرة وغير المألوفة التي تنحرف عن السلوك المتوقع، بينما يركز نظام التعرف على الأنماط العادية على تعلم وتصنيف أنماط البيانات النموذجية. وكلاهما من مناهج التعلم الآلي الأساسية ذات الأهداف والتطبيقات والمنهجيات المتميزة في مختلف القطاعات مثل الأمن السيبراني والرعاية الصحية والتصنيع.
المميزات البارزة
يتفوق اكتشاف الحالات الشاذة في حالات عدم توازن البيانات الشديدة حيث تكون الأحداث النادرة هي الأهم، بينما يحتاج التعرف على الأنماط العادية إلى عينات متوازنة وممثلة.
يجيب النهجان على أسئلة مختلفة بشكل أساسي: فكشف الشذوذ يسأل عما لا ينتمي، بينما التعرف على الأنماط يسأل عن الفئة المناسبة.
تجمع العديد من أنظمة الإنتاج الآن بين كلا النهجين لتحقيق أداء قوي في السيناريوهات الروتينية والاستثنائية.
يختلف اختيار الخوارزمية بشكل كبير: تهيمن طرق العزل والمشفرات التلقائية على اكتشاف الشذوذ، بينما تقود الشبكات العصبية التلافيفية وطرق التجميع عملية التعرف على الأنماط.
ما هو الكشف عن الحالات الشاذة؟
يحدد القيم الشاذة والانحرافات النادرة التي تشير إلى مشاكل محتملة أو عمليات احتيال أو أعطال في النظام.
تستخدم شركات بطاقات الائتمان تقنية الكشف عن الحالات الشاذة لتحديد المعاملات المشبوهة في الوقت الفعلي، مما يوفر مليارات الدولارات من خسائر الاحتيال سنوياً.
تعتبر خوارزمية Isolation Forest وخوارزمية One-Class SVM من الخوارزميات الشائعة المصممة خصيصًا للكشف عن الحالات الشاذة باستخدام البيانات عالية الأبعاد.
تستخدم وكالة ناسا تقنية الكشف عن الشذوذ لمراقبة أنظمة المركبات الفضائية والتنبؤ بأعطال المعدات قبل حدوثها.
يعتمد التصوير الطبي على اكتشاف الشذوذ لتحديد الأورام والآفات التي تبدو مختلفة عن أنماط الأنسجة السليمة.
تستخدم أنظمة كشف التسلل إلى الشبكة هذا النهج لرصد أنماط حركة المرور غير العادية التي تشير إلى هجمات إلكترونية محتملة.
تستخدم أنظمة التعرف على الوجوه أنماط التعرف العادية لتحديد هوية الأفراد من خلال تعلم ترتيبات ملامح الوجه النموذجية.
تقوم تقنية التعرف الضوئي على الأحرف (OCR) بتحويل المستندات الممسوحة ضوئياً إلى نص قابل للتحرير من خلال التعرف على أنماط الأحرف القياسية.
تعتمد محركات التعرف على الكلام مثل سيري وأليكسا على التعرف على الأنماط لربط الموجات الصوتية بالكلمات والأوامر.
يُعد التعرف على الأرقام المكتوبة بخط اليد باستخدام مجموعة بيانات MNIST مشكلة معيارية كلاسيكية في أبحاث التعرف على الأنماط العادية.
تتعلم محركات التوصيات في نتفليكس وسبوتيفاي أنماط تفضيلات المستخدمين لاقتراح الأفلام والموسيقى التي يستمتع بها الناس عادةً.
جدول المقارنة
الميزة
الكشف عن الحالات الشاذة
التعرف على الأنماط العادية
الهدف الرئيسي
ابحث عن الانحرافات النادرة والقيم الشاذة
تعلم وتصنيف الأنماط النموذجية
بيانات التدريب
أمثلة طبيعية في الغالب، وقليل من الحالات الشاذة أو لا توجد حالات شاذة على الإطلاق
مجموعات بيانات كبيرة مصنفة تمثل جميع الفئات
الناتج
درجة الشذوذ أو علامة ثنائية
تصنيف الفئة أو التوزيع الاحتمالي
الخوارزميات النموذجية
غابة العزل، آلة المتجهات الداعمة أحادية الفئة، المشفرات التلقائية
سي إن إن، غابة عشوائية، SVM، k-NN
معايير التقييم
الدقة، الاستدعاء، مساحة تحت منحنى ROC، درجة F1
الدقة، والضبط، والاستدعاء، ودرجة F1
عدم توازن البيانات
اختلال شديد في التوازن (1:1000 أو أسوأ)
متوازن أو قابل للإدارة نسبياً
حالات الاستخدام
كشف الاحتيال، تشخيص الأعطال، كشف الاختراقات
تصنيف الصور، والتعرف على الكلام، والتوصية
قابلية التفسير
غالباً ما يتطلب الأمر شرحاً لسبب كون شيء ما غير عادي
يركز على النمط الذي تمت مطابقته
مقارنة مفصلة
الفلسفة والأهداف الأساسية
يعتمد اكتشاف الشذوذ على افتراض أن السلوك الطبيعي شائع ومحدد جيدًا، مما يجعل الانحرافات ذات دلالة إحصائية. يسأل النظام أساسًا: "ما الذي لا ينتمي إلى هنا؟". في المقابل، يسأل التعرف على الأنماط الطبيعية: "إلى أي فئة ينتمي هذا؟". يتعلق الأمر ببناء نماذج شاملة للأنماط المتوقعة بدلًا من البحث عن الاستثناءات. هذا الاختلاف الجوهري يؤثر على كل شيء بدءًا من جمع البيانات وصولًا إلى بنية النموذج.
متطلبات البيانات وتوافرها
غالباً ما يواجه اكتشاف الحالات الشاذة معضلة الحاجة إلى أمثلة لمشاكل لم تُشاهد من قبل. يلجأ المهندسون عادةً إلى تدريب هذه الأنظمة على بيانات نظيفة وعادية، آملين أن يتمكن النموذج من التعميم على الحالات الشاذة غير المعروفة. يتطلب التعرف على الأنماط العادية عادةً وفرة من الأمثلة المصنفة بدقة عبر جميع الفئات المستهدفة. تحتوي مجموعة بيانات MNIST على 70,000 رقم مصنف؛ بينما قد تحتوي مجموعة بيانات مماثلة لاكتشاف الحالات الشاذة على عدد قليل فقط من الحالات الشاذة المؤكدة.
الأساليب الخوارزمية
تعمل خوارزمية غابة العزل عن طريق تقسيم البيانات عشوائيًا وقياس سرعة عزل النقاط - حيث تنفصل النقاط الشاذة أسرع من النقاط العادية. أما خوارزمية آلة المتجهات الداعمة أحادية الفئة، فتبني حدودًا محكمة حول البيانات العادية وتُحدد النقاط الخارجة عنها. يعتمد التعرف على الأنماط العادية بشكل كبير على بنى التعلم العميق، مثل الشبكات العصبية الالتفافية، التي تتعلم تلقائيًا السمات الهرمية. قد تتطلب هذه الشبكات ملايين المعاملات وموارد حاسوبية ضخمة.
تحديات الأداء في العالم الحقيقي
تواجه أنظمة كشف الشذوذ تهديدًا مستمرًا بتغير المفاهيم، فما هو طبيعي اليوم قد لا يكون كذلك غدًا. قد يتسبب خط إنتاج ينتج عنه تغيرات موسمية في إطلاق إنذارات خاطئة في غياب التعلم التكيفي. أما التعرف على الأنماط العادية فيواجه تحديات مختلفة: الهجمات الخصومية التي تُغير المدخلات بشكل طفيف مما يؤدي إلى تصنيف خاطئ، والهشاشة الناتجة عن الإفراط في التخصيص لبيانات التدريب التي لا تمثل التنوع الواقعي.
القيمة التجارية والعائد على الاستثمار
يُحقق اكتشاف الحالات الشاذة قيمةً من خلال الحد من المخاطر، وذلك بمنع الاحتيال، وتجنب الأعطال الكارثية، أو إيقاف الاختراقات الأمنية قبل تفاقمها. وغالبًا ما يُقاس العائد بعدد الكوارث التي تم تجنبها. أما التعرف على الأنماط العادية فيُحقق الإيرادات من خلال الأتمتة والتخصيص، وذلك بتبسيط معالجة المستندات، وتفعيل واجهات الصوت، أو التوصية بمنتجات تزيد المبيعات. ويتكامل هذان النهجان بشكل متزايد في أنظمة الإنتاج.
الإيجابيات والسلبيات
الكشف عن الحالات الشاذة
المزايا
+يتعامل مع التهديدات غير المعروفة
+يعمل مع البيانات غير المتوازنة
+لا حاجة إلى تصنيفات الشذوذ
+القدرة على الإنذار المبكر
+إطار عمل مستقل عن المجال
تم
−معدلات إيجابية كاذبة مرتفعة
−يصعب التحقق منه
−حساسية انحراف المفهوم
−محدودية التفسير
−بيانات الحقيقة الأرضية الشحيحة
التعرف على الأنماط العادية
المزايا
+دقة عالية في الفئات المعروفة
+أدوات وأطر عمل متطورة
+خيارات تفسير غنية
+قابل للتوسع ليشمل مجموعات البيانات الضخمة
+أفضل الممارسات المفهومة جيداً
تم
−يحتاج إلى بيانات مصنفة واسعة النطاق
−سوء التعامل مع الأنماط الجديدة
−تكاليف التعليق الباهظة
−مخاطر الإفراط في التخصيص
−نقطة ضعف معادية
الأفكار الخاطئة الشائعة
أسطورة
إن اكتشاف الشذوذ والتعرف على الأنماط الطبيعية هما تقنيتان قابلتان للتبادل لحل نفس المشاكل.
الواقع
تخدم هذه الأساليب أغراضًا مختلفة جوهريًا. غالبًا ما يفشل استخدام تقنية التعرف على الأنماط للكشف عن الحالات الشاذة لأن المصنفات القياسية تفترض بيانات تدريب متوازنة وممثلة. في المقابل، يؤدي تطبيق تقنية الكشف عن الحالات الشاذة على مهام التصنيف المعروفة جيدًا إلى إهدار نقاط قوتها الفريدة، وعادةً ما يكون أداؤها ضعيفًا.
أسطورة
يتطلب اكتشاف الحالات الشاذة أمثلة على الحالات الشاذة للتعلم منها.
الواقع
تعتمد العديد من طرق الكشف عن الحالات الشاذة الفعالة على التعلم غير الخاضع للإشراف أو شبه الخاضع للإشراف، حيث تتعلم فقط من البيانات الطبيعية. وتقوم خوارزمية SVM أحادية الفئة وخوارزمية غابة العزل بنمذجة الحالة الطبيعية بشكل صريح دون الحاجة إلى أمثلة شاذة، وهو أمر بالغ الأهمية لأن الحالات الشاذة نادرة بطبيعتها وقد لا تُرى من قبل.
أسطورة
لا تستطيع أنظمة التعرف على الأنماط العادية اكتشاف الحالات الشاذة على الإطلاق.
الواقع
على الرغم من أن التعرف على الأنماط ليس من صميم وظيفته، إلا أنه قد يُشير إلى الحالات الشاذة من خلال انخفاض درجات الثقة أو تصنيفها ضمن فئة "غير معروفة". ومع ذلك، فإن هذا الأسلوب أقل موثوقية بشكل عام من الكشف المُخصص عن الحالات الشاذة، لا سيما بالنسبة للانحرافات الطفيفة التي لا تنتمي بوضوح إلى أي فئة معروفة.
أسطورة
لقد جعل التعلم العميق أساليب الكشف عن الشذوذ التقليدية عتيقة.
الواقع
لا تزال الأساليب التقليدية، مثل خوارزمية غابة العزل والأساليب الإحصائية، تتمتع بقدرة تنافسية عالية، لا سيما مع محدودية البيانات أو متطلبات زمن الاستجابة الصارمة. ويُظهر الكشف العميق عن الحالات الشاذة نتائج واعدة، ولكنه غالبًا ما يتطلب المزيد من البيانات والحسابات دون تحقيق مكاسب متناسبة في العديد من سيناريوهات العالم الحقيقي.
أسطورة
أنظمة الكشف عن الحالات الشاذة هي حلول يتم ضبطها وتركها.
الواقع
يتطلب الكشف الفعال عن الحالات الشاذة مراقبة وتكييفًا مستمرين. فمع تغير المفاهيم، وتطور أنماط الهجمات، وتغير ظروف العمل، تتدهور النماذج دون صيانة. وتتضمن أنجح عمليات النشر حلقات التغذية الراجعة وبروتوكولات إعادة التدريب المنتظمة.
أسطورة
تشير درجات الشذوذ الأعلى دائمًا إلى وجود شذوذات أكثر أهمية.
الواقع
تشير درجات الشذوذ إلى الانحراف الإحصائي، وليس إلى التأثير على الأعمال. قد يحصل خلل بسيط في المستشعر على درجة أعلى من نمط احتيال دقيق يكلف ملايين الدولارات. تظل الخبرة في المجال ضرورية لتحديد أولويات التنبيهات وضبط العتبات بما يتناسب مع مدى تحمل المؤسسة للمخاطر.
الأسئلة المتداولة
ما هو الفرق الرئيسي بين اكتشاف الشذوذ والتعرف على الأنماط الطبيعية؟
يكمن الفرق الأساسي في الهدف الذي تسعى كل تقنية لتحقيقه. يكشف نظام كشف الشذوذ عن الأحداث النادرة التي تخالف السلوك المتوقع، أي الأمور التي لا ينبغي أن تحدث. أما نظام التعرف على الأنماط فيصنف البيانات إلى فئات معروفة بناءً على أنماط نموذجية مُكتسبة. يمكن تشبيه نظام كشف الشذوذ بحارس أمن يراقب أي مشكلة، بينما يشبه نظام التعرف على الأنماط أمين مكتبة يُرتب الكتب في أقسامها الصحيحة.
هل يمكنني استخدام نفس الخوارزميات لكل من اكتشاف الحالات الشاذة والتعرف على الأنماط؟
تتداخل بعض الخوارزميات، لكن الأداء عادةً ما يتأثر سلبًا عند استخدام الأداة غير المناسبة. يمكن لخوارزميات الغابات العشوائية وآلات المتجهات الداعمة العمل في كلا السياقين، لكن اكتشاف الحالات الشاذة يستفيد من أساليب متخصصة مثل غابات العزل أو المشفرات التلقائية التي تتعامل مع عدم التوازن الشديد. غالبًا ما تحتاج بنى التعلم العميق الشائعة في التعرف على الأنماط إلى تعديلات، مثل عتبات خطأ إعادة البناء، لكي تعمل بكفاءة في اكتشاف الحالات الشاذة.
لماذا يُعتبر اكتشاف الحالات الشاذة أصعب من التصنيف العادي؟
تُزيد عدة عوامل من صعوبة اكتشاف الحالات الشاذة. ففي الغالب، تفتقر إلى أمثلة كافية لما تحاول اكتشافه، مما يُصعّب عملية التحقق والاختبار. كما أن الحدود بين الطبيعي وغير الطبيعي غالباً ما تكون غير واضحة وتعتمد على السياق. إضافةً إلى ذلك، يسعى المهاجمون بنشاط إلى التهرب من الكشف، مما يعني أن النموذج الفعال اليوم قد يفشل غداً مع تطور أنماط الهجوم.
ما هي الصناعات التي تستفيد أكثر من اكتشاف الحالات الشاذة؟
تستفيد الخدمات المالية منه بشكل كبير في منع الاحتيال ومكافحة غسل الأموال. ويستخدمه قطاع التصنيع في الصيانة التنبؤية ومراقبة الجودة. ويعتمد عليه قطاع الأمن السيبراني في كشف الاختراقات. ويطبقه قطاع الرعاية الصحية في التصوير الطبي ومراقبة المرضى. باختصار، أي قطاع تترتب فيه على الأحداث النادرة عواقب وخيمة يجد قيمة في قدرات كشف الشذوذ.
كيف تعمل المشفرات التلقائية في اكتشاف الحالات الشاذة؟
تُعدّ المشفرات التلقائية شبكات عصبية مُدرّبة على ضغط بيانات الإدخال وإعادة بنائها. تتعلم هذه الشبكات ترميز الأنماط الطبيعية بكفاءة، لكنها تواجه صعوبة في إعادة بناء الحالات الشاذة التي لم ترها من قبل بدقة. من خلال قياس خطأ إعادة البناء - أي الفرق بين المدخلات والمخرجات - نحصل على درجة طبيعية للشذوذ. تشير الأخطاء الأعلى إلى أن المدخلات لا تتطابق مع الأنماط الطبيعية المُدرّبة.
هل التعلم الخاضع للإشراف أم التعلم غير الخاضع للإشراف أفضل في اكتشاف الحالات الشاذة؟
تُهيمن أساليب التعلم غير الخاضع للإشراف وشبه الخاضع للإشراف نظرًا لندرة بيانات الشذوذ المصنفة. وعند وجود حالات شذوذ مؤكدة، تتفوق أساليب التعلم شبه الخاضع للإشراف، التي تتعلم السلوك الطبيعي بالإضافة إلى حالات الشذوذ المعروفة، عادةً على أساليب التعلم غير الخاضع للإشراف البحتة. أما الكشف عن الشذوذ الخاضع للإشراف الكامل فهو نادر وغير عملي في الغالب، إذ لا يمكن حصر جميع حالات الشذوذ المحتملة مسبقًا.
كيف يمكنك تقييم نظام كشف الشذوذ عندما تكون الشذوذات الحقيقية نادرة؟
يتطلب التقييم تفكيرًا متأنيًا يتجاوز مجرد الدقة. تُعد منحنيات الدقة والاستدعاء ومساحة المنطقة تحت منحنى ROC مقاييس معيارية تعالج عدم التوازن بشكل أفضل. يستخدم العديد من الممارسين الدقة عند k، أي عدد العناصر المصنفة ضمن أعلى k عنصر والتي تُمثل حالات شاذة حقيقية. غالبًا ما يكون التقييم المراعي للتكلفة، والذي يُرجّح النتائج السلبية الخاطئة بناءً على تأثيرها على العمل، أكثر أهمية من المقاييس الإحصائية وحدها.
ما الذي يسبب انحراف المفهوم في اكتشاف الحالات الشاذة، وكيف يتم التعامل معه؟
يحدث انحراف المفهوم عندما يتغير تعريف "الطبيعي" بمرور الوقت، نتيجة لتطور أنماط التسوق الموسمية، أو ازدياد حركة مرور الشبكة، أو تعديل عمليات التصنيع. وبدون التكيف، تصبح النماذج قديمة وتُصدر إنذارات خاطئة أو تغفل مشكلات حقيقية. تشمل الحلول التدريب باستخدام نافذة منزلقة، وخوارزميات التعلم عبر الإنترنت، وآليات كشف الانحراف التي تُفعّل إعادة تدريب النموذج عند تغير الخصائص الإحصائية.
هل يمكن أن يعمل اكتشاف الحالات الشاذة في تطبيقات البث المباشر في الوقت الفعلي؟
بالتأكيد، مع أن ذلك يتطلب هندسة دقيقة. تعالج أنظمة كشف الشذوذ في البيانات المتدفقة البيانات فور وصولها بدلاً من معالجتها على دفعات. صُممت خوارزميات مثل غابة العزل عبر الإنترنت ومشفرات البيانات المتدفقة التلقائية لهذا الغرض. قيود زمن الاستجابة، ومحدودية الذاكرة، والحاجة إلى اتخاذ قرارات فورية، تجعل من كشف الشذوذ في البيانات المتدفقة ذا قيمة عالية، ولكنه يتطلب مهارة تقنية عالية.
كيف تتعامل تقنية الكشف عن الحالات الشاذة مع البيانات عالية الأبعاد مثل الصور أو مقاطع الفيديو؟
تُشكّل البيانات عالية الأبعاد تحدياتٍ لأن مقاييس المسافة تفقد دلالتها في الفضاءات عالية الأبعاد، وهو ما يُعرف بـ"لعنة الأبعاد". وتعتمد أساليب التعلّم العميق، مثل المشفرات التلقائية الالتفافية، على تعلّم تمثيلات مضغوطة، ما يُسهّل عملية اكتشاف الشذوذ. وغالبًا ما يكون استخلاص الميزات وتقليل الأبعاد من الخطوات الأساسية للمعالجة المسبقة قبل تطبيق خوارزميات اكتشاف الشذوذ التقليدية.
ما هو دور الخبرة البشرية في أنظمة الكشف عن الحالات الشاذة؟
لا تزال الخبرة البشرية لا غنى عنها رغم التطورات في مجال الأتمتة. يُحدد خبراء المجال ما يُعتبر طبيعيًا وما يُعتبر غير طبيعي في سياقه، ويتحققون من صحة الحالات الشاذة المُبلغ عنها لتقليل الإنذارات الكاذبة، ويُفسرون النتائج لأصحاب المصلحة. تجمع الأنظمة الأكثر فعالية بين الكشف الخوارزمي والتغذية الراجعة البشرية، مما يُحسّن النماذج باستمرار من خلال التحقق من صحة الحالات غير المؤكدة من قِبل الخبراء.
هل توجد مخاوف أخلاقية خاصة باكتشاف الحالات الشاذة؟
تستحق عدة قضايا أخلاقية الاهتمام. فقد تؤدي النتائج الإيجابية الخاطئة إلى مراقبة أو تمييز غير مبرر، وذلك بتصنيف أحياء أو فئات سكانية معينة على أنها "شاذة" بسبب بيانات تدريب متحيزة. وتبرز مخاوف تتعلق بالخصوصية عند مراقبة السلوك الشخصي بحثًا عن أي شذوذ. وتُعد الشفافية بشأن كيفية تصنيف الأنظمة للأفراد، وسبل الانتصاف لمن تم تصنيفهم خطأً على أنهم شاذون، من الاعتبارات المجتمعية ذات الأهمية المتزايدة.
الحكم
اختر تقنية كشف الشذوذ عند الحماية من الأحداث النادرة ولكن المكلفة التي لا يمكنك التنبؤ بكل تهديد مسبقًا. اختر تقنية التعرف على الأنماط العادية عندما يكون لديك بيانات تمثيلية عبر الفئات وتحتاج إلى أداء تصنيف موثوق. تستخدم العديد من الأنظمة المتطورة الآن كلا النهجين، حيث تستخدم التعرف على الأنماط للعمليات القياسية وكشف الشذوذ كشبكة أمان للأحداث غير المتوقعة.