نظریه احتمال و جبر خطی به عنوان ستونهای بنیادی علم دادههای مدرن عمل میکنند. در حالی که احتمال ابزارهایی را برای تعیین کمیت تصادفی بودن و پیمایش عدم قطعیت فراهم میکند، جبر خطی چارچوب ساختاری را برای دستکاری فضاهای داده با ابعاد بالا ارائه میدهد. آنها با هم، اطلاعات خام و آشفته را به خطوط لوله محاسباتی قابل پیشبینی تبدیل میکنند.
شاخهای از ریاضیات که به تحلیل پدیدههای تصادفی، کمیسازی عدم قطعیت و مدلسازی احتمال رویدادهای آینده از طریق توزیعهای ساختاریافته اختصاص دارد.
این رشته ریاضی بر بردارها، ماتریسها، تبدیلهای خطی و فضاهای ساختاریافتهای که این ماتریسها در آنها قرار دارند، تمرکز دارد تا معادلات پیچیده چندبعدی را حل کند.
| ویژگی | نظریه احتمال | جبر خطی |
|---|---|---|
| تمرکز اصلی | کمّیسازی عدم قطعیت و تصادفی بودن | دستکاری فضاهای چندبعدی و تبدیلات |
| نهادهای بنیادی | متغیرهای تصادفی، رویدادها و توزیعها | بردارها، ماتریسها و فضاهای خطی |
| وضعیت سیستم اصلی | تصادفی یا غیرقطعی | چارچوب قطعی |
| عملیات اولیه | انتظارات، ادغام و بهروزرسانی مشروط | ضرب، فاکتورگیری و وارونگی ماتریسها |
| استفاده معمول از سختافزار | شبیهسازی یا استنتاج تحلیلیِ وابسته به CPU | شتابدهی GPU با موازیسازی بالا |
| قضیه کلیدی یا ابزار | قضیه حد مرکزی، قضیه بیز | قضیه طیفی، تجزیه مقدار تکین |
| نمایش دادهها | توابع چگالی احتمال و جرم | بردارهای مختصات و آرایههای رابطهای |
| نقش یادگیری ماشین | فرمولبندی تلفات، شبکههای بیزی و ارزیابی | بهروزرسانیهای وزن، جاسازیها و معماری شبکه |
نظریه احتمال، جهان را از دریچه عدم قطعیت ذاتی بررسی میکند و میکوشد تا هر حالت ممکنی را که یک سیستم ممکن است در کنار احتمال آن وارد شود، ترسیم کند. برعکس، جبر خطی با دادهها به عنوان نقاط هندسی ثابت در یک شبکه چند بعدی رفتار میکند و بر چگونگی کشش، چرخش یا تصویر کردن این نقاط تمرکز دارد. در حالی که یکی هرج و مرج غیرقابل پیشبینی شانس را میپذیرد، دیگری هماهنگی ساختاری سفت و سختی را تحمیل میکند.
با وجود ریشههای متمایزشان، این حوزهها عمیقاً در کاربردهای پیشرفته با هم ادغام میشوند. برای مثال، متغیرهای تصادفی را میتوان به صورت بردارهایی درون یک فضای هیلبرت انتزاعی مدلسازی کرد، جایی که کوواریانس دقیقاً مانند یک ضرب داخلی عمل میکند. به طور مشابه، زنجیرههای مارکوف به شدت به ضرب ماتریسی برای انتشار بردارهای احتمال در طول گامهای زمانی گسسته متکی هستند.
کار با جبر خطی معمولاً شامل عملیات ماتریسی سنگین است که مقیاسپذیری قابل پیشبینی دارند و آنها را برای پردازش موازی روی کارتهای گرافیک مدرن کاملاً مناسب میکند. مسائل احتمال محض اغلب به حساب دیفرانسیل و انتگرال تحلیلی پیچیده یا شبیهسازیهای فشرده مونت کارلو نیاز دارند که میتوانند خطوط لوله محاسباتی را مسدود کنند. در نتیجه، مهندسان اغلب مدلهای احتمالی پیچیده را به معادلات جبر خطی تبدیل میکنند تا سرعت پردازش زمان اجرا را افزایش دهند.
یادگیری ماشین مدرن عملاً بر اساس همگرایی هر دو رشته ساخته شده است. جبر خطی معماری فیزیکی را فراهم میکند و میلیونها وزن، ورودی و جاسازی را در شبکههای عصبی مدیریت میکند. در همین حال، نظریه احتمال، فرآیند بهینهسازی را هدایت میکند و نحوه اندازهگیری خطا توسط الگوریتمها و بهروزرسانی پارامترهای آنها را در مواجهه با دادههای پر سر و صدای دنیای واقعی تعریف میکند.
سیستمهای خطی در نگاشت قطعی برتری دارند و یک بردار ورودی را مستقیماً از طریق تبدیلهای صریح به یک فضای خروجی تبدیل میکنند. مدلهای احتمال زمانی میدرخشند که نیاز به استنباط علل پنهان از اثرات مشاهده شده یا ارائه یک بازه اطمینان برای یک پیشبینی دارید. این امر جبر خطی را برای محاسبات ساختاری خام ایدهآل و احتمال را برای تصمیمگیریهای دقیق تحت ریسک برتر میکند.
نظریه احتمال و جبر خطی شاخههای کاملاً نامرتبطی از ریاضیات هستند.
آنها عمیقاً در هم تنیده شدهاند، به ویژه در علم داده. متغیرهای تصادفی اغلب به عنوان بردار در نظر گرفته میشوند و واریانس آماری با استفاده از تبدیلات ماتریسی محاسبه میشود، که ثابت میکند آنها دو روی یک سکه هستند.
جبر خطی فقط میتواند معادلات سادهی خط مستقیم را حل کند.
در حالی که تبدیلات خطی، پایه را تشکیل میدهند، این چارچوب به راحتی فضاهای منحنی با ابعاد بالا را از طریق تکنیکهایی مانند ترفندهای هسته یا یادگیری منیفولد مدیریت میکند. این چارچوب به عنوان تقریبهای خطی محلی برای سیستمهای بسیار پیچیده و غیرخطی عمل میکند.
احتمال پنجاه درصد به این معنی است که یک رویداد دقیقاً در نیمی از مواقع در آزمایشهای کوتاه اتفاق میافتد.
احتمال، فراوانی بلندمدت را تعیین میکند نه قطعیت کوتاهمدت را. در نمونههای کوچک، نوسانات تصادفی غالب است، به همین دلیل است که یک سکه سالم میتواند به راحتی ده بار متوالی بدون نقض هیچ قانون ریاضی روی خط بیفتد.
توسعهدهندگان یادگیری ماشین فقط باید جبر خطی را درک کنند تا بتوانند از پس کارها برآیند.
جبر خطی به شما امکان میدهد یک شبکه بسازید و اجرا کنید، اما بدون احتمال، نمیتوانید توابع زیان، منظمسازی یا بهینهسازی را درک کنید. نادیده گرفتن احتمال، شما را از نحوه برخورد مدلها با نویز و تعمیم آنها به اطلاعات جدید بیخبر میگذارد.
وقتی نیاز به کمیسازی ریسک، مدیریت متغیرهای نویزدار دنیای واقعی یا ساخت مدلهایی دارید که تحت عدم قطعیت عمیق استدلال میکنند، نظریه احتمال را انتخاب کنید. وقتی هدف شما مدیریت ساختارهای با ابعاد بالا، دستکاری کارآمد مجموعه دادهها یا طراحی چارچوبهای محاسباتی خام شبکههای عصبی است، جبر خطی را انتخاب کنید. تسلط بر هر دو، پتانسیل واقعی مهندسی الگوریتمی مدرن را آزاد میکند.
در حالی که دانشمندان داده اغلب با هر دو اصطلاح در کاهش ابعاد مواجه میشوند، مؤلفههای اصلی جهت حداکثر واریانس در یک مجموعه داده را توصیف میکنند، در حالی که مقادیر منفرد، بزرگی مقیاسبندی را در امتداد آن محورهای هندسی در طول تجزیه ماتریس اندازهگیری میکنند. درک پل ریاضی آنها برای تسلط بر الگوریتمهایی مانند PCA و SVD ضروری است.
احتمال و آمار دو روی یک سکه ریاضی هستند که با عدم قطعیت از دو جهت مخالف برخورد میکنند. در حالی که احتمال، احتمال نتایج آینده را بر اساس مدلهای شناخته شده پیشبینی میکند، آمار دادههای گذشته را برای ساخت یا تأیید آن مدلها تجزیه و تحلیل میکند و به طور مؤثر از مشاهدات به عقب کار میکند تا حقیقت اساسی را پیدا کند.
اگرچه اغلب در مکالمات روزمره به جای یکدیگر استفاده میشوند، احتمال و شانس دو روش مختلف برای بیان احتمال یک رویداد هستند. احتمال تعداد نتایج مطلوب را با تعداد کل احتمالات مقایسه میکند، در حالی که شانس تعداد نتایج مطلوب را مستقیماً با تعداد نتایج نامطلوب مقایسه میکند.
در حالی که اعداد انتزاعی، کمیتها را به عنوان منطق نمادین محضِ تحتِ کنترلِ قوانینِ صوری و معادلاتِ جبری در نظر میگیرند، تفاسیرِ هندسی، همان مقادیر را به شکلها، خطوط و ابعادِ فضاییِ ملموس نگاشت میکنند. این دو دیدگاه، در کنار هم، زبانی دوگانه در ریاضیات تشکیل میدهند که کاراییِ نمادینِ بیحاصل را با درکِ بصریِ شهودی متعادل میکند.
در سطح بنیادی حساب، اعداد صحیح بزرگتر از یک به دو قلمرو مجزا تقسیم میشوند: اعداد اول، که به عنوان بلوکهای سازندهی تقسیمناپذیر ریاضیات عمل میکنند، و ساختارهای مرکب، که با ضرب آن اعداد اول در یکدیگر تشکیل میشوند. این تمایز همه چیز را از کاهش کسرهای ساده گرفته تا پروتکلهای رمزنگاری مدرن شکل میدهد.
