Pengoptimuman kecekapan memberi tumpuan kepada menyelesaikan lebih banyak perkara dengan kurang pengiraan, manakala penskalaan prestasi maksimum mendorong sistem AI ke had keupayaan mutlaknya. Kedua-dua pendekatan itu penting, tetapi ia memenuhi matlamat yang berbeza secara asasnya dalam pembangunan dan penggunaan AI moden.
Strategi untuk menambah baik output model AI bagi setiap unit pengiraan, tenaga atau kos.
Pendekatan yang mengembangkan saiz model, data latihan dan pengiraan untuk meningkatkan had keupayaan.
| Ciri-ciri | Pengoptimuman Kecekapan | Penskalaan Prestasi Maksimum |
|---|---|---|
| Matlamat Utama | Maksimumkan kualiti output setiap unit pengkomputeran | Maksimumkan keupayaan mentah tanpa mengira kos |
| Teknik Lazim | Pengkuantuman, pemangkasan, penyulingan, PEFT | Model yang lebih besar, lebih banyak data, latihan yang lebih lama |
| Keperluan Pengiraan | Selalunya berjalan pada perkakasan sederhana | Memerlukan kluster dan infrastruktur GPU yang besar |
| Profil Kos | Kos latihan dan inferens yang lebih rendah | Kos pendahuluan dan operasi yang sangat tinggi |
| Kes Penggunaan Terbaik | Pelaksanaan pengeluaran, peranti pinggir, aplikasi sensitif kos | Penyelidikan, penanda aras sempadan, penerokaan keupayaan |
| Pendekatan Skalabiliti | Optimumkan model sedia ada untuk melakukan lebih banyak perkara dengan lebih sedikit | Kembangkan saiz model dan set data untuk membuka kunci kebolehan baharu |
| Jejak Tenaga | Penggunaan kuasa yang dikurangkan setiap inferens | Penggunaan tenaga yang ketara semasa latihan dan servis |
| Masa untuk Keputusan | Kitaran lelaran yang lebih pantas pada persediaan yang lebih kecil | Latihan jangka panjang diukur dalam beberapa minggu atau bulan |
Pengoptimuman kecekapan menganggap pengkomputeran sebagai sumber yang terhad dan bertanya bagaimana untuk memanfaatkan keupayaan yang paling banyak daripada bajet tetap. Penskalaan prestasi maksimum mengambil pandangan yang bertentangan, dengan mengandaikan bahawa menggunakan lebih banyak pengkomputeran pada masalah akan membuka kunci tingkah laku baharu dengan andal. Kedua-dua falsafah telah menghasilkan hasil yang nyata, tetapi ia mencerminkan pertaruhan yang berbeza tentang dari mana datangnya kemajuan AI.
Dari segi kecekapan, pengamal bergantung pada kuantisasi untuk mengecilkan ketepatan pemberat, pemangkasan untuk mengalih keluar parameter berlebihan dan penyulingan untuk memindahkan pengetahuan ke dalam model pelajar yang lebih kecil. Kaedah penalaan halus yang cekap parameter seperti LoRA telah menjadikan penyesuaian mampu milik. Kerja yang berfokus pada penskalaan sebaliknya melabur dalam seni bina transformer yang lebih besar, set data trilion token dan rangka kerja latihan teragih yang menyelaraskan beribu-ribu pemecut secara serentak.
Teknik kecekapan mendemokrasikan AI dengan membenarkan syarikat baharu dan penyelidik individu menjalankan model yang berkebolehan pada satu stesen kerja atau komputer riba. Penskalaan maksimum menumpukan kuasa dalam kalangan makmal dan hiperskala yang dibiayai dengan baik, memandangkan latihan model sempadan boleh menelan belanja lebih daripada pendapatan tahunan syarikat bersaiz sederhana. Jurang kos ini membentuk siapa yang dapat membina sistem canggih.
Kerja yang cekap dan agresif pasti mengorbankan beberapa kualiti, walaupun jurang tersebut telah berkurangan dengan ketara dalam beberapa tahun kebelakangan ini. Model parameter 7 bilion yang dioptimumkan dengan baik dapat menandingi sistem parameter 70 bilion yang lebih lama dalam banyak tugas. Sebaliknya, penskalaan cenderung menghasilkan lonjakan kualitatif dan bukannya keuntungan tambahan, terutamanya untuk penaakulan, pengekodan dan pemahaman multimodal.
Pengoptimuman kecekapan menang untuk sebarang penggunaan yang mana kekangan latensi, kos atau perkakasan mendominasi, seperti aplikasi mudah alih, pembantu masa nyata dan API volum tinggi. Penskalaan prestasi maksimum menang apabila matlamatnya adalah untuk mencapai penanda aras yang kukuh, penyelidikan saintifik atau tugas yang mana model semasa tidak memenuhi jangkaan. Banyak sistem pengeluaran menggabungkan kedua-duanya, menggunakan model berskala semasa penyelidikan dan varian yang dioptimumkan pada masa perkhidmatan.
Model yang lebih besar sentiasa lebih baik daripada model yang dioptimumkan yang lebih kecil.
Dalam banyak tugasan praktikal, model kecil yang dioptimumkan dengan baik sepadan atau mengatasi model yang lebih besar dan tidak dioptimumkan. Jurang ini banyak bergantung pada beban kerja, dengan model yang ditala kecekapan sering menang pada aplikasi sensitif latensi manakala model berskala mendominasi pada penanda aras penaakulan kukuh.
Pengoptimuman kecekapan hanyalah tentang menjadikan model lebih kecil.
Kecekapan merangkumi pelbagai toolkit termasuk pengkuantuman, pemangkasan, penyulingan, seni bina yang lebih baik dan prosedur latihan yang lebih pintar. Pengurangan saiz adalah salah satu hasil, tetapi matlamat yang lebih luas adalah memaksimumkan output berguna setiap joule atau setiap dolar yang dibelanjakan.
Undang-undang penskalaan bermakna AI akan terus bertambah baik selama-lamanya dengan lebih banyak pengkomputeran.
Undang-undang penskalaan menggambarkan keuntungan yang boleh diramal dalam rejim tertentu, tetapi pulangan berkurangan dan kesesakan data menjadi kekangan sebenar. Kajian terbaru menunjukkan bahawa penskalaan naif akan menjejaskan keadaan tanpa inovasi algoritma di sampingnya.
Anda perlu memilih satu pendekatan atau yang lain.
Kebanyakan sistem AI yang berjaya menggunakan kedua-duanya. Makmal menskalakan model semasa pralatihan untuk menemui keupayaan, kemudian mengaplikasikan teknik kecekapan untuk menjadikan keupayaan tersebut mampu dimiliki oleh pengguna sebenar. Kedua-dua strategi ini saling mengukuhkan dan bukannya bersaing.
Model yang cekap hanya berguna untuk penggunaan, bukan penyelidikan.
Kajian kecekapan telah memacu inovasi seni bina utama termasuk FlashAttention, perhatian pertanyaan berkumpulan dan penghalaan campuran pakar. Kemajuan ini selalunya berasal daripada kekangan kecekapan dan kemudian memberi manfaat kepada sistem berskala juga.
Pilih pengoptimuman kecekapan apabila bajet, latensi atau had perkakasan paling penting, terutamanya untuk sistem pengeluaran yang memberi perkhidmatan kepada pengguna sebenar. Pilih penskalaan prestasi maksimum apabila matlamatnya adalah untuk mendorong sempadan keupayaan pada tugas yang sukar dan anda mempunyai bajet pengiraan untuk menyokongnya. Dalam praktiknya, produk AI yang paling kuat menggabungkan kedua-dua falsafah, penskalaan semasa pembangunan dan pengoptimuman untuk penggunaan.
Adaptasi bahasa dalam AI memberi tumpuan kepada pengajaran model untuk mengendalikan bahasa tertentu melalui penalaan halus dan pembelajaran pemindahan, manakala sistem AI agnostik bahasa bertujuan untuk memproses sebarang bahasa tanpa latihan khusus bahasa. Kedua-dua pendekatan menangani cabaran berbilang bahasa tetapi berbeza secara asasnya dalam seni bina, data latihan dan penggunaan dunia sebenar.
Perbandingan ini menganalisis pilihan strategik dalam pembelajaran mesin antara Adaptasi Domain, yang memindahkan pengetahuan daripada persekitaran sumber berlabel kepada persekitaran sasaran yang berbeza, dan Latihan Dalam Domain, yang membina model sepenuhnya pada data yang dituai daripada tetapan penggunaan sasaran yang tepat.
Pengagregatan keutamaan menggabungkan pelbagai keutamaan individu ke dalam keputusan kolektif, manakala pemodelan ramalan individu meramalkan tingkah laku peribadi menggunakan pembelajaran mesin pada data pengguna tunggal. Kedua-duanya mempunyai tujuan yang berbeza dalam sistem AI, daripada enjin cadangan kepada platform pengundian demokratik.
Pecahan seni bina ini menganalisis paradigma berbeza bagi sistem kecerdasan buatan berpandukan matlamat dan berpandukan input. Walaupun seni bina berpandukan input cemerlang dalam pemprosesan reaktif dan pengecaman corak serta-merta, sistem berpandukan matlamat mempunyai rangka kerja kognitif lanjutan yang diperlukan untuk penaakulan berbilang langkah, perancangan adaptif dan penyelesaian masalah autonomi.
Perbandingan ini menerangkan perbezaan utama antara kecerdasan buatan dan automasi, dengan memberi tumpuan kepada cara ia berfungsi, masalah yang diselesaikannya, kebolehsuaiannya, kerumitan, kos, dan kes penggunaan perniagaan dalam dunia sebenar.
