Is ionann dlíthe scálúcháin samhail agus nuálaíocht ailtireachta agus dhá fhealsúnacht iomaíocha chun cumas AI a chur chun cinn. Tugann dlíthe scálúcháin le fios go dtugann samhlacha níos mó atá oilte ar níos mó sonraí gnóthachain intuartha, agus díríonn nuálaíocht ailtireachta ar dhearthaí níos cliste a bhaineann níos mó amach le níos lú ríomhaireachta.
Prionsabail eimpíreacha a léiríonn conas a fheabhsaíonn feidhmíocht mhúnla AI go hintuartha le níos mó paraiméadair, sonraí agus ríomhaireacht.
Dearaí úrnua líonraí néarónacha a fheabhsaíonn éifeachtúlacht agus cumas AI thar a sholáthraíonn scálú amh ina aonar.
| Gné | Dlíthe Scálúcháin Mhúnla | Nuálaíocht Ailtireachta |
|---|---|---|
| Fealsúnacht Chroí | Samhlacha níos mó + níos mó sonraí = feidhmíocht níos fearr | Baintear níos mó amach le níos lú ríomhaireachta le dearaí níos cliste |
| Príomhthiománaí Costais | Ríomhaireacht agus fuinneamh le haghaidh oiliúna | Tallann taighde agus athdhéanamh dearaidh |
| Intuarthacht Gnóthachan | An-intuartha trí dhlíthe cumhachta | Dothuartha; bíonn briseadh tríd go sparáideach |
| Príomh-Tacadóirí | Abhcóidí hipitéis scálúcháin OpenAI, Antrapach | DeepMind, taighdeoirí acadúla, saotharlanna dírithe ar éifeachtúlacht |
| Riachtanais Ríomhaireachta | Ollmhór agus ag fás go heaspónantúil | Is minic níos ísle; is féidir rith ar chrua-earraí measartha |
| Uasteorainn Feidhmíochta | Teoranta ag an ríomhaireacht agus na sonraí atá ar fáil | Teoranta ag inniúlacht dhaonna i ndearadh |
| Léaslíne Ama le haghaidh Torthaí | Intuartha ach mall (míonna oiliúna) | Athraitheach; is féidir leis dul chun cinn a thabhairt go tapa |
| Samplaí Ionadaíocha | GPT-4, Claude 3, Gemini Ultra | Mamba, samhlacha MoE, Aird Flash, córais RAG |
Tá dlíthe scálúcháin samhail bunaithe ar smaoineamh simplí ach cumhachtach: eascraíonn faisnéis as scála. Léiríonn an fhianaise eimpíreach ó pháipéar Kaplan in 2020 agus mionchoigeartú Chinchilla in 2022 go leanann feabhsuithe feidhmíochta caidrimh mhatamaiticiúla intuartha. Glacann nuálaíocht ailtireachta an dearcadh os coinne, ag áitiú gur féidir le hinnealtóireacht chliste níos mó cumais a bhaint as ríomhaireacht atá ann cheana féin. Aontaíonn an dá champa go n-oibríonn scálú; níl siad ar aon intinn faoi cibé an é an t-aon bhealach chun cinn é.
Cosnaíonn oiliúint samhlacha ar scála teorainne na deicheanna milliún dollar anois i ríomhaireacht amháin, agus tuairiscítear go bhfuil córais den rang GPT-4 níos mó ná $100 milliún. Cuireann nuálaíocht ailtireachta geilleagar atá go bunúsach difriúil ar fáil: is féidir le samhail dea-dheartha a bheith chomh maith le hiomaitheoirí níos mó nó iad a shárú ar chodán den chostas oiliúna. Fágann sé seo go bhfuil nuálaíocht ailtireachta thar a bheith tarraingteach do shaotharlanna acadúla, do ghnólachtaí nuathionscanta agus d’eagraíochtaí gan buiséid hipearscálaitheora.
Soláthraíonn dlíthe scálúcháin rud atá neamhchoitianta i dtaighde AI: intuarthacht. Má dhéanann tú ríomh faoi dhó, bíonn a fhios agat go garbh cén feabhas atá le súil leis. Tá níos mó riosca ag baint le nuálaíocht ailtireachta ó dhúchas toisc go mbraitheann dul chun cinn ar léargas seachas ar uimhríocht. Mar sin féin, nuair a thagann dul chun cinn ailtireachta i dtír, is féidir leo blianta de ghnóthachain scálúcháin incriminteacha a léim tharstu. Ba léim den sórt sin an Transformer féin, ag cur blianta d'obair scálúcháin RNN as feidhm thar oíche.
Tá an tionscal ag aithint níos mó agus níos mó go bhfuil teorainneacha ag baint le scálú íon. Tá ceannaireacht OpenAI féin tar éis plé poiblí a dhéanamh ar theipeanna a chur ar fáil maidir le hinfhaighteacht sonraí agus eacnamaíocht ríomhaireachta. Idir an dá linn, tá nuálaíocht ailtireachta ag luasghéarú: tá samhlacha meascán saineolaithe cosúil le Mixtral, malairtí airde éifeachtúla, agus samhlacha spáis stáit ag dul i méid. Leanann formhór na saotharlann teorann an dá straitéis ag an am céanna anois, ag caitheamh leo mar chomhlántacha seachas mar iomaíocht.
Ag féachaint chun cinn, ní dócha go dtabharfaidh ceachtar cur chuige leis féin AI go dtí cumas ar leibhéal an duine. Tugann dlíthe scálaithe le fios go leanfaimid orainn ag brú méid an mhúnla, ach cuirfidh laghdú ar thorthaí agus srianta acmhainní iallach orainn níos mó spleáchais a thabhairt ar chliste ailtireachta. Comhcheanglaíonn an cosán is geallta chun cinn an dá rud: dlíthe scálaithe a úsáid chun méid is fearr an mhúnla a chinneadh agus nuálaíochtaí ailtireachta a chur i bhfeidhm chun an cumas in aghaidh an pharaiméadair a uasmhéadú. Sainmhíníonn an cur chuige hibrideach seo teorainn reatha na taighde ar AI.
Ciallaíonn dlíthe scálúcháin go mbíonn samhlacha níos mó níos fearr i gcónaí.
Léirigh Chinchilla go gcaithfidh méid an mhúnla agus sonraí oiliúna scálú le chéile. Ní bheidh feidhmíocht mhaith ag samhail 70B atá oilte ar shonraí neamhleor i gcomparáid le samhail níos lú atá oilte ar shonraí leordhóthanacha. Baineann an gaol le cothromaíocht, ní hamháin le méid.
Níl i nuálaíocht ailtireachta ach bealach chun caiteachas ar ríomhaireacht a sheachaint.
Is minic a chuireann dul chun cinn ailtireachta cumais nua ar fáil nach féidir a bhaint amach le scálú ina aonar. Ní hamháin gur rinne an Claochladán samhlacha níos saoire; chuir sé ar chumas próiseáil comhthéacsanna níos faide agus oiliúint chomhthreomhar nach bhféadfadh RNNanna a thacú go bunúsach.
Leanfaidh dlíthe scálúcháin ar aghaidh go deo go dtí go sroichfimid AGI.
Tá taighdeoirí tar éis laghdú ar thorthaí ag an teorainn a dhoiciméadú. Tugann gach dúbailt ríomhaireachta gnóthachain feidhmíochta níos lú anois ná mar a bhí ag dúbailtí roimhe seo. Tá cáilíocht agus infhaighteacht sonraí ag éirí ina srianta deacra nach féidir le scálú íon a shárú.
Tá an dá chur chuige seo eisiach dá chéile.
Úsáideann samhlacha teorann nua-aimseartha an dá rud. Is dócha go n-ionchorpraíonn GPT-4 nuálaíochtaí ailtireachta chomh maith le scála ollmhór. Baineann an díospóireacht i ndáiríre le béim agus leithdháileadh acmhainní, ní rogha ceachtar nó.
Bíonn bua i gcónaí ar nuálaíocht ailtireachta ná ar scálú.
Beidh ailtireacht chliste gan dóthain paraiméadair nó sonraí ag dul i léig. De ghnáth, oibríonn nuálaíocht ailtireachta is fearr nuair a chuirtear scála leordhóthanach leis. Is iad na córais is rathúla a bharrfheabhsaíonn an dá thoise ag an am céanna.
Roghnaigh dlíthe scálúcháin mhúnla nuair a bhíonn buiséid ríomhaireachta ollmhóra agat agus nuair is gá feabhsuithe intuartha, incriminteacha a dhéanamh ar ailtireachtaí seanbhunaithe. Roghnaigh nuálaíocht ailtireachta nuair a bhíonn acmhainní srianta, nuair is gá duit éifeachtúlacht ag am an aschuir, nó nuair a bhíonn tú ag saothrú cumais nach bhfuil scálú íon in ann a sheachadadh. Go praiticiúil, comhcheanglaíonn na córais AI is rathúla inniu an dá fhealsúnacht seachas gealltanas a thabhairt do cheachtar acu go heisiach.
Déantar comparáid anseo idir AI ar an ngléas agus AI sa scamall, agus béim á cur ar an gcaoi a ndéanann siad próiseáil ar shonraí, a dtionchar ar phríobháideachas, ar fheidhmíocht, ar inrochtaineacht, agus ar chásanna úsáide tipiciúla do idirghníomhaíochtaí i ndáiríre, do mhúnlaí móra-scála, agus do riachtanais ceangalacha i bhfeidhmchláir nua-aoiseacha.
Leagann an comparáid ailtireachta seo béim ar na príomhdhifríochtaí idir córais AI atá feasach ar chomhthéacs, a dhéanann anailís dhinimiciúil ar shonraí comhthéacsúla amhail intinn an úsáideora, stair agus timpeallacht, agus córais atá dall ar chomhthéacs, a phróiseálann ionchuir mar imeachtaí scoite bunaithe go hiomlán ar rialacha seasta, réamhshainithe.
Déanann an miondealú ailtireachta seo anailís ar na paraidímí ar leith de chórais intleachta saorga atá dírithe ar spriocanna agus atá dírithe ar ionchur. Cé go mbíonn ailtireachtaí atá dírithe ar ionchur thar barr i bpróiseáil imoibríoch agus in aithint patrún meandarach, bíonn na creatlacha cognaíocha chun cinn atá riachtanach le haghaidh réasúnaíocht ilchéime, pleanáil oiriúnaitheach, agus réiteach fadhbanna uathrialach ag córais atá dírithe ar spriocanna.
Sa mhiondealú mionsonraithe seo, déantar iniúchadh ar na difríochtaí bunúsacha idir Intleacht Shaorga Mhachnamhach agus Intleacht Shaorga Dhea-bhreithnithe, ag mapáil a n-ailtireacht le próiseáil chognaíoch Chóras 1 agus Chóras 2 an duine. Clúdaítear an chaoi a gcuireann na córais seo i bhfeidhm ar réiteach fadhbanna, ar inoiriúnaitheacht fíor-ama, agus ar éifeachtúlacht ríomhaireachtúil chun todhchaí na hintleachta saorga ilchisealaithe a shainiú.
Déanann córais dhíláraithe AI faisnéis, sonraí agus ríomhaireacht a dháileadh ar fud nóid neamhspleácha, agus is minic a thugann siad tús áite do oscailteacht agus do rialú úsáideoirí, agus déanann cuideachtaí córais chorparáideacha AI a bhainistiú go lárnach agus iad ag optamú feidhmíochta, brabúis agus comhtháthú táirgí. Múnlaíonn an dá chur chuige an chaoi a dtógtar, a rialaítear agus a rochtaintear AI, ach tá difríocht mhór eatarthu ó thaobh trédhearcachta, úinéireachta agus rialaithe de.
