Comparthing Logo
машиналык окутуумлопсAI-инфраструктураЖасалма интеллектмаалымат таануу

Башынан аягына чейинки машиналык башкаруунун жашоо цикли жана фрагменттелген машиналык башкаруу процесстери

Башынан аягына чейинки машиналык башкаруунун жашоо цикли маалыматтарды, моделдөөнү, жайылтууну жана мониторингди бир координацияланган жумуш агымынын астында бириктирет, ал эми фрагменттелген машиналык башкаруу процесстери бул этаптарды ажыратылган куралдар жана командалар боюнча чачыратат. Интеграцияланган ыкма өткөрүп берүү сүрүлүүсүн азайтат, кайталануучулукту жакшыртат жана өндүрүшкө чейинки убакытты тездетет. Фрагменттелген орнотуулар, кээде баштоо оңой болгону менен, көп учурда кайталанган күч-аракеттер жана ыраатсыз башкаруу аркылуу жашыруун чыгымдарды жаратат.

Көрүнүктүү нерселер

  • Башынан аягына чейинки жашоо циклинин платформалары маалыматтарды, окутууну, жайылтууну жана мониторингди бирдиктүү аудиттелүүчү жумуш агымына бириктирет.
  • Фрагменттелген процесстер органикалык түрдө пайда болот, бирок кайталанган иш жана ыраатсыз башкаруу аркылуу жашыруун чыгымдарды жаратат.
  • Интеграцияланган түтүктөр дрейф сигналдары менен ишке ашырылган үзгүлтүксүз кайра даярдоого мүмкүндүк берет, ал эми фрагменттелген орнотуулар көп учурда моделдерди эскирип калтырат.
  • Борборлоштурулган эксперименттерди көзөмөлдөө жана алардын келип чыгышынын аркасында комплекстүү системаларда кайталануучулук жана шайкештик бир топ күчтүү.

ML жашоо циклинин башталышынан аягына чейин эмне?

Маалыматтарды чогултуудан баштап моделди алып салууга чейинки машиналык окутуунун ар бир этабын камтыган бирдиктүү, үзгүлтүксүз жумуш агымы.

  • Алты негизги фазаны камтыйт: көйгөйлөрдү калыптандыруу, маалыматтарды иштеп чыгуу, моделди иштеп чыгуу, валидациялоо, жайылтуу жана үзгүлтүксүз мониторинг.
  • Бүтүндөй түтүктү уюштуруу үчүн MLflow, Kubeflow, Vertex AI же SageMaker сыяктуу интеграцияланган платформаларга таянат.
  • Маалыматтарды версиялоону, функцияларды сактоочу жайларды жана моделдердин реестрлерин кийинки ойлор катары эмес, биринчи класстагы компоненттер катары карайт.
  • Контейнерленген чөйрөлөр, көзөмөлдөнгөн эксперименттер жана декларативдик куур аныктамалары аркылуу кайталануучулукту баса белгилейт.
  • Өндүрүш маалыматтарын багыттоочу жана сигналдарды кайра даярдоо циклдерине жөнөтүүчү кайтарым байланыш механизмдери менен циклди жабат.

Фрагменттелген машиналык окутуу процесстери эмне?

Машина менен үйрөнүү жумуш агымынын обочолонгон этаптарын ар кандай командалар жана куралдар иштеткен байланышсыз ыкма.

  • Адатта, маалымат таануу, инженерия жана операциялар боюнча топтор аз интеграцияланган өзүнчө куралдар стектерин колдонгондо пайда болот.
  • Убакыттын өтүшү менен Jupyter дептерлери, Airflow жана атайын скрипттер сыяктуу куралдарды кошуп, машиналык окутуу мүмкүнчүлүктөрүн органикалык түрдө өнүктүргөн уюмдарда көп кездешет.
  • Эксперименттер, маалымат топтомдору жана жайгаштырылган моделдер үчүн чындыктын бирдиктүү булагынын жоктугу версияларды башкаруудагы боштуктарга алып келет.
  • Көп учурда моделдер расмий документтештирүүсүз же мониторингсиз өндүрүштө иштеген "көмүскө ML"ди жаратат.
  • Көп учурда кайталанган жумушка алып келет, анткени командалар уюмдун башка жерлеринде мурунтан эле бар болгон моделдерди кайра куруп же кайра окутуп жатышат.

Салаштыруу таблицасы

Мүмкүнчүлүк ML жашоо циклинин башталышынан аягына чейин Фрагменттелген машиналык окутуу процесстери
Жумуш агымын интеграциялоо Маалыматтардан жайылтууга чейин толук интеграцияланган түтүк Бөлүнгөн баскычтар өзүнчө куралдар жана командалар тарабынан башкарылат
Кайра кайталануучулугу Жогорку, көзөмөлдөнгөн эксперименттер жана версияланган артефакттар аркылуу Төмөндөн орточого чейин, көбүнчө жеке практикага көз каранды
Өндүрүшкө чейинки убакыт Автоматташтыруунун аркасында баштапкы орнотуудан кийин тезирээк Масштабда жайыраак, этаптардын ортосунда кол менен өткөрүп берүү менен
Башкаруу жана шайкештик Борборлоштурулган аудит жолдору жана кирүүнү көзөмөлдөө Этаптар боюнча бөлүштүрүлгөн жана ыраатсыз
Операциялык чыгымдар Баштапкы инвестициянын жогору болушу, узак мөөнөттүү чыгымдардын аз болушу Баштапкы баасы төмөн, убакыттын өтүшү менен техникалык тейлөө жүгү жогорулайт
Масштабдоо мүмкүнчүлүгү Моделдерди жана командаларды бирге масштабдоо үчүн иштелип чыккан Кол менен координациялоо жана шаймандардын жайылышы менен чектелген
Мониторинг жана пикир Орнотулган дрейфти аныктоо жана триггерлерди кайра даярдоо Көп учурда жок болуп кетет же ретроактивдүү түрдө кошулат
Командалык кызматташуу Ролдук мүмкүнчүлүккө ээ жалпы платформа Көрүнүшү чектелүү болгон жабык жумуш агымдары

Толук салыштыруу

Түтүктөрдүн архитектурасы жана жабдуулары

ML жашоо циклинин толук цикли, адатта, функцияларды бөлүп алуудан баштап моделдерди тейлөөгө чейин баарын башкарган бирдиктүү платформада иштейт. Kubeflow, MLflow, Vertex AI жана SageMaker сыяктуу куралдар маалымат таануучулар, инженерлер жана операциялык топтор бир эле артефакттардан иштеген жалпы чөйрөлөрдү камсыз кылат. Ал эми фрагменттелген процесстер дептерлерди, cron жумуштарын, Airflow DAG'ларын жана ыңгайлаштырылган жайгаштыруу скрипттерин бириктирет, көбүнчө аларды бириктирген борбордук реестр жок. Архитектуралык айырмачылык бир нерсе бузулганда эң айкын көрүнөт: интеграцияланган түтүктөр толук линия менен бетиндеги бузулууларды пайда кылат, ал эми фрагменттелген орнотуулар кол менен детективдик ишти талап кылат.

Кайталануучулук жана экспериментти көзөмөлдөө

Кайталануучулук – баштан аяк мамиленин эң күчтүү аргументтеринин бири. Ар бир эксперимент, маалыматтар топтомунун версиясы жана гиперпараметрдин айкалышы автоматтык түрдө катталат, бул каалаган моделди бир нече айдан кийин кайра түзүүгө мүмкүндүк берет. Фрагменттелген жумуш агымдары, адатта, жеке адистин сактоону эстеген нерсесине таянат, бул көбүнчө бирөөнүн ноутбугундагы дептер жана эң жакшы упайга ээ болгон Slack билдирүүсүн билдирет. Бул боштук аудиттер, мүчүлүштүктөрдү оңдоо же команданын мүчөсү уюмдан кеткенде оор болуп калат.

Башкаруу, шайкештик жана тобокелдик

Финансы, саламаттыкты сактоо жана камсыздандыруу сыяктуу жөнгө салынуучу тармактар жашоо циклинин башынан аягына чейин башкарылышынан чоң пайда алышат, анткени ар бир моделдик чечим анын маалыматтарына жана кодуна байланыштуу болот. Борборлоштурулган платформалар бекитүү дарбазаларын, кирүүнү көзөмөлдөөнү жана бир жактуулукту текшерүүнү жөнөкөйлөштүрүүгө мүмкүндүк берет. Фрагменттелген процесстер шайкештикти кол менен издөөгө айландырат, модель карталары, окутуу маалыматтары жана баалоо жыйынтыктары викилерге, дисктерге жана электрондук почта жиптерине чачырап кетет. Ошого жараша тобокелдик профили да ар кандай болот: интеграцияланган системалар катуу жана көрүнөө түрдө иштебей калат, ал эми фрагменттелген системалар өндүрүштө үнсүз иштебей калат.

Ылдамдык, баа жана команданын өндүрүмдүүлүгү

Эң негизги платформалар орнотууга, окутууга жана интеграциялоого олуттуу алдын ала инвестиция салууну талап кылат, бул биринчи моделин чыгарууну каалаган командалар үчүн жай сезилиши мүмкүн. Бирок, бул негиз түзүлгөндөн кийин, жаңы моделдер өндүрүшкө жумалардын ордуна бир нече күндүн ичинде өтөт. Фрагменттелген процесстер тез башталат, анткени командалар мурунтан билген кандай гана курал болбосун колдонушат, бирок алар кайталанган күч-аракет, морт өткөрүп берүү жана системалардын ортосундагы маалыматтарды шайкеш келтирүү зарылдыгы аркылуу жашыруун чыгымдарды топтошот. Эки-үч жылдык горизонтто көпчүлүк уюмдар интеграцияланган ыкманы акчага да, инженердик сааттарга да арзаныраак деп эсептешет.

Мониторинг, пикир жана үзгүлтүксүз өркүндөтүү

Жетилген баштан аяк жашоо цикли мониторингди биринчи класстагы жаран катары карайт, анда автоматташтырылган дрейфти аныктоо, иштөөнүн башкаруу панелдери жана жаңы маалыматтарды кайра даярдоо түтүктөрүнө кайтарып берүүчү триггерлер бар. Бул моделдер кол менен кийлигишүүсүз тынымсыз өркүндөтүлүп турган жакшы циклди түзөт. Фрагменттелген орнотуулар көп учурда моделди жайгаштырат жана андан кийин бир нерсе туура эмес болгонго чейин унутуп коюшат, анткени пост-продакшн этабы эч кимге таандык эмес. Айырмачылык моделдин жаңылыгында көрүнөт: интеграцияланган уюмдар жума сайын же күн сайын кайра окутушат, ал эми фрагменттелген уюмдар жаңыртуусуз бир нече ай иштеши мүмкүн.

Артыкчылыктары жана кемчиликтери

ML жашоо циклинин башталышынан аягына чейин

Артыкчылыктары

  • + Бирдиктүү жумуш агымы
  • + Күчтүү кайталануучулугу
  • + Орнотулган мониторинг
  • + Борборлоштурулган башкаруу
  • + Масштабдагы тезирээк итерация

Конс

  • Жогорку алдын ала төлөм
  • Тик окуу ийри сызыгы
  • Сатуучуну бекитип коюу коркунучу
  • Платформа боюнча тажрыйба талап кылынат

Фрагменттелген машиналык окутуу процесстери

Артыкчылыктары

  • + Тез баштоо
  • + Ийкемдүү шаймандар
  • + Баштапкы инвестиция аз
  • + Көпчүлүк командаларга тааныш

Конс

  • Кайра чыгаруу мүмкүнчүлүгү начар
  • Кол менен өткөрүп берүү
  • Жашыруун узак мөөнөттүү чыгымдар
  • Алсыз башкаруу

Жалпы каталар

Мит

Толук масштабдуу ML платформалары жүздөгөн моделдери бар ири ишканалар үчүн гана пайдалуу.

Чындык

Чакан топтор да өндүрүштө эки же үчтөн ашык моделге ээ болгондон кийин интеграцияланган жумуш агымдарынан пайда көрүшөт. Фрагменттелген куралдарды координациялоонун кошумча чыгымдары начар масштабдалат жана MLflow же Vertex AI сыяктуу платформалар стартаптар жана чакан маалымат таануу командалары үчүн иштелип чыккан деңгээлдерди сунуштайт.

Мит

Фрагменттелген машиналык окутуу процесстери ийкемдүү, анткени командалар ар бир жумуш үчүн эң жакшы куралды тандай алышат.

Чындык

Куралдар деңгээлиндеги ийкемдүүлүк көп учурда система деңгээлинде катуулукка айланат, анткени дал келбеген куралдарды интеграциялоо эч ким сактагысы келбеген атайын жабышчаак кодду талап кылат. Толук платформалар жеке тандоолорду чектейт, бирок уюм чындыгында эмнеге жетише ала тургандыгында алда канча ийкемдүүлүктү камсыз кылат.

Мит

Модель жайгаштырылгандан кийин, машиналык окутуу иши негизинен бүтөт.

Чындык

Жайгаштыруу моделдин реалдуу жашоо циклинин башталышына жакыныраак. Маалыматтардын жылышы, түшүнүктөрдүн жылышы жана колдонуучунун жүрүм-турумунун өзгөрүшү өндүрүштүк моделдерди үзгүлтүксүз мониторинг жүргүзүүгө жана мезгил-мезгили менен кайра даярдоого муктаж экенин билдирет, дал ушул нерсени башынан аягына чейин жашоо циклин башкаруу чечүүгө арналган.

Мит

Өндүрүштө машиналык окутууну башкаруу үчүн ачык булактуу дептерлер жана скрипттер жетиштүү.

Чындык

Ноутбуктар изилдөө үчүн эң сонун, бирок өндүрүштүн ишенимдүүлүгүндө, график түзүүдө жана версия түзүүдө начар. Өндүрүш ML Jupyter чөйрөсү камсыз кылгандан алда канча ашып түшкөн оркестрлештирүүнү, контейнерлештирүүнү жана мониторинг мүмкүнчүлүктөрүн талап кылат.

Мит

Эң негизгиси, комплекстүү платформага өтүү - бул бардык учурдагы жумушту таштап салуу дегенди билдирет.

Чындык

Көпчүлүк заманбап платформалар инкременталдык миграцияны колдойт, бул командаларга убакыттын өтүшү менен учурдагы моделдерди, маалымат топтомдорун жана түтүктөрдү жаңы системага алып келүүгө мүмкүндүк берет. Максат - баарын биринчи күндөн баштап кайра куруу эмес, фрагментацияны акырындык менен азайтуу.

Көп суралуучу суроолор

Башынан аягына чейинки ML жашоо цикли чындыгында эмнелерди камтыйт?
Баштапкы ML жашоо цикли көйгөйлөрдү аныктоону, маалыматтарды чогултууну жана текшерүүнү, функцияларды инженериялоону, моделдерди окутууну, баалоону, жайылтууну, мониторинг жүргүзүүнү жана кайра даярдоону камтыйт. Негизги идея - ар бир этап кийинки этапка таза өтүп, аларды бириктирген жалпы артефакттар, версияларды башкаруу жана пикир циклдери бар. Vertex AI, SageMaker жана Kubeflow сыяктуу платформалар бул идеяны ар кандай деңгээлдеги пикир менен ишке ашырышат.
Эмне үчүн фрагменттелген машиналык окутуу процесстери өндүрүштөгү көптөгөн үзгүлтүктөргө алып келет?
Фрагменттелген процесстер өндүрүштө ийгиликсиздикке учурайт, анткени бир дагы команда толук куурга ээ эмес, ошондуктан маалыматтарды инженериялоо, моделдөө жана операциялардын ортосундагы өткөрүп берүү боштуктарды жаратат. Моделдер тийиштүү валидациясыз жайгаштырылат, мониторинг өткөрүлүп жиберилет жана бир нерсе бузулганда, эч ким аны диагноздоо үчүн толук маалыматка ээ эмес. 2020 жана 2021-жылдардагы Алгоритм жана Аппен сурамжылоолору маалымат окумуштуулары убактысынын болжол менен төрттөн бир бөлүгүн интеграцияланган платформалар автоматташтырган инфраструктура жана жайылтуу тапшырмаларына жумшай турганын көрсөттү.
Фрагменттелген MLден баштан аяк платформага өтүү канча убакытты алат?
Миграциянын мөөнөттөрү ар кандай болот, бирок көпчүлүк уюмдар өздөрүнүн ML жумуш агымдарын бирдиктүү платформага бириктирүү үчүн үч айдан он эки айга чейин убакыт талап кылышат. Эң тез миграциялар бир гана жогорку баалуу моделден башталып, ар бир түтүктү бир эле учурда конвертациялоого аракет кылбастан, сыртка карай жайылат. Биринчи айда баалоо жана куралдарды тандоого көңүл бурулуп, андан кийин кийинки бир нече чейректерде этап-этабы менен жайылтылат деп күтүлүүдө.
Чакан командалар үчүн комплекстүү ML платформалары баасына татыктуубу?
Бир же эки моделди иштеткен командалар үчүн чыгымдарды жана пайданы эсептөө көбүнчө жөнөкөй бойдон калууну артык көрөт. Команда үч же андан көп өндүрүш моделине жеткенде же шайкештик талаптарына туш боло баштаганда, математика адатта өзгөрөт. Булут провайдерлеринин башкарылуучу кызматтары кирүү тоскоолдуктарын бир топ төмөндөттү, айрымдары акысыз деңгээлдерди же колдонулганда акы төлөөнү сунуштап, чакан маалымат таануу командалары үчүн толук куралдарды жеткиликтүү кылды.
MLOps деген эмне жана ал ML жашоо цикли менен кандай байланышы бар?
MLOps – бул DevOps принциптерин машиналык окутуу системаларына колдонуу практикасы жана ал ар кандай баштан аяк машиналык окутуунун жашоо циклинин чордонунда турат. Ал моделдер үчүн CI/CDди, автоматташтырылган кайра даярдоону, мониторингди жана башкарууну камтыйт. Фрагменттелген процесстерде, адатта, MLOps дисциплинасы жетишсиз, ошондуктан алар бир нече моделдерден тышкары масштабдоодо кыйынчылыктарга дуушар болушат.
Коммерциялык платформа сатып албастан, толук кандуу ML жашоо циклине ээ боло аласызбы?
Албетте. MLflow, Airflow, Kubernetes жана Feastтин айланасында курулган ачык булактуу стектери эч кандай коммерциялык лицензиясыз толук интеграцияланган жашоо циклин камсыздай алат. Компромисс - сиз орнотуу, техникалык тейлөө жана жаңыртуулар үчүн көбүрөөк жоопкерчиликти аласыз, ошондуктан көптөгөн уюмдар акыры ML изи өскөн сайын башкарылуучу кызматтарга өтүшөт.
Функциялар дүкөнү ML жашоо циклинде кандай ролду ойнойт?
Функциялар сактагычы инженердик функциялар үчүн жалпы сактагыч катары иштейт, бул окутуу учурунда колдонулган ошол эле трансформациялардын жыйынтык чыгаруу учурунда жеткиликтүү болушун камсыздайт. Бул фрагменттелген орнотууларда окутууга кызмат көрсөтүүчү бурмалоолордун эң кеңири таралган булактарынын бирин жок кылат, мында функциялар өндүрүштө ар кандайча кайра эсептелет. Функциялар сактагычы жетилген баштан аягына чейинки жашоо циклинин ишке ашырууларынын өзгөчөлүгү болуп саналат.
ML жашоо циклиңиз чындыгында иштеп жатканын кантип өлчөйсүз?
Пайдалуу көрсөткүчтөргө жаңы моделдердин өндүрүшкө чейинки убактысы, активдүү мониторинг жүргүзүлгөн моделдердин пайызы, кайра даярдоо жыштыгы жана машиналык башкаруу системаларына байланыштуу өндүрүштүк инциденттердин ылдамдыгы кирет. Дени сак баштан аягына чейинки жашоо циклдери бар уюмдар, адатта, фрагменттелген процесстерди иштеткендерге салыштырмалуу кыскараак жайылтуу циклдерин жана өндүрүштөн кийинки күтүлбөгөн окуялардын азыраак болгонун билдиришет.
Эгерде модель сыноодо жакшы натыйжа көрсөтсө, моделди көзөмөлдөө чындап эле зарылбы?
Ооба, анткени өндүрүштүк маалыматтар окутуу маалыматтарына сейрек кездешет. Бөлүштүрүүлөрдүн жылышы, колдонуучунун жүрүм-турумунун өзгөрүшү жана жогорку агымдагы түтүктөр тесттик топтомдор күтө албаган жолдор менен өнүгөт. Мониторинг бул жылыштарды эрте аныктайт, ал эми фрагменттелген орнотуулар көп учурда аларды бизнес көрсөткүчтөрү начарлагандан кийин гана аныктайт.
Фрагменттелген оюндан баштан аяк толук MLге өтүүдө командалардын эң чоң катасы кайсы?
Эң көп кездешкен ката - баарын бир убакта стандартташтырууга аракет кылуу, бул алардын учурдагы куралдарына байланган командалардын каршылыгын жаратат. Ийгиликтүү миграция, адатта, эң жогорку сүрүлүүчүлүккө дуушар болгон өткөрүп берүү чекиттерин аныктоодон жана аларды алгач чечүүдөн башталат, андан кийин платформанын таасирин органикалык түрдө кеңейтүү. Аны куралдарды өзгөртүү эмес, маданий өзгөрүү катары кароо алда канча жакшы натыйжаларды берет.

Чыгарма

Уюмуңуз өндүрүштө бир нече моделди иштеткенде, жөнгө салынган чөйрөдө иштегенде же кичинекей командадан тышкары машиналык башкарууну масштабдоону пландап жатканда, толук кандуу машиналык башкаруу жашоо циклин тандаңыз. Алдын ала инвестиция тезирээк итерация, күчтүү башкаруу жана узак мөөнөттүү тейлөөнүн төмөндүгү аркылуу кайтарымын берет. Фрагменттелген машиналык башкаруу процесстери изилдөө долбоорлору, академиялык изилдөөлөр же бир же эки модели бар өтө кичинекей командалар үчүн иштей алат, бирок алар татаалдык, кызматкерлердин саны же шайкештик талаптары өскөн сайын бузулуп кетиши мүмкүн.

Тиешелүү салыштыруулар

CLIP кыстаруулары жана ачкыч сөзгө негизделген сүрөттү издөө

CLIP киргизүүлөрү сүрөттөрдү жана текстти жалпы семантикалык мейкиндикте түшүнүү үчүн терең үйрөнүүнү колдонот, ал эми ачкыч сөздөргө негизделген сүрөттү издөө кол менен дайындалган тегдерди же айланасындагы текстти дал келтирүүгө негизделген. CLIP заманбап визуалдык издөө тапшырмалары үчүн алда канча чоң ийкемдүүлүктү жана тактыкты сунуштайт, ал эми ачкыч сөздөрдүн ыкмалары тар, жакшы тандалган контексттерде пайдалуу бойдон калууда.

DeepSeek V4 жана GPT-4-класстагы моделдер

DeepSeek V4 - бул кытайлык жасалма интеллект лабораториясынан чыккан ачык салмактагы чоң тил модели, ал эми GPT-4 классындагы моделдер OpenAIдин флагмандык жабык булактуу системаларына тиешелүү. Бул салыштыруу иштеп чыгуучуларга жана бизнеске акылдуулук менен тандоо жасоого жардам берүү үчүн алардын архитектурасын, мүмкүнчүлүктөрүн, баасын, жеткиликтүүлүгүн жана реалдуу дүйнөдөгү иштешин изилдейт.

Google издөө алгоритми жана жөнөкөйлөштүрүлгөн класстык моделдер

Google издөө алгоритми миллиарддаган веб-баракчаларды машиналык окутууну жана жүздөгөн сигналдарды колдонуп рейтингге киргизет, ал эми жөнөкөйлөтүлгөн класстык моделдер жасалма интеллект концепцияларын үйрөтүүгө боло турган, жеткиликтүү алкактарга бөлөт. Бири өндүрүштө планетардык масштабда иштейт; экинчиси окуучулар үчүн жасалма интеллекттин чындыгында кандай иштээрин үйрөнүү үчүн педагогикалык көпүрө катары кызмат кылат.

Google издөө жана билим графиги боюнча издөө

Google Издөө – көпчүлүк адамдар күн сайын колдонгон кеңири веб индекстөө системасы, ал эми Knowledge Graph Search – бул түз жоопторду жана маалымат панелдерин колдогон Google'дун структураланган объект маалымат базасы. Алардын кандайча айырмаланарын түшүнүү эмне үчүн кээ бир сурамдар бай маалыматтарды кайтарарын, ал эми башкалары салттуу көк шилтемелерди кайтарарын түшүндүрүүгө жардам берет.

GPT стилиндеги архитектуралар жана Мамба негизиндеги тил моделдери

GPT стилиндеги архитектуралар бай контексттик түшүнүктү түзүү үчүн өзүнө көңүл бурган Трансформер декодер моделдерине таянат, ал эми Мамбага негизделген тил моделдери ырааттуулуктарды натыйжалуураак иштетүү үчүн структураланган абал мейкиндигин моделдөөнү колдонушат. Негизги компромисс - GPT стилиндеги системалардагы экспрессивдүүлүк жана ийкемдүүлүк, ал эми Мамбага негизделген моделдердеги масштабдуулук жана узак контексттик натыйжалуулук.