# Mashinalıq oqıtıwKirill

**Mashinalıq oqıtıw(ingl. Machine Learning, ML)* − maǵlıwmatlardı úyrenetuǵın hám kórinbeytuǵın maǵlıwmatlardı ulıwmalastırıw hám usılayınsha anıq kórsetpelersiz wazıypalardı orınlay alatuǵın statistikalıq algoritmlerdi islep shıǵıwǵa hám izertlewge baylanıslı jasalma intellekttiń izertlew tarawı. Sońǵı waqıtlarda jasalma neyron tarmaqlar ónimlilik boyınsha kóplegen aldınǵı usıllardan alǵa ilgerledi.

Mashinalıq oqıtıw kóplegen tarawlarda, sonıń ishinde tábiyiy tildi qayta islew, kompyuter kóriwi, sóylewdi tanıw, elektron poshtanı filtrlew, awıl xojalıǵı hám medicinada qollanıladı. Biznes máselelerde qollanılǵanda ol boljawlı analitika degen at penen belgili. Barlıq mashinalıq oqıtıw statistikalıq tiykarda bolmasa da, esaplaw statistikası taraw usıllarınıń zárúr deregi bolıp tabıladı.

Mashinalıq oqıtıwdıń matematikalıq tiykarları matematikalıq optimallastırıw (matematikalıq programmalastırıw) usılları menen támiyinlenedi. Maǵlıwmatlardı intellektual analizlew *(ingl. Data mining)* − baqlawsız oqıtıw arqalı izertlew maǵlıwmatların analizlewge (EDA) itibar beretuǵın tiyisli (parallel) izertlew tarawı.

Teoriyalıq jaqtan, shama menen durıs *(ingl. PAC - probably approximately correct)* oqıtıw, mashinalıq oqıtıwdı táriyiplew ushın tiykar jaratadı.

## Tariyxı

Mashinalıq oqıtıw terminin 1959-jılı IBM xızmetkeri hám kompyuter oyınları menen jasalma intellekt tarawı jetekshi qánigesi Artur Samuel tárepinen engizildi. Bul dáwirde ózin-ózi oqıtıwshı kompyuterler sinoniminen de paydalanılǵan.

Mashinalıq oqıtıwdıń eń birinshi modeli 1950-jılları Artur Samuel shashkada jeńiske erisiw imkaniyatın esaplaytuǵın programmanı oylap tapqan waqtında engizilgen bolsa da, mashinalıq oqıtıw tariyxı adamnıń on jıllar dawamında kognitiv proceslerdi izertlewge degen umtılıwınan hám is háreketlerinen baslanadı. 1949-jılı kanadalı psixolog Donald Xebb «Minez-qulıqtı shólkemlestiriw» (ingl. The Organization of Behavior) kitabın baspadan shıǵardı, onda ol nerv kletkaları arasındaǵı belgili bir óz-ara tásirler nátiyjesinde payda bolatuǵın teoriyalıq nerv strukturasın engizdi. Bir-biri menen háreketlesetuǵın neyronlardıń Xebb modeli jasalma intellekt hám mashinalıq oqıtıw algoritmleriniń túyinler yamasa maǵlıwmatlar menen baylanısıw ushın kompyuterler paydalanatuǵın jasalma neyronlar astında qalay jumıs isleytuǵını ushın tiykar jarattı. Adamnıń kognitivlik sistemaların izertlegen basqa izertlewshiler de házirgi waqıttaǵı mashinalıq oqıtıw texnologiyalarına óz úleslerin qostı, sonıń ishinde logikalıq Uolter Pitts penen Uorren Makkallox, adamnıń oylaw proceslerin kórsetetuǵın algoritmlerdi oylap tabıw ushın neyron tarmaqlardıń dáslepki matematikalıq modellerin usınǵan.

1960-jıllardıń basında Raytheon kompaniyası dawıslı signallardı, elektrokardiogrammalardı hám sóylew úlgilerin ápiwayı kúsheytetuǵın oqıtıwdı qollanıp analizlew ushın Cybertron dep atalatuǵın perfolentalıq yadı bar eksperimental «oqıw mashinasın» islep shıqtı. Onı adam operator/muǵallim úlgilerdi tanıwǵa qayta-qayta «úyretken» hám durıs emes sheshimleri qayta bahalawǵa imkaniyat beretuǵın «joq» túymesi menen úskenelengen. 1960-jıllardaǵı mashinalıq oqıtıwdı izertlewge arnalǵan tiyisli kitap Nikolsonnıń oqıw mashinaları tuwralı kitabı edi, ol tiykarınan obrazdı (úlgini) klassifikaciyalaw ushın mashinalıq oqıtıw menen shuǵıllanadı. Obrazlardı (úlgini) tanıwǵa qızıǵıwshılıq 1973-jılı Duda menen Xart táriyiplegenindey, 1970-jılları dawam etti. 1981-jılı jasalma neyron tarmaq 40 simvoldı (26 hárip, 10 cifr hám 4 arnawlı simvollar) kompyuter terminalınan tanıwdı úyrenetuǵın oqıtıw strategiyalarınan paydalanıw tuwralı esabat berildi.

Tom M. Mitchell mashinalıq oqıtıw tarawında izertlenetuǵın algoritmlerdiń keńnen keltirilgen, rásmiy anıqlamasın keltirdi: «Kompyuter programması T wazıypalarınıń ayırım klasına baylanıslı E tájiriybesinen hám eger onıń wazıypalardı orınlawda orınlanatuǵın bolsa, P ónimlilik ólsheminen úyrenedi dep aytıladı. T-da, P arqalı ólshengende, E tájiriybesi menen jaqsılanadı.» Mashinalıq oqıtıwǵa baylanıslı wazıypalardıń bul anıqlaması tarawdı kognitivlik terminleri menen anıqlawdan góre ulıwma operaciyalıq anıqlamanı usınadı. Bul Alan Tyuringniń «Esaplaw texnikası hám intellekt» atlı maqalasında «Mashinalar oylay ala ma?» degen sorawǵa baylanıslı usınısınan keyin. «Biz (oylaw subyektleri retinde) isley alatuǵın nárseni mashinalar isley ala ma?» degen soraw menen almastırıladı.

Búgingi kúnde mashinalıq oqıtıwdıń eki maqseti bar. Olardıń biri jaratılǵan modeller tiykarında maǵlıwmatlardı klassifikaciyalaw; basqa maqseti bolsa − usı modeller tiykarında keleshektegi nátiyjelerdi boljaw. Maǵlıwmatlardı klassifikaciyalawǵa arnalǵan gipotetikalıq algoritm rak keselligin klassifikaciyalawǵa úyretiw ushın baqlanatuǵın oqıtıw menen birge modellerdiń kompyuter kórinisin paydalana aladı. Birja sawdasına arnalǵan mashinalıq oqıtıw algoritmi treyderge aldaǵı itimal boljawlar tuwralı xabarlawı múmkin.

## Basqa tarawlar menen baylanısı

### Jasalma intellekt

Jasalma intellekttiń kishi tarawı retinde mashinalıq oqıtıw
Ilimiy jumıs retinde mashinalıq oqıtıw jasalma intellektke (AI) umtılıwdan payda boldı. Jasalma intellekt akademiyalıq pán retinde dáslepki kúnlerde izertlewshiler mashinalardıń maǵlıwmatlardan úyreniwge qızıǵıwshılıq bildirdi. Olar máselege hár túrli simvollı usıllar menen, sonday-aq sol waqıtta «neyron tarmaqlar» dep atalatuǵın usıllar menen jaqınlasıwǵa háreket etti; olar tiykarınan perceptronlar hám keyinirek statistikanıń ulıwmalastırılǵan sızıqlı modellerin qayta oylap tapqan basqa modeller ekeni anıqlandı. Itimallıq pikirlewler de qollanıldı, ásirese avtomatlastırılǵan medicinalıq diagnostikada.

Degen menen, logikalıq bilimge tiykarlanǵan usılǵa kóbirek itibar beriw jasalma intellekt penen mashinalıq oqıtıw arasındaǵı kelispewshilikti payda etti. Itimallıq sistemaları maǵlıwmatlardı alıw menen usınıwdıń teoriyalıq hám ámeliy máseleleri menen qıynaldı.  1980-jılǵa kelip ekspert sistemalar jasalma intellektke ústemlik etti, al statistika unamsız edi. Simvollı/bilimge tiykarlanǵan oqıtıw boyınsha jumıs jasalma intellekt sheńberinde dawam etti, bul induktiv logikalıq programmalastırıwǵa (ILP) alıp keldi, biraq izertlewdiń qanshelli statistikalıq baǵdarı endi úlgini tanıw hám informaciyanı izlewde jasalma intellekt tarawınıń sırtında boldı.  Neyron tarmaqlardı izertlewden jasalma intellekt penen kompyuter ilimi bir waqıtta biykar etildi. Bul baǵdardı da Xopfild, Rumelxart hám Xinton sıyaqlı basqa pánlerdiń izertlewshileri «konnektizm» retinde AI/CS  (jasalma intellekt/informatika) tarawınan tıs dawam ettirdi. Olardıń baslı jetiskenligi 1980-jıllardıń ortasında keri tarqalıw usılın qayta oylap tabıwǵa túrtki boldı.

Qayta shólkemlestirilgen hám óz tarawı retinde tán alınǵan Mashinalıq oqıtıw 1990-jılları rawajlana basladı. Bul taraw óziniń maqsetin jasalma intellektke erisiwden ámeliy xarakterdegi sheshiletuǵın máselelerdi sheshiwge ózgertti. Bul itibardı jasalma intellektten miyrasqa alǵan simvollı usıllardan uzaqlasıp, statistikadan, anıq emes logikadan hám itimallıqlar teoriyasınan alınǵan usıllar menen modellerge almastı.

### Ulıwmalastırıw

Optimallastırıw menen mashinalıq oqıtıw arasındaǵı ayırmashılıq ulıwmalastırıw maqsetinen payda boladı: Optimallastırıw algoritmleri shınıǵıwlar (oqıw) jıynaǵındaǵı joǵaltıwdı minimallastıratuǵın bolsa, mashinalıq oqıtıw kórinbeytuǵın úlgilerdi joǵaltıwdı minimallastırıwǵa baylanıslı. Hár túrli oqıtıw algoritmlerin ulıwmalastırıwdı xarakteristikalaw házirgi izertlewlerdiń belsendi teması bolıp tabıladı, ásirese tereń oqıtıw *(ingl. deep learning)* algoritmleri ushın.

### Regressiya analizi

Maǵlıwmatlar jıynaǵında sızıqlı regressiyanıń illyustraciyası
Regressiyalıq analiz kiriw ózgeriwshileri hám olar menen baylanıslı imkaniyatlar arasındaǵı qatnaslardı bahalawǵa arnalǵan kóplegen statistikalıq usıllardı óz ishine aladı. Onıń eń kóp tarqalǵan túri − ápiwayı kishi kvadratlar sıyaqlı matematikalıq kriteriyaǵa berilgen maǵlıwmatlarǵa eń jaqsı sáykes keletuǵın bir sızıq sızılǵan sızıqlı regressiya. Sońǵısı kóbinese dizbektiń regressiyasındaǵıday shamadan tıs iykemlikti hám beyimlikti azaytıw ushın sazlaw usılları menen keńeytiledi. Sızıqlı emes esaplardı sheshkende, tiykarǵı modellerge polinom regressiya (mısalı, Microsoft Excel baǵdarlamasında trend sızıǵın sáykeslendiriw ushın paydalanıladı), llogistikalıq regressiya (statistikalıq klassifikaciyalawda jiyi paydalanıladı) yamasa hátte artıqmashılıqlardı paydalanıp, sızıqlı emeslikti kirgizetuǵın yadro regressiyası kiredi. Kirgiziwshi ózgeriwshi mánislerin joqarı ólshemli keńislikke alternativ túrde salıstırıw ushın yadro tryukin aytıwǵa boladı.

### Gauss procesleri

Basqa regressiya modelleri menen salıstırǵanda Gauss procesiniń regressiyasına (boljaw) mısal
Gauss procesi stoxastikalıq process bolıp, onda tosınnan ózgeriwshilerdiń hárbir sheklengen jıynaǵı kóp ólshemli normal bólistiriwge iye bolıp, ol aldınnan belgilengen kovariantlı funkciyaǵa yamasa yadroǵa tiykarlanadı, bul jup noqatlardıń bir-birine jaylasqan orınlarında qalay baylanısıwın modellestiredi.

Baqlanatuǵın noqatlardıń jıynaǵın yamasa kirgiziw-shıǵarıw mısalların esapqa alıp, jańa noqattıń (baqlanbaǵan) shıǵıwınıń onıń kiriw maǵlıwmatlarınıń funkciyası retinde tarqalıwın baqlanatuǵın noqatlar menen sol noqatlar hám jańa noqatlar arasındaǵı kovariaciyalar sıyaqlı qaraw arqalı tikkeley esaplawǵa boladı, baqlanbaǵan noqatta.

Gauss procesleri giperparametrlerdi optimallastırıw ushın qollanılatuǵın Bayes optimallastırıwındaǵı ataqlı surrogat modelleri bolıp tabıladı.

### Genetikalıq algoritmler

Genetikalıq algoritm (GA) − berilgen máseleniń jaqsı sheshimin tabıw úmiti menen genotiplerdi generaciyalaw ushın mutaciya hám krossover sıyaqlı usıllardı qollanıp, tábiyiy tańlaw procesin imitaciyalaytuǵın izlew algoritmi hám evristikalıq usıl. Mashinalıq oqıtıwda genetikalıq algoritmler 1980 hám 1990-jılları qollanıldı. Kerisinshe, genetikalıq hám evolyuciyalıq algoritmlerdiń ónimliligin jaqsılaw ushın mashinalıq oqıtıw usılları qollanıldı.

## Apparatlıq támiynat

2010-jıllardan baslap mashinalıq oqıtıw algoritmlerindegi hám kompyuter úskenesindegi jetiskenlikler sızıqlı yamasa jasırın birliklerdiń kóplegen qabatların óz ishine alatuǵın tereń neyron tarmaqlardı (mashinalıq oqıtıwdıń ózgeshe tar ishki domeni) oqıtıwdıń ónimli metodlarına alıp keldi. 2019-jılǵa kelip grafikalıq qayta islew blokları (GPU), kóbinese jasalma intellektke tán jaqsılawlar bar, keń kólemli kommerciyalıq bultlı jasalma intellekt oqıtıwdıń ústem metodı retinde processorlardı almastırdı. OpenAI AlexNet (2012)-ten baslap AlphaZero (2017) ǵa shekemgi eń úlken tereń oqıtıw proektlerinde qollanılatuǵın apparatlıq esaplawlardı bahaladı hám talap etiletuǵın esaplaw kóleminiń 300 000 ese óskenin anıqladı, eki ese kóbeygen waqıt trend sızıǵı 3,4 ay.

### Neyromorflıq/fizikalıq neyron tarmaqlar

Fizikalıq neyron tarmaq yamasa neyromorflıq kompyuter - bul neyron sinaps funkciyasın emulyaciyalaw ushın elektr sazlawshı material paydalanatuǵın jasalma neyron tarmaqtıń bir túri. «Fizikalıq» neyron tarmaq programmalıq támiynatqa tiykarlanǵan usıllarǵa qaraǵanda neyronlardı emulyaciyalaw ushın qollanılatuǵın fizikalıq apparatlıq támiynatlarǵa gárezlilikti ayrıqsha kórsetiw ushın qollanıladı. Ulıwma bul termin neyron sinapstı emulyaciyalaw ushın memristor yamasa basqa elektr sazlawshı qarsılıq materialı paydalanatuǵın basqa jasalma neyron tarmaqlarda qollanıladı.

### Ornatılǵan mashinalıq oqıtıw

**Ornatılǵan mashinalıq oqıtıw(ingl. Embedded Machine Learning)* − mashinalıq oqıtıwdıń kishi tarawı bolıp, onda mashinalıq oqıtıw modeli taǵatuǵın kompyuterler *(ingl. wearable computers)*, shetki qurılmalar hám mikrokontrollerler sıyaqlı sheklengen esaplaw resursları bar ornatılǵan sistemalarda isleydi. Ornatılǵan qurılmalarda mashinalıq oqıtıw modelin iske túsiriw maǵlıwmatlardı keyin qayta islew ushın bultlı serverlerde jetkerip beriw hám saqlaw zárúrligin joq etedi, bunnan bılay maǵlıwmatlardı jetkerip beriwge baylanıslı maǵlıwmatlardıń buzılıwın hám qupıyalıqtıń aǵıp ketiwin azaytadı, sonıń menen qatar intellektual qásiyetlerdi, jeke maǵlıwmatlardı hám biznes qupıyaların urlawdı azaytadı. Ornatılǵan mashinalıq oqıtıwdı bir neshe texnikalar arqalı qollanıwǵa boladı, sonıń ishinde apparatlıq qurallardı jedellestiriw, shama menen esaplawlardı qollanıw, mashinalıq oqıtıw modellerin optimallastırıw h.t.b. Kesiw, kvantlaw, bilimdi distillyaciyalaw, tómen dárejeli faktorizaciya, tarmaq arxitekturanı izlew (NAS) hám parametrlerdi ulıwma paydalanıw - mashinalıq oqıtıw modellerin optimallastırıw ushın qollanılatuǵın bir neshe usıllar.

## Derekler

## Ádebiyatlar

* Domingos, Pedro*. The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World*. Basic Books, September 22, 2015. ISBN 978-0465065707.
* Nilsson, Nils*. Artificial Intelligence: A New Synthesis*. Morgan Kaufmann. ISBN 978-1-55860-467-4.
* .
* Poole, David*. Computational Intelligence: A Logical Approach*. Oxford University Press. ISBN 978-0-19-510270-3.

## Sırtqı siltemeler

* Quotations related to Machine learning at Wikiquote
* International Machine Learning Society
* mloss is an academic database of open-source machine learning software.