Mashinalıq oqıtıw
Mashinalıq oqıtıw (ingl. Machine Learning, ML) − maǵlıwmatlardı úyrenetuǵın hám kórinbeytuǵın maǵlıwmatlardı ulıwmalastırıw hám usılayınsha anıq kórsetpelersiz wazıypalardı orınlay alatuǵın statistikalıq algoritmlerdi islep shıǵıwǵa hám izertlewge baylanıslı jasalma intellekttiń izertlew tarawı. Sońǵı waqıtlarda jasalma neyron tarmaqlar ónimlilik boyınsha kóplegen aldınǵı usıllardan alǵa ilgerledi.[1]
Mashinalıq oqıtıw kóplegen tarawlarda, sonıń ishinde tábiyiy tildi qayta islew, kompyuter kóriwi, sóylewdi tanıw, elektron poshtanı filtrlew, awıl xojalıǵı hám medicinada qollanıladı.[2][3] Biznes máselelerde qollanılǵanda ol boljawlı analitika degen at penen belgili. Barlıq mashinalıq oqıtıw statistikalıq tiykarda bolmasa da, esaplaw statistikası taraw usıllarınıń zárúr deregi bolıp tabıladı.
Mashinalıq oqıtıwdıń matematikalıq tiykarları matematikalıq optimallastırıw (matematikalıq programmalastırıw) usılları menen támiyinlenedi. Maǵlıwmatlardı intellektual analizlew (ingl. Data mining) − baqlawsız oqıtıw arqalı izertlew maǵlıwmatların analizlewge (EDA) itibar beretuǵın tiyisli (parallel) izertlew tarawı.[4]
Teoriyalıq jaqtan, shama menen durıs (ingl. PAC - probably approximately correct) oqıtıw, mashinalıq oqıtıwdı táriyiplew ushın tiykar jaratadı.
Tariyxı
redaktorlawMashinalıq oqıtıw terminin 1959 jılı IBM xızmetkeri hám kompyuter oyınları menen jasalma intellekt tarawı jetekshi qánigesi Artur Samuel tárepinen engizildi.[5] Bul dáwirde ózin-ózi oqıtıwshı kompyuterler sinoniminen de paydalanılǵan.[6][7]
Mashinalıq oqıtıwdıń eń birinshi modeli 1950 jılları Artur Samuel shashkada jeńiske erisiw imkaniyatın esaplaytuǵın programmanı oylap tapqan waqtında engizilgen bolsa da, mashinalıq oqıtıw tariyxı adamnıń on jıllar dawamında kognitiv proceslerdi izertlewge degen umtılıwınan hám is háreketlerinen baslanadı.[8] 1949 jılı kanadalı psixolog Donald Xebb “Minez-qulıqtı shólkemlestiriw” (ingl. The Organization of Behavior) kitabın baspadan shıǵardı, onda ol nerv kletkaları arasındaǵı belgili bir óz-ara tásirler nátiyjesinde payda bolatuǵın teoriyalıq nerv strukturasın engizdi.[9] Bir-biri menen háreketlesetuǵın neyronlardıń Xebb modeli jasalma intellekt hám mashinalıq oqıtıw algoritmleriniń túyinler yamasa maǵlıwmatlar menen baylanısıw ushın kompyuterler paydalanatuǵın jasalma neyronlar astında qalay jumıs isleytuǵını ushın tiykar jarattı.[8] Adamnıń kognitivlik sistemaların izertlegen basqa izertlewshiler de házirgi waqıttaǵı mashinalıq oqıtıw texnologiyalarına óz úleslerin qostı, sonıń ishinde logikalıq Uolter Pitts penen Uorren Makkallox, adamnıń oylaw proceslerin kórsetetuǵın algoritmlerdi oylap tabıw ushın neyron tarmaqlardıń dáslepki matematikalıq modellerin usınǵan.[8]
1960-jıllardıń basında Raytheon kompaniyası dawıslı signallardı, elektrokardiogrammalardı hám sóylew úlgilerin ápiwayı kúsheytetuǵın oqıtıwdı qollanıp analizlew ushın Cybertron dep atalatuǵın perfolentalıq yadı bar eksperimental “oqıw mashinasın” islep shıqtı. Onı adam operator/muǵallim úlgilerdi tanıwǵa qayta-qayta “úyretken” hám durıs emes sheshimleri qayta bahalawǵa imkaniyat beretuǵın “joq” túymesi menen úskenelengen. 1960 jıllardaǵı mashinalıq oqıtıwdı izertlewge arnalǵan tiyisli kitap Nikolsonnıń oqıw mashinaları tuwralı kitabı edi, ol tiykarınan obrazdı (úlgini) klassifikaciyalaw ushın mashinalıq oqıtıw menen shuǵıllanadı. Obrazlardı (úlgini) tanıwǵa qızıǵıwshılıq 1973 jılı Duda menen Xart táriyiplegenindey, 1970 jılları dawam etti. 1981 jılı jasalma neyron tarmaq 40 simvoldı (26 hárip, 10 cifr hám 4 arnawlı simvollar) kompyuter terminalınan tanıwdı úyrenetuǵın oqıtıw strategiyalarınan paydalanıw tuwralı esabat berildi.
Tom M. Mitchell mashinalıq oqıtıw tarawında izertlenetuǵın algoritmlerdiń keńnen keltirilgen, rásmiy anıqlamasın keltirdi: “Kompyuter programması T wazıypalarınıń ayırım klasına baylanıslı E tájiriybesinen hám eger onıń wazıypalardı orınlawda orınlanatuǵın bolsa, P ónimlilik ólsheminen úyrenedi dep aytıladı. T-da, P arqalı ólshengende, E tájiriybesi menen jaqsılanadı.” Mashinalıq oqıtıwǵa baylanıslı wazıypalardıń bul anıqlaması tarawdı kognitivlik terminleri menen anıqlawdan góre ulıwma operaciyalıq anıqlamanı usınadı. Bul Alan Tyuringniń “Esaplaw texnikası hám intellekt” atlı maqalasında “Mashinalar oylay ala ma?” degen sorawǵa baylanıslı usınısınan keyin. “Biz (oylaw subyektleri retinde) isley alatuǵın nárseni mashinalar isley ala ma?” degen soraw menen almastırıladı.[10]
Búgingi kúnde mashinalıq oqıtıwdıń eki maqseti bar. Olardıń biri jaratılǵan modeller tiykarında maǵlıwmatlardı klassifikaciyalaw; basqa maqseti bolsa − usı modeller tiykarında keleshektegi nátiyjelerdi boljaw. Maǵlıwmatlardı klassifikaciyalawǵa arnalǵan gipotetikalıq algoritm rak keselligin klassifikaciyalawǵa úyretiw ushın baqlanatuǵın oqıtıw menen birge modellerdiń kompyuter kórinisin paydalana aladı. Birja sawdasına arnalǵan mashinalıq oqıtıw algoritmi treyderge aldaǵı itimal boljawlar tuwralı xabarlawı múmkin.[11]
Basqa tarawlar menen baylanısı
redaktorlawJasalma intellekt
redaktorlawIlimiy jumıs retinde mashinalıq oqıtıw jasalma intellektke (AI) umtılıwdan payda boldı. Jasalma intellekt akademiyalıq pán retinde dáslepki kúnlerde izertlewshiler mashinalardıń maǵlıwmatlardan úyreniwge qızıǵıwshılıq bildirdi. Olar máselege hár túrli simvollı usıllar menen, sonday-aq sol waqıtta “neyron tarmaqlar” dep atalatuǵın usıllar menen jaqınlasıwǵa háreket etti; olar tiykarınan perceptronlar hám keyinirek statistikanıń ulıwmalastırılǵan sızıqlı modellerin qayta oylap tapqan basqa modeller ekeni anıqlandı.[13] Itimallıq pikirlewler de qollanıldı, ásirese avtomatlastırılǵan medicinalıq diagnostikada.
Degen menen, logikalıq bilimge tiykarlanǵan usılǵa kóbirek itibar beriw jasalma intellekt penen mashinalıq oqıtıw arasındaǵı kelispewshilikti payda etti. Itimallıq sistemaları maǵlıwmatlardı alıw menen usınıwdıń teoriyalıq hám ámeliy máseleleri menen qıynaldı. 1980 jılǵa kelip ekspert sistemalar jasalma intellektke ústemlik etti, al statistika unamsız edi.[14] Simvollı/bilimge tiykarlanǵan oqıtıw boyınsha jumıs jasalma intellekt sheńberinde dawam etti, bul induktiv logikalıq programmalastırıwǵa (ILP) alıp keldi, biraq izertlewdiń qanshelli statistikalıq baǵdarı endi úlgini tanıw hám informaciyanı izlewde jasalma intellekt tarawınıń sırtında boldı.[15] Neyron tarmaqlardı izertlewden jasalma intellekt penen kompyuter ilimi bir waqıtta biykar etildi. Bul baǵdardı da Xopfild, Rumelxart hám Xinton sıyaqlı basqa pánlerdiń izertlewshileri “konnektizm” retinde AI/CS (jasalma intellekt/informatika) tarawınan tıs dawam ettirdi. Olardıń baslı jetiskenligi 1980 jıllardıń ortasında keri tarqalıw usılın qayta oylap tabıwǵa túrtki boldı.[15]
Qayta shólkemlestirilgen hám óz tarawı retinde tán alınǵan Mashinalıq oqıtıw 1990 jılları rawajlana basladı. Bul taraw óziniń maqsetin jasalma intellektke erisiwden ámeliy xarakterdegi sheshiletuǵın máselelerdi sheshiwge ózgertti. Bul itibardı jasalma intellektten miyrasqa alǵan simvollı usıllardan uzaqlasıp, statistikadan, anıq emes logikadan hám itimallıqlar teoriyasınan alınǵan usıllar menen modellerge almastı.[14]
Ulıwmalastırıw
redaktorlawOptimallastırıw menen mashinalıq oqıtıw arasındaǵı ayırmashılıq ulıwmalastırıw maqsetinen payda boladı: Optimallastırıw algoritmleri shınıǵıwlar (oqıw) jıynaǵındaǵı joǵaltıwdı minimallastıratuǵın bolsa, mashinalıq oqıtıw kórinbeytuǵın úlgilerdi joǵaltıwdı minimallastırıwǵa baylanıslı. Hár túrli oqıtıw algoritmlerin ulıwmalastırıwdı xarakteristikalaw házirgi izertlewlerdiń belsendi teması bolıp tabıladı, ásirese tereń oqıtıw (ingl. deep learning) algoritmleri ushın.
Regressiya analizi
redaktorlawRegressiyalıq analiz kiriw ózgeriwshileri hám olar menen baylanıslı imkaniyatlar arasındaǵı qatnaslardı bahalawǵa arnalǵan kóplegen statistikalıq usıllardı óz ishine aladı. Onıń eń kóp tarqalǵan túri − ápiwayı kishi kvadratlar sıyaqlı matematikalıq kriteriyaǵa berilgen maǵlıwmatlarǵa eń jaqsı sáykes keletuǵın bir sızıq sızılǵan sızıqlı regressiya. Sońǵısı kóbinese dizbektiń regressiyasındaǵıday shamadan tıs iykemlikti hám beyimlikti azaytıw ushın sazlaw usılları menen keńeytiledi. Sızıqlı emes esaplardı sheshkende, tiykarǵı modellerge polinom regressiya (mısalı, Microsoft Excel baǵdarlamasında trend sızıǵın sáykeslendiriw ushın paydalanıladı[16]), llogistikalıq regressiya (statistikalıq klassifikaciyalawda jiyi paydalanıladı) yamasa hátte artıqmashılıqlardı paydalanıp, sızıqlı emeslikti kirgizetuǵın yadro regressiyası kiredi. Kirgiziwshi ózgeriwshi mánislerin joqarı ólshemli keńislikke alternativ túrde salıstırıw ushın yadro tryukin aytıwǵa boladı.
Gauss procesleri
redaktorlawGauss procesi stoxastikalıq process bolıp, onda tosınnan ózgeriwshilerdiń hárbir sheklengen jıynaǵı kóp ólshemli normal bólistiriwge iye bolıp, ol aldınnan belgilengen kovariantlı funkciyaǵa yamasa yadroǵa tiykarlanadı, bul jup noqatlardıń bir-birine jaylasqan orınlarında qalay baylanısıwın modellestiredi.
Baqlanatuǵın noqatlardıń jıynaǵın yamasa kirgiziw-shıǵarıw mısalların esapqa alıp, jańa noqattıń (baqlanbaǵan) shıǵıwınıń onıń kiriw maǵlıwmatlarınıń funkciyası retinde tarqalıwın baqlanatuǵın noqatlar menen sol noqatlar hám jańa noqatlar arasındaǵı kovariaciyalar sıyaqlı qaraw arqalı tikkeley esaplawǵa boladı, baqlanbaǵan noqatta.
Gauss procesleri giperparametrlerdi optimallastırıw ushın qollanılatuǵın Bayes optimallastırıwındaǵı ataqlı surrogat modelleri bolıp tabıladı.
Genetikalıq algoritmler
redaktorlawGenetikalıq algoritm (GA) − berilgen máseleniń jaqsı sheshimin tabıw úmiti menen genotiplerdi generaciyalaw ushın mutaciya hám krossover sıyaqlı usıllardı qollanıp, tábiyiy tańlaw procesin imitaciyalaytuǵın izlew algoritmi hám evristikalıq usıl. Mashinalıq oqıtıwda genetikalıq algoritmler 1980 hám 1990 jılları qollanıldı.[17][18] Kerisinshe, genetikalıq hám evolyuciyalıq algoritmlerdiń ónimliligin jaqsılaw ushın mashinalıq oqıtıw usılları qollanıldı.[19]
Apparatlıq támiynat
redaktorlaw2010 jıllardan baslap mashinalıq oqıtıw algoritmlerindegi hám kompyuter úskenesindegi jetiskenlikler sızıqlı yamasa jasırın birliklerdiń kóplegen qabatların óz ishine alatuǵın tereń neyron tarmaqlardı (mashinalıq oqıtıwdıń ózgeshe tar ishki domeni) oqıtıwdıń ónimli metodlarına alıp keldi.[20] 2019 jılǵa kelip grafikalıq qayta islew blokları (GPU), kóbinese jasalma intellektke tán jaqsılawlar bar, keń kólemli kommerciyalıq bultlı jasalma intellekt oqıtıwdıń ústem metodı retinde processorlardı almastırdı. OpenAI AlexNet (2012)-ten baslap AlphaZero (2017) ǵa shekemgi eń úlken tereń oqıtıw proektlerinde qollanılatuǵın apparatlıq esaplawlardı bahaladı hám talap etiletuǵın esaplaw kóleminiń 300 000 ese óskenin anıqladı, eki ese kóbeygen waqıt trend sızıǵı 3,4 ay.[21]
Neyromorflıq/fizikalıq neyron tarmaqlar
redaktorlawFizikalıq neyron tarmaq yamasa neyromorflıq kompyuter - bul neyron sinaps funkciyasın emulyaciyalaw ushın elektr sazlawshı material paydalanatuǵın jasalma neyron tarmaqtıń bir túri. “Fizikalıq” neyron tarmaq programmalıq támiynatqa tiykarlanǵan usıllarǵa qaraǵanda neyronlardı emulyaciyalaw ushın qollanılatuǵın fizikalıq apparatlıq támiynatlarǵa gárezlilikti ayrıqsha kórsetiw ushın qollanıladı. Ulıwma bul termin neyron sinapstı emulyaciyalaw ushın memristor yamasa basqa elektr sazlawshı qarsılıq materialı paydalanatuǵın basqa jasalma neyron tarmaqlarda qollanıladı.[22][23]
Ornatılǵan mashinalıq oqıtıw
redaktorlawOrnatılǵan mashinalıq oqıtıw (ingl. Embedded Machine Learning) − mashinalıq oqıtıwdıń kishi tarawı bolıp, onda mashinalıq oqıtıw modeli taǵatuǵın kompyuterler (ingl. wearable computers), shetki qurılmalar hám mikrokontrollerler sıyaqlı sheklengen esaplaw resursları bar ornatılǵan sistemalarda isleydi.[24][25][26] Ornatılǵan qurılmalarda mashinalıq oqıtıw modelin iske túsiriw maǵlıwmatlardı keyin qayta islew ushın bultlı serverlerde jetkerip beriw hám saqlaw zárúrligin joq etedi, bunnan bılay maǵlıwmatlardı jetkerip beriwge baylanıslı maǵlıwmatlardıń buzılıwın hám qupıyalıqtıń aǵıp ketiwin azaytadı, sonıń menen qatar intellektual qásiyetlerdi, jeke maǵlıwmatlardı hám biznes qupıyaların urlawdı azaytadı. Ornatılǵan mashinalıq oqıtıwdı bir neshe texnikalar arqalı qollanıwǵa boladı, sonıń ishinde apparatlıq qurallardı jedellestiriw,[27][28] shama menen esaplawlardı qollanıw,[29] mashinalıq oqıtıw modellerin optimallastırıw h.t.b.[30][31] Kesiw, kvantlaw, bilimdi distillyaciyalaw, tómen dárejeli faktorizaciya, tarmaq arxitekturanı izlew (NAS) hám parametrlerdi ulıwma paydalanıw - mashinalıq oqıtıw modellerin optimallastırıw ushın qollanılatuǵın bir neshe usıllar.
Derekler
redaktorlaw- ↑ „What is Machine Learning?“ (en-us). IBM (22-sentyabr 2021-jıl). 27-dekabr 2023-jılda túp nusqadan arxivlendi. Qaraldı: 27-iyun 2023-jıl.
- ↑ Hu, Junyan; Niu, Hanlin; Carrasco, Joaquin; Lennox, Barry; Arvin, Farshad (2020). "Voronoi-Based Multi-Robot Autonomous Exploration in Unknown Environments via Deep Reinforcement Learning". IEEE Transactions on Vehicular Technology 69 (12): 14413–14423. doi:10.1109/tvt.2020.3034800. ISSN 0018-9545.
- ↑ Yoosefzadeh-Najafabadi, Mohsen; Hugh, Earl; Tulpan, Dan; Sulik, John; Eskandari, Milad. "Application of Machine Learning Algorithms in Plant Breeding: Predicting Yield From Hyperspectral Reflectance in Soybean?". Front. Plant Sci. 11: 624273. doi:10.3389/fpls.2020.624273.
- ↑ Friedman, Jerome H. (1998). "Data Mining and Statistics: What's the connection?". Computing Science and Statistics 29 (1): 3–9.
- ↑ Samuel, Arthur (1959). "Some Studies in Machine Learning Using the Game of Checkers". IBM Journal of Research and Development 3 (3): 210–229. doi:10.1147/rd.33.0210.
- ↑ Gerovitch, Slava (9 April 2015). "How the Computer Got Its Revenge on the Soviet Union". Nautilus.
- ↑ Lindsay, Richard P. (1 September 1964). "The Impact of Automation On Public Administration". Western Political Quarterly 17 (3): 78–81. doi:10.1177/106591296401700364.
- ↑ 8,0 8,1 8,2 „History and Evolution of Machine Learning: A Timeline“ (en). WhatIs. 8-dekabr 2023-jılda túp nusqadan arxivlendi. Qaraldı: 8-dekabr 2023-jıl.
- ↑ The Mind and Donald O. Hebb. https://www.jstor.org/stable/24941344. Retrieved 2023-12-09.
- ↑ Harnad, Stevan (2008), „The Annotation Game: On Turing (1950) on Computing, Machinery, and Intelligence“, in Epstein, Robert; Peters, Grace (red.), The Turing Test Sourcebook: Philosophical and Methodological Issues in the Quest for the Thinking Computer, 23–66-bet, ISBN 9781402067082, 2012-03-09da túp nusqadan arxivlendi, qaraldı: 2012-12-11
{{citation}}
: Unknown parameter|publisher=
ignored (járdem) - ↑ „Introduction to AI Part 1“ (en). Edzion (8-dekabr 2020-jıl). 18-fevral 2021-jılda túp nusqadan arxivlendi. Qaraldı: 9-dekabr 2020-jıl.
- ↑ "An Empirical Science Research on Bioinformatics in Machine Learning". Journal of Mechanics of Continua and Mathematical Sciences (7). February 2020. doi:10.26782/jmcms.spl.7/2020.02.00006.
- ↑ Sarle, Warren S. „Neural Networks and statistical models“,. SUGI 19: proceedings of the Nineteenth Annual SAS Users Group International Conference. SAS Institute, 1994 — 1538–50 bet. ISBN 9781555446116. OCLC 35546178.
- ↑ 14,0 14,1 Langley, Pat (2011). The changing science of machine learning. pp. 275–9. Silteme kórsetiwdegi qátelik: Invalid
<ref>
tag; name "changing" defined multiple times with different content - ↑ 15,0 15,1 Silteme kórsetiwdegi qátelik: Жарамсыз
<ref>
тегі; no text was provided for refs namedaima
- ↑ Stevenson. „Tutorial: Polynomial Regression in Excel“. facultystaff.richmond.edu. 2-iyun 2013-jılda túp nusqadan arxivlendi. Qaraldı: 22-yanvar 2017-jıl.
- ↑ Goldberg. Genetic algorithms and machine learning. https://deepblue.lib.umich.edu/bitstream/2027.42/46947/1/10994_2005_Article_422926.pdf.
- ↑ Michie. Machine Learning, Neural and Statistical Classification.
- ↑ Zhang. Evolutionary Computation Meets Machine Learning: A Survey.
- ↑ Research. „Deep Neural Networks for Acoustic Modeling in Speech Recognition“. airesearch.com (23-oktyabr 2015-jıl). 1-fevral 2016-jılda túp nusqadan arxivlendi. Qaraldı: 23-oktyabr 2015-jıl.
- ↑ „AI and Compute“ (en). OpenAI (16-may 2018-jıl). 17-iyun 2020-jılda túp nusqadan arxivlendi. Qaraldı: 11-iyun 2020-jıl.
- ↑ „Cornell & NTT's Physical Neural Networks: A "Radical Alternative for Implementing Deep Neural Networks" That Enables Arbitrary Physical Systems Training | Synced“ (27-may 2021-jıl). 27-oktyabr 2021-jılda túp nusqadan arxivlendi. Qaraldı: 12-oktyabr 2021-jıl.
- ↑ "Nano-spaghetti to solve neural network power consumption". https://www.theregister.com/2021/10/05/analogue_neural_network_research/.
- ↑ 2018 IEEE 4th World Forum on Internet of Things (WF-IoT), 2018-05-07.
- ↑ „A Beginner's Guide To Machine learning For Embedded Systems“ (en-US). Analytics India Magazine (2-iyun 2021-jıl). 18-yanvar 2022-jılda túp nusqadan arxivlendi. Qaraldı: 17-yanvar 2022-jıl.
- ↑ Synced. „Google, Purdue & Harvard U's Open-Source Framework for TinyML Achieves up to 75x Speedups on FPGAs | Synced“ (en-US). syncedreview.com (12-yanvar 2022-jıl). 18-yanvar 2022-jılda túp nusqadan arxivlendi. Qaraldı: 17-yanvar 2022-jıl.
- ↑ 2020 Design, Automation & Test in Europe Conference & Exhibition (DATE), 2020-06-15.
- ↑ Louis. „Towards Deep Learning using TensorFlow Lite on RISC-V“. Harvard University (2019). 17-yanvar 2022-jılda túp nusqadan arxivlendi. Qaraldı: 17-yanvar 2022-jıl.
- ↑ 2018 25th IEEE International Conference on Electronics, Circuits and Systems (ICECS), 2019-01-21.
- ↑ „dblp: TensorFlow Eager: A Multi-Stage, Python-Embedded DSL for Machine Learning.“ (en). dblp.org. 18-yanvar 2022-jılda túp nusqadan arxivlendi. Qaraldı: 17-yanvar 2022-jıl.
- ↑ Machine Learning in Resource-Scarce Embedded Systems, FPGAs, and End-Devices: A Survey. 2019-11-05.
Ádebiyatlar
redaktorlaw- Domingos, Pedro. The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books, September 22, 2015. ISBN 978-0465065707.
- Nilsson, Nils. Artificial Intelligence: A New Synthesis. Morgan Kaufmann. ISBN 978-1-55860-467-4.
- .
- Poole, David. Computational Intelligence: A Logical Approach. Oxford University Press. ISBN 978-0-19-510270-3.
Sırtqı siltemeler
redaktorlaw- Quotations related to Machine learning at Wikiquote
- International Machine Learning Society
- mloss is an academic database of open-source machine learning software.