DeepDream

Deepdream on Google’i inseneri Alexander Mordvintsevi loodud arvutinägemise programm, mis kasutab konvolutsioonilist võrku algoritmilise pareidoolia abil pildimaterjalist mustrite leidmiseks ja võimendamiseks, luues seeläbi tahtlikult ületöödeldud piltides unenäolaadse hallutsinogeense väljanägemise. Google-i programm levitas väljendit (süva)unenägude nägemine, et viidata piltide genereerimisele, mis annavad treenitud süvavõrgus soovitud väljundi. Terminit kasutatakse ka laiemalt seotud lähenemiste kogumile viitamiseks. DeepDream-i tarkvara pärineb süvakonvolutsioonilisest võrgust koodnimega “Inception” (samanimelise filmi järgi) . Tarkvara arendati ImageNet Large-Scale Visual Recognition Challenge'i (ILSVRC) jaoks aastal 2014 ja avaldati 2015 aasta juulis. Tarkvara on kavandatud nägude ja muude mustrite tuvastamiseks piltidel, eesmärgiga pilte automaatselt klassifitseerida. Treenitud võrku saab jooksutada ka tagurpidi, paludes võrgul muuta originaalpilti, et mingil väljundneuronil (näiteks nägudel või kindlatel loomadel) oleks kõrgem kvaliteedimäär. Seda saab kasutada areneva närvivõrgu struktuuri visualiseerimiseks, mis on ka DeepDream-i mõiste aluseks. Peale piisavalt kordusi leitakse detaile ka piltidelt, millel neid algselt ei esinenud. Seeläbi tekib pareidoolia vorm, mille läbi psühhedeelseid ja sürreaalistlikke pilte luuakse algoritmiliselt. Optimeerimine sarnaneb tagasilevile, kuid selle asemel, et kohandada võrgukaalusid, hoitakse kaalusid muutumatuna ning muudetakse sisendit. Näiteks saab olemasolevat pilti muuta nii, et sellel kujutatu oleks kassilaadsem ning tagastatud muudetud pilti saab uuesti protseduurile sisendiks anda. See kasutus sarnaneb pilvedest loomade või teiste mustrite otsimisele. Gradientlaskumise iseseisval rakendamisel igale sisendi pikslile tekib pilt, milles kõrvutiolevatel pikslitel ei ole üksteisega palju ühist ning seega on pildil liiga palju kõrge sagedusega informatsiooni. Genereeritud pilte saab parandada, lisades regulariseerija, mis eelistab sisendeid, millel on loomuliku pildi statistika (omamata eelistust mingi kindla pildi suhtes) või on lihtsalt sujuvad. Näiteks, Mahendran jt kasutasid totaalse variatsiooni regulariseerijat, mis eelistab pilte, mis on tükkhaaval konstantsed. Sügavam visuaalne uurimine funktsiooni visualisatsiooni ja regularisatsiooni tehnikate kohta avaldati hiljem. Unenägude nägemise idee ja nimi said internetis populaarseks aastal 2015 tänu Google-i DeepDream programmile. Idee pärineb närvivõrkude ajaloo varastest aegadest ning sarnaseid meetodeid on kasutatud visuaalsete tekstuuride sünteesiks. Sarnaseid visualiseerimise ideid arendati (enne Google-i tööd) mitmetes uurimusgruppides Peale seda, kui Google oma avalikustas oma tehnikad ja lähtekoodi, on ilmunud turule mitmeid tööriistu veebiteenuste, mobiili rakenduste ja lauaarvuti tarkvara näol, mis lubab kasutajatel oma pilte muundada. Unenägude nägemise ideed saab rakendada peidetud (sisemistele) neuronitele, mis ei ole väljundi osaks. See lubab omakorda uurida eri võrgu osade rolle ja esindusi. Ühtlasi on võimalik sisendit optimeerida, et rahuldada kas üksikut neuronit (sellist kasutust kutsutakse ka tegevuse maksimeerimiseks) või tervet neuronite kihti. Kuigi unenägude nägemist kasutatakse enamasti võrkude visualiseerimiseks või arvutikunsti tootmiseks, on hiljuti välja pakutud, et unenäoliste sisendite lisamine treeningkomplekti võib parandada treeningu aegu abstraktsiooni jaoks arvutiteaduses. DeepDreami mudelil on leidnud kasutust kunstiajaloo valdkonnas. Pildimaterjali tsiteeritud sarnasus LSD ja psilotsübiini esile kutsutud hallutsinatsioonidega viitab funktsionaalsele sarnasusele tehislike närvivõrkude ja kindlate visuaalsete ajukoorekihtide vahel. DeepDream-i kasutati Foster the People-i muusikavideos laulule “Doing It for the Money”. Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). "DeepDream - a code example for visualizing Neural Networks". Google Research. Vaadatud 27.11.2018. Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). "Inceptionism: Going Deeper into Neural Networks". Google Research. Vaadatud 27.11.2018. Szegedy, Christian; Liu, Wei; Jia, Yangqing; Sermanet, Pierre; Reed, Scott; Anguelov, Dragomir; Erhan, Dumitru; Vanhoucke, Vincent; Rabinovich, Andrew (2014). "Going Deeper with Convolutions". Computing Research Repository. arXiv:1409.4842. Bibcode:2014arXiv1409.4842S. Rich McCormick (7. juuli 2015). "Fear and Loathing in Las Vegas is terrifying through the eyes of a computer". The Verge. Vaadatud 27.11.2018. Simonyan, Karen; Vedaldi, Andrea; Zisserman, Andrew (2014). Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps. International Conference on Learning Representations Workshop. Mahendran, Aravindh; Vedaldi, Andrea (2015). Understanding Deep Image Representations by Inverting Them. IEEE Conference on Computer Vision and Pattern Recognition. arXiv:1412.0035. DOI:10.1109/CVPR.2015.7299155. {{cite conference}}: parameeter |accessdate= nõuab parameetrit |url= (juhend) Yosinski, Jason; Clune, Jeff; Nguyen, Anh; Fuchs, Thomas (2015). 27-11-2018 Understanding Neural Networks Through Deep Visualization. Deep Learning Workshop, International Conference on Machine Learning (ICML) Deep Learning Workshop. {{cite conference}}: kontrolli parameetri |url= väärtust (juhend) Olah, Chris; Mordvintsev, Alexander; Schubert, Ludwig (7. november 2017). "Feature Visualization". Distill (Ameerika inglise). 2 (11). DOI:10.23915/distill.00007. ISSN 2476-0757. Vaadatud 27.11.2018. Lewis, J.P. (1988). Creation by refinement: a creativity paradigm for gradient descent learning networks. IEEE International Conference on Neural Networks. DOI:10.1109/ICNN.1988.23933. Portilla, J; Simoncelli, Eero (2000). "A parametric texture model based on joint statistics of complex wavelet coefficients". International Journal of Computer Vision. DOI:10.1023/A:1026553619983. Erhan, Dumitru. (2009). Visualizing Higher-Layer Features of a Deep Network (PDF). International Conference on Machine Learning Workshop on Learning Feature Hierarchies. Vaadatud 27.11.2018. https://github.com/google/deepdream. {{cite web}}: puuduv või tühi pealkiri: |title= (juhend) Daniel Culpan (3. juuli 2015). "These Google "Deep Dream" Images Are Weirdly Mesmerising". Wired. Originaali arhiivikoopia seisuga 8.05.2016. Vaadatud 27.11.2018. Nguyen, Anh; Dosovitskiy, Alexey; Yosinski, Jason; Brox, Thomas (2016). Synthesizing the preferred inputs for neurons in neural networks via deep generator networks. arxiv. arXiv:1605.09304. Bibcode:2016arXiv160509304N. {{cite conference}}: parameeter |accessdate= nõuab parameetrit |url= (juhend) Arora, Sanjeev; Liang, Yingyu; Tengyu, Ma (2016). Why are deep nets reversible: A simple theory, with implications for training. arxiv. arXiv:1511.05653. Bibcode:2015arXiv151105653A. {{cite conference}}: parameeter |accessdate= nõuab parameetrit |url= (juhend) Spratt, Emily L. (2017). "Dream Formulations and Deep Neural Networks: Humanistic Themes in the Iconology of the Machine-Learned Image" (PDF). Kunsttexte. Humboldt-Universität zu Berlin. 4. Vaadatud 27.11.2018. LaFrance, Adrienne. "When Robots Hallucinate". The Atlantic. Vaadatud 27.11.2018. fosterthepeopleVEVO (11. august 2017), Foster The People - Doing It for the Money, vaadatud 27.11.2018 https://github.com/google/deepdream. {{cite web}}: puuduv või tühi pealkiri: |title= (juhend)