DeepDream

Deepdream on Google’i inseneri Alexander Mordvintsevi loodud arvutinägemise programm, mis kasutab konvolutsioonilist võrku algoritmilise pareidoolia abil pildimaterjalist mustrite leidmiseks ja võimendamiseks, luues seeläbi tahtlikult ületöödeldud piltides unenäolaadse hallutsinogeense väljanägemise.
Google'i programm levitas väljendit "(süva)unenägude nägemine", et viidata piltide genereerimisele, mis annavad treenitud süvavõrgus soovitud väljundi. Terminit kasutatakse ka laiemalt seotud lähenemiste kogumile viitamiseks.
Protsess.
DeepDreami tarkvara pärineb süvakonvolutsioonilisest võrgust koodnimega “Inception” (samanimelise filmi järgi). Tarkvara arendati ImageNet Large-Scale Visual Recognition Challenge'i (ILSVRC) jaoks 2014. aastal ja see avaldati juulis 2015.
Tarkvara on kavandatud nägude ja muude mustrite tuvastamiseks piltidel, eesmärgiga pilte automaatselt klassifitseerida. Treenitud võrku saab jooksutada ka tagurpidi, paludes võrgul muuta originaalpilti, et mingil väljundneuronil (näiteks nägudel või kindlatel loomadel) oleks kõrgem kvaliteedimäär. Seda saab kasutada areneva närvivõrgu struktuuri visualiseerimiseks, mis on ka DeepDreami mõiste aluseks. Peale piisavalt kordusi leitakse detaile ka piltidelt, millel neid algselt ei esinenud. Seeläbi tekib pareidoolia vorm, mille läbi psühhedeelseid ja sürreaalistlikke pilte luuakse algoritmiliselt. Optimeerimine sarnaneb tagasileviga, kuid selle asemel, et kohandada võrgukaalusid, hoitakse kaalud muutumatuna ning muudetakse sisendit.
Näiteks saab olemasolevat pilti muuta nii, et sellel kujutatu oleks kassilaadsem, ning tagastatud muudetud pilti saab uuesti protseduurile sisendiks anda. See kasutus sarnaneb pilvedest loomade või teiste mustrite otsimisega.
Gradientlaskumise iseseisval rakendamisel igale sisendi pikslile tekib pilt, milles kõrvutiolevatel pikslitel ei ole üksteisega palju ühist ning seega on pildil liiga palju kõrge sagedusega informatsiooni. Genereeritud pilte saab parandada, lisades regulariseerija, mis eelistab sisendeid, millel on loomuliku pildi statistika (omamata eelistust mingi kindla pildi suhtes) või on lihtsalt sujuvad. Näiteks Mahendran jt kasutasid totaalse variatsiooni regulariseerijat, mis eelistab pilte, mis on tükkhaaval konstantsed. Sügavam visuaalne uurimine funktsiooni visualisatsiooni ja regularisatsiooni tehnikate kohta avaldati hiljem.
Ajalugu.
Unenägude nägemise idee ja nimi said internetis populaarseks 2015. aastal tänu Google'i DeepDreami programmile. Idee pärineb närvivõrkude ajaloo varastest aegadest ning sarnaseid meetodeid on kasutatud visuaalsete tekstuuride sünteesiks. Sarnaseid visualiseerimise ideid arendati (enne Google'i tööd) mitmetes uurimisgruppides.
Pärast seda, kui Google avalikustas oma tehnikad ja lähtekoodi, on tulnud turule mitmeid tööriistu veebiteenuste, mobiilirakenduste ja lauaarvuti tarkvara näol, mis lubab kasutajatel oma pilte muundada.
Kasutus.
Unenägude nägemise ideed saab rakendada peidetud (sisemistele) neuronitele, mis ei ole väljundi osaks. See lubab omakorda uurida eri võrgu osade rolle ja esindusi. Ühtlasi on võimalik sisendit optimeerida, et rahuldada kas üksikut neuronit (sellist kasutust kutsutakse ka tegevuse maksimeerimiseks) või tervet neuronite kihti.
Kuigi unenägude nägemist kasutatakse enamasti võrkude visualiseerimiseks või arvutikunsti tootmiseks, on hiljuti välja pakutud, et unenäoliste sisendite lisamine treeningukomplekti võib parandada treeningu aegu abstraktsiooni jaoks arvutiteaduses.
DeepDreami mudelil on leidnud kasutust kunstiajaloo valdkonnas.
Pildimaterjali tsiteeritud sarnasus LSD ja psilotsübiini esile kutsutud hallutsinatsioonidega viitab funktsionaalsele sarnasusele tehislike närvivõrkude ja kindlate visuaalsete ajukoorekihtide vahel.
DeepDreami kasutati Foster the People'i muusikavideos laulule “Doing It for the Money”.