Høyen hadde stor interesse for kunst og var stadig på besøk for å se Kobberstiksamlingen og Akademiets avstøpningssamling. Han ønsket å sette seg mer inn i kunstens historie, men fant lite litteratur på området. Han fikk plass som lærling ved Akademiets tegneskole, lærte perspektiv og anatomi og fikk adgang til kunstnere som Eckersberg, Christian David Gebauer, Jens Peter Møller, hvor han kunne sette seg inn i malernes arbeidsmåte og farvenes anvendelse.