Semper era el cinquè fill d'una família d'industrials d'Altona (avui un barri d'Hamburg). Estudia a la Gelehrtenschule des Johanneums d'Hamburg i el 1823 accedeix a la universitat de Göttingen per estudiar historiografia i matemàtiques. Posteriorment, el 1825, estudia arquitectura a la Universitat de Munic amb el professor Friedrich von Gärtner. El 1826, Semper viatja a París per treballar sota les ordres de l'arquitecte Franz Christian Gau, i encara hi viu quan esclata la Revolució francesa de Juliol de 1830. Entre 1830 i 1833 viatja a Itàlia i Grècia per estudiar l'arquitectura i disseny de l'antiguitat clàssica. El 1832 participa durant quatres mesos en una excavació arqueològica a l'Acròpoli d'Atenes. En aquesta època s'interessa en el debat de l'arquitectura i la policromia inspirada en el Biedermeier, centrant-se en la controvèrsia de si l'arquitectura de l'antiga Grècia i l'antiga Roma era pintada o no. Els dibuixos que reproduïen la decoració de les antigues vil·les inspiraren Semper en els seus dissenys posteriors a Dresden i Viena. El 1834 publica "Vorläufige Bemerkungen über bemalte Architektur und Plastik bei den Alten" ("Observacions preliminars sobre l'arquitectura i l'escultura a l'antiguitat"), on defensa fermament la seva teoria sobre la policromia en l'arquitectura clàssica, basant-se en la investigació dels pigments de la columna de Trajà a Roma. Aquest estudi li comporta el reconeixement sobtat en els cercles arquitectònics i estètics de l'època a Europa..