Sachverhalt: A. X._ ist Eigentümer des unter Denkmalschutz stehenden Mehrfamilienhauses auf der Parzelle Gbbl. Nr. 1727 am Rohrweg 12 in der Einwohnergemeinde Bern. Mit Gesuch vom 25. November 2008 beantragte er eine Baubewilligung, um die Holzfenster des Gebäudes durch Kunststofffenster mit aufgesetzten Sprossen zu ersetzen. Mit Verfügung vom 18. Januar 2010 wies die Einwohnergemeinde Bern das Baugesuch ab. Die hiergegen von X._ am 9. Februar 2010 erhobene Beschwerde wies die Bau-, Verkehrs- und Energiedirektion des Kantons Bern am 17. Juni 2010 ab. Gegen diesen Entscheid führte X._ mit Eingabe vom 19. Juli 2010 Verwaltungsgerichtsbeschwerde ans Verwaltungsgericht des Kantons Bern. Dieses wies die Beschwerde mit Urteil vom 27. Juli 2011 ab. B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht vom 14. September 2011 beantragt X._, der Entscheid des Verwaltungsgerichts vom 27. Juli 2011 sei aufzuheben, und sein Baugesuch für das Entfernen der bestehenden Holzfenster und das Montieren von Kunststofffenstern mit aufgesetzten Sprossen sei zu bewilligen. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die Bau-, Verkehrs- und Energiedirektion verzichtet auf eine Stellungnahme. Die Einwohnergemeinde Bern, Bauinspektorat, und das Verwaltungsgericht beantragen in ihren Stellungnahmen die Abweisung der Beschwerde. In seiner Eingabe vom 2. Dezember 2011 hält der Beschwerdeführer an seinem Standpunkt fest.