Gustav von Korompay est le fils de l'architecte Adolf Korompay. Il étudie à l'institut polytechnique de Vienne puis de 1853 à 1858 à l'académie des beaux-arts de Vienne où il a pour professeurs August Sicard von Sicardsburg et Eduard van der Nüll. En 1873, il travaille avec Karl von Hasenauer sur les bâtiments et les pavillons de l'Exposition universelle de 1873 à Vienne. En 1878, il est nommé architecte en chef pour diriger la construction des bâtiments impérieux à l'Exposition universelle de Paris.