Die Adelsfamilie Guttenberg stammte aus Württemberg. Der Sohn von Johann Ritter von Guttenberg, dem Leiter des Forstamtes in Tamsweg, absolvierte zuerst die Theresianische Militärakademie in Wiener Neustadt. Als junger Offizier nahm er an Schlachten in Solferino im Jahr 1859 und Königgrätz 1866 teil und war bei der Besetzung Bosniens 1878. Im Jahr 1876 wurde er dem neugegründeten Generalstab zugeteilt. Im Jahr 1884 wurde er Vorstand des "Eisenbahnbureaus" und 1888 Mitglied des Beirates der Österreichischen Staatsbahnen. In diesem dem Präsidium der Generaldirektion beigestellten Beirat gewann er Einblick sowohl in das militärische als auch zivile Eisenbahnwesen und erlangte dabei auch großen Einfluss. Im Jahr 1894 wurde er Stellvertreter des Generalstabschefs und im Folgejahr Feldmarschallleutnant.