Dehio studerte i Dorpat, Göttingen (doktorgrad under Georg Waitz) og Bonn, og vendte seg først mot historiefaget. Han ble i 1877 privatdosent i historie i München, men viet seg etter en tid til kunshistorien, i særdeleshet middelalderens og bygningskunstens. Han ble på disse områder en av Tysklands fremste autoriteter.