Weidling blev 1912 löjtnant vid 1. luftskeppsbataljonen och under första världskriget stred han som befälhavare för ett artilleribatteri. Efter kriget överfördes han till Reichswehr, befordrades den 1 september 1935 till löjtnant, befordrades till överste den 1 mars 1938 och den 10 november 1938 blev han befälhavare för 56. artilleriregementet, med vilket han deltog i fälttåget mot Polen 1939. Den 10 april 1940 blev Weidling artillerichef vid XXXX. pansarkåren och tjänstgjorde med pansarkåren i både fälttåget mot Frankrike 1940 och i det ryska fälttåget 1941. Den 1 januari 1942 blev han befälhavare för 86. infanteridivisionen, befordrades till generalmajor den 1 februari 1942 och befordrades till generallöjtnant den 1 januari 1943. Den 15 januari 1943 tilldelades han Riddarkorset av Järnkorset. Den 20 oktober 1943 utsågs Weidling till befälhavare för XXXXI. pansarkåren och blev den 1 januari 1944 general av artilleriet. Den 22 februari 1944 förlänades Weidling Riddarkorset av Järnkorset med eklöv. Den 12 april 1945 blev han befälhavare för LVI. pansarkåren och den 24 april utsåg Hitler honom till befälhavare ("kampfkommendant") för Berlins försvar. Weidling tillfångatogs av sovjetiska trupper den 3 maj 1945 och avled i fångenskap 1955.