Weidling trådte inn i militæret i 1911, og begynte da i i den prøyssiske hær i Breslau. Han ble snart overført til i Berlin-Tegel og ble her forfremmet til løytnant den 10. august 1912.