Anders hadde baltisk tysk bakgrunn, og studerte ved Rigas tekniske universitet og senere ved militærhøyskolen i St. Petersburg. Under den polsk-sovjetiske krig ledet han et kavaleriregiment. Ved den tyske invasjonen av Polen i september 1939 hadde han kommandoen over en kavalerienhet i østre Polen, og ble senere sovjetisk krigsfange.