幕府内，后被举荐兵部，升右侍郎，会办京旗练兵。1903年清廷成立练兵处，统一对新军的领导，任襄同办理，总理为庆亲王奕劻，袁世凯为会办练兵大臣。同年赴日本参观军事演习，回国后擢为户部尚书。1905年入军机处。1906年官制改革，兵部、练兵处和太仆寺统一为陆军部，离任军机，专任陆军部大臣。1908年慈禧太后、光绪帝死，铁良因劝说隆裕太后训政，企图排挤摄政王载沣未遂。1909年被排挤出京，调任江宁将军。1911年辛亥革命，革命党之江浙联军攻打江宁，铁良率部下张勋抵抗。江宁陷落后，铁良乘日本兵舰