Nascido em Darmstadt, no dia de Waterloo, Ludwig von der Tann era descendente da antiga família de von der Tann, que tinha filiais nas províncias da Baviera, Alsácia e Reno, e anexou o nome de sua mãe (ela sendo filha de um nobre da Alsácia, Freiherr von Rathsamhausen) para a casa de seu pai em 1868 por licença do rei da Baviera. Ludwig I, o segundo rei da Baviera, patrocinou a criança, que recebeu seu nome e também "Arthur", em homenagem a Arthur Wellesley, 1º Duque de Wellington. Ele recebeu uma educação cuidadosa e, em 1827, tornou-se pajem da corte da Baviera, onde um grande futuro foi previsto para ele. Entrando na artilharia em 1833, foi depois de alguns anos colocado no estado-maior geral. Ele participou das manobras do exército austríaco na Itália sob Radetzky e, em um espírito de aventura, juntou-se a uma expedição militar francesa operando em Argel contra a fronteira tunisiana.