Den 2. juli 2012, signerte Klavan en toårskontrakt med Bundesligaklubben FC Augsburg. Han spilte sin første kamp for klubben den 14. september 2012, da han kom inn som innbytter i det 67. minuttet i en 0–0 hjemmekamp mot VfL Wolfsburg. Klavan fikk etterhvert mye spilletid da han begynte å etablere seg som førstevalg i startelleveren sammen med Jan-Ingwer Callsen-Bracker i midtstopperposisjonen. Han scoret sitt første Bundesliga mål den 1. mars 2014, i en hjemmekamp mot Hannover 96 som endte 1-1.