Fra 1873 arbeidet han uten betaling som bibliotekar ved Deutsches Archäologisches Institut. I 1878 overtok han dessuten bearbeidingen av som var et prosjekt påbegynt av Eduard Gerhard. Prosjektet ble etter Klügmanns død fullført av Gustav Körte.