Adelung studerte teologi i Halle, før han ble lærer i Erfurt i 1758. Fra 1765 levde han som oversetter og redaktør i Leipzig. I 1787 ble han overbibliotekar for det kurfyrstelige biblioteket i Dresden, og i 1793 bibliotekar ved kurfyrst Fredrik August I av Sachsens privatbibliotek.