I 1771 vendte han tilbake fra Danzig til Berlin og arbeidet ved apoteket i Berlin, hos kjemikeren Valentin Rose den yngre. Etter dennes død overtok Klaproth apoteket. Han fikk sin vitenskapelige formasjon av Roses begge sønner, den senere som kjemiker og analytiker kjente Heinrich Rose og geologen Gustav Rose.