Krusenstern kuului Virossa ja Ruotsissa vaikuttaneeseen Krusensternin eli von Krusenstjernan aatelissukuun. Hänen isoisänsä isoisä oli saksalaissyntyinen, Ruotsin palvelukseen siirtynyt Tallinnan käskynhaltija Philip von Krusenstiern (synt. "Crusius"). Krusenstern kävi Tallinnan katedraalikoulua vuosina 1782–1785 ja meni sen jälkeen Venäjän merikadettikouluun Kronstadtiin. Valmistuttuaan sieltä hän liittyi Venäjän Itämeren-laivastoon. Krusenstern osallistui aikana ruotsalaisia vastaan käytyihin Suursaaren (1788) ja Öölannin meritaisteluihin (1789), minkä jälkeen hänet ylennettiin luutnantiksi. Vuosina 1793–1799 hän oli Venäjän yhdysupseerina Englannin laivastossa ja osallistui sen mukana kaukomaille suuntautuneisiin purjehduksiin.