Han gikk selv inn i statstjeneste i ung alder, og ble som diplomat først sendt som attaché til sin onkel, fyrst Grigorij Gagarin, i München. Da denne døde i 1837, ble Ivan sekretær ved legasjonen i Wien. Han ble senere, i 1838, overført til den russiske ambassade i Paris, der han hadde tjeneste på tilsvarende høyt nivå.