Entre los años 1802 y 1803 comenzó a escribir algunos artículos para el periódico de Nueva York "Morning's Chronicles", editado por su hermano Peter; por ejemplo, las "Cartas del caballero Jonathan Oldstyle".