John Marin ble født i Rutherford i New Jersey, og kjente ikke sin mot, som døde ni dager etter hans fødsel. Han ble oppfostret av to tanter i Weehawken i New Jersey.