Den 12. mars 1678 giftet han seg med Elizabeth Tollemache (datter av Lionel Tollemache, 3. baronett av Helmingham) i Edinburgh i Skottland. De fikk tre barn: John Campbell, 2. hertug av Argyll (10. oktober 1680-4. oktober 1743) Archibald Campbell, 3. hertug av Argyll (juni 1682-15. april 1761) Lady Anne Campbell (før 1696-20. oktober 1736), gift med James Stuart, 2. jarl av Bute og Alexander Fraser.