John Campbell var den tredje sønnen til John Campbell, 5. hertug av Argyll. Hans mor var Elizabeth Campbell, 1. Baronesse Hamiltan av Hameldon, som hadde fått egne adelsrettigheter i 1776. Campbell blei døpt den 18. januar 1778 i St James's i Westminster. Han fikk sin utdanning privat, han gikk på Christ Church College i Oxford. I 1803 reiste han til Paris, hvor han møtte Talleyrand og Napoleon; han reiste tilbake til England året etter. Han overtok broren, George Campbell, 6. hertug av Argyll sine titler i 1839.