Han ble født i Petersham i Surrey. Han støttet sin eldre bror, John Campbell, hertug av Argyll, på flere områder, mest viktig i saken om Act of Union. Støtten hans gjorde at han fikk tittelen jarl av Ilay i 1706. Archibalds militære karriere kunne ikke måle seg helt med brorens, men han utmerket seg likevel. Han stod ved brorens side under slaget ved Sheriffmuir i 1715. Fire år tidligere hadde han blitt utnevnt til medlem av Privy Council. Mange kalte ham «den mektigste mannen i Skottland», i alle fall før Henry Dundas virke.