David McCallum ble født i Glasgow, og han flyttet med familien til London da han var ti år gammel. Hans far spilte førstefiolin ved London Philharmonic Orchestra. David ble tildelt et stipend til University College School i London. Først tenkte han på å bli musiker som sin far, og gikk på Royal Academy of Music. Men han slo om, og gikk deretter på Royal Academy of Dramatic Art og ble assisterende Stage Manager i Glyndebourne Opera Company i 1951.