Hans foreldre var Peter og Miriam Gilbert, og Martin Gilbert ble oppdradd i den jødiske tro. Familien bodde nord i London. Han ble evakuert til Canada i 1940 og kom hjem i 1944 sammen med amerikanske styrker som forberedte landgangen i Normandie. Gilbert studerte ved Magdalene College, Oxford, og som student besøkte han flere konsentrasjonsleirer i Polen. Han ble som forsker særlig opptatt av de alliertes manglende respons på opplysninger om det pågående massemordet.