Randolph var sønn av Thomas Randolph av Nithsdale og er vanligvis beskrevet som en nevø av Robert Bruce, men deres nøyaktige slektskap er ikke avklart. Det tradisjonelle synet er at hans mor var en datter fra første ekteskap med Marjorie av Carrick, 3. grevinne av Carrick, mor til Robert Bruce (Robert I av Skottland) i hennes andre ekteskap, men dette har blitt betvilt av nyere forskning. Begrep som «nevø» og «kusine» kunne bli benyttet svært løselig på 1300-tallet. Det finnes ingen grunner til å anta at Thomas Randolph var f.eks. en utenomekteskapelig sønn av Bruce.