Mikkelsen vokste opp i Trondheim. Etter Trondhjems katedralskole, der han ble uteksaminert som preseterist i 1955, gjennomførte han militærtjeneste og studerte arkitektur ved Norges tekniske høyskole (NTH). Han var ferdig utdannet sivilarkitekt i 1963. I løpet av studietiden hadde han et avbrekk for å gjennomføre den obligatoriske praksisperioden. Denne tilbrakte han i et entreprenørfirma i Køln. Mens han var i Tyskland, studerte han også filosofi, blant annet ved Freie Universität Berlin.