Keilhau var sønn til sogneprest Johan David Bertram Keilhau i Biri. Etter examen artium 1816 fra Christiania Katedralskole, ble han i 1821 den første i Norge som avla mineraleksamen ved Universitetet i Oslo. I studietiden etablerte han en litterær studiekrets med kjente vitenskapsmenn som matematikeren Niels Henrik Abel og medisineren Christian Peder Bianco Boeck, samt medisineren Christen Heiberg, Bernt Wilhelm Schenck og legen Jens Johan Hjort. Den litt eldre Christopher Hansteen fungerte som Keilhaus mentor.