Ole Grepp var sønn av formann i Arbeiderpartiet Kyrre Grepp, og journalisten og kvinnesakskvinnen Rachel Grepp. Blant hans søsken var Asle Grepp, som ble skutt av tyskerne under krigen, og journalisten Gerda Grepp.