Ulrico era hijo de Federico II de Celje, uno de los primeros miembros de la Orden del Dragón, fundada por el rey Segismundo de Hungría, y Elizabeth Frankopan.