Han var fra desember 1944 gift med Margarete Corneliussen (1914–), datter av soussjef i Tiedemanns Tobaksfabrik og medlem av Industriforbundets hovedstyre Ragnar Corneliussen (d. 1938) og Monna Morgenstierne Roll (d. 1976). Hans kones søster Else Corneliussen (d. 1951) ble gift i London i 1944 med kaptein, senere generalmajor Ole Otto Paus (1910–2003), som da tjenestegjorde i den norske militære etterretningstjenesten. De var foreldre til visesangeren Ole Paus (1947–2023). Kai Holst møtte aldri Ole Otto Paus, men etter Holsts død var Ole Otto Paus blant de som forsøkte å oppklare omstendighetene rundt dødsfallet.