Etter å ha lagt sin aktive idrettskarriere på hyllen, fikk Kyvåg jobb som trener for Nordstrands damelag i håndball. I 1974 ble Kyvåg den yngste landslagstreneren i Europa, da han tok over ansvaret for Norges kvinnelandslag i håndball. Kyvåg tok over som generalsekretær i Bækkelagets Sportsklub i 1976.