Kleven studerte fløyte i Kristiania under Axel Andersen og musikkteori under Gustav Lange. Fra 1919 var han fløytist i Nationaltheaterets orkester, og senere ble han solofløytist i Orkesteret av det Filharmoniske Selskap i Kristiania. Han har komponert en symfoni, en symfonisk fantasi, en symfonisk dikt, orkestralt forspill, kammermusikkverker, klaverstykker og sanger.