Schmidt-Nielsen var født og oppvokst i Norge; han studerte i Oslo og København, og var blant annet student ved August S. Kroghs laboratorium i København. Han flyttet i 1947 til USA og studerte videre ved Stanford University og University of Cincinnati.