Osheroff syntyi Aberdeenin kaupungissa, Washingtonin osavaltiossa. Kandidaatiksi hän tuli California Institute of Technologysta ja tohtoriksi Cornellin yliopistosta vuonna 1973. Nykyään hän opettaa Stanfordin yliopistossa.