Walter Donaldson ble født i Brooklyn i New York som sønn av en pianolærer. Mens han fremdeles gikk på skole lagde han originalmusikk for skolens teater og fikk sine første profesjonelle sanger utgitt i 1915. Året etter hadde han en hit med «The Daughter of Rosie O'Grady». Etter militærtjeneste i United States Army under første verdenskrig ble Donaldson hyret som tekstforfatter av Irving Berlins musikkselskap. Han ble hos Berlin frem til 1928, produserte mange sanger som slo an. I 1928 etablerte han sitt eget plateselskap. Hans selskap var offisielt kjent som Donaldson, Douglas & Gumble, Inc, men alle utgivelsene hadde Walter Donaldsons navn i store bokstaver og det offisielle navnet i mindre skift.