Emmerich Kálmán ble født i Siófok ved bredden av Balatonsjøen i daværende Østerrike-Ungarn. Han var sønn av den jødiske kornhandler Karl Koppstein og hans hustru Paula, født Singer. I 1892 flyttet familien til Budapest. Han endret etternavn i forbindelse med opptakseksamen til Budapests evangeliske gymnasium. Fra 1900 studerte han jus ved universitetet i Budapest. Han studerte til samme tid musikk, samtidig med Béla Bartók og Zoltán Kodály, under Hans Kössler.