Goldwyn ble født Schmuel Gelbfisz i Warszawa i Kongress-Polen som var en del av Det russiske keiserdømmet til en polsk, hasidisk jødisk familie. Hans foreldre var Aaron David Gelbfisz, en kramkar, og hans kone Hannah Reban (født Jarecka). I ung alder forlot han Warszawa til forts og blakk. Han kom seg til Birmingham i England hvor han oppholdte seg hos slektninger i noen få år. Han brukte der navnet .