Mervyn LeRoy wurde in eine jüdische Familie in San Francisco geboren. Bei dem Erdbeben in San Francisco 1906 starb seine Mutter und die Familie verlor ihr gesamtes Vermögen. Mit 12 Jahren spielte er eine kleine Rolle als Zeitungsjunge in einer Theaterproduktion von "Barbara Fritchie", einem Stück, das im Übrigen verantwortlich war für den Künstlernamen von Barbara Stanwyck. LeRoy trat danach eine Zeitlang als "The Singing Newsboy" und "The Boy Tenor of the Generation" auf. Im Jahr 1915 gewann er für seine Imitation von Charlie Chaplin einen Talentwettbewerb und trat danach regelmäßig in Vaudeville-Aufführungen auf. Zum Film kam er auf Empfehlung eines Bekannten, der ihn Jesse L. Lasky vorstellte. LeRoys erste Aufgabe bei Film bestand als Helfer in der Garderobe von Famous Players-Lasky, damals eine der größten Filmfirmen. In den Folgejahren übernahm Mervyn LeRoy die unterschiedlichsten Aufgaben: Er war Kameraassistent, Kameramann, Statist, Nebendarsteller und Drehbuchautor – häufig in Personalunion. Mit dem Wechsel zu First National im Jahr 1924 wurde er verantwortlich für etliche Filme von Colleen Moore, so "Sally" und "Orchid and Ermine".