Wilder ble født i Sucha i Galicia i Østerrike-Ungarn (nåværende Polen), av jødiske foreldre. Han vokste først opp i Sucha, men under første verdenskrig flyttet familien til Wien. Wilder hadde på denne tiden kallenavnet «Billie», i USA forandret til «Billy». Etter skolen ble han journalist, først i Wien, og fra 1926 i Berlin. For å forbedre en spede journalistlønn begynte han å bli medforfatter på filmmanus. Slik ble han med på filmklassikeren , sammen med sin nære ungdomsvenn Fred Zinnemann. Filmen er kanskje den sentrale filmen for den tyske kunstretningen Neue Sachlichkeit. Senere skrev han filmmanuset for ungdomsromanen , sammen med bokens forfatter Erich Kästner.