Mayr skrev først noen kirkemusikalske verk, men etter at mesenen Pesenti brått døde, ble han stående uten understøttelse og måtte slå seg fram på egen hånd. Operakomponisten Niccolò Piccinni var i Venezia på samme tid, og han oppfordret Mayr til å forsøke seg på operasjangeren. Den første operaen, (1794), ble en overveldende suksess. Mayr ble straks en svært etterspurt operakomponist og de neste tretti årene skrev han en mengde operaer som ble oppført over hele Europa.