I februar 1841 kom Mayer tilbake til Heibronn hvor han ble overlege (). Hele resten av livet var han lege i sin hjemby. I fritiden var han opptatt med eksperimenter i fysikk, og brukte mye tid på abstrakte konsepter om energi. Fra universitetet hadde han bare deltatt på ett semesterkurs i fysikk og ikke hadde han lært særlig mye matematikk heller, men allikevel skrev han manuskripter til vitenskapelige tidsskrifter. Disse var så ufullstendige at flere ble avvist av datidens vitenskapelige redaksjoner. Mayer bekostet imidlertid selv utgivelse av flere artikler, som resulterte i at de ikke var i sirkulasjon blant andre enn innbyggerne i Heibronn.