Elsheimer ble i første omgang utdannet hos maleren Philipp Uffenbach i fem år i hjembyen Frankfurt am Main. Siden ble han påvirket av de nederlandske landskapsmalerne. Han var på studiereise med korte opphold i München (1598) og Venezia. Fremfor alt utviklet han sin egen stil i Roma, der han slo seg ned i 1600 og bodde til han døde ti år senere.