De Heem var født i Utrecht som Johannes van Antwerpen. Hans gikk først i lære hos sin far David de Heem og senere hos Balthasar van der Ast som hans tidligere stil bærer preg av. Han bodde i Leiden fra rundt 1625 til 1629 der han i 1629 studerte under David Bailly. Han ble medlem av Sint-Lucasgildet i Antwerpen i 1635 eller 1636 og ble en borger av byen i 1637. Men han var ofte fraværende, noe som framkommer av bøtene han ble pålagt å betale for dette. Han forble i Antwerpen til 1667 da han vendte tilbake til Utrecht hvor dokumenter viser han var tilstede fra 1668 til 1671. Han åpnet et studio hvor blant annet hans to sønner Jan og Cornelis gikk i lære, sammen med senere kjente malere som Jacob Marrell og Abraham Mignon. De Heem forlot byen i 1671 da franske styrker nærmet seg byen. Det er ikke kjent når han kom tilbake til Antwerpen, men hans dødsfall ble rapportert der.