Som 17-åring ble Johann Berenberg sendt til Venezia, der han var lærling i et handelshus mellom 1735 og 1741; også faren hadde i sin tid startet karrièren som lærling i samme firma. I 1748 overtok han Berenberg Bank sammen med sin eldre bror Paul Berenberg, som senere ble senator i Hamburg. Hans to eldre brødre Rudolf og Cornelius Berenberg drev sine egne forretninger i henholdsvis Hamburg og Livorno i Italia, uten å ta del i familiefirmaet.