Герхарт Баум родился в образованной буржуазной семье, его дед и отец были адвокатами. Мать русская. После бомбардировки Дрездена в феврале 1945 года мать Герхарта с тремя детьми выехала сначала в Тегернзе. В 1950 году Баумы перебрались в Кёльн. Отец Герхарта умер в советском плену. По окончании школы Баум изучал юриспруденцию в Кёльнском университете, в 1957 году успешно сдал первый государственный экзамен на юриста. После стажировки в 1961 году сдал второй экзамен. Работал адвокатом в Кёльне, в 1962—1972 годах входил в правление Федерального объединения союзов работодателей Германии. В 1994 году вернулся к адвокатской деятельности и с 2007 года является старшим партнёром в адвокатской конторе Baum, Reiter &amp; Collegen, специализирующейся на защите прав вкладчиков и потребителей. Герхарт Баум представлял интересы родственников жертв авиационной катастрофы в Рамштайне и крушения «Конкорда», а также советских граждан, угнанных на принудительные работы в Германию.