Das Mahnmal wurde 1963 von der Gemeinde Kleinensee, einem heutigen Stadtteil von Heringen, und dem Land Hessen unmittelbar an der damaligen Innerdeutschen Grenze errichtet. Das von dem Bad Hersfelder Architekten Karl Schuman entworfene Bauwerk sollte an das Schicksal der Spätheimkehrer und die Deutsche Teilung in Folge des Zweiten Weltkrieges erinnern und zur friedlichen Wiedervereinigung Deutschlands mahnen. 1973/74 fanden erste Renovierungsarbeiten am Turm statt. 1990 wurde jener Teil der Gedenktafel abgenommen, der die Deutschen Ostgebiete zeigte. Zur Bauzeit war geplant, nach einer möglichen Wiedervereinigung gegenüberliegend auf Thüringer Seite ein ähnliches Mahnmal zu errichten.