Angelegt wurde er nach dem Großen Brand von 1842 durch die Aufschüttung von Trümmerschutt und trug zunächst den Namen "Alsterdamm". 1947 erfolgte die Umbenennung in "Ballindamm", in Erinnerung an den deutschen Reeder Albert Ballin. Die von ihm geleitete Reederei Hapag (heute: Hapag-Lloyd) hat ihren Hauptsitz seit 1903 an dieser Straße.