Altona byla založena jako rybářská vesnice v roce 1535. Její název údajně vznikl tak, že hamburští radní proti jejímu vzniku protestovali s tím, že je „moc blízko“ (v místním nářečí „all to nah“), tedy v dosahu hamburského mílového práva. Altona byla součástí hrabství Holstein-Pinneberg, od roku 1640 patřila Dánsku. V roce 1664 jí král Frederik III. Dánský udělil znak a městská práva. V roce 1864 v důsledku dánsko-německé války přešla Altona pod pruskou svrchovanost. 17. července 1932 ve městě došlo ke srážkám mezi členy NSDAP a jejich odpůrci, takzvaná "Altonská krvavá neděle", která si vyžádala 18 mrtvých. V roce 1937 byla Altona připojena k Hamburku (viz Zákon o Velkém Hamburku a dalších územních úpravách).