Navnet skriver seg fra et vippefyr som skal ha stått her i eldre tid. Her har vært militært rettersted, steinhuggeri (der straffearbeiderne fra Akershus Landsfengsel hugget løvene som står foran Stortinget, og deler til andre kjente byggverk i Oslo), militære og sivile badehus. På 1880- og 90-tallet ble det arrangert skøyteløp på isen utenfor Vippetangen; blant annet flere av rekordforsøkene til Axel Paulsen og noen av de første «Landsløb» (Norgesmesterskap).