Mannheim er først nevnt i dokumenter fra 766, da med navnet . Navnet er tolket som "Mannos hjem", dvs. hjemmet til f.eks Her. Mannheim var en liten landsby gjennom middelalderen. I 1606 beordret kurfyrsten Fredrik IV av Pfalz bygging av festningen Friedrichsburg og den tilhørende byen. Byen ble planlagt på tegnebrettet, ifølge det som var tidens ideal for byplanlegging. I tredveårskrigen ble byen ca 1622 sterkt ødelagt. Og igjen ødelagt i 1689 i niårskrigen.