La data di fondazione della città è sconosciuta. Rendsburg è stata nominata per la prima volta nel 1199. Una vecchia forma del suo nome è "Reynoldsburgh". Faceva parte dell'Holstein nel XIII secolo, ma è stata ceduta allo Schleswig nel 1460. Molte volte la città è passata dal controllo danese al tedesco e viceversa. Con la guerra tedesco-danese nel 1864, infine, è entrata a far parte del Regno di Prussia ed Austria. Dopo il 1866 la città è stata annessa dal regno della Prussia. Da allora è rimasta sempre tedesca.