Gaten er anlagt hvor det tidligere lå en kanal, Børsgraven, på den vestlige side av Børsen. Lasteskipene kunne derfor den gang seile helt opp til Børsen med sine varer. På nordsiden av kanalen lå gaten , hvor alkymist og lege Francesco Giuseppe Borri hadde sitt laboratorium. Kanalen ble kastet til i 1865 hvoretter Slotsholmsgade ble anlagt. På samme tid ble det bygget en ny Knippelsbro som lå i forlengelse av Slotholmsgade og dermed ble hovedferdselsåre til Christianshavn. Da Knippelsbro senere ble flyttet til sin nåværende plassering flyttet trafikken med til Børsgade.