Riddarhusgränden har fått sitt navn etter Riddarhuset (oppført mellom 1642-1674 av Simon de la Vallée) som ligger ved gatas vestside. 1718 er første gang gata er nevnt som , og den har siden hatt det navnet. Riddarhusgränden ble anlagt i forbindelse med Gamla stans første organiserte byplan, som ble gjennomført etter storbrannen i Stockholm 1625. En av de nye gatene var (nåværende Stora Nygatan) og dagens Riddarhusgränd var den nordlige delen av den nye paradegata.