明朝嘉靖年间，大臣杨椒山曾被关押于此，留下“铁肩担道义，辣手着文章”的名句。清朝末年，维新派人士谭嗣同被关押于此。中华民国成立后，此处改为京师看守所。1927年4月28日，李大钊、范鸿劼、路友于等20名中国国民党及中国共产党北方地区领导机关负责人被张作霖的安国军政府判处死刑。当日下午1时许，李大钊等20人被押至京师看守所执行死刑。1949年，北平和平解放后，绞死李大钊的绞刑架被作为0001号文物由文物部门接收，现存中国国家博物馆。1999年11月，因修建国家大剧院，京师看守所旧址被拆除。