明朝，该胡同属教忠坊，称“府学胡同”。清朝，此处属镶黄旗，胡同名称仍沿用“府学胡同”。1965年北京市整顿地名时，将怀仁里、箭杆胡同并入。在府学胡同分布着不少文物建筑。除了顺天府学之外，胡同西口北侧还有文丞相祠，建于明朝洪武九年（1376年），明朝万历年间重建，祠内存有多方刻石，院内有一株古枣树，相传为文天祥亲手种植，文丞相祠1979年被定为北京市文物保护单位。府学胡同36号四合院原为清末兵部尚书志和的府第，1984年被定为北京市文物保护单位。如今，府学胡同内大多为居民住宅。胡同内曾设有东城区人民