来胡同内的一座古庙前面有石雕的小虎，故得名。1965年北京市整顿地名，将果匣胡同并入，为避重名，更名为小石虎胡同。果匣胡同是北侧的一条南北曲折走向的死胡同，原来名为火匣子胡同，后来谐音改称果匣胡同。《京师坊巷志稿》卷上记载，小石虎胡同33号院曾先后是明朝东阁大学士周延儒、清朝吴三桂之子吴应熊的府第。清朝雍正三年（1725年），在这里建右翼宗学，干隆十九年（1754年）右翼宗学迁往东绒线胡同以后，这里先后成为军机大臣裘曰修、贝子绵德的宅第。1913年改成蒙藏专门学校。1924年，在其东侧的院内建松坡图书馆