道、侍御史张知默都请求诛杀任知古、狄仁杰等，武则天不许。于是众人免于一死，但仍被外贬。任知古被贬为江夏县令。唐玄宗先天二年（713年），唐玄宗发动先天政变，诛杀政敌皇姑太平公主一党。时太上皇唐睿宗听闻鼓噪声，召宰相郭元振升承天楼，宣诏闭关自守，时任侍御史的任知古在朝堂招募数百人于朝堂，被其拦住不能入内。开元初年，他仗着官威在朝上诟骂官员，右拾遗严挺之很责怪他不敬，反遭御史台弹劾被贬为万州员外参军。