Вулиця виникла у 90-х роках XIX століття, мала назву "Троїцько-Кирилівська" (сполучала Кирилівську церкву та Троїцьку площу). На картах 1911–1918 років позначена як "Куренівський провулок". Сучасна назва — з 1963 року, на честь Олексія Терьохіна, радянського військового моряка, командира канонерського човна «Вірний» Пінської військової флотилії, що брав участь в обороні Києва 1941 року. Загинув у бою, посмертно нагороджений орденом Леніна.