Filonov ble født i Moskva. Fjorten år gammel, i 1897, flyttet han til St. Petersburg der han tok læretimer i kunstmaling. I 1908 begynte han ved St. Petersburgs kunstakademi, han ble utvist fra akademiet i 1910.