Ivan Grishin lahir pada 16 Desember 1901 di desa Vnukovichi dari keluarga petani. Dia lulus dari kelas empat di sekolah pedesaan. Setelah ayahnya direkrut, Ivan Grishin meninggalkan sekolah dan bekerja di rumah tangga. Pada Juli 1920, ia direkrut menjadi Tentara Merah. Ivan Grishin menjadi pribadi di Resimen Rifle ke-16, kemudian ditahan sebagai cadangan di Dorogobuzh. Dari 1920 hingga 1922, ia belajar di Kursus Komando Infanteri ke-18 di Kaluga. Sementara seorang kadet, Ivan Grishin bertempur dalam penghancuran Pemberontakan Tambov.