A pesar de que abraza con entusiasmo la Revolución de febrero de 1917, un viaje a Siberia lo hace experimentar los efectos de la Revolución de Octubre y sus consecuencias en la iglesia y en las tradiciones. En 1920, Serguéi su único hijo, quien sirvió en el ejército blanco del general Wrangel, es arrestado y fusilado sin corte marcial, esto influye en el ánimo de Shmeliov. Poco después Iván Bunin le sugiere emigrar. A finales de 1922, después de una breve estancia en Moscú, Shmeliov va a Berlín, y luego a París, donde abre el capítulo de su vida en el exilio. Ahí escribe panfletos en contra del gobierno bolchevique, entre los cuales destacan "El sol de los muertos" (1923), "Edad de piedra" (1924), y "Sobre los troncos" (1925). "El sol de los muertos" es una crónica alucinada de los efectos más oscuros de la Revolución de Octubre, de los que el autor fue testigo y víctima. Junto con "El camarero" son las dos únicas obras editadas es español. Su creación se centra en recolecciones sobre el pasado. Durante su exilio escribe más de 20 libros. A partir de 1939, Iván Shmeliov mantuvo una nutrida correspondencia con Olga Bredius-Subbótina (1904-1959), quien habría de ser el último y más importante amor de su vida. En las cartas se evidencia su amor entremezclado con memorias y pensamientos acerca de Rusia, la religión ortodoxa, y fragmentos de futuras obras literarias. El 24 de junio de 1950, Shmeliov muere de un paro cardíaco cerca de París. No es sino hasta el año 2000 que por iniciativa de la comunidad rusa y con la asistencia del gobierno ruso sus restos son repatriados a Moscú.