Miliutin se unió al Partido Obrero Socialdemócrata de Rusia en 1903 y se situó inicialmente con los mencheviques. En 1910 se unió a los bolcheviques. Era considerado un experto en la cuestión campesina. Ingresó en el Comité Central del partido en la conferencia de abril de 1917 y mantuvo el puesto en el VI Congreso del Partido Obrero Socialdemócrata de Rusia que se celebró en el verano de ese año. Pertenecía al grupo de dirigentes del partido más cautos acerca de la toma del poder, a la corriente más moderada del partido durante el periodo del Gobierno provisional ruso. Se opuso a la expulsión de Grigori Zinóviev y Lev Kámenev por su oposición a la toma del poder en la Revolución de Octubre.