Prezident René Coty ho 8. května 1958 požádal, aby složil novou vládu. V té době byla země již více než měsíc bez premiéra, kvůli sporům o válku v Alžírsku. Pfimlin sám zastával názor, že by francouzská armáda měla v Alžírsku podepsat příměří. To vyvolávalo silný odpor u francouzských důstojníků v Alžírsku a také u obyvatel na jihu Francie, kde byl kvůli tomu napaden i Pfimlinův letní byt. Když 13. května dostala nová Pfimlinova vláda důvěru v parlamentu, vypuklo v Alžírsku protivládní vojenské povstání. Povstalci se vylodili na Korsice a objevily se dokonce zprávy o parašutistickém výsadku povstalců v Paříži. Existovala teorie, že se do čela vojenského povstání chce postavit generál Charles de Gaulle. Pfimlin na něj naléhal, aby to popřel a povstání veřejně odsoudil. To de Gaulle odmítl a vydal dokonce prohlášení, v němž naznačoval, že situace může vyústit v žádoucí výsledek. Pfimlin stál před dilematem, zda proti povstalcům nasadí armádu, což žádali socialisté a komunisté. Nakonec se rozhodl tak neučinit a 29. května, 21 dní po převzetí úřadu, rezignoval. Prezident Coty pověřil sestavením vlády de Gaulla a hrozba občanské války tak byla zažehnána. De Gaulle pak pozměnil systém vlády v zemi a tzv. čtvrtá francouzská republika zanikla. Pfimlin zůstal v de Gaullově vládě, ale nakonec rezignoval na protest proti de Gaullovým posměškům vůči myšlence evropské integrace. V závěru života se pak věnoval hlavně regionální a evropské politice.