Основан је као Краљевски универзитет 19. новембра 1816. када је деобом Пољске Варшава одвојена од најстаријег и најутицајнијег Јагелонског универзитета у Кракову. Цар Александар I Павлович је дозволио оснивање пет факултета: правног, медицинског, филозофског, теолошког и факултета за друштвене науке. Универзитет се брзо ширио, али је затворен током Новембарског устанка 1830. Поново је отворен 1857. у оближњој палати Сташица као Медицинско-хируршка академија са само медицинским и фармацеутским факултетима. Сви кампуси на пољском језику су затворени 1869. након неуспелог Јануарског устанка, али је универзитет успео да образује 3000 студената, од којих су многи постали важан део пољске интелигенције. У међувремену је главна зграда факултета поново отворена као Царски руски универзитет са циљем образовања војног особља. Преко 70% студената су били пољске народности, али након револуције из 1905, однос се спустио на испод 10% због бојкота. Универзитет је поново основан током Првог светског рата, а број студената је 1918. процењен на 4.500. Након стицања независности Пољске, нова влада се усредсредила на побољшање универзитета, и до почетка 1930-их универзитет је постао највећи у Пољској. Основани су нови факултети, а наставни планови су проширени. Универзитет је био назван по шефу државе и маршалу Пољске Јозефу Пилсудском након његове смрти 1935. Након Другог светског рата и разарања Варшаве, универзитет је успешно поново отворен 1945.