Ivan Pilip vystudoval obor mezinárodní obchod na Vysoké škole ekonomické v Praze (VŠE) a absolvoval post-graduální studium na Madridské univerzitě. Před sametovou revolucí na konci roku 1989 se Pilip v politice nijak neangažoval, věnoval se své práci na VŠE a na Československé akademii věd. Po konci komunistické éry se Pilip stal manažerem ve společnosti, která se zaměřuje na zdravotnické vybavení. Brzy také vstoupil do Křesťanskodemokratické strany (KDS), která byla založena v roce 1990.