Beslutningen om å etablere universitetet ble tatt i juli 1946 av Nord-Koreas arbeiderparti. Universitetet fikk navn etter Nord-Koreas første leder, Kim Il-sung. Anlegget består av flere bygninger, en bronsestatue av universitetets grunnlegger Kim Il-sung, samt flere relikvier fra studentårene til Kim Jong-il som ble uteksaminert fra farens universitet. I 1964 ble språkskolen Pyongyang universitet for internasjonale studier skilt ut fra universitetet.