原址是三国时孙吴都城建业城内的苑城。司马睿南渡建康（即建业），建立了东晋。晋成帝时，建康宫室在苏峻之乱中被毁。战乱平息之后的咸和五年（330年）九月，晋成帝命令尚书右仆射王彬在苑城旧址上营建新的宫城，次年十一月新宫建成，命名为建康宫、又名显阳宫。晋孝武帝太元三年（378年），谢安主持将台城彻底改建，此后两百余年直到陈朝灭亡，除了后宫园囿内的建设，台城的规模制度基本保持不变。东晋时台城共开五门，南面为大司马门和南掖门（后曾改名为阊阖门、端门、天门），东、西、北面各有一座掖门。南朝宋时在南面两侧各开一门，即