庾亮、刘裕先后扩建该城，石头城规模得以扩大。后人为了加以区分，东吴时修建的石头城被称为石头小城，而东晋扩建的石头城是为石头大城，又称石头大坞。陈朝陈宣帝太建二年（570年）时，石头城再次得以扩建。隋朝时，建康城遭到平毁，石头城内新设立了蒋州州治。五代时，杨吴大臣徐温修建金陵府城，石头城被扩入城内。此后石头城的记载逐渐从史料中消失，具体原因在学界存在多种说法：有说法认为石头城在宋代之后逐渐被废毁；有说法称石头城是在明代时修建应天府城时被完全拆毁；也有说法称石头城被筑入了南京明城墙中。