萨斯奎哈纳河岸旁提供了一块4英亩又21平方桿、相当于的土地，但有一个使用条件，必须将该地定为宾夕法尼亚州首府。1785年，小约翰·哈里斯以的姓氏，来给自己规划建立的城市命名，而他提供给宾州议会的土地正好在该座城市的附近。1799年，州议会投票决定搬迁至兰开斯特，因为比起哈里斯堡，兰开斯特拥有更多的人口。现在的，即为1799年到1812年间宾夕法尼亚州议会的所在地。
希尔斯州议会大厦.1810年，宾夕法尼亚州议会再次投票决定更改该州首府，并于1812年10月将州政府所在地迁至哈里斯堡