站仍维持原名。车站最初建筑由“McKim, Mead & White公司”设计，1910年车站建成使用。原车站大量使用装饰艺术，是纽约市建筑史上的杰作。但是由于1950年代铁路公司经济状况恶化，被迫出售土地，原车站主楼被拆毁，在原址新建宾州大厦以及麦迪逊广场花园，车站位于大楼内部。地下月台区则维持原样。
规划建造.直至20世纪初，宾夕法尼亚铁路公司只延伸至哈德逊河的北岸。纽约市中心曼哈顿岛的旅客若要搭乘火车，必须乘坐渡船度过哈德逊河并在河岸“换乘区”乘坐火车。而其主要竞争对手，纽约