新幹線は、構内西側の3階にある島式ホーム1面2線と単式ホーム1面1線、合計2面3線のホームを使用する。両ホームの間には通過線2線が引かれている。下りの12番線と上りの13番線のホーム頭上には、発光ダイオードによる電光式の乗車位置案内表示器が設置されている。なお、本来は11番線から発車する上り一番列車である「なすの258号」のみ不定期に13番線から発車することがある。また、平日のみ運行で当駅始発のやまびこ293号は11番線から発車する。「はやぶさ・こまち」「はやて」の全列車と「やまびこ・つばさ（つばさ単独時含む）」の臨時下り列車の大半は当駅を通過する（上りの臨時列車は大半停車する）。
在来線は、構内東側の1階にある島式ホーム2面4線と単式ホーム1面1線、また島式ホームの南側・安積永盛方にある切欠きホーム1線、合計3面6線のホームを使用する。線名は駅舎側から、下り4番線（1番線ホーム）、下り3番線、磐西本線（2番線ホーム）、水郡本線（3番線ホーム、切欠き）、下り本線（4番線ホーム）、上り本線（5番線ホーム）、磐東本線（6番線ホーム）、（以下側線）となっている。2番線の上り方面先端の西側が切り欠かれており、ここが3番線ホームとなっている。1階在来線中央口に繋がる地下道と、2階新幹線乗り換え・北口改札に繋がる跨線橋で各ホームは行き来できる。ただし、地下道は階段のみ、跨線橋には上下エスカレータとエレベーターも設置されている。各線の上野方には荷物運搬用のエレベーターと跨線橋（テルハ）が残されている。以前は改札口-1番線-島式ホーム（1・2番）-2番線という構成であったが、1番線の線路を撤去後しばらくしてから中央改札口から2番線ホーム（現在の1番ホーム）に直接移動できるように改修され、単式ホームとなった。旧1番線撤去後しばらくの間、番線表示は2-6番線と水郡ホームとなっていたが、2007年春のダイヤ改正で1番線-6番線となった。在来線乗換口と北口（エスパル）改札には路線別に違う色のラインカラー入りの発車LEDが設置されている（1階の在来線中央口のLEDはラインカラーなし）。売店が1番線（待合室と併設）にある。トイレ・喫煙所・待合室は全ホームに設置されている。2008年3月に各ホームに非常列車停止ボタンが設置された。東北本線上り一番列車、および７時台の福島行きは１番線から発着する。１日１本の磐越西線磐梯熱海行きは２番線からの発車。18時台の東北本線上り新白河行きは６番線からの発着となる。（立ち食いそば屋が2・4番線と5・6番線にあったが、現在では廃止されている）
新幹線は高架駅、在来線は地上駅となっている。直営駅（駅長・管理助役・助役配置）であり、管理駅として、東北本線の白坂駅 - 貝田駅間（ただし新白河駅・福島駅は自駅管理のため除く）および磐越西線の郡山富田駅 - 中山宿駅間、磐越東線の赤井駅 - 舞木駅間の各駅（ただし小野新町駅は自駅管理のため除く）、奥羽本線の笹木野駅 - 赤岩駅間を管理している。在来線中央改札・北改札・新幹線乗換口・乗換窓口・お忘れ物センターの業務はJR東日本東北総合サービスに業務委託しており、郡山・新白河駅管理エリア内の受託駅を統括する統括ブロック長が配置されている。
伯耆守護である山名教之の子（次男か）として生まれる。元服時に山名本家当主・山名持豊（宗全）より偏諱（｢豊｣の字）を受けて豊氏と名乗る。『斎藤親基日記』、『長禄二年以来申次記』などには「実は山名豊之の舎弟」とあり、長禄3年（1459年）4月に死去したとみられる山名熈幸の養子となり、因幡守護職を継承した。長禄3年12月18日、勝定院に仏事銭30貫文を納めたのが史料上の初見であり、熈幸が死去した後、間のなくして守護職を継承したものと見られる。寛正2年（1461年）8月（『蔭凉軒日録』）には但馬円通寺聚慶軒領因幡国味和郷を押領していたことが伝えられている。この件に関しては寛正元年（1460年）9月にも同様の記事がみえる。寛正6年（1465年）8月の石清水放生会には8代将軍足利義政の御供衆9人の中に「山名七郎」の名がみえるほか、文正元年（1466年）11月の大嘗会においては因幡一国分の課役を受け持っている。応仁の乱にも因幡守護として山名方に参陣、因幡国内の諸兵3000騎を率いて上洛し、一条大宮などの合戦に従事した。『大乗院寺社雑事記』によれば応仁元年（1467年）6月2日、本家当主の山名宗全や実父・教之らと共に西軍にあったことが伝えられている。『応仁記』にみえる「布施左衛門佐」は豊氏を指すものと見られることから、現在山名勝豊による築城説が疑問視されている布勢天神山城は豊氏が築城したとする説が有力になっている。没年は不明、文明年間にも「山名七郎」の名が散見されるが豊氏を指すものなのかは不明である（片岡秀樹は宗全の子の山名豊久も七郎を称しており、文明期の七郎はこちらであるとしている）。豊氏の後に守護職を継承した山名豊時（史料上の初見は文明11年（1479年）8月）は勝豊ではなく豊氏の子息とする説がある。また、『山名系図』には子息として「智房」の名がみえるが、詳細は不明である。