Jabarkan Naik dan turun (2004–2008) dari PSMS Medan dalam bahasa melayu

Setelah kembali ke Liga Indonesia 2004 , prestasi PSMS tidak begitu buruk. Mereka memulakan musim dengan teruk, PSMS menamatkan musim dengan berada di kedudukan ke-7 dengan 47 mata, hasil 14 kemenangan, 5 seri dan 15 kekalahan.

Sebelum memasuki musim baru, mereka memenangi edisi kedua Piala Emas Bang Yos, pertandingan pra-musim yang dimulakan oleh Sutiyoso , gabenor Jakarta pada waktu itu. Pada final, mereka menewaskan Geylang United 5-1 di Gelora Bung Karno Stadium. Memasuki musim 2005 , format Liga Indonesia berubah dari format satu wilayah menjadi dua wilayah (barat dan timur). PSMS terletak di wilayah barat bersama dengan pesaingnya, Persija dan Persib. Mereka memulakan musim secara dramatik, dengan mengalahkan PSPS Pekanbaru 3-2 di Stadium Teladan. Prestasi yang tidak menentu menjadikan persaingan dengan Persib layak ke pusingan lapan. Dengan persaingan yang sangat sengit, PSMS akhirnya layak ke pusingan lapan setelah berada di kedudukan ke-4, perbezaan 4 mata dengan Persib di kedudukan ke-5. Pada pusingan lapan, PSMS berada di Kumpulan B bersama dengan Persipura Jayapura , Persik Kediri , dan Arema FC. Pada perlawanan pertama, mereka bermain seri tanpa gol melawan Arema. Harapan mereka untuk lolos ke final muncul ketika mereka menang 2-1 melawan Persik, tetapi harapan mereka hilang ketika mereka tewas 1-0 kepada Persipura. Mereka hanya layak ke playoff tempat ketiga menentang PSIS Semarang . Pada perlawanan itu, mereka kebobolan pertama oleh gol Muhammad Ridwan pada minit ke-12. Alcidio Fleitasmenyamakan kedudukan pada minit ke-21. PSIS memastikan kemenangan mereka menerusi gol Harri Salisburi pada minit ke-78. PSIS memenangi tempat ketiga, sementara PSMS mendapat tempat keempat.

Seperti musim sebelumnya, PSMS bertanding dalam edisi ketiga Bang Yos Gold Cup sebelum memasuki musim baru. Mereka berjaya mempertahankan gelaran yang telah mereka menangi edisi sebelumnya, setelah menang 2-1 menentang Persik di final. Pada musim 2006 , prestasi mereka merosot sedikit berbanding musim lalu, kerana mereka hanya berada di kedudukan ke-5, perbezaan 3 mata dengan Persekabpas Pasuruan , yang membuat mereka gagal lolos ke 8 terakhir. Persaingan kedudukan keempat di wilayah barat antara PSMS dan Persekabpas sangat dramatik. Pada perlawanan terakhir di wilayah barat, PSMS tewas melawan Persijap Jepara 0-1 di tempat sendiri, sementara Persekabpas menang 3-2 menentang Sriwijaya FC. Persekabpas layak ke 8 terakhir ketika berada di kedudukan ke-4 di wilayah barat.

PSMS berusaha meningkatkan prestasi mereka pada musim 2007-08 . Dengan kejayaan mereka mempertahankan gelaran mereka dalam edisi keempat Piala Emas Bang Yos yang menjadikan mereka pemilik abadi Piala Emas Bang Yos, mereka percaya dapat memenangi gelaran pertama mereka di Liga Indonesia sejak era Perserikatan berakhir. Cita-cita mereka hampir tercapai setelah mereka berada di kedudukan ke-3 di wilayah barat di bawah Sriwijaya FC dan Persija, yang menjadikan mereka layak ke 8 terakhir. Pada 8 terakhir, mereka berada di Kumpulan A bersama dengan Sriwijaya FC, Arema, dan Persiwa Wamena. Mereka berjaya melayakkan diri ke separuh akhir setelah berada di tempat kedua di bawah Sriwijaya FC. Mereka bertemu Persipura di separuh akhir, dan mereka layak ke final kerana mereka menang 4-5 dalam penentuan penalti (aet 0-0). Ini adalah perlawanan terakhir PSMS pertama di era Liga Indonesia. Pada final, mereka harus mengakui kekalahan pada Sriwijaya FC 3-1.