Rinto Harahap
Mereka lalu membuat sebuah keputusan untuk mengubah pola musiknya dengan menambah personel baru dan instrumen musik baru. Albert Sumlang (abang kandung dari penyanyi jazz wanita Vonny Sumlang), seorang peniup Saksofon (Saxophone) handal berdarah Minahasa kemudian diajak bergabung. Keputusan ini sangat tepat karena dengan tiupan saxophone mautnya di kemudian hari banyak memberi warna dalam musik The
Mercy's. Dengan formasi baru itulah kemudian The Mercy's merekam album pertama mereka. Kolaborasi dua perusahaan rekaman Remaco dan Purnama sebagai produser, menghasilkan album pertama bagi The Mercy's. Dalam album tersebut terdapat lagu-lagu TIADA LAGI (Charles H), HIDUPKU SUNYI (Charles. H), BAJU BARU (Charles. H), UNTUKMU (Charles.H), LOVE (Rinto.H), DI PANTAI (Charles. H), BEBASKANLAH (Charles.H), UNTUKKU
(Charles.H), WOMEN (Rinto.H), KURELA DIKAU KASIH (Reynold. P), KISAH SEORANG PRAMURIA (Albert Sumlang). Album perdana ini di luar dugaan meledak dan langsung mengangkat nama The Mercy's dengan andalannya lagu TIADA LAGI di blantika musik Indonesia. Lagu Tiada Lagi tersebut menjadi Hits dimana-mana. Band lokal ini mampu menggoyang rekor penjualan piringan hitam (PH) maupun kaset band seniornya Koes Plus dan Panbers.
Bahkan menempatkan lima single dari debut album ini merajai tangga-tangga lagu di radio-radio swasta di Jakarta dan seluruh nusantara.
Sejak itu The Mercy's menjadi sebuah group yang menjadi idola masyarakat. Untuk kedigdayaan luar biasa ini, Puspen ABRI dan perusahaan rekaman Remaco dan Purnama mengganjarnya sebagai Band Kesayangan periode 1972-1973 dan meraih Golden Record dan Piringan Emas, atas penjualan lebih dari sejuta keping. Kenyataannya, mereka telah berhasil mewujudkan impiannya. Dalam waktu singkat, mereka menggelar show pertamanya
sebagai senjata ampuh di Taman Ria Jakarta Monas. Pada 31 Desember 1972, empat band besar band nasional: Koes Plus, Panbers, Favorite's Group, dan The Mercy's, menggelar konser di gedung Istora Senayan Jakarta. Ribuan penonton memadati tempat pertunjukan, bahkan melebihi dari kapasitas tempat pertunjukan.
Kepopuleran The Mercy's juga mampu menembus kota-kota besar, sejajar dengan band-band nasional yang ada saat itu. Band ini sempat menjadi idola anak muda tahun 1970-an, dengan rambut gondrong, celana lebar diujungnya yang biasa "menyapu" jalan, dan baju berwarna 'jreng' berdasi 'lebar'. Dalam perjalannya kepiawaian trio Charles, Rinto, dan Albert sudah menunjukkan kemampuannya
dalam menggunakan lirik pada lagu-lagunya seperti, Untukmu, Hidupku Sunyi, Love, dan Kisah Seorang Pramuria. Pamor The Mercy's semakin terangkat dengan kehebatan duo sang legenda, Charles Hutagalung dan Rinto Harahap. Aksi mereka selalu mencuri perhatian penikmat musik Indonesia dengan liriknya yang banyak bercerita tentang cinta. Mereka berdua sangat kuat perannya di The Mercy's dalam mencipta dan menyanyi.
Kharisma wajah keras khas Bataknya Charles sang vocalis, mudah diingat dan menjadi icon kelompok ini. Salah satu lagu ciptaan Rinto yang berjudul Ayah yang dinyanyikannnya sendiri meledak menjadi hits yang melegenda hingga saat ini.
Pada masa jayanya nama The Mercy's pernah masuk dalam The BIG FIVE bersama dengan Koes Plus, Panbers, D'Lloyds, dan Favourite's Group. Dalam perjalanannya The Mercy's berhasil menyabet enam Golden Record dan sejumlah penghargaan lainnya dari album-albumnya. Group The Mercy's sempat bertahan selama hampir dua dekade dan sampai saat ini menjadi salah satu group band legendaris Indonesia karena lagu-lagunya
masih disukai dan dinikmati sampai sekarang. Tercatat tiga kali menjadi grup band kesayangan dan beberapa kali meraih golden record atas albumnya yang rata-rata terjual diatas satu juta copy dari perusahaan rekaman Remaco.
Pasang surut yang melanda blantika musik Indonesia juga dirasakan oleh The Mercy's sejak memasuki dunia rekaman. Pada tahun 1974, Charles Hutagalung sempat menyatakan mundur dari The Mercy's akibat permasalahan internal dalam kelompok ini. Dalam era tersebut Rinto kembali didaulat menjadi vokalis utama.
Tak lama kemudian Charles memutuskan kembali bergabung dengan The Mercy's dan menyelesaikan beberapa album yang telah menjadi kontrak mereka dengan produser rekaman. Setelah The Mercy's menyelesaikan album ke-10 dan beberapa album Pop Melayu, Pop Mandarin, dan Pop Anak-anak yang di produksi Remaco, Charles Hutagalung kembali hengkang pada tahun 1976. Kali ini ia mendirikan sebuah grup band sendiri bernama The GE dan GE.
Langkahnya mundurnya Charles diikuti oleh Albert Sumlang yang memilih mendirikan band dengan saudara-saudaranya yang diberi nama Albros dan juga bersolo karier.
Saat itu sekitar tahun 1977 untuk kedua kalinya saat keyboardist dan vokalis utama The Mercy's telah menyatakan mundur dari The Mercy's. Ketiga anggota The Mercy's yang tersisa: Rinto Harahap (bass, vocal), Erwin Harahap (gitar), dan Reynold Panggabean (drums, vocal) masih tetap berusaha mempertahankan eksistensi kelompok ini. Musik The Mercy's jelas pincang tanpa adanya elemen organ atau keyboards
yang sudah menjadi trademark sejak awal. Ketiga sisa personel The Mercy's kemudian kasak-kusuk mencari pengganti, karena dalam waktu relatif singkat The Mercy's yang tinggal bertiga harus segera masuk studio untuk merampungkan album baru.
Untuk mengatasi masalah kekurangan personel, drummer Reynold Panggabean kemudian mengajukan sosok Jockie Surjoprajogo seorang keyboardist personel God Bless untuk tampil sebagai additional musician dalam sejumlah album The Mercy's di label Yukawi (yang sahamnya dimiliki Nomo Koeswoyo), setelah mereka hengkang dari label Remaco. Usul itu dterima oleh Rinto dan Erwin. Akhirnya Jockie Surjoprajogo secara profesional menyanggupi tawaran mendukung album The Mercy's tersebut yang dimulai dengan album The Mercy's Vol.XI serta dua album Christmas.
Ada sesuatu yang baru dari tata musik yang dihasilkan The Mercy's saat Jockie tampil sebagai additional musician. Sound keyboards terasa lebih tebal. Mungkin ini perbedaan antara Charles Hutagalung yang sejak album The Mercy's Vol.1 pada tahun 1972 selalu menggunakan organ bermerk Farfisa, sedangkan Yockie Surjoprajogo yang berlatar musik Rock lebih cenderung menggunakan organ Hammond B 3.
Tahun 1978, Charles Hutagalung dan Albert Sumlang kembali bergabung ke dalam The Mercy's dan mereka melakukan rekamannya yang terakhir. Album Mimpi, tercatat sebagai album terakhir mereka dengan formasi lengkap setelah kembalinya Charles dan Albert yang dirilis pada tahun itu. Setelah The Mercy's menyelesaikan album tersebut, para anggota mengalami situasi kejenuhan. Anggota The Mercy's memulai kegiatannya masing-masing di
luar group. Charles Hutagalung sibuk bersolo karier, Erwin Harahap memilih berprofesi sebagai pengusaha jalur Produser Rekaman dengan mendirikan perusahaan sendiri. Reynold Panggabean memutuskan mendirikan group musik sendiri beraliran dangdut yaitu '''Orkes Melayu Tarantula'''. Sementara Albert Sumlang sibuk membantu album solo penyanyi lain. Rinto Harahap menjadi penyanyi solo, mendirikan band Lolypop, dan perusahaan rekaman, mencipta lagu, dan mengorbitkan penyanyi-penyanyi.
Setelah rilis album itu praktis The Mercy's vakum dari dunia rekaman dan pada akhirnya berujung selesainya riwayat band legendaris The Mercy's. The Mercy's tercatat telah merekam sebanyak 40 Album yang dihasilkannya mulai dari album Pop, Keroncong, Pop Anak-anak, dan Rohani yang rata-rata sukses serta digemari masyarakat luas. Rinto Harahap selalu mengungkapkan bahwa sebenarnya The Mercy's masih ada
dan dari mereka pun belum ada pernyataan resmi bubar. Namun, tidak dapat dimungkiri The Mercy's dikenal karena keberadaan Charles Hutagalung dan mereka ini hanya sebagai pelengkap saja.