Jabarkan Masa kecil dari A. A. Rifai

Achmad Rifai dilahirkan di Afdeling Polewali pada tanggal 20 Desember 1920 sebagai anak pertama dari dua bersaudara. Ayahnya

Setelah kemerdekaan Indonesia pada tahun 1945, Achmad ditawari oleh seorang kenalannya untuk bergabung dengan kepolisian. Ia menyetujui tawaran itu dan menjadi seorang perwira polisi di daerah Mojokerto. Achmad pindah dari Mojokerto ke Lawang setahun kemudian dan bergabung dengan Kepolisian Militer Angkatan Laut Republik Indonesia yang pada waktu itu baru saja dibentuk. Dari kepolisian militer, Achmad pindah ke Tentara Laut Republik Indonesia (cikal-bakal Korps Marinir Indonesia) dan memegang komando atas pasukan TLRI di Kepanjen dan detasemen BIALRI. Kesatuan yang dipimpinnya diterjunkan dalam berbagai front pertempuran selama Revolusi Nasional Indonesia. Rifai mengakui bahwa ia sering menenggak minuman beralkohol untuk mengatasi rasa takutnya selama bertempur.

TLRI kemudian dipindahtangankan dari angkatan laut ke angkatan darat pada tahun 1948 dan Rifai bergabung dengan satuan peralatan di Angkatan Darat pada tahun tersebut. Di angkatan darat, Achmad memimpin satuan Batalyon X-07 yang berlokasi di Blitar. Ia dipindahkan ke Batalyon C pada akhir tahun 1948 dan menjadi wakil komandan di batalyon tersebut. Setahun kemudian, Achmad dipromosikan menjadi komandan batalyon dan menjabat hingga tahun 1950. Selama masa ini, Achmad memimpin batalyonnya dalam penumpasan-penumpasan gerakan separatis, seperti Pemberontakan PKI 1948 dan Negara Islam Indonesia.

Usai bertugas di pulau Jawa, Achmad kembali ke Sulawesi Selatan. Ia lalu ditunjuk oleh Andi Mattalatta sebagai Kepala Staf Batalyon 705 (sekarang lebih dikenal dengan sebutan Batalyon Mattalatta atau Batalyon M) yang bermarkas di Kota Parepare. Beberapa saat kemudian, Achmad dimutasi menjadi sebagai Komandan Batalyon 709 (kemudian dikenal dengan sebutan Batalyon Rifai). Batalyon 709 yang dipimpinnya terlibat dalam penanganan gerakan-gerakan separatis pada awal tahun 1950an seperti Tentara Islam Indonesia di Sulawesi yang dipimpin oleh Abdul Kahar Muzakkar dan Republik Maluku Selatan. Rifai kemudian diberhentikan secara hormat dari jabatan komandan batalyon pada tahun 1955 dan digantikan oleh Eddy Sabara.

Achmad memperoleh promosi setelah terlibat dalam penumpasan gerakan separatis. Ia diangkat sebagai Kepala Staf Resimen 23 dari tahun 1955 hingga 1956. Dari sana, Achmad dipindahkan ke Kota Makassar sebagai Komandan Militer Kota Besar (KMKB) Makassar hingga tahun 1957. Pada bulan Januari 1957, Achmad kembali bertugas di Resimen 23 sebagai komandan dari resimen tersebut. Achmad kemudian diangkat sebagai Kepala Staf Daerah Militer XIV/Hasanuddin pada tanggal 18 November 1959 oleh komandan M. Jusuf.