গান গাওয়ার নেশায় তিনি ছুটেছেন এই প্রান্ত থেকে ওই প্রান্ত। ছাত্র জীবনে ছাত্রলীগের হয়ে গান গাওয়া, স্বাধীন বাংলা বেতার কেন্দ্র এবং বাংলা চলচ্চিত্রের প্লে-ব্যাক কোথাও আবদুল জব্বারকে দমিয়ে রাখা যায়নি। প্রতিটি ক্ষেত্রেই তিনি নিজের দক্ষতা দিয়ে সবার মন জয় করে নিয়েছেন। গানের পিছনে ছুটতে ছুটতে তার পড়াশোনা পর্যন্ত সম্পন্ন হয়নি, পরবর্তীতে বঙ্গবন্ধুর অনুরোধে ঢাকা বিশ্ববিদ্যালয়ের উপাচার্য আবদুল মতিন চৌধুরী তাকে সঙ্গীতে মাস্টার্স ডিগ্রি দিয়ে দেন। কণ্ঠে অসাধারণ জাদুর বলে মানুষকে মুগ্ধ করে রাখতেন বলে তৎকালীন পাকিস্তান সরকার তার বিরুদ্ধে হুলিয়া জারি করেছিল।