আলী খুব অল্প বয়সেই কবিতা রচনা শুরু করেছিলেন এবং গানের পাশাপাশি অনেক বই লিখেছিলেন। ১৯৬৫-এর ভারত-পাক যুদ্ধের সময় তিনি "জীভায় জীভায় পাকিস্তান" গানটি লিখেছিলেন যা অত্যন্ত জনপ্রিয় হয়েছিল। গানটি শাহনাজ বেগম সংগীতায়োজন করেছেন সোহেল রানা সংগীত দিয়ে এবং মূলত ১৯৭১ সালের ১৪ আগস্ট পিটিভি প্রকাশ করেছিল। আন্তর্জাতিক মহিলা বর্ষ (১৯৭৬)-এর সময় তিনি "হাম মৈন, হম বহনাইন, হাম বৈতায়ান" গানটি লিখেছিলেন। ১৯৮৬ সালে পাকিস্তানের প্রাক্তন রাষ্ট্রপতি গোলাম ইসহাক খানের অনুরোধে আলি একটি গান "জো নাম ওহি পেহচান, পাকিস্তান" লিখেছিলেন। তিনি নুসরাত ফতেহ আলী খানের "মেরা ইন পাকিস্তান" গানের রচয়িতাও ছিলেন।