खान ने 1940 में हमीदाह बेगम ( अल्लामा मशरीकी की सबसे बड़ी पुत्री) से विवाह किया। उनसे खान को तीन पुत्रियां (मरियम, अमीना, और राशीदा) और एक पुत्र (अकबर) हुआ था। 1966 में हमीदाह बेगम की मृत्यु के बाद, उन्होंने शफीक खान से शादी की और उनकी एक बेटी आयशा थी। अपने आईसीएस कैरियर के दौरान, खान ने राजस्व के कलेक्टर के रूप में काम किया, एक नियुक्ति जिसने के इन्हें पूर्वी बंगाल के ग्रामीण क्षेत्रों में रहने की परिस्थिति के साथ अवगत कराया। 1943 के बंगाल के अकाल और बाद में औपनिवेशिक शासकों द्वारा स्थिति की अपर्याप्त संचालन व्यवस्था से तंग आकर उन्होंने 1945 में भारतीय सिविल सेवा से इस्तीफा दे दिया। उन्होंने लिखा, "मुझे एहसास हुआ कि अगर मैं युवा और जोरदार रहते हुए बच नहीं पाया, तो मैं हमेशा के लिए जाल में उलझा रहूंगा, और नौकरशाही के बड़े विग के रूप में समाप्त हो जाऊंगा।" इस अवधि के दौरान, वह नीत्शे और मशरिकी के दर्शन से प्रभावित थे, और खाकसार आंदोलन में शामिल हो गए। यह लगाव संक्षिप्त था। उन्होंने आंदोलन छोड़ दिया और सूफीवाद की ओर मुड़ गए। खान के अनुसार, "मुझे एक गहन व्यक्तिगत चिंता थी; मैं बिना किसी उथल-पुथल और संघर्ष के, भय और चिंता से मुक्त जीवन जीना चाहता था। ... तब मैंने पुराने सूफियों और संतों की सलाह का पालन किया, और मेरे लालच, मेरे अभिमान और आक्रामकता, भय, चिंताओं और संघर्ष को कम करने की कोशिश की। "