इसी दौरान अय्यप्पा की शादी शारदा देवी से की गयी। शारदा देवी के पिता कर्नाटक राज्य सड़क परिवहन निगम में काम करते थे और उनके पास अच्छी नौकरी के साथ-साथ अच्छी-खासी धन-दौलत भी थी। शादी से जुडी बातें बताते हुए अय्यप्पा के कहा, “मेरे ससुर ने मेरे बारे में जिस किसी से पूछताछ की थी उन सभी ने मेरे बारे में अच्छी रिपोर्ट दी । सभी ने मेरे बारे में कहा था कि मैं एक दिन बड़ा आदमी बनूंगा। मेरे ससुर को भी मेरा चाल-चलन और चरित्र बहुत पसंद आया और वे अपनी बेटी की शादी मुझसे करवाने के लिए राजी हो गए।” अय्यप्पा हमें ये बात बताने से भी नहीं हिचकिचाए कि उन्हें 1983 में शादी के समय दस हज़ार रुपये दहेज़ के तौर पर दिए गए थे।