আবূ আইউবের মৃত্যুর পর তাঁর অন্তিম ইচ্ছার বাস্তবায়ন করা হয়। একদিন রাতে মুসলিম বাহিনী অস্ত্র সজ্জিত হয়ে লাশটি উঠিয়ে নেয় এবং কনস্ট্যান্টিনোপলের (আধুনিক ইস্তাম্বুল) নগর প্রাচীরের গা ঘেঁষে তাঁকে দাফন করে। মুসলিশ বাহিনীর সকল সদস্য তাঁর জানাযায় অংশগ্রহণ করে। বিধর্মীরা তাঁর মাযারের অবমাননা করতে পারে, এই চিন্তায় ইয়াযীদ কবরটি মাটির সাথে সমান করে দেন। পরদিন সকালে রোমানরা মুসলিম মুজাহিদদের কাছে জানতে চাইলো, কাল রাতে আপনাদের একটু ব্যস্ত দেখা গেল, কী হয়েছিল? তাঁরা জবাব দিলেন, আমাদের নবীর একজন অতি সম্মানিত সংগীর মৃত্যু হয়েছে, তাঁরই দাফন কাজে আমরা ব্যস্ত ছিলাম। যেখানে দাফন করা হয়েছে তোমরা তা জান। যদি তাঁর মাযারের অবমাননা করা হয় তাহলে জেনে রাখ, বিশাল ইসলামী খিলাফতের কোথাও তোমাদের ‘নাকুস’ আর বাজবে না। (সীয়াবে আনসার- ১/১১৩) ইস্তাম্বুলের সন্নিকটে হযরত আবু আইয়ূবের কবরটি আজও বর্ণ ও ধর্ম নির্বিশেষে সকল মানুষের এক তীর্থ-স্থান। রোমানরা তাদের দুর্ভিক্ষ ও খরার সময় তাঁর কবরে নিকট সমবেত হয়ে আল্লাহর রহমত কামনা করতো এবং পানি চাইতো। (দারিয়া-ই মায়ারিফ-ই-ইসলামিয়্যা- ১/৭৪৫, উসুদুল গাবা- ২/৮২)