কাফির মুনাফিকদের প্রতি তিনি ছিলেন অত্যন্ত কঠোর। এ কঠোরতা বিভিন্ন সময়ে নানাভাবে প্রকাশ পেয়েছে। সে সময় মদীনার মুনাফিকরা (কপট) মসজিদে আসতো, মুসলমানদের নানা কথা কান পেতে শুনতো। বাইরে গিয়ে তারা মুসলমানদের দ্বীন নিয়ে হাসি-ঠাট্টা করতো। একদিন কতিপয় মুনাফিক মসজিদে নববীতে একত্রিত হল। তারা যখন পরস্পর গায়ে গা মিশিয়ে নিচুস্বরে নিজেদের মধ্যে শলাপরামর্শ করছে, ঠিক সেই সময় রাসূল সা. তাদেরকে দেখে ফেলেন। তিনি তাদেরকে মসজিদে থেকে বের করে দেওয়ার নির্দেশ দিলেন। সাথে সাথে আবু আইউব ছুটে গিয়ে ’আমর ইবন কায়েসের একটি ঠ্যাং ধরে টানতে টানতে মসজিদের বাইরে নিয়ে গেলেন। তিনি তার ঠ্যাং ধরে টানছেন আর সে চেঁচিয়ে চেঁচিয়ে বলছেঃ আবু আইউব, তুমি এভাবে আমাকে বনী-সা’লাবের মিরবাদ (খোঁয়াড়) থেকে বের করে দিচ্ছ? (মসজিদের স্থানে পূর্বে উট-বকরীর খোঁয়াড় ছিল) তারপর আবু আইউব রাফে ইবন ওয়াদীয়ার দিকে ধেয়ে যান এবং তার গলায় চাদর পেঁচিয়ে টানতে টানতে ও লাথি-চড় মারতে মারতে মসজিদ থেকে বের করে দেন। আবু আইউব টানছেন আর মুখে বলছেনঃ ‘পাপাত্মা মুনাফিক দূর হ। যে পথে এসেছিস সেই পথে চলে যা।’ (সীরাতু ইবন হিশাম- ১/৫২৮)