בשנת תר"פ (1919), בגיל 60, נקרא על ידי הרב חיים עוזר גרודזנסקי מווילנה לעמוד בראש ישיבת שער התורה בגרודנה, שם כיהן כעשרים שנים (למעט שנה אחת שבה שהה בארצות הברית), עד לפטירתו. עקב מחלתו הוא נשאר בישיבה גם בעת כניסת הצבא האדום לעיר (בעת המלחמה הפולנית-סובייטית 1919-1921). בשנת תרפ"ו (1926), מתוך צורך כלכלי, קיבל הרב שקופ את משרת הרבנות בעיירה פערשטאט (בפרברי גרודנה). בשנת 1928 התפרסם ספרו הגדול 'שערי יושר'. את הספר כתב בעזרת הרב קלמן שקופ (נכדו) והרב אהרן ישעיה שפירא.