מ-1934 עבד במשרת אחראי מו"ל של הוועד המרכזי של המפלגה. באותו הזמן התחיל להדפיס מוצרי דפוס בשפת היידיש. נתפס שוב ב-1936 ונשפט לשש שנים. אחרי הפלישה של הצבא האדום שוחרר מן הכלא ומונה לעורך העיתון "ביאליסטאקער שטערן" שהיה המו"ל של המפלגה הקומוניסטית של ביילורוסיה המערבית. בתחילת מבצע ברברוסה נמצא במינסק ועם הנסיגה של הצבא האדום נשלח לגטו מינסק. בגטו ב-1942 עמד סמולר בראש ארגון צבאי מחתרתי. הנאצים דרשו מהיודנראט המקומי שיסגירו לידיהם את סמולר, אך ראש היודנראט משה יפה הציג להם את תעודת הזהות שלו מגואלת בדם, כהוכחה לכאורה כי סמולר נהרג, ובכך הציל אותו מידיהם. סמולר ברח מהגטו. בהמשך כפרטיזן בדרגת לוטננט פעל בשם כיסוי "יפים" ביער נאליבוקי. בהיותו ביחידת הפרטיזנים הדפיס מספר עיתונים ברוסית ויידיש.