נולד בפלזן בשם רודלף זלצמן, השני מתוך שלושת ילדיהם של שמעון וחיה רחל זלצמן. סיים את לימודיו התיכוניים בפלזן. לאחר מלחמת העולם הראשונה עבר לפראג, ובה התוודע לחוגי שמאל, ובשנת 1921 הצטרף למפלגה הקומוניסטית הצ'כית. באותה תקופה החליף את שם משפחתו מזלצמן לסלנסקי, תרגום שם משפחתו מגרמנית לצ'כית. במהרה הוא נודע כאחד מנאמניו של קלמנט גוטוולד וכאשר הלה נהיה למנהיג המפלגה הקומוניסטית בשנת 1929 היה סלנסקי לחבר נשיאות המפלגה והפוליטביורו שלה. בין השנים 1929–1935 שהה סלנסקי במחתרת מפני שהמפלגה הקומוניסטית הייתה מחוץ לחוק. בשנת 1935 משהורשתה המפלגה להשתתף בבחירות, היה סלנסקי לחבר האספה הלאומית הצ'כוסלובקית. כשהגרמנים השתלטו על חבל הסודטים ברח סלנסקי עם שאר ראשי המפלגה הקומוניסטית לברית המועצות. סלנסקי שהה במוסקבה, ניהל שידורים ברדיו מוסקבה אל תושבי צ'כוסלובקיה, וארגן יחידות צבא צ'כוסלובקיות, שאיתן חזר לצ'כוסלובקיה כדי להשתתף בהתקוממות הלאומית הסלובקית. האב, האם, האחים זדנק ויוסף וכן הדוד והדודה נספו בשואה.