שלום שוורצבארד נולד לחיה ויצחק, בעיר איזמאיל בבסרביה (כיום במחוז אודסה באוקראינה) בשבת נחמו של שנת 1886. שלושת אחיו נפטרו קודם שנולד חוץ מאח אחד, מרדכי, שלימים היגר לאנגליה. סמוך להולדתו עברה משפחתו לעיר באלטה, לאחר שכל היהודים גורשו בפקודת השלטונות מאזורי הגבול של האימפריה הרוסית. אמו נפטרה בצעירותו, והוא למד שענות. שוורצבארד הצטרף לקבוצות של מהפכנים, נכלא, וכשהשתחרר נמלט לווינה. בווינה השתתף בשוד בית מרזח, ונדון לארבעה חודשי מאסר.