מעט ידוע על ילדותו של רוקה. הוא היה ילד שובב אשר נהג להודות באשמה כאשר עבר את כללי הבית. היה זה באותה העת כאשר ניתן לו הכינוי "שועל קטן". כשחוליו היה בן תשע והקרב על קאסרוס התרחש עם נפילתו של הרודן חואן מנואל דה רוסאס בעקבותיו, השתנה מעמדם הפוליטי-חברתי של בני משפחת רוקה. דון חואן סגונדו זכה באמון של הנשיא הזמני חוסטו חוסה דה אורקיסה שביקש ממנו לעבור עם משפחתו לקונספסיון דל אורוגוואי. שם נכנס חוליו לבית הספר הלאומי, אחד היוקרתיים בארץ. בשנת 1858 ובלי לסיים את לימודיו חוליו נכנס לשירות בצבא הקונפדרציה הארגנטינאית בדרגת סגן משנה. בשנה שלאחר מכן ראה שירות קרבי לראשונה במהלך מלחמות האזרחים בארגנטינה כאשר שירת בצבא הממשלה הפדרלית הלאומית נגד הכוחות הליברלים בהנהגת ברטולומה מיטרה. שמו התחיל להישמע ולהתפרסם בתבוסת הפדרליים בקרב פאבון: כאשר עיקר הצבא הפדרלי כבר נסוג, הסוללה הארטילרית בפיקודו של רוקה המשיכה לירות עד שאביו סגונדו (ששירת גם כן בצבא הפדרלי בדרג גבוהה) הורה באופן אישי על הנסיגה.