Robert Musils foreldre var ingeniør og universitetsprofessor Alfred Musil og Hermine, født Bergauer. Han vokste opp forskjellige steder, alt etter hvorhen faren ble forflyttet, og gikk på skole blant annet i Steyr.