Эдвард Рошман родился 25 ноября 1908 года в Граце в семье управляющего пивоварней. Здесь он получил образование и некоторое время работал адвокатом. С 1927 по 1934 годы Рошман состоял в австрофашистской организации «Отечественный фронт», а в 1938 году — после аншлюса Австрии — примкнул к НСДАП. В 1939 году вступил в СС. В январе 1941 года он начал работу в полиции безопасности, в частности, в Главном управлении имперской безопасности. Впоследствии дослужился до гауптштурмфюрера.