Mandl vant en olympisk sølvmedalje i fotball under OL 1936 i Berlin. Han var med på det østerrikske laget som kom på andreplass i fotballturneringen bak Italia. Østerrike vant kvartfinalen over Peru med 4-2 og i semifinalen beseiret de Polen med 3-1. I finalen, som ble spilt 15. august 1936 med 85 000 tilskuere, møtte de Italia, Østerrike tapte finalen med 1-2. Mandl var angrepsspiller og spilte en kamp i OL-turneringen og scoret et mål.