Kargl vant en olympisk sølvmedalje i fotball under OL 1936 i Berlin. Han var med på det østerrikske laget som kom på andreplass i fotballturneringen bak Italia. Østerrike vant kvartfinalen over Peru med 4-2 og i semifinalen beseiret de Polen med 3-1. I finalen, som ble spilt 15. august 1936 med 85 000 tilskuere, møtte de Italia, Østerrike tapte finalen med 1-2. Kargl var forsvarsspiller og spilte alle fire kampene i OL-turneringen.