Каспер и баща му са командири в императорската войска на Карл V в походите срещу папа Климент VII и присъства при грабежа на Рим на 6 май 1527 г. Той играе важна роля в победата на баща му над французите. Той има също важна роля при защитата на Павия през 1525 г., където френският крал Франсоа I е заловен. През средата на 1528 г. Каспер се завръща в родината си.