Da Tyskland invaderte Norge 9. april 1940 møtte han på Gardermoen og satte opp en styrke på 140 dragoner. Qvist tjenestegjorde som rittmester og sjef for 2. hjulryttereskadron i Opland dragonregiment, samt som nestkommanderende for Hærens rideskole. Han overgav seg uten kamp med sin avdeling på 400 mann (hvorav 250 under ledelse av Richard Andvord) til hauptmann Spillers styrke (som returnerte fra Midtskogen) tidlig morgen 10. april. Qvist og hans avdeling ble overrumplet og hadde ikke ladd våpen da de kjørte langs riksvei 50 litt sør for Strandlykkja. Ifølge Syltevik var mitraljøser og ammunisjon pakket i kasser da de møtte den tysk avdelingen. De regnet med risikofri reise til nordover til Hedmark. Han ble løslatt etter et kort fangenskap. Han hadde fullført Krigsskolens øverste avdeling i 1917 og ble utnevnt til rittmester i 1932. Han ble oppnevnt som kommissarisk leder for Norges Rytterforbund i november 1940, men han sa fra seg denne stillingen i starten av 1941.