I Wien møtes løytnant Nikolaus von Preyn (spilt av Maurice Chevalier) og Franzi (spilt av Claudette Colbert) lederen for et orkester som utelukkende består av kvinner. De blir snart forelsket. Mens han står i formasjon ved en parade til ære for den besøkende kongefamilien i Flausenthurm, blunker Niki til Franzi i folkemengden. Dessverre for ham blir denne gesten også lagt merke til av Anna, prinsessen av Flausenthurm (spilt av Miriam Hopkins). Anna krever at hun skal gifte seg med løytnanten, og truer med å gifte seg med en amerikaner hvis planen hennes blir forpurret.