Handlingen foregår i Kansas City i 1927. Pete Kelly og jazzbandet hans har fast spillejobb på den lugubere restauranten Rudy's, som selger ulovlig alkohol. En kveld får de vite at gangsteren Fran McCarg ønsker at de skal jobbe for ham. Han krever 25 prosent av inntekten deres for å bli deres manager. Etter å ha diskutert med resten av bandet bestemmer Pete seg for å avslå tilbudet til McCarg. Ungutten Joey Firestone, trommeslageren i bandet, er aller mest negativ til McCarg. Før Pete har fortalt McCarg om avgjørelsen reiser han og resten av bandet innom en fest arrangert av sosietetskvinnen Ivy Conrad. Hun er interessert i Pete, men han er mer lunken til henne. Mens Pete er opptatt med Ivy ringer McCarg og blir bryskt avvist av en svært beruset Joey. På vei hjem samme kveld blir bilen deres presset av veien av McCargs menn, men ingen kommer alvorlig til skade. Petes nære venn, klarinettisten Al Gannaway, har ikke overskudd til mer dramatikk og slutter i bandet.