Wasps seger över Leinster såg dem rycka första plats i gruppen, lämnar Toulon att kvalificera sig som en av tre löpare-up.
Steffon Armitage och Bryan Habana gick över till den franska sidan av halvtid på Rec.
Anthony Watson gjorde Baths enda försök, som George Ford sparkade tre straff.
Premiärsidans förhoppningar om att komma ut ur poolen var över förra helgen efter deras 25-11 nederlag av Leinster.
Mike Fords lag avslutar tävlingen med två segrar från sex matcher och avslutar trean i bordet.
Toulon gick in i finalen pool spel på toppen av gruppen vid en punkt, efter sin sista-gasp seger över Wasps förra helgen.
Men Premiership sidan sprang i sju försök mot botten sida Leinster på lördag, och de gick igenom som grupp vinnare på grund av deras head-to-head rekord mot Toulon.
Bath hade inget att spela för i lördagens match, men de var ute efter att kick-starta sin säsong, efter att ha vunnit bara tre från åtta i ligan.
De föll efter till två James O'Connor sparkar, innan fluga-halva och kapten Ford fick värden av märket med kängan.
Toulon förlängde sin ledning när England exil Armitage, som Bath hade försökt underteckna förra året före VM, lämnades omärkt och han drev över.
Värdarna fick en perfekt start i andra halvlek när Watson landade efter en sublim övergång från Horacio Agula och Kyle Eastmond.
Ford missade konverteringen innan han landade en straffavgift för att ge Bath en smal 14-11 ledning, men det höll inte.
Scotland flanker David Denton gav bollen bort till Sydafrika vingen Habana och han sprintade över för att göra ett enkelt försök för Toulon.
Full-back O'Connor missade konverteringen men han gick vidare till slot sin tredje kick, som de tre-tidens mästare bokade sin plats i knockout stadier.
Bath: Anthony Watson; Semesa Rokoduguni, Jonathan Joseph, Kyle Eastmond, Horacio Agulla, George Ford (c), Chris Cook; Nick Auterac, Ross Batty, Henry Thomas; Charlie Ewels, Dominic Day; David Denton, Guy Mercer, Leroy Houston.
Ersättningar: Tom Dunn, Nathan Catt, David Wilson, Tom Ellis, Matt Garvey, Alafoti Faosiliva, Rhys Priestland, Ollie Devoto.
Toulon: James O'Connor; Josua Tuisova, Maxime Mermoz, Ma'a Nonu, Bryan Habana; Quade Cooper, Sebastien Tillous-Borde; Florian Fresia, Guilhem Guirado, Levan Chilachava; Jocelino Suta (c), Samu Manoa; Juan Smith, Steffon Armitage, Duane Vermeulen.
Ersättningar: Jean-Charles Orioli, Xavier Chiocci, Manasa Saulo, Mamuka Gorgodze, Romain Taofifenua, Mathieu Bastareaud, Eric Escande, Thibault Lassale.
Ref: John Lacey (Irland).
För de senaste rugby facket nyheter följa @bbcrugbyunion på Twitter.
Reigning mästare Toulon slog Bath för att nå Champions Cup kvartsfinaler, men missade på topp plats i Pool Five.