Fu comandante in capo della flotta del Mediterraneo dal 1796 al 1799. Uno dei suoi compiti era quello di vigilare la flotta spagnola a Cadice e la sconfisse nella battaglia di Capo San Vincenzo. Nello stesso anno, tuttavia, dovette far fronte agli ammutinamenti di Spithead e Nore. Jervis prevenne la rottura della catena di comando mediante la severità, includendo le flagellazioni, l'impiccagione di marinai e lo scherno pubblico dei suoi ufficiali, uno dei quali, Sir John Orde, lo sfidò a duello. In ogni caso, elevò la disciplina della marina inglese ad un livello che non aveva mai avuto prima. Fu sempre disposto a promuovere i buoni ufficiali, e l'efficienza dello squadrone col quale Horatio Nelson vinse la battaglia del Nilo si dovette in gran parte a lui. Jervis lasciò temporaneamente il comando nel 1799, a causa di gravi motivi di salute, ma dopo essersi curato riassunse il comando l'anno seguente. Gli venne assegnato il titolo di Conte di St Vincent e divenne Primo Lord dell'Ammiragliato nel 1801.