En , il démissionne de son poste de procureur général, acceptant d'être nommé juge puîné de la Cour des plaids-communs. Cela peut avoir été le résultat d'une mauvaise santé; Henry Brougham l'attribue à une anxiété personnelle après l'assassinat de Perceval. En tout état de cause, Gibbs accepte une réduction importante de ses revenus, bien que sa nomination en tant que Chief Baron of the Exchequer en ait quelque peu atténué le problème. Il est, en même temps, membre du Conseil privé. En , une autre promotion le nomme juge en chef des plaids communs. Son mandat là-bas est caractérisé par une parfaite maîtrise du droit, bien que les opinions divergent quant à savoir si son tempérament a déjà été contrôlé. L’affaire la plus célèbre qu’elle ait jugée est probablement l’action en diffamation intentée par Lady Frances Webster et son mari au sujet de l’allégation (presque certainement fausse) selon laquelle elle aurait eu une liaison avec le duc de Wellington . Une nouvelle dégradation de sa santé conduit à sa démission en et il est mort le à sa maison à Londres. Il est inhumé dans le cimetière de Sainte - Marie la Vierge à Hayes, Bromley.