Lors de sa seizième sélection avec l'Irlande, il obtient sa première titularisation en tant que capitaine lors du premier match du Tournoi 2004 ; Brian O'Driscoll, choisit pour succéder à Keith Wood, est absent, blessure à une cuisse, pour le match face aux Français. Avec le Munster, Paul O'Connell dispute huit matchs lors de l'édition 2003-2004 de la Coupe d'Europe : les six rencontres de poules face à Bourgoin, un essai lors du match retour, Trévise, où il inscrit un essai, et Gloucester. Avec cinq victoires, le Munster se qualifie pour les quarts où l'équipe élimine le Stade français, avant d'affronter les Anglais des Wasps en demi-finale. Ces derniers s'imposent à Lansdowne Road sur le score de . En Celtic League, il dispute trois rencontres dans une compétition disputée par douze équipes sous la forme d'un championnat.