En las negociaciones para formar la llamada Gran Coalición tras las elecciones federales de 2013, Oppermann encabezó la delegación del SPD en el grupo de trabajo de asuntos internos y legales; su copresidente fue Hans-Peter Friedrich de la CSU. Cuando Frank-Walter Steinmeier renunció como presidente del Grupo Parlamentario del SPD para servir una vez más como ministro de Relaciones Exteriores en la segunda Gran Coalición de Angela Merkel, Oppermann fue elegido como su sucesor el 16 de diciembre de 2013.