Von 1990 bis 1993 war Köhler Staatssekretär im Bundesfinanzministerium als Nachfolger von Hans Tietmeyer. Er war verantwortlich für finanzielle und monetäre Beziehungen und damit der maßgebliche deutsche Unterhändler bei den Verhandlungen zum Vertrag von Maastricht und teilweise bei jenen für die Deutsche Wiedervereinigung. Köhler, der mit Russland Milliardenzahlungen für den Abzug der Gruppe der Sowjetischen Streitkräfte in Deutschland aus Deutschland aushandelte, regelte auch die deutsche Finanzhilfe für den Golfkrieg 1991, d. h. die Zahlung von ca. 12 Mrd. DM an die USA. Als so genannter Sherpa des Bundeskanzlers Helmut Kohl sowie als dessen persönlicher Vertreter bereitete er die G7-Wirtschaftsgipfel in Houston (1990), London (1991), München (1992) und Tokio (1993) vor. Laut Lorenz Maroldt, Chefredakteur des "Tagesspiegels", war Köhler in seiner Eigenschaft als Staatssekretär maßgeblich an der Gestaltung der deutschen Währungs-, Wirtschafts- und Sozialunion beteiligt.