Casi inmediatamente, Gallatin empezó a ser un político activo en Pennsylvania; fue miembro de la convención constitucional de ese estado en 1789, y fue elegido miembro del congreso estatal en 1790.