Det høyeste organet i IUPAP er generalforsamlingen som normalt avholdes hvert 3. år. Det styrende organet mellom generalforsamlingene er Rådet som overser organisasjonens virke som for det meste vært utført av permanente kommisjoner som har ansvar for ulike fagområder i fysikk. I tillegg er det arbeidsgrupper som arbeider med ulike tema i fysikk i en periode på 3 til 6 år.