Organisasjonen består av ni delstatsforeninger (én for hver av Østerrikes delstater) og et landsomfattende sekretariat (kalt , BAK) i Wien. Innenfor AK finnes det flere fraksjoner, deriblant Fraktion Sozialdemokratischer Gewerkschafter (FSG), Österreichischer Arbeitnehmerinnen- und Arbeitnehmerbund (ÖAAB) og Gewerkschaftlicher Linksblock (GLB).