Organisasjonen ble etablert 8. januar 1904 av Gina Krog for å være et samlende råd for kvinneorganisasjoner i Norge. Den hadde først og fremst røtter i Norsk Kvinnesaksforening (NKF), etablert i 1884, og var i sin tidlige historie dominert av NKF-medlemmer. Ved oppstarten var det sytten lokalforeninger representert og ni nasjonale foreninger representert. Det første styret bestod av Gina Krog (formann), Fredrikke Marie Qvam (første nestformann, senere æresmedlem), Betzy Kjelsberg, Katti Anker Møller og Karen Grude Koht. Organisasjonen ble regnet til den borgerlige kvinnebevegelsen og omfattet aldri arbeiderbevegelsens kvinneorganisasjoner.