Statsministeren i New South Wales, Henry Parkes, var til å begynne med leder for føderasjonsbevegelsen, men de andre koloniene hadde en tendens til å se på dette som et komplott for New South Wales' dominans. Et innledende forsøk på å godkjenne en føderal konstitusjon i 1891 slo feil. Saken ble så tatt opp gjennom Australian Natives Association og yngre politikere som Alfred Deakin og Edmund Barton. Etter en føderalistkonvensjon i Corowa i 1893 ble koloniene enige om å holde valg til en føderal konvensjon som skulle møtes i forskjellige byer i 1897 og 1898. Et utkast til grunnlov, for det meste skrevet av Queensland-dommeren Samuel Griffith, ble godkjent og lagt ut til folkeavstemning i koloniene i 1899 og 1900. Velgerne i New South Wales forkastet utkastet fordi det gav for mye makt til de mindre koloniene, men til slutt ble det oppnådd et kompromiss.