Warren Whiteley och Johan Goosen gick över för att ge Sydafrika en tidig ledning innan en Adam Coleman försök minskade skulderna till 14-13 vid pausen.
Eben Etzebeth visades ett gult kort för besökarna strax efter omstart då Bernard Foley gjorde ett avgörande försök att försegla en moral-boosting seger.
Tidigare på lördagen slog Nya Zeeland Argentina för att stanna högst upp på bordet.
Wallabies, som håller sig nere, öppnade så småningom sitt konto i årets mästerskap efter back-to-back nederlag av All Blacks.
De har haft sina problem sedan förlora VM-finalen till Nya Zeeland på Twickenham i oktober.
En 3-0 serie nederlag till England och dessa nederlag till Nya Zeeland hade satt press på coach Michael Cheika.
Många Wallabies fans röstade med sina fötter och Suncorp Stadium var halvtomt när Springboks högade på ytterligare elände i de inledande minuterna.
Whiteley rusade över för sin tredje internationella försök, sedan Goosen dök över efter Adriaan Strauss fångade en Quade Cooper punt.
Det fanns buor runt stadion med Wallabies släpande 14-3, men de var snart tystade som ett högt pass från Will Genia valde Coleman som gick över i hörnet.
Hemsidan bar farten in i andra halvan och Foley gav dem ledningen för första gången med ett straff efter Etzebeth var synd-bined för en utmaning.
Samu Kerevi trodde att han hade gått över i hörnet för Wallabies men hans knä ansågs ha varit i kontakt innan han jordade bollen.
Wallabies var nu under cosh och Foley gav hemmasidan lite andrum när han dök över efter en dummy pass.
Australien: Folau, Haylett-Petty, Kerevi, Foley, Hodge, Cooper, Genia, Pocock, Hooper, Mumm, Coleman, Douglas, Kepu, Moore, Sio. Ersättningar: Polota-Nau, Slipper, Alaalatoa, Arnold, McMahon, Phipps, Kuridrani, Mitchell.
Sydafrika: Goosen, Habana, Kriel, de Jongh, Hougaard; Jantjies, de Klerk; Whiteley, Mohoje, Louw, de Jager, Etzebeth, Adriaanse, Strauss, Mtawarira. Ersättningar: Mbonambi, Kitshoff, Nyakane, Mostert, du Toit, Kriel, Steyn, Mapoe.
Australien slutade en sexmatch förlora kör med en 23-17 seger över Sydafrika i Rugby Championship i Brisbane.