Muirfield, som är iscensatt Open Championship, är bland ett antal brittiska golfbanor som bara män kan delta.
Flera ledande politiker har vägrat att närvara vid evenemanget i protest.
Men Harriet Harman sade att ministrar måste gå längre och ändra jämställdhetslagar för att stoppa "diskriminering" av privata klubbar.
Scottish First Minister Alex Salmond och kultursekreterare Maria Miller är bland dem som bojkottar fyradagarsturneringen i East Lothian, som började på torsdag.
Raden kommer mitt i en bredare debatt om sexism inom idrotten efter kommentarer från BBC presenter John Inverdale om framträdandet av Wimbledon mästare Marion Bartoli och uppmanar fru Miller att sändare att vidta mer åtgärder i frågan.
Harman sade att hålla sig borta från en av årets mest uppmärksammade idrottsevenemang var en "symbolisk gest" och ministrarna bör göra "mer än så" och ändra lagen.
Hon uppmanade ministrarna att stänga ett "loophole" i 2010 års jämställdhetslag, lagstiftning som hon lotsade genom parlamentet, vilket stärkte skyddet mot diskriminering på grund av kön, ålder, ras och sexuell läggning.
Men lagstiftningen tillät privata föreningar, till exempel golfklubbar, att fortsätta att bestämma sina egna regler för medlemskap.
Hon ansåg att lagstiftningen skulle betraktas som "ofullständig" och "ofullbordad verksamhet", och sade att Labour skulle stödja regeringen om den beslutade att lägga fram nya förslag för att se till att kvinnor har lika tillgång till alla institutioner.
"Låt oss inte ha påtryckningar och gester, låt oss absolut göra något åt det", berättade hon för BBC News Channel.
"Om du vet att det är anakronistiskt, föråldrat och diskriminerar kvinnor, kan du faktiskt ändra jämställdhetslagen för att se till att det inte händer och vi kommer att ge detta stöd."
Både David Cameron och Nick Clegg har sagt att de inte stöder institutioner vars medlemskap är begränsat på grund av kön.
Cameron har enligt uppgift gett upp sitt medlemskap i White's, en av de äldsta och mest prestigefyllda herrklubbarna i London, som inte erkänner kvinnor. Premiärministerns framlidne far Ian var klubbens ordförande.
Men frågade om premiärministern skulle stödja ett förbud mot manliga klubbar, en No 10 talesman sade "Jag tror inte att vi tittar på att gå den vägen".
Herr Clegg sade att sådana institutioner "är ur fas med allt annat som händer i resten av samhället" men han gynnade klubbarna att agera frivilligt snarare än att anta nya lagar för att införa förändringar.
"Det verkar bara så gammaldags och så anakronistisk att bara ha en golfklubb säger att bara för att du är en kvinna kan du inte vara en medlem av den klubben," sade han under sin veckotelefon-in på LBC Radio.
"Jag tror att många människor bara skakar på huvudet och säger hur i hela världen är detta fortfarande möjligt i denna dag och tidsålder?"
Men UK Independence Party sade att hälften av de enkönade golfklubbarna i Storbritannien medgav endast kvinnliga medlemmar och anklagade fru Miller och herr Salmond för "politisk storslagenhet".
Muirfield är en av ett antal vanliga öppna platser som inte erkänner kvinnor som medlemmar, även om de kan spela kursen.
R&A, som organiserar turneringen, sade bara 1% av Storbritanniens 3000 golfklubbar har en enda sex medlemskapspolitik.
Peter Dawson, kroppens verkställande direktör, har sagt att praxis är "fullständigt lagligt" men erkände förekomsten av manliga-bara golfklubbar blir "allt svårare" och "divisive".
Augusta, som är värd för USA:s mästare, erkände sina första kvinnliga medlemmar förra året efter år av påtryckningar att göra det.
Labours vice ledare uppmanar till ett förbud mot manliga idrottsklubbar, säger att det är pinsamt Storbritanniens mest prestigefyllda golfturnering händer på en klubb som inte erkänner kvinnliga medlemmar.