Om alla över 30 år följde rekommenderade riktlinjer för motion, skulle nästan 3.000 liv kunna räddas varje år enbart i Australien, säger forskare.
Mer behöver göras för att varna kvinnor för inaktivitet, eftersom det väger tyngre än andra riskfaktorer som fetma, säger de.
Brist på motion är en känd riskfaktor för hjärtsjukdomar, säger British Heart Foundation.
Ett team vid University of Queensland i Australien spårade hälsan hos mer än 30 000 kvinnor födda på 1920-, 1940- och 1970-talen.
De fann att rökning hade störst inverkan på risken för kvinnors hjärtsjukdomar under 30 års ålder.
Men i takt med att kvinnor blev äldre och mer slutade röka övertogs det av fysisk inaktivitet som den dominerande påverkan på risken för hjärtsjukdomar.
Fortsatta ansträngningar för att uppmuntra människor att sluta röka var berättigade, rapporterade forskarna i British Journal of Sports Medicine.
Men de sade att större ansträngningar behövdes för att främja motion, som de beskriver som en "Cinderella" riskfaktor jämfört med fetma.
"Vi behöver mycket mer arbete för att hålla medelålders kvinnor aktiva och sedan hålla dem aktiva in i ålderdomen," Prof Wendy Brown, vid universitetets centrum för forskning om motion, fysisk aktivitet och hälsa, berättade BBC News.
"Om du kan göra minst 30 minuter och helst 45 minuter om dagen, kommer du att se enorma förbättringar i din hälsa och minska risken för hjärtsjukdomar med hälften."
Enligt NHS Choices rekommenderas vuxna i åldern 19-64 år att utföra 150 minuters fysisk aktivitet varje vecka, eller 30 minuter på fem dagar i veckan.
I en kommentar till studien sade Thembi Nkala, chefssjuksköterska vid British Heart Foundation, att fysisk inaktivitet var en känd riskfaktor för hjärtsjukdomar.
"Intressant, denna studie visar dess dominerande inflytande på hjärtsjukdomar bland kvinnor, och tyder på ett större behov av att främja regelbunden fysisk aktivitet bland denna grupp," sade hon.
– Det är viktigt att komma ihåg att hjärtsjukdomar är kopplade till andra faktorer som rökning, fetma, högt blodtryck och högt kolesterol.
"Det är viktigt att hantera dessa också, eftersom ju fler riskfaktorer du har, desto större är risken för hjärtsjukdomar. "
Brist på motion är den största riskfaktorn för hjärtsjukdom hos kvinnor i åldern 30 år och äldre, enligt en studie.