Sachverhalt:
A. Die Stiftung für den flexiblen Altersrücktritt (Stiftung FAR) ist zuständig für die Durchführung des am 12. November 2002 zwischen dem Schweizerischen Baumeisterverband und der GBI Gewerkschaft Bau & Industrie (heute UNIA) sowie der Gewerkschaft SYNA abgeschlossenen Gesamtarbeitsvertrages für den flexiblen Altersrücktritt im Bauhauptgewerbe (GAV FAR), der vom Bundesrat teilweise allgemeinverbindlich erklärt wurde.
Mit Beschluss vom 7. März 2005 teilte die Stiftung FAR der Firma H._ GmbH mit, sie sei dem GAV FAR zu unterstellen. Das Anfertigen von Bruchsteinmauern, Sitzplätzen, Gartenwegen, Natursteintreppen und Landschaftsgartenbau seien Arbeiten, die unter den betrieblichen Geltungsbereich fallen würden; zudem sei die Unterstellung unter den Landesmantelvertrag (LMV) gemäss Beschluss der paritätischen Berufskommission für das Hoch- und Tiefbaugewerbe vom 24. Januar 2005 ein Indiz für die Zugehörigkeit zum GAV FAR. Gleichzeitig forderte die Stiftung FAR die H._ GmbH auf, die Arbeitgeber- und Arbeitnehmerbeiträge zu entrichten.
Nachdem die Beiträge unbezahlt geblieben waren und die H._ GmbH auf Betreibung hin Rechtsvorschlag erhoben hatte, reichte die Stiftung FAR am 30. April 2008 beim Versicherungsgericht des Kantons Aargau Klage ein. Gemäss präzisiertem Rechtsbegehren vom 9. März 2009 beantragte die Stiftung FAR, die H._ GmbH sei zu verpflichten, ihr Fr. 63'895.10, nebst Zins zu 5 % auf verschiedenen Beträgen ab unterschiedlichen Fälligkeiten zu bezahlen. In Gutheissung der Klage verpflichtete das Versicherungsgericht die H._ GmbH, der Stiftung FAR die Eintrittsgebühr sowie die Arbeitgeber- und Arbeitnehmerbeiträge in der Höhe von insgesamt Fr. 63'895.10, zuzüglich Verzugszins zu 5 % auf Fr. 11'132.- ab 1. Januar 2004, auf Fr. 14'050.85 ab 1. Januar 2005, auf Fr. 11'686.85 ab 1. Januar 2006, auf Fr. 13'829.15 ab 1. Januar 2007 sowie auf Fr. 13'196.25 ab 1. Januar 2008 zu bezahlen (Entscheid vom 5. Mai 2009).
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die H._ GmbH, der vorinstanzliche Entscheid sei aufzuheben.
Die Stiftung FAR schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Versicherungsgericht lässt sich in ablehnendem Sinne vernehmen. Das Staatssekretariat für Wirtschaft äussert sich zur Rechtslage, ohne einen Antrag zu stellen, während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Streitig ist, ob die Beschwerdeführerin dem GAV FAR untersteht, was im Rahmen einer Klage auf Bezahlung der Beiträge vom dafür zuständigen Berufsvorsorgegericht vorfrageweise zu überprüfen ist (SZS 2008 S. 487, 9C_211/2008). Die Beschwerdeführerin bestreitet ihre Unterstellung damit, dass sie im Handelsregister unter "H._ GmbH" eingetragen sei, dem Gärtnermeisterverband angehöre und entgegen dem Beschluss der Paritätischen Kommission nicht dem Landesmantelvertrag unterstellt sei. Auch andere grössere Gartenbauunternehmungen seien nicht dem GAV FAR unterstellt.
2. Die allgemeinverbindlich erklärten Bestimmungen des GAV FAR gelten u.a. für die Betriebe der Bereiche "Hoch-, Tief-, Untertag- und Strassenbau (einschliesslich Belagseinbau)", "Steinhauer- und Steinbruchgewerbe sowie Pflästereibetriebe" (Art. 2 Abs. 4 lit. a und c des Bundesratsbeschlusses über die Allgemeinverbindlicherklärung des GAV FAR vom 5. Juni 2003). Nicht in den betrieblichen Geltungsbereich des GAV FAR fallen u.a. die Gärtnereien. Garten- und Landschaftsbau ist eine Fachrichtung der Gärtnertätigkeit (vgl. Art. 1 des Reglements über die Ausbildung und die Lehrabschlussprüfung von Gärtnerinnen und Gärtnern des Eidgenössischen Volkswirtschaftsdepartements sowie Ziff. 14.10 des Lehrplanes für den beruflichen Unterricht, je vom 7. März 2000), nicht des Baugewerbes. Gartenbaubetriebe sind daher grundsätzlich keine Betriebe des Baugewerbes. Zum Ausbildungs- und Tätigkeitsprofil des Gartenbauers (und damit des Gärtners) gehört auch der Bau von Wegen, Plätzen, Treppen sowie von Mauern aus Natursteinen und Elementen (Art. 5 Abs. 3b Ausbildungsreglement). Die Tätigkeiten des Gärtners/Gartenbauers einerseits und der Berufe des Bau- und Strassenbaugewerbes andererseits überschneiden sich damit teilweise. Dies kann aber nicht dazu führen, einen Gartenbaubetrieb einzig deshalb, weil er auch Arbeiten ausführt, die typischerweise von Baufirmen verrichtet werden, dem GAV zu unterstellen. Bei Betrieben, welche mehrere Tätigkeiten ausführen, von denen die einen unter den GAV fallen, die andern hingegen nicht, ist massgeblich, welche Tätigkeit dem Betrieb das Gepräge gibt, sofern nicht klar erkennbare unterschiedliche Betriebsteile bestehen, welche eine unterschiedliche Zuordnung rechtfertigen; nicht entscheidend ist hingegen der Handelsregistereintrag (BGE 134 III 11 E. 2.1 S. 13). Massgebend für die Unterstellung eines Gartenbaubetriebs unter den GAV FAR ist somit, ob er prägend Arbeiten ausführt, die typischerweise von Betrieben des Baugewerbes ausgeübt werden (Bau von Mauern, Strassen, Pflästerungen) oder aber solche, die in den Bereich des Gartenbaus (mit Einschluss des Baus von Gartenwegen, typischen Gartenmauern und dergleichen) gehören.
3. 3.1 Die Vorinstanz hat diese Rechtsgrundlagen in E. 2.2.1 richtig wiedergegeben. In der Subsumtion hat sie dann aber nicht geprüft, ob die Beschwerdeführerin prägend eine Tätigkeit ausübt, welche dem GAV FAR untersteht. Sie hat als fallbezogene Sachverhaltsfeststellung einzig die Aussage der Beschwerdeführerin in deren Schreiben vom 20. Dezember 2004 wiedergegeben, wonach sie hauptsächlich Gartenbauarbeiten wie Bruchsteinmauern, Sitzplätze, Gartenwege, Natursteintreppen und Landschaftsgartenbau ausführe. Dabei handelt es sich durchwegs um Tätigkeiten, die zum typischen Arbeitsbereich einer Garten- und Landschaftsbauunternehmung gehören, teilweise allerdings auch von Baufirmen ausgeübt werden. Über die entscheidende Frage, ob die typischen Bautätigkeiten oder aber die Landschaftsgartenarbeiten dem Betrieb der Beschwerdeführerin das Gepräge geben, hat das Versicherungsgericht aber keine Feststellungen getroffen.
3.2 Weiter hat die Vorinstanz erwogen, gemäss Merkblatt der schweizerischen paritätischen Vollzugskommission Bauhauptgewerbe (SKV) sei ein Betrieb, der dem LMV unterstehe, in der Regel auch dem GAV FAR unterstellt. Die Paritätische Berufskommission für das Hoch- und Tiefbaugewerbe (PKB) Aargau habe mit Beschluss vom 24. Januar 2005 festgehalten, die Beschwerdeführerin unterstehe dem LMV; deshalb sei davon auszugehen, dass sie grundsätzlich auch dem GAV FAR untersteht.
3.2.1 Dass Betriebe, die dem LMV unterstehen, auch dem GAV FAR unterstehen, mag als Grundsatz richtig sein, gilt aber nicht ausnahmslos. Gemäss Art. 2 Abs. 2 lit. b LMV fallen die Gärtnereien und Gartenbaufirmen in seinen betrieblichen Geltungsbereich, soweit mehrheitlich Bauarbeiten, Planierungen, Maurerarbeiten usw. ausgeführt werden. Das entspricht der rechtlichen Lage, wonach bei Betrieben, die mehrere Tätigkeiten ausüben, von denen nur einige dem GAV unterstehen, die prägende Tätigkeit ausschlaggebend ist. Indessen enthält der LMV eine Konkurrenzklausel, wonach dann, wenn die Unterstellung unter den LMV unklar ist, dieser anzuwenden ist, wenn er mit einem anderen, nicht allgemeinverbindlich erklärten GAV in Konkurrenz steht (Art. 2 Abs. 3 lit. a LMV). Diese Konkurrenz- oder Auffangklausel gilt aber nicht für den GAV FAR. Soweit eine allfällige Unterstellung unter den LMV nur auf diese Konkurrenzklausel zurückzuführen ist, lässt sich daraus für die Unterstellung unter den GAV FAR nichts ableiten.
3.2.2 Zudem handelt es sich beim Beschluss der PKB Aargau nicht um einen rechtskräftigen Entscheid, sondern um eine Parteistellungnahme eines gemeinsamen Organs im Sinne von Art. 357b OR (vgl. Art. 76 LMV); ein solches ist ermächtigt, im Streitfall gegenüber den Arbeitgebern und Arbeitnehmern Klage auf Einhaltung des GAV zu erheben (BGE 134 III 541 E. 4 S. 544), hat aber nicht die Kompetenz zur verbindlichen Feststellung der Rechtslage. Es steht somit aufgrund der Akten nicht verbindlich fest, dass die Beschwerdeführerin dem LMV untersteht.
3.2.3 In Bezug auf die entscheiderhebliche Sachverhaltsfrage finden sich auch im Beschluss der PKB keine hinreichenden Feststellungen. Er stützt sich auf eine Unterstellungskontrolle; das Protokoll dieser Kontrolle hält als Tätigkeitsbereiche fest: "Gartenbau, Pflästerungen im Zusammenhang mit Gartenbau, Sitzplatzbeläge, Garagenzufahrten, Gartenwege", enthält aber keine Umsatzzahlen für die einzelnen Bereiche. Unter der Rubrik "Weitere Bemerkungen" ist ausgeführt, dass u.a. Offerten/Auftragsbestätigungen/Werkverträge hätten eingesehen werden können; doch fehlen im Protokoll Angaben über den Inhalt der demgemäss durchgeführten Arbeiten. Darüber, ob die typischen Bauarbeiten im Betrieb stärker ins Gewicht fallen als Gartenbauarbeiten, lässt sich dem Protokoll nichts entnehmen.
3.3 Nicht ausschlaggebend ist sodann der von der Vorinstanz angerufene Grundsatz der Tarifeinheit. Dieser besagt, dass die Arbeitnehmer eines gesamten Betriebs oder Betriebsteils nur jeweils einem GAV unterstehen, auch wenn sie unterschiedliche Tätigkeiten ausüben (Urteil des Bundesgerichts 4C.350/2000 vom 2. März 2001). Vorweg ist aber zu prüfen, ob überhaupt der Betrieb oder Betriebsteil als solcher dem betreffenden GAV angehört, was sich bei Betrieben, die mehrere Tätigkeiten ausüben, nach der prägenden Tätigkeit beurteilt (zitiertes Urteil 4C.350/2000 E. 3b-g).
3.4 Der rechtserhebliche Sachverhalt ist damit unvollständig festgestellt (Art. 105 Abs. 2 BGG). Die Sache ist an die Vorinstanz zurückweisen. Diese wird im Sinne der vorangehenden Erwägungen abzuklären haben, ob die baugewerblichen oder die gartenbaugewerblichen Tätigkeiten dem Betrieb das Gepräge geben und aufgrund dieser Sachverhaltsergänzungen über die Klage neu entscheiden.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der angefochtene Entscheid vom 5. Mai 2009 wird aufgehoben. Die Sache wird an das Versicherungsgericht des Kantons Aargau zurückgewiesen, damit es über die Klage der Beschwerdegegnerin im Sinne der Erwägungen neu entscheide.
2. Die Gerichtskosten von Fr. 4'000.- werden der Beschwerdegegnerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau, dem Staatssekretariat für Wirtschaft SECO Gesamtarbeitsverträge und Arbeitsmarktaufsicht und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. Januar 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer