Sachverhalt:
A.
A.a. Der Schweizerische Baumeisterverband (SBV), die GBI Gewerkschaft Bau & Industrie (heute: Unia) sowie die Gewerkschaft SYNA schlossen am 12. November 2002 einen Gesamtarbeitsvertrag für den flexiblen Altersrücktritt im Bauhauptgewerbe (GAV FAR), mit dessen Vollzug die Stiftung für den flexiblen Altersrücktritt im Bauhauptgewerbe (Stiftung FAR) betraut ist. Durch Beschluss des Bundesrates vom 5. Juni 2003 wurde der GAV FAR erstmals teilweise allgemeinverbindlich erklärt.
A.b. Die A._ AG war nicht Mitglied des SBV. Laut Handelsregister bezweckte sie u.a. den Betrieb eines Kies- und Betonwerkes sowie die Ausführung von Aushubarbeiten. Sie führt ferner Autotransporte (Sachen) für Dritte und für eigene Rechnung aus. Am 24. Februar 2009 teilte die Stiftung FAR der A._ AG mit, sie sei namentlich gestützt auf die Betriebskontrolle vom 19. März 2008 zum Schluss gekommen, dass sie als Arbeitgeberin mit der Abteilung "Aushub und Transporte" dem GAV FAR unterstehe. In der Folge konnte keine Einigkeit über die (teilweise) Unterstellung gefunden werden. Mit Erklärungen vom 9. Dezember 2014 und 3. Dezember 2015 verzichtete die A._ AG gegenüber der Stiftung FAR bis zum 31. März 2016 auf die Einrede der Verjährung, soweit diese nicht schon eingetreten war.
B.
Mit Klage vom 31. März 2016 liess die Stiftung FAR beantragen, die A._ AG sei zu verpflichten, ihr Beiträge von 5,3 % der noch zu beziffernden AHV-pflichtigen Lohnsumme vom 1. Oktober 2009 bis 31. Dezember 2012 resp. 5 % der noch zu beziffernden AHV-pflichtigen Lohnsumme vom 1. Januar 2013 bis 31. Dezember 2015 aller Mitarbeiter, soweit diese im genannten Zeitraum unter den persönlichen Anwendungsbereich des Bundesratsbeschlusses über die Allgemeinverbindlicherklärung des GAV FAR gefallen sind, nebst 5 % Zins ab dem auf das jeweilige Abrechnungsjahr folgenden 1. Januar zu bezahlen. Es sei ihr Gelegenheit zu geben, diese Begehren nach Abschluss des Beweisverfahrens innert angemessener Frist definitiv zu beziffern. Eventualiter sei die A._ AG zu verpflichten, ihr insgesamt Fr. 157'902.50 (nebst Zins) zu bezahlen.
Das Sozialversicherungsgericht des Kantons Zürich wies die Klage mit Entscheid vom 16. August 2017 ab.
C.
Die Stiftung FAR lässt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen, unter Aufhebung des Entscheids vom 16. August 2017 sei die Sache zur Durchführung des Beweisverfahrens und neuer Entscheidung an das kantonale Gericht zurückzuweisen.
Das kantonale Gericht lässt sich vernehmen, ohne eine Antrag zu stellen. Die A._ AG schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Der Bundesratsbeschluss vom 5. Juni 2003 über die Allgemeinverbindlicherklärung des GAV FAR (AVE GAV FAR [BBl 2003 4039]) wurde durch Beschlüsse vom 8. August und 26. Oktober 2006, 1. November 2007, 6. Dezember 2012, 10. November 2015, 14. Juni 2016 und 7. August 2018 verlängert resp. angepasst (BBl 2006 6751, 8865; 2007 7881; 2012 9763; 2015 8307; 2016 5033; 2017 5823).
Laut Art. 2 Abs. 4 lit. b AVE GAV FAR (in der ursprünglichen Fassung) gelten die allgemeinverbindlich erklärten Bestimmungen des GAV FAR für die Arbeitgeber resp. Betriebe, Betriebsteile und selbstständigen Akkordanten insbesondere der Bereiche Aushub, Abbruch, Deponie- und Recyclingbetriebe; ausgenommen sind (laut den seit 1. Januar 2013 resp. 1. Januar 2018 geltenden Versionen von Art. 2 Abs. 4 lit. b AVE GAV FAR) stationäre Recyclinganlagen ausserhalb der Baustelle resp. bewilligte Deponien gemäss Art. 35 der Verordnung vom 4. Dezember 2015 über die Vermeidung und die Entsorgung von Abfällen (Abfallverordnung, VVEA; SR 814.600) sowie das in ihnen beschäftigte Personal. Die Bestimmung entspricht im Wesentlichen dem betrieblichen Geltungsbereich gemäss Art. 2 Abs. 1 GAV FAR.
1.2. Nach dem Grundsatz der Tarifeinheit gilt ein Gesamtarbeitsvertrag für den ganzen Betrieb und somit auch für berufsfremde Arbeitnehmer, wobei regelmässig gewisse Funktionsstufen und besondere Anstellungsverhältnisse ausgenommen werden. Allerdings kann ein Unternehmen mehrere Betriebe umfassen, welche unterschiedlichen Branchen angehören, oder es können innerhalb ein und desselben Betriebes mehrere Teile bestehen, welche eine unterschiedliche Zuordnung rechtfertigen, weil sie eine genügende, auch nach aussen erkennbare Selbstständigkeit aufweisen. In diesen Fällen können auf die einzelnen Teile des Unternehmens unterschiedliche Gesamtarbeitsverträge zur Anwendung gelangen. Massgebliches Zuordnungskriterium ist somit die Art der Tätigkeit, die dem Betrieb oder dem selbstständigen Betriebsteil - und nicht dem Unternehmen als wirtschaftlichem Träger allenfalls mehrerer Betriebe - das Gepräge gibt (<ref-ruling> E. 2.1 S. 13 mit zahlreichen Hinweisen).
Von einem selbstständigen Betrieb oder einem selbstständigen Betriebsteil innerhalb eines Mischunternehmens kann nur gesprochen werden, wenn dieser eine eigene organisatorische Einheit bildet. Das setzt voraus, dass die einzelnen Arbeitnehmer klar zugeordnet werden können und die entsprechenden Arbeiten im Rahmen der übrigen Tätigkeiten des Unternehmens nicht nur hilfsweise erbracht werden. Im Interesse der Rechtssicherheit ist zudem zu fordern, dass der Betriebsteil mit seinen besonderen Produkten oder Dienstleistungen insofern auch nach aussen als entsprechender Anbieter gegenüber den Kunden in Erscheinung tritt. Demgegenüber bedarf der Betriebsteil keiner eigenen Verwaltung oder gar einer separaten Rechnungsführung, um als solcher gelten zu können (SVR 2017 BVG Nr. 45 S. 201, 9C_454/2016 E. 5.2 mit Hinweisen).
2.
Das kantonale Gericht hat seine sachliche Zuständigkeit zur Beurteilung der Klage samt vorfrageweiser Prüfung, ob die Arbeitgeberin (teilweise) vom betrieblichen Geltungsbereich gemäss AVE GAV FAR erfasst wird, bejaht und ist auf die Klage nach Art. 73 BVG eingetreten. Es hat erwogen, für die Jahre 2004 bis 2007 habe die Stiftung FAR den Sachverhalt mit den Mitteln, die der GAV FAR biete, abgeklärt. Eingeklagt habe sie indessen Beiträge ab Oktober 2009, was wohl auf die Verjährungsproblematik hinsichtlich der auf einen früheren Zeitraum entfallenden Beitragsforderungen zurückzuführen sei. Die Betriebskontrolle vom 19. März 2008 (Bericht vom 28. April 2008) stelle keine taugliche Grundlage für die Beurteilung der eingeklagten Forderung dar: Sie habe den Zeitraum 2004 bis 2007 betroffen und es sei durchaus möglich, dass sich die Verhältnisse innerhalb der Arbeitgeberin seither erheblich verändert hätten. In Bezug auf den relevanten Zeitraum (ab Oktober 2009) habe die Stiftung FAR ihre Mitwirkungspflicht in krasser Weise verletzt, indem sie ihrer Abklärungspflicht in keiner Weise nachgekommen sei. Daher habe die Abnahme der von ihr offerierten Beweise zu unterbleiben. Aufgrund der vorhandenen Aktenlage sei nicht bewiesen, dass die Arbeitgeberin unter den GAV FAR falle. Folglich hat sie die Klage abgewiesen.
Die Stiftung FAR rügt im Wesentlichen eine Verletzung des Untersuchungsgrundsatzes (Art. 73 Abs. 2 BVG) und des Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV).
3.
3.1.
3.1.1. Das berufsvorsorgerechtliche Verfahren nach Art. 73 BVG - das hier i.V.m. Art. 89a Abs. 6 Ziff. 19 ZGB zur Anwendung gekommen ist (vgl. SVR 2017 BVG Nr. 46 S. 207, 9C_392/2016 E. 3.1) - ist einfach, rasch und in der Regel kostenlos; das Gericht stellt den Sachverhalt von Amtes wegen fest (Art. 73 Abs. 2 BVG). Der Untersuchungsgrundsatz betrifft den rechtserheblichen Sachverhalt und verpflichtet das Gericht gegebenenfalls zur Erhebung der notwendigen Beweise. Er wird zurückgedrängt durch die Mitwirkungspflicht der Parteien, namentlich wenn diese - wie hier - anwaltlich vertreten sind. Dazu gehört in erster Linie die Substanziierungspflicht, welche besagt, dass die wesentlichen Tatsachenbehauptungen und -bestreitungen in den Rechtsschriften enthalten sein müssen (<ref-ruling> E. 5.1 S. 185; <ref-ruling> E. 5.2.3 S. 97; SVR 2015 BVG Nr. 50 S. 215, 9C_473/2014 E. 3.1).
3.1.2. Der aus Art. 29 Abs. 2 BV fliessende Anspruch auf rechtliches Gehör dient einerseits der Sachaufklärung und stellt anderseits ein persönlichkeitsbezogenes Mitwirkungsrecht beim Erlass eines Entscheids dar, der in die Rechtsstellung des Einzelnen eingreift. Dazu gehört insbesondere das Recht des Betroffenen, sich vor Erlass eines solchen Entscheids zur Sache zu äussern, erhebliche Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (<ref-ruling> E. 2.2 S. 190; <ref-ruling> E. 2b S. 56 mit Hinweis). Dem Mitwirkungsrecht entspricht die Pflicht der Behörde, die Argumente und Verfahrensanträge der Partei entgegenzunehmen und zu prüfen sowie die ihr rechtzeitig und formrichtig angebotenen Beweismittel abzunehmen, es sei denn, diese beträfen eine nicht erhebliche Tatsache oder seien offensichtlich untauglich, über die streitige Tatsache Beweis zu erbringen (<ref-ruling> E. 2 S. 242 mit Hinweisen; SVR 2016 BVG Nr. 6 S. 21, 9C_634/2014 E. 6.1.1; vgl. auch <ref-ruling> E. 5.3 S. 236 f. zur antizipierten Beweiswürdigung).
3.2. Im Klageverfahren machte die Stiftung FAR u.a. geltend, dass es sich bei der Beschwerdegegnerin um einen "echten Mischbetrieb" handle mit einem selbstständigen Betriebsteil (Aushub, Aushubtransport, Abbruch, Abbruchtransport und Deponie), der vom Geltungsbereich gemäss AVE GAV FAR erfasst werde. Zum Beweis reichte sie (nebst weiteren Unterlagen) einen Handelsregisterauszug und Auszüge aus der Homepage der A._ AG ein; zudem beantragte sie die Edition diverser Unterlagen von der Arbeitgeberin, die Durchführung von Parteibefragungen und Zeugeneinvernahmen sowie die Einholung eines Gutachtens. Das kantonale Gericht moniert (e) keine ungenügende Substanziierung der Klage (vgl. E. 3.1.1).
3.3.
3.3.1. Die Vorinstanz hat die umfangreiche vorprozessuale Korrespondenz vom 25. Juli 2006 bis zum 24. November 2015 zwischen der Stiftung FAR (resp. der Paritätischen Berufskommission Bauhauptgewerbe) und der A._ AG dargelegt. Dabei hat sie - verbindlich (Art. 105 Abs. 1 und 2 BGG) - festgestellt, die Arbeitgeberin habe nicht von allem Anfang an mit der Stiftung FAR kooperiert. Für die Durchführung der Betriebskontrolle vom 19. März 2008 habe zuerst ein Verfahren bei der kantonalen Volkswirschaftsdirektion eingeleitet werden müssen. Am 3. Dezember 2014 habe die Stiftung FAR von der Arbeitgeberin eine Verjährungsverzichtserklärung erbeten und am Folgetag aktuelle Zahlen (ab 2008) zur Umsatzverteilung verlangt. Nachdem das Formular Umsatzverteilung nicht ausgefüllt worden sei, habe sie am 14. Januar 2015 eine neue Betriebskontrolle angekündigt. Dieser habe sich die Arbeitgeberin mit Schreiben vom 25. März 2015 widersetzt, weil sie zuerst den (inzwischen abgeklärten) Sachverhalt der Jahre 2004 bis 2007 rechtlich beurteilt haben wollte. Am 24. November 2015 habe die Stiftung FAR die Arbeitgeberin u.a. darauf hingewiesen, dass sie weder deren Tätigkeiten noch die AHV-pflichtigen Lohnsummen der Mitarbeitenden seit 2008 habe überprüfen können.
3.3.2. Die umstrittene (materielle) Unterstellungsfrage hat das kantonale Gericht verneint, weil es die "vorhandene Aktenlage" - ohne diese weiter zu würdigen - für die gegenteilige Annahme als unzureichend erachtet hat. Offensichtlich ist es aber von der grundsätzlichen Notwendigkeit und Möglichkeit weiterer Abklärungen resp. Beweiserhebungen ausgegangen.
Es hat der Stiftung FAR vorgeworfen, sich nicht mit der Begründung der Arbeitgeberin, weshalb diese eine erneute Betriebskontrolle verweigert hatte, auseinandergesetzt zu haben. Auch habe sie ihr nicht dargelegt, warum sie nicht die Beiträge 2004 bis 2007, sondern jene ab Oktober 2009 einklagen würde. Bei fortgesetzter Verweigerung der Kooperation hätten zur Durchsetzung der Auskunfts- und Einsichtsrechte (vgl. dazu die allgemeinverbindlichen Bestimmungen von Art. 23 GAV FAR) Klagen oder Sanktionsmöglichkeiten gemäss Art. 25 GAV FAR (ebenfalls allgemeinverbindlich) zur Verfügung gestanden. Sodann hat es auf SVR 2012 BVG Nr. 23 S. 92, 9C_378/2011 E. 4.2.1 und die fehlende Liquidität der zivilrechtlichen Vorfrage verwiesen. Die Stiftung FAR habe den Sachverhalt ab Oktober 2009 nicht einmal ansatzweise untersucht, sondern die sie treffende Abklärungspflicht an das Berufsvorsorgegericht delegieren wollen. Daraus hat die Vorinstanz auf eine Verletzung der Mitwirkungspflicht geschlossen und deswegen gerichtliche Beweiserhebungen versagt.
3.4. In SVR 2012 BVG Nr. 23 S. 92, 9C_378/2011 E. 4.2.1 verzichtete das Bundesgericht - wegen fehlender Liquidität und unter Hinweis auf die der II. sozialrechtlichen Abteilung obliegende Zurückhaltung - auf die Prüfung der zivilrechtlichen (Vor-) Frage nach der rechtsgenüglichen internen Willensbildung der Stiftung FAR in Bezug auf die Ergreifung des Rechtsmittels. Der Untersuchungsgrundsatz im Verfahren nach Art. 73 BVG wird dadurch nicht aufgehoben oder relativiert. Das kantonale Gericht hat denn auch die (Vor-) Frage, ob der Betrieb resp. ein Betriebsteil der Beschwerdegegnerin vom Geltungsbereich gemäss Art. 2 Abs. 4 lit. b AVE GAV FAR erfasst wird, zu Recht beantwortet (vgl. dazu Urteile 9C_123/2010 vom 3. Mai 2010 E. 2.1; 9C_211/2008 vom 7. Mai 2008 E. 4. 5 und 4.6; je mit Hinweisen), und es stellt seine eigene Abklärungspflicht in diesem Zusammenhang auch nicht grundsätzlich in Abrede.
Die Vorinstanz räumt selber ein, dass die Stiftung FAR nicht eine "strikte Abklärungspflicht" treffe. Soweit sie auf die "Instrumente" des GAV FAR verweist, verkennt sie, dass die Kontrollrechte gemäss Art. 23 GAV FAR nur gegenüber den Vertragsunterworfenen gelten und nicht bereits bei der Klärung der umstrittenen Unterstellung zum Tragen kommen, wie die Parteien übereinstimmend und zu Recht geltend machen. Ohnehin verfügt die Stiftung FAR für die Ausübung ihrer Kontrollrechte gemäss Art. 23 GAV FAR (wie auch der Sanktionsrechte nach Art. 25 GAV FAR) nicht über hoheitliche Befugnisse (vgl. <ref-ruling> E. 2.1 S. 170 mit Hinweisen). Weder aus einer Gesetzesbestimmung noch aus dem GAV FAR ergibt sich, dass die Stiftung FAR eine Abklärungspflicht im Sinne des Untersuchungsgrundsatzes trifft; solches geht auch nicht aus der im angefochtenen Entscheid zitierten E. 4.4.2 des Urteils 9C_392/2016 vom 17. Oktober 2016 (SVR 2017 BVG Nr. 46 S. 207) hervor. Sodann kann unter dem Titel der Mitwirkungspflicht im Klageverfahren nach Art. 73 BVG nicht verlangt werden, dass die Stiftung FAR vorgängig allfällige Informations- resp. Kontrollrechte (zivil-) gerichtlich durchsetzt, wie die Vorinstanz anzunehmen scheint.
Angesichts der vorinstanzlichen Feststellungen (E. 3.3.1) kann auch hinsichtlich des Sachverhalts ab Oktober 2009 nicht von einer Untätigkeit der Stiftung FAR gesprochen werden. Sie gelangte wiederholt an die Beschwerdegegnerin; dabei kommunizierte sie ihren Standpunkt seit dem 24. Februar 2009 - Unterstellung und (grundsätzliche) Beitragspflicht für einen Betriebsteil, auch über das Jahresende 2007 hinaus - stets eindeutig. Zudem verfügt (e) die anwaltlich vertretene Arbeitgeberin nicht nur über die diesbezüglichen Informationen und Unterlagen, sie wusste auch spätestens seit Abgabe der Erklärung vom 9. Dezember 2014 um die Verjährungsproblematik. Der Stiftung FAR kann im Zusammenhang mit ihrem vorprozessualen Vorgehen weder treuwidriges Verhalten (vgl. Art. 5 Abs. 3 BV) noch eine Verletzung der Mitwirkungspflicht vorgeworfen werden.
3.5. Nach dem Gesagten stellt der vorinstanzliche Verzicht auf Beweiserhebungen in Bezug auf die umstrittene (Teil-) Unterstellung der Arbeitgeberin eine Verletzung der Untersuchungsmaxime und des Anspruchs der Beschwerdeführerin auf rechtliches Gehör dar. Die Beschwerde ist begründet.
4.
Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Die Beschwerdeführerin hat keinen Anspruch auf Parteientschädigung (Art. 68 Abs. 3 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen und der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 16. August 2017 aufgehoben. Die Sache wird zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2.
Die Gerichtskosten von Fr. 6'000.- werden der Beschwerdegegnerin auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Juli 2018
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Die Gerichtsschreiberin: Dormann