Sachverhalt:
A. Im Mai 2001 wurde die Firma X._ AG, Armierungen und Schalungen gegründet. Im Verwaltungsrat Einsitz hatten A._ (Vizepräsident) sowie bis Ende August 2006 Z._ (Präsident) und E._. Die Firma war der Ausgleichskasse des Kantons Bern angeschlossen. Am ... Mai 2007 erging der Beschluss betreffend die Auflösung der Firma X._ AG von Amtes wegen. Am ... Januar 2008 wurde über die Gesellschaft in Liquidation der Konkurs eröffnet. Gestützt auf die Ergebnisse der Arbeitgeberkontrollen vom 27. Juli 2007, 7. April und 5. Juni 2008 erstellte die Ausgleichskasse am 17. Juli 2008 für 2005 und 2006 je eine "Lohnbeiträge-Nachtragsrechnung" über Fr. 20'567.45 resp. Fr. 130'931.05. Am selben Tag meldete die Kasse im Konkursverfahren ihre definitive Forderung in der Höhe von Fr. 195'612.60 für die Jahre 2005-2007 zur Aufnahme in den Kollokationsplan an. Mit Schreiben vom 7. Oktober 2008 teilte das Konkursamt mit, dass für die Gläubiger der zweiten Klasse mit Sicherheit keine Dividende resultieren werde. Mit Verfügungen vom 16. Oktober 2008 forderte die Ausgleichskasse u.a. von Z._ und E._ Schadenersatz für entgangene Sozialversicherungsbeiträge. Mit Einspracheentscheiden vom 12. Mai 2009 bejahte sie eine Schadenersatzpflicht bis und mit Juli 2006 in der Höhe von Fr. 76'058.05.
B. Die Beschwerden des Z._ und der E._ wies das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, nach Vereinigung der Verfahren und Beiladung von A._ mit Entscheid vom 22. März 2010 ab.
C. Z._ und E._ lassen Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 22. März 2010 sei aufzuheben und die Schadenersatzforderung im Gesamtbetrag von Fr. 76'058.05 abzuweisen.
Die Ausgleichskasse beantragt die Abweisung der Beschwerde, während kantonales Versicherungsgericht, Bundesamt für Sozialversicherungen und A._ auf eine Vernehmlassung verzichten.

Erwägungen:
1. Der vorinstanzliche Entscheid verpflichtet die Beschwerdeführerin und den Beschwerdeführer zur Bezahlung von Schadenersatz nach <ref-law> (anwendbar auch nach der einschlägigen, bis 31. Dezember 2008 in Kraft gestandenen kantonalen Kinderzulagenordnung) für entgangene Sozialversicherungsbeiträge im Zeitraum 1. Januar 2005 bis 31. Juli 2006 in der Höhe von Fr. 76'058.05 in solidarischer Haftbarkeit.
2. Im angefochtenen Entscheid wird die Rechtsprechung zu den Voraussetzungen der subsidiären Haftung der Organe eines Arbeitgebers nach <ref-law>, insbesondere Schaden, Widerrechtlichkeit (Missachtung von Vorschriften betreffend die Pflicht zur Abrechnung und Bezahlung der paritätischen Beiträge; <ref-law> und <ref-law>) und Verschulden, richtig wiedergegeben. Darauf wird verwiesen.
3. Die Beschwerdeführer bestreiten vorab eine Verletzung von Vorschriften im Zusammenhang mit der Abrechnung und Bezahlung der paritätischen Beiträge bis zu ihrem Ausscheiden aus dem Verwaltungsrat der konkursiten Firma Ende August 2006. Bis zu diesem Zeitpunkt seien sämtliche Akontobeiträge entrichtet und die Schlussrechnung für das Jahr 2005 beglichen worden, was auch im Einspracheentscheid vom 12. Mai 2009 ausdrücklich festgehalten worden sei. Es sei somit kein ihnen zurechenbarer Schaden entstanden. Abgesehen davon habe die Ausgleichskasse den Schaden nicht hinreichend substantiiert. Die von ihr geltend gemachten Beitragsausstände seien von der Vorinstanz nicht nachvollziehbar begründet worden. Damit sei auch dem ohnehin unbegründeten Verschuldensvorwurf der Boden entzogen.
4. 4.1 Die Ausgleichskasse ermittelte für 2005 und 2006 einen Schaden von Fr. 20'567.45 (2005) und Fr. 130'931.05 (2006). Diese Beträge entsprechen den Nachtragsrechnungen vom 17. Juli 2008, welche sie gestützt auf die im Rahmen der Liquidation von Amtes wegen und im nachfolgenden Konkurs der Firma durchgeführten Arbeitgeberkontrollen erstellt hatte. Den Betrag von Fr. 130'931.05 hat die Ausgleichskasse reduziert, weil die Beschwerdeführer auf Ende August 2006 aus dem Verwaltungsrat ausgetreten waren. Dabei ging sie für die Monate Januar bis April 2006 von einer vollen Haftung aus. Die Schadenersatzsumme berechnete sie pro rata temporis, was Fr. 43'643.65 (= Fr. 130'931.05 x [4/12]) ergab. Für die Monate Mai bis Juli 2006 nahm sie eine Reduktion von Fr. 20'885.92 vor, weil die Akontobeiträge nicht der Lohnsummensteigerung gemäss der Lohnbescheinigung für 2005 vom 27. März angepasst worden seien. Berechnungsgrundlage bildete die Differenz zwischen der tatsächlichen Lohnsumme 2006 (Fr. 1'984'180.50) und der bescheinigten Lohnsumme 2005 (Fr. 1'627'881.50). Es resultierte für die Zeit vom 1. Januar bis 31. Juli 2006 ein Schaden von insgesamt Fr. 55'490.10.
4.2 Die Vorinstanz hat die Nachtragsrechnungen vom 17. Juli 2008 als durch die Akten dokumentiert, nachvollziehbar und korrekt erachtet, was entgegen den Vorbringen in der Beschwerde kein Bundesrecht verletzt. Von einer ungenügenden Substantiierung der nacherfassten Beiträge und der damit zusammenhängenden Kosten kann jedenfalls nicht gesprochen werden (vgl. Urteil 9C_314/2008 vom 25. August 2008 E. 3.2 mit Hinweisen). Weder die bescheinigten - für 2006 auf Fr. 1'624'216.- rektifiziert - und die tatsächlich ausbezahlten Lohnsummen, welche den Nachtragsabrechnungen vom 17. Juli 2008 zugrundeliegen, noch die übrigen Berechnungsfaktoren (Beitragssätze, Verzugszinsen, Verwaltungskostenbeiträge und Mahngebühren) werden konkret bestritten, ohne dass dargelegt wird, inwiefern dies nicht möglich sein soll. Die Vorinstanz hat den von der Ausgleichskasse ermittelten Schaden in grundsätzlicher und masslicher Hinsicht als begründet bezeichnet, was in verschiedener Hinsicht bestritten wird.
5. 5.1 Die Arbeitgeber haben die Beiträge monatlich oder, wenn die jährliche Lohnsumme 200 000 Franken nicht übersteigt, vierteljährlich zu zahlen. Die für eine Zahlungsperiode geschuldeten Beiträge sind innert 10 Tagen nach deren Ablauf zu bezahlen (<ref-law>). Die periodisch zu entrichtenden Akontobeiträge werden von der Ausgleichskasse auf Grund der voraussichtlichen Lohnsumme festgesetzt. Die Arbeitgeber haben wesentliche Änderungen der Lohnsumme während des laufenden Jahres zu melden (Art. 35 Abs. 1 und 2 AHVV). Sie haben die Löhne innert 30 Tagen nach Ablauf der Abrechnungsperiode, welche das Kalenderjahr umfasst, abzurechnen. Die Ausgleichskasse nimmt den Ausgleich zwischen den geleisteten Akontobeiträgen und den tatsächlich geschuldeten Beiträgen auf Grund der Abrechnung vor. Ausstehende Beiträge sind innert 30 Tagen ab Rechnungsstellung zu bezahlen (Art. 36 Abs. 2-4 AHVV).
Diese ab 1. Januar 2001 in Kraft stehende Ordnung hat insofern eine Neuerung gegenüber der früheren Regelung gebracht, als das System der Akontobeiträge seither das ordentliche Beitragsbezugsverfahren darstellt (vgl. Erläuterungen des Bundesamtes für Sozialversicherungen zur Änderung der AHVV vom 1. März 2000, in: AHI 2000 S. 97 ff., 126 unten). Zudem wurde in <ref-law> die auch früher schadenersatzrechtlich allenfalls bedeutsame Meldepflicht des Arbeitgebers bei wesentlichen Änderungen der Lohnsumme während des laufenden Jahres (vgl. SVR 2003 AHV Nr. 1, H 204/01, E. 7a) positivrechtlich verankert. Gemäss Rz. 2048 der Wegleitung über den Bezug der Beiträge (WBB) in der AHV, IV und EO gilt eine Abweichung der jährlichen Lohnsumme um mindestens 10 Prozent von der ursprünglichen voraussichtlichen Lohnsumme als wesentlich im Sinne von <ref-law>.
Eine Meldepflichtverletzung nach <ref-law> ist auch gegeben, wenn zwar insoweit vorschriftsgemäss eine Zunahme der Lohnsumme mitgeteilt wird, diese jedoch tatsächlich bedeutend stärker ist.
Eine Meldepflichtverletzung nach <ref-law> ist auch gegeben, wenn zwar insoweit vorschriftsgemäss eine Zunahme der Lohnsumme mitgeteilt wird, diese jedoch tatsächlich bedeutend stärker ist.
5.2 5.2.1 Leistet ein Arbeitgeber in Verletzung der Meldepflicht nach <ref-law> zu tiefe Akontobeiträge ohne sicherzustellen, etwa durch Bildung von Rückstellungen, dass unter Berücksichtigung der zu erwartenden wirtschaftlichen Entwicklung genügend Mittel für die Begleichung der entsprechend höheren Schlussabrechnung innert nützlicher Frist zur Verfügung stehen, verhält er sich widerrechtlich und schuldhaft im Sinne von <ref-law> (vgl. Urteile des Eidg. Versicherungsgerichts H 38/06 vom 26. Oktober 2006 E. 6.3 in fine und H 303/97 vom 30. Juni 1998 E. 2a, nicht publiziert in <ref-ruling>, aber in SVR 1999 AHV Nr. 13 S. 37; SVR 2003 AHV Nr. 1, H 204/01, E. 7a).
5.2.2 Ein im Laufe eines Kalenderjahres austretendes Organ haftet für die bis zu dahin fällig gewordenen Pauschalen (soweit diese den Gesamtschaden nicht übersteigen), grundsätzlich aber nicht für die - höheren oder tieferen - effektiven Beiträge, welche am Ende der Abrechnungsperiode ermittelt werden (AHI 2002 S. 54, H 82/01). Anders verhält es sich, wenn die Akontozahlungen auf einer meldepflichtigen (viel) zu tiefen Lohnsumme beruhen, eine Begleichung der im Zeitpunkt des Austritts bestehenden Differenz zwischen bezahlten und geschuldeten Beiträgen innert nützlicher Frist nicht sichergestellt ist und dies dem betreffenden Organ als schuldhaftes Verhalten anzulasten ist (SVR 2005 AHV Nr. 18, H 86/02, E. 5.5.2 mit Hinweisen).
5.3 Es ist unbestritten, dass die am ... Januar 2008 in Konkurs gefallene Firma die von der Ausgleichskasse im Zeitraum Januar 2005 bis Juli 2006 in Rechnung gestellten Akontobeiträge entrichtet und die Schlussabrechnung 2005 auf Grund der Lohnbescheinigung vom 27. März 2006 - gemäss Einspracheentscheid vom 12. Mai 2009 verspätet und in Raten - beglichen hatte. Weiter steht fest, dass die Pauschallohnsummen, auf denen die Akontobeiträge erhoben wurden, viel zu tief waren. Ab März 2005 wurden monatlich Fr. 5'564.50, ab Januar 2006 Fr. 5'564.10 AHV/IV/EO-Beiträge in Rechnung gestellt ("Kontoauszug Lohnbeiträge" vom 14. Oktober 2008). Das entspricht einer Lohnsumme von Fr. 661'129.- resp. Fr. 661'081.- oder rund 3,5 % mehr als die Lohnsumme 2004 von Fr. 638'662.- (Arbeitgeberkontrollbericht vom 5. Juni 2008; vgl. Rz. 2040 WBB). Im März 2006 hatte die Konkursitin eine Lohnsumme von Fr. 1'627'881.50 gemeldet. Die im Rahmen der Liquidation von Amtes wegen und im nachfolgenden Konkurs durchgeführten Arbeitgeberkontrollen ergaben eine abrechnungspflichtige Lohnsumme von Fr. 1'755'817.-.
5.4 In der vorinstanzlichen Beschwerde hatten die ins Recht gefassten ehemaligen Verwaltungsräte der Konkursitin eine Meldepflichtverletzung nach <ref-law> bestritten und geltend gemacht, die Nachforderung für 2005 gemäss Rechnung vom 17. Juli 2008 sei nicht wegen unterlassener Mitteilung, sondern auf andere, nicht bekannte Umstände zurückzuführen. Im Verfahren vor Bundesgericht bringen sie als zusätzliches Argument vor, die Summe von Fr. 131'601.- betrage weniger als 10 % der im März 2006 bescheinigten Lohnsumme 2005 von Fr. 1'624'216.- (recte: Fr. 1'627'881.50). Die Ausgleichskasse führte in der vorinstanzlichen Vernehmlassung unter "Feststellungen zum Sachverhalt" aus, im Verlauf des Jahres 2005 und ebenfalls 2006 sei es zu einer massiven Lohnsummensteigerung gegenüber dem Vorjahr gekommen, welche die konkursite Firma nicht rechtzeitig gemeldet habe. Die Vorinstanz hat die Frage einer Meldepflichtverletzung nach <ref-law> offen gelassen.
5.4.1 2004 belief sich die Lohnsumme auf Fr. 638'662.-, 2005 auf Fr. 1'755'817.-. Das stellt eine wesentliche Änderung dar, welche schon im Verlauf des Jahres wenn nicht genau bezifferbar, so doch in der Grössenordnung klar erkennbar gewesen sein und somit nach <ref-law> gemeldet werden musste, was jedoch unterblieb. Diese Meldepflichtverletzung hat schadenersatzrechtlich insofern keine Folgen, als die Konkursitin alle monatlichen Akontobeiträge für 2005 und auch die Schlussrechnung auf der Grundlage der im März 2006 bescheinigten Lohnsumme von Fr. 1'627'881.50 resp. rektifiziert Fr. 1'624'216.- bezahlte. Effektiv wurden zwar 2005 abgabepflichtige Löhne in der Höhe von insgesamt Fr. 1'755'817.- ausbezahlt, wie die nach der Auflösung der Firma von Amtes wegen durchgeführte Arbeitgeberkontrolle zeigte. Darin kann jedoch keine Meldepflichtverletzung erblickt werden, da die Differenz lediglich rund 7 % beträgt (vorne E. 5.1). Abgesehen davon ist davon auszugehen, dass die Ausgleichskasse überwiegend wahrscheinlich die Pauschallohnsumme von Fr. 661'129.- resp. Fr. 661'081.- und die darauf periodisch entrichteten Akontobeiträge auch dann nicht erhöht hätte, wenn im März 2006 die um rund 7 % höhere Lohnsumme gemeldet worden wäre. Dieser Schluss drängt sich auf in Anbetracht der Tatsache, dass die Verwaltung trotz Zunahme der Lohnsumme um das Zweieinhalbfache von Fr. 638'662.- auf Fr. 1'627'881.50 die Akontobeiträge nicht anpasste, sondern weiterhin bis zur Auflösung der Firma von Amtes wegen Ende Mai 2007 auf einer viel zu tiefen Pauschallohnsumme Rechnung stellte. Somit entfällt eine Schadenersatzpflicht für 2005.
5.4.2 Eine Lohnsumme von Fr. 1'755'817.- (2005) und eine solche von Fr. 1'984'180.50 (2006) bedeutet eine Zunahme von 13 %, was gemäss Rz. 2048 WBB eine wesentliche Änderung im Sinne von <ref-law> darstellt. Aufgrund der Akten ist jedoch offen, in welchem frühesten Zeitpunkt eine Erhöhung der Lohnsumme gegenüber dem Vorjahr in diesem Ausmass als sehr wahrscheinlich angenommen werden konnte und der Ausgleichskasse hätte gemeldet werden müssen. Es fehlen Angaben zum Auftragsbestand seit Anfang 2006. Ebenfalls ist der Stand der ausbezahlten Lohnsumme am Ende jeden Monats nicht bekannt. 2006 wurde zwar 68 Personen Lohn ausbezahlt. Das sind zwölf Arbeitnehmer mehr als 2005 (Lohnbescheinigung für 2005 und 2006 vom 27. März 2006 resp. 25. April 2007 und Revisionsnachtrag vom 27. Juli 2007). Daraus kann jedoch in Anbetracht der vielen Teilzeitarbeitsverhältnisse und der Tatsache, dass die im Baugewerbe tätige Firma saisonalen Schwankungen ausgesetzt ist, wie in der Beschwerde vorgebracht wird, nicht ein bestimmter oder hinreichend genau bestimmbarer Zeitpunkt dingfest gemacht werden, in welchem eine um mehr als 10 % höhere Lohnsumme gegenüber dem Vorjahr sehr wahrscheinlich war und daher hätte gemeldet werden müssen. Unter den gegebenen Umständen ist in antizipierender Beweiswürdigung (<ref-ruling> E. 3 S. 157; <ref-ruling> E. 4b S. 94) davon auszugehen, dass eine Erhöhung der Lohnsumme um mindestens 10 % nicht schon Anfang 2006, sondern erst im Verlauf des Jahres hinreichend sicher und der Ausgleichskasse zu melden war. Da die Beschwerdeführer lediglich bis Ende Juli haften, kann eine allfällige ihnen anzulastende Meldepflichtverletzung höchstens einige wenige Monate betreffen. Fehlen zudem Anhaltspunkte für ein beabsichtigtes Unterlassen der Meldung einer wesentlichen Änderung der Lohnsumme, kann ihnen in analoger Anwendung der Rechtsprechung zum Verschulden bei Beitragsausständen von kurzer Dauer (<ref-ruling> E. 4b S. 244) auch für 2006 kein haftungsbegründendes Verhalten vorgeworfen werden.
Der eine Schadenersatzpflicht nach <ref-law> bejahende vorinstanzliche Entscheid verletzt Bundesrecht.
6. Dem Ausgang des Verfahrens entsprechend hat die Ausgleichskasse die Gerichtskosten zu tragen (<ref-law>) und den Beschwerdeführern eine Parteientschädigung zu bezahlen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Bern, Sozialversicherungsrechtliche Abteilung, vom 22. März 2010 und die Einspracheentscheide vom 12. Mai 2009 werden aufgehoben.
2. Die Gerichtskosten von Fr. 4500.- werden der Ausgleichskasse des Kantons Bern auferlegt.
3. Die Ausgleichskasse des Kantons Bern hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Das Verwaltungsgericht des Kantons Bern hat die Parteientschädigung für das vorangegangene Verfahren neu festzusetzen.
5. Dieses Urteil wird den Parteien, A._, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 17. August 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Fessler