Sachverhalt:
A. A.a G._ und S._ waren seit .... 2001 (Eintragung im Handelsregister) Verwaltungsräte mit Kollektivunterschrift zu zweien der X._ AG (ab 21. Februar 2002: Y._ AG) mit Sitz in .../SG. Ab 1. April 2001 übernahm die Firma das operative Geschäft der Filialen der Z._ AG (bis 8. Februar 2001: X._ AG) mit Sitz in .../TG sowie später eröffneter Niederlassungen in A._, B._, C._ und an weiteren Orten. An der Erhebung der bundesrechtlichen Sozialversicherungsbeiträge und der kantonalrechtlichen Beiträge im Rahmen der jeweiligen Familienzulagenordnungen beteiligt waren ab 1. Januar 2001 u.a. die Ausgleichskasse des Kantons St. Gallen, die Ostschweizerische Ausgleichskasse für Handel und Industrie, Weinfelden, die Familienausgleichskasse der Industrie- und Handelskammer St. Gallen-Appenzell und der Textilindustrie, St. Gallen und die Familienausgleichskasse der Industrie- und Handelskammer Thurgau, Weinfelden. Ab 1. April 2001 war die Ostschweizerische AHV-Ausgleichskasse für Handel und Industrie allein zuständig für den Bezug der nach Bundesrecht geschuldeten Beiträge der Firma und ihrer Zweigniederlassungen. Nach der Verlegung des Sitzes nach St. Gallen auf den 1. Januar 2002 übernahm sie - geschäftsführend - auch den Bezug der kantonalrechtlichen Beiträge der in den Kantonen St. Gallen und Thurgau gelegenen Filialen.
A.b Am ... August 2002 wurde über die Y._ AG der Konkurs eröffnet. Nachdem die Ostschweizerische Ausgleichskasse für Handel und Industrie am 31. März 2003 eine Forderung in der Höhe von Fr. 2'289'503.75 eingegeben hatte, forderte sie mit Verfügungen vom 31. Juli 2003 und Einspracheentscheiden vom 29. Juni 2004 u.a. von G._ und S._ Schadenersatz von je Fr. 2'367'141.95 (abzüglich einer allfälligen Konkursdividende) in solidarischer Haftbarkeit. Mit Entscheid vom 2. November 2005 hob das Versicherungsgericht des Kantons St. Gallen die angefochtenen Einspracheentscheide auf und wies die Sache zur Abklärung und zu neuer Verfügung an die Ausgleichskasse zurück.
Mit Verfügungen vom 3. August 2007 verpflichtete die Ostschweizerische Ausgleichskasse für Handel und Industrie G._ und S._, solidarisch haftend, wiederum zur Bezahlung von Schadenersatz in der Höhe von je Fr. 2'367'141.95 (abzüglich einer allfälligen Konkursdividende). Dagegen liessen die Betroffenen Einsprache erheben. Am 9. Juni 2009 wurden ihnen Akten zur Einsichtnahme zugestellt. Mit Einspracheentscheiden vom 23. November 2009 hiess die Ostschweizerische Ausgleichskasse für Handel und Industrie die Einsprachen teilweise gut und setzte die Schadenersatzsumme neu auf Fr. 2'121'111.50 fest.
B. Mit Entscheiden vom 1. März 2012 trat das Versicherungsgericht des Kantons St. Gallen auf die Beschwerden von G._ und von S._ nicht ein, soweit die Schadenersatzforderung ungedeckte Beiträge an die Familienausgleichskasse der Industrie- und Handelskammer Thurgau (da bemessen nach der Familienzulagenordnung dieses Kantons) im Betrag von Fr. 106'513.60 betraf (Dispositiv-Ziffer 1). Im Weitern hiess es unter Aufhebung der Einspracheentscheide vom 23. November 2009 die Beschwerden in dem Sinne teilweise gut, dass die Verbandsausgleichskasse angewiesen wurde, den Schadensbetrag unter Ausserachtlassung der Lohnsumme von Fr. 18'699.20 und unter Berücksichtigung einer Schadenersatz-Reduktion von 20 % im Sinne der Erwägungen zu ermitteln und zu verfügen; im Übrigen wies es die Beschwerde ab (Dispositiv-Ziffer 2).
C. G._ (Beschwerdeführer 1; Verfahren 9C_369/2012) und S._ (Beschwerdeführer 2; Verfahren 9C_370/2012) haben je Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben mit dem selben Rechtsbegehren, der Entscheid vom 1. März 2012 und der Einspracheentscheid vom 23. November 2009 seien aufzuheben und die Schadenersatzforderung über Fr. 2'121'111.50 (Fr. 2'011'947.90 [Bund], Fr. 2'650.- [Kanton St. Gallen], Fr. 106'513.60 [Kanton Thurgau]) sei abzuweisen; eventualiter sei die Sache zur weiteren Abklärung und zum Neuentscheid an die Vorinstanz oder an die Ausgleichskasse zurückzuweisen.
Die Ausgleichskasse beantragt die Abweisung beider Beschwerden, soweit darauf eingetreten werden könne. Das kantonale Versicherungsgericht und das Bundesamt für Sozialversicherungen haben in beiden Verfahren auf eine Vernehmlassung verzichtet.
In einer - separaten - Eingabe haben G._ und S._ zu den Ausführungen der Ausgleichskasse Stellung genommen, worauf diese repliziert hat.

Erwägungen:
1. Die Beschwerden richten sich gegen zwei letztinstanzliche kantonale Entscheide, deren Dispositiv und Begründung jedoch übereinstimmen. Es liegt ihnen im Wesentlichen der selbe Sachverhalt zugrunde und es stellen sich in Bezug auf die streitige Schadenersatzpflicht für entgangene Sozialversicherungsbeiträge des Bundes und Beiträge nach dem st. gallischen Familienzulagenrecht sowie in Bezug auf das vorinstanzliche Nichteintreten betreffend die Schadenersatzpflicht für entgangene Beiträge nach dem thurgauischen Familienzulagenrecht die gleichen Rechtsfragen, wobei Gegenpartei jeweils dieselbe Ausgleichskasse ist. Es kommt dazu, dass die Rechtsbegehren identisch sind und deren Begründung weitgehend praktisch wortwörtlich übereinstimmen. Es rechtfertigt sich daher, die Verfahren 9C_369/2012 und 9C_370/2012 zu vereinigen und in einem einzigen Urteil zu erledigen (vgl. <ref-law> in Verbindung mit <ref-law> und Urteil 9C_727/2008 vom 6. Mai 2009 E. 1).
2. 2.1 Der angefochtene Entscheid ist ein Endentscheid im Sinne von <ref-law>, soweit die Vorinstanz mangels örtlicher Zuständigkeit nicht auf die Frage der Schadenersatzpflicht für unbezahlt gebliebene Beiträge an die Familienausgleichskasse der Industrie- und Handelskammer Thurgau im Betrag von Fr. 106'513.60 eingetreten ist (Dispositiv-Ziffer 1; <ref-ruling> E. 1.3 S. 156).
2.2 Ein Endentscheid nach <ref-law> liegt materiell auch vor, soweit die Vorinstanz eine Schadenersatzpflicht im Grundsatz bejaht und die Sache zur Ermittlung des Schadensbetrages "unter Ausserachtlassung der Lohnsumme von Fr. 18'699.20 und unter Berücksichtigung einer Schadenersatz-Reduktion von 20 % im Sinne der Erwägungen" und zu neuer Verfügung an die Beschwerdegegnerin zurückgewiesen hat (Dispositiv-Ziffer 2). Dieser verbleibt diesbezüglich kein Entscheidungsspielraum (Urteile 9C_171/2012 vom 23. Mai 2012 E. 3.1 und 9C_95/2009 vom 7. September 2009 E. 1.2, je mit Hinweisen).
2.3 Die Vorinstanz hat in Bezug auf das in Dispositiv-Ziffer 2 Entschiedene nicht danach differenziert, ob es um Schadenersatz nach a<ref-law> (seit 1. Januar 2003: <ref-law>) oder nach Art. 47 lit. d des st. gallischen Kinderzulagengesetzes vom 11. April 1996 (KZG [sGS 371.1], in der bis 31. Dezember 2008 gültig gewesenen Fassung) geht. Nach dieser Vorschrift werden die Bestimmungen des AHVG über die Arbeitgeberhaftung und Schadenersatzpflicht sinngemäss angewendet. aArt. 47 lit. d KZG bildet eine hinreichende gesetzliche Grundlage für die Erhebung von Schadenersatz gestützt auf a<ref-law> (<ref-ruling> E. 6.3 S. 181 f.; SVR 2010 AHV Nr. 6 S. 19, 9C_780/2008 E. 5), welche durch die Verweisung zum subsidiären kantonalen öffentlichen Recht wird und nach dessen Regeln auszulegen und anzuwenden ist (Urteil 1C_195/2007 vom 17. Dezember 2007 E. 4.1 mit Hinweisen; Urteil 9C_727/2008 vom 6. Mai 2009 E. 2). Nach Auffassung der Beschwerdegegnerin liegt in Bezug auf die Schadenersatzpflicht für entgangene Beiträge nach st. gallischem Recht kein (End-)Entscheid im Sinne von <ref-law> vor, da nach dem einschlägigen kantonalen Recht dagegen Beschwerde beim kantonalen Verwaltungsgericht erhoben werden könne.
Gemäss Art. 59 Abs. 1 des Gesetzes vom 16. Mai 1965 über die St. Galler Verwaltungsrechtspflege (sGS 951.1) beurteilt das Verwaltungsgericht u.a. Beschwerden gegen Entscheide des Versicherungsgerichtes. Die Beschwerde ist unzulässig, wenn das Versicherungsgericht als oberes Gericht entschieden hat. Nach Art. 42 des Verwaltungsrechtspflegegesetzes können beim Versicherungsgericht namentlich Verfügungen und Einspracheentscheide angefochten werden, gegen die nach dem Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG) Beschwerde erhoben werden kann (Abs. 1 lit. a). Es ist oberes Gericht, wenn das Bundesrecht eine einzige kantonale Gerichtsinstanz vorschreibt (Abs. 2). Gemäss den einschlägigen Verfahrensbestimmungen des ATSG (Art. 34 ff.) entscheidet das (örtlich zuständige) kantonale Versicherungsgericht als einzige Instanz im Kanton über Schadenersatzforderungen nach <ref-law> (vgl. Art. 49 und 52, Art. 56 Abs. 1 und Art. 57 ATSG). Dessen Entscheide können ans Bundesgericht weitergezogen werden (<ref-law>). Diese Verfahrensordnung gilt seit 1. Januar 2009 auch im Bereich des kantonalen Familienzulagenrechts. Art. 1 des auf diesen Zeitpunkt in Kraft getretenen Bundesgesetzes vom 24. März 2006 über die Familienzulagen (FamZG; SR 836.2) erklärt die Bestimmungen des ATSG von hier nicht massgeblichen Ausnahmen abgesehen für anwendbar. Mangels anderslautender Übergangsbestimmungen sind die Verfahrensvorschriften dieses Gesetzes mit dem Tag des Inkrafttretens sofort und in vollem Umfang wirksam und zu beachten (<ref-ruling> E. 2.1 S. 369; <ref-ruling> E. 2.2. S. 115 mit Hinweisen; SVR 2009 UV Nr. 9 S. 35, 8C_510/2007 E. 3.3). Von diesem Grundsatz abzuweichen, besteht kein Anlass, da mit dem neuen Recht nicht eine grundlegend neue Verfahrensordnung geschaffen wurde.
Dispositiv-Ziffer 2 des vorinstanzlichen Entscheids ist somit ein (End-) Entscheid nach <ref-law> auch soweit es um Schadenersatz für entgangene Beiträge nach st. gallischem Kinderzulagenrecht geht.
2.4 Die Beschwerdegegnerin bringt vor, die Beschwerden seien unzulässig, soweit erstmals der nach Konkurseröffnung angefallene Verzugszins von Fr. 30'591.25 bestritten werde. Dieser Einwand ist unbegründet. Die betreffenden Verzugszinsen waren Teil der auf Fr. 2'121'111.50 festgesetzten Schadenersatzforderung (Einspracheentscheid vom 23. November 2009), welche die Beschwerdeführer als Ganzes vor Vorinstanz anfochten.
3. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
Die Verletzung von kantonalem Recht muss in qualifizierter Form gerügt und begründet werden (<ref-law>; <ref-ruling> E. 1 S. 203; <ref-ruling> E. 3.1 S. 399; Urteile 9C_722/2007 vom 11. April 2008 E. 1.2 und 1C_195/2007 vom 17. Dezember 2007 E. 4.2). Dabei prüft das Bundesgericht lediglich, ob die vorinstanzliche Auslegung und Anwendung des kantonalen Rechts zu einer Verletzung von Bundesrecht oder Völkerrecht führt (Art. 95 lit. a und b BGG; <ref-ruling> E. 2 S. 76), insbesondere gegen das Willkürverbot nach <ref-law> verstösst (<ref-ruling> E. 1.2 S. 145).
4. 4.1 Die Vorinstanz hat ihr Nichteintreten auf die Beschwerden gegen die Einspracheentscheide vom 23. November 2009, soweit Schadenersatz für entgangene Beiträge nach thurgauischem Familienzulagenrecht betreffend, damit begründet, es entspreche nicht dem Sinn von Art. 25 lit. c FamZG, dass sie materiell Recht eines anderen Kantons anzuwenden habe. Diese Bestimmung wolle die Anwendung verschiedener Rechtsordnungen gerade vermeiden. Die Beschwerdeführer rügen diese Gesetzesauslegung als bundesrechtswidrig.
4.2 Gemäss Art. 25 lit. c FamZG gelten die Bestimmungen der AHV-Gesetzgebung sinngemäss für die Haftung der Arbeitgeber (<ref-law>). Nach Abs. 5 dieser Vorschrift ist in Abweichung von <ref-law> für die Beschwerde das Versicherungsgericht des Kantons zuständig, in welchem der Arbeitgeber seinen Wohnsitz hat. Diese Verfahrensregelung ist im vorliegenden Zusammenhang von untergeordneter Bedeutung. Mit dem Inkrafttreten von Art. 25 lit. c FamZG am 1. Januar 2009 wurde eine eindeutige bundesrechtliche Grundlage für Schadenersatzansprüche gegenüber Arbeitgebern und ihren Organen für entgangene Beiträge nach kantonalem Familienzulagenrecht geschaffen (Ueli Kieser/Marco Reichmuth, Bundesgesetz über die Familienzulagen [FamZG], Praxiskommentar, 2010, N. 18 zu Art. 25 FamZG). Er ist demnach materiell-rechtlicher Natur und findet hier (noch) keine Anwendung (SVR 2010 AHV Nr. 6 S. 19, 9C_720/2008 E. 5.1 in fine mit Hinweis auf <ref-ruling> E. 3.1.1 S. 220). Dazu kommt, dass Art. 25 lit. c FamZG lediglich sinngemäss auf <ref-law> verweist. Mit anderen Worten darf nicht von dessen integralen und strikten Anwendbarkeit ausgegangen werden. Vielmehr ist <ref-law> analog anzuwenden, wenn und soweit dies mit den Besonderheiten des Familienzulagenrechts vereinbar ist. Eine solche ist, dass es in weiten Bereichen nicht um die Anwendung von Bundesrecht, sondern vor allem von kantonalem Recht geht. Dabei ist von erheblicher Bedeutung, dass wegen des Territorialitätsprinzips ein ausserkantonales Gericht grundsätzlich nicht über die Anwendung entsprechenden kantonalen Rechts entscheiden kann (Kieser/Reichmuth, a.a.O., N. 5 zu Art. 22 FamZG).
Dispositiv-Ziffer 1 des vorinstanzlichen Entscheids verletzt somit kein Bundesrecht. Bei diesem Ergebnis braucht auf die Vorbringen betreffend die fehlende gesetzliche Grundlage für eine Schadenersatzpflicht für entgangene Beiträge nach thurgauischem Familienzulagenrecht sowie die diesbezüglich fehlende Aktivlegitimation der Beschwerdegegnerin nicht eingegangen zu werden.
5. Die Beschwerdeführer bestreiten die Aktivlegitimation der Beschwerdegegnerin, soweit es um Schadenersatz für entgangene bundessozialversicherungsrechtliche Beiträge der Zweigniederlassungen im Kanton Thurgau und in W._ für die Zeit vom 1. Januar bis 31. März 2001 gehe. Darauf braucht mit Blick auf das Ergebnis (vgl. E. 7.4 hinten) nicht näher eingegangen zu werden.
6. 6.1 Die Beschwerdeführer rügen eine Verletzung ihres Akteneinsichtsrechts (<ref-law>) und damit ihres Anspruchs auf rechtliches Gehör (<ref-law>). Sie hätten im bisherigen Verfahrensverlauf trotz unzähliger Gesuche nie die Möglichkeit gehabt, das gesamte Aktendossier einschliesslich sämtlicher Akten aller beteiligten Ausgleichskassen und Familienausgleichskassen einzusehen, die im Zusammenhang mit den Beitragserhebungen ab 1. Januar 2001 gegenüber der Konkurs gegangenen Firma erstellt worden seien. Die Beschwerdegegnerin habe willkürlich selektiv lediglich in jene Akten Einsicht gegeben, die sie nach ihrem Gutdünken als für die Entscheidbegründung wesentlich eingestuft und zum Beleg der Schadenersatzforderung bzw. der Beitragsausstände angeführt habe. Dadurch sei die ausreichende Wahrnehmung ihrer Mitwirkungs- und Verteidigungsrechte vereitelt worden.
Die Vorinstanz hat zu den nämlichen Vorbringen erwogen, die Beschwerdegegnerin habe am 9. Juni 2009 den Rechtsvertretern der Beschwerdeführer sämtliche von ihr für die Entscheidfindung verwendeten Akten zur Stellungnahme zugestellt. Dabei habe sie gemäss ihren Angaben alle von ihr erstellten Kopien der Akten des Konkursamtes ediert. Im Schreiben vom 9. Juni 2009 habe sie die Zusammensetzung des Schadens dargelegt und bei den einzelnen Schadenspositionen jeweils auf die herangezogenen Berechnungsgrundlagen verwiesen. Die Auflistung des gesamten Schadens habe die Zusammenstellungen der bei den verschiedenen Kassen bestehenden Ausstände zur Grundlage. Die Beschwerdeführer seien somit im Besitz derjenigen Akten gewesen, auf die sich die Beschwerdegegnerin für die Schadenersatzforderung gestützt habe bzw. die zum Beleg erforderlich gewesen seien. Jedenfalls hätten bereits in einem früheren Verfahrensstadium zur Verfügung gestellte Akten nicht ein zweites Mal zugestellt werden müssen. Allfällige fehlende Akten seien bei der materiellen Prüfung der Begründetheit der Schadenersatzforderung zu berücksichtigen. Eine Beweislosigkeit würde sich zu Lasten der Beschwerdegegnerin auswirken.
6.2 Nach der Rechtsprechung folgt aus dem Anspruch auf ein faires Verfahren und dem rechtlichen Gehör das Recht der Parteien, Einsicht in die Akten eines hängigen Verfahrens zu nehmen und sich dazu zu äussern (Art. 29 Abs. 1 und 2 BV; Art. 6 Ziff. 1 EMRK). Das Akteneinsichtsrecht bezieht sich grundsätzlich auf sämtliche verfahrensbezogenen Akten; ausgenommen sind praxisgemäss rein interne Akten, die ausschliesslich für die interne Meinungsbildung bestimmt sind und denen kein Beweischarakter zukommt (<ref-ruling> E. 4a S. 474 f. mit Hinweisen; Urteil 1C_50/2011 vom 11. August 2011 E. 2.2). Nicht erforderlich ist, dass die Akten den Entscheid in der Sache tatsächlich beeinflussen könnten. Die Einsicht in die Akten, die für ein bestimmtes Verfahren erstellt oder beigezogen wurden, kann demnach nicht mit der Begründung verweigert werden, die betreffenden Dokumente seien für den Verfahrensausgang belanglos; vielmehr muss es dem Betroffenen selber überlassen sein, die Relevanz der Akten zu beurteilen (<ref-ruling> E. 3.2 S. 389; SVR 2011 AHV Nr. 2 S. 4, 9C_1001/2009 E. 4.1; Urteil 1C_88/2011 vom 15. Juni 2011 E. 3.4).
6.3 Nach unbestrittener Feststellung der Vorinstanz waren den Beschwerdeführern am 9. Juni 2009 nicht sämtliche Akten zugestellt worden. Insbesondere fehlten offenbar die Akten der einzelnen im Zeitraum vom 1. Januar bis 31. Dezember 2001 am Beitragsbezug beteiligten Ausgleichskassen und Familienausgleichskassen sowie die Unterlagen, die dem SUVA-Revisor für die Erstellung der Jahresnachtragsabrechnung 2002 im Rahmen der Arbeitgeberkontrolle vom 29. August 2002 zur Verfügung gestanden hatten (u.a. Lohnabrechnungen und -bescheinigungen). So ist nach Darlegung der Beschwerdeführer unklar, ob zu Unrecht bereits im April ausgerichtete Insolvenzentschädigung berücksichtigt worden sei, für die eine Schadenersazforderung ausser Betracht falle. Ob die nicht zugestellten Akten für die streitige Schadenersatzpflicht von Bedeutung sind, kann nicht gesagt werden. Die Vorinstanz hat die betreffenden Unterlagen nicht beigezogen. Die Frage kann jedoch offenbleiben. Unter dem Gesichtspunkt des rechtlichen Gehörs wäre jedenfalls auf das wiederholt gestellte Begehren hin Einsicht zu gewähren gewesen, da die fraglichen Akten ein wichtiges Element im Entscheidfindungsprozess der Beschwerdegegnerin darstellen und nicht bloss als ausschliesslich für die interne Meinungsbildung bestimmt bezeichnet werden können (vorne E. 6.2). Immerhin ist darauf hinzuweisen, dass - unabhängig von einer Zurverfügungstellung in einem früheren Verfahrensstadium - gerade bei umfangreichen Akten lediglich ein Einsichtsrecht am Ort, d.h. bei der Ausgleichskasse, besteht. Der verfassungsmässige Anspruch vermittelt grundsätzlich kein Recht auf Zusendung (Rhinow/ Koller/Kiss/Thurnherr/Brühl-Moser, Öffentliches Prozessrecht, 2. Aufl. 2010, N. 336; <ref-ruling> E. 2b S. 112).
Eine Verletzung des Akteneinsichtsrechts ist somit im Grundsatz zu bejahen, insbesondere in Bezug auf den Zeitraum vom 1. Januar bis 31. Dezember 2001. Eine umfassende Aufhebung des vorinstanzlichen Entscheids aus formellen Gründen erweist sich jedoch aufgrund des Verfahrensausgangs (E. 7.4) nicht als notwendig.
7. 7.1 Der Beschwerdegegnerin ist als Folge der Missachtung der Vorschriften betreffend die Pflicht zur Abrechnung und Bezahlung der paritätischen Beiträge (<ref-law> und <ref-law>) durch die Firma im Zeitraum vom 1. Januar 2001 bis 9. August 2002 (Konkurseröffnung) ein Schaden entstanden. Das ist unbestritten. Dieses widerrechtliche Verhalten ist der Firma und allenfalls den Beschwerdeführern als ehemalige Verwaltungsräte in der Zeit vom 5. März 2001 bis 9. August 2002 (Konkurseröffnung) grundsätzlich als qualifiziertes Verschulden zuzurechnen (<ref-ruling> E. 4b S. 244), was nach a<ref-law> (seit 1. Januar 2003: <ref-law>) die volle Schadenersatzpflicht nach sich zieht (Urteil 9C_152/2009 vom 18. November 2009 E. 5.2), sofern der Schaden in einem adäquaten Kausalzusammenhang damit steht, keine Rechtfertigungs- oder Exkulpationsgründe gegeben sind (<ref-ruling> E. 4a S. 406; <ref-ruling> E. 1 S. 201) und die Ausgleichskasse kein Mitverschulden trifft (<ref-ruling>; Urteil 9C_48/2010 vom 9. Juni 2010 E. 4; vgl. zu den Haftungsvoraussetzungen bei im Pauschalverfahren erhobenen Akontobeiträgen SVR 2003 AHV Nr. 1 S. 1, H 204/01).
7.2 Der Umstand, dass der AHV wegen Verletzung von Vorschriften im Sinne von <ref-law> ein Schaden entstanden ist, erlaubt nicht den Schluss auf ein qualifiziertes Verschulden seiner Organe (<ref-ruling> E. 5 S. 244). Bei feststehender Widerrechtlichkeit gilt jedoch die Vermutung eines absichtlichen oder grobfahrlässigen Verhaltens (<ref-ruling> E. 1b S. 187; Urteil 9C_228/2008 vom 5. Februar 2009 E. 4.2.1). Es obliegt grundsätzlich dem Arbeitgeber oder seinen Organen, Gründe zu behaupten, diesbezügliche Beweise zu liefern oder zu beantragen, welche ein Verschulden im Sinne von Absicht oder Grobfahrlässigkeit ausschliessen. Werden solche entlastende Umstände nicht geltend gemacht oder nicht hinreichend substanziiert, sind solche nicht ohne weiteres ersichtlich oder führen die Abklärungen zu keinem schlüssigen Ergebnis, hat die ins Recht gefasste Person die Folgen der Beweislosigkeit zu tragen (Marco Reichmuth, Die Haftung des Arbeitgebers und seiner Organe nach <ref-law>, 2008, S. 177 ff.). Diese Regelung stösst sich nicht daran, dass in Bezug auf die Haftungsvoraussetzungen grundsätzlich die Ausgleichskasse beweisbelastet ist. Der massgebliche <ref-law> regelt nicht die Beweiswürdigung und schliesst insbesondere eine antizipierende Beweiswürdigung nicht aus (<ref-ruling> E. 2a S. 522; <ref-ruling> E. 4a S. 317; Urteil 9C_535/2008 vom 3. Dezember 2008 E. 5.1). Das Vorstehende gilt auch in Bezug auf allfällige Rechtfertigungs- oder Exkulpationsgründe (SVR 2011 AHV Nr. 13 S. 42, 9C_325/2010 E. 4.1).
Ob die Beschwerdeführer als verantwortliche Organe ihres in Konkurs gefallenen Arbeitgebers ihren Sorgfaltspflichten in Bezug auf die Bezahlung der Sozialversicherungsbeiträge hinreichend nachgekommen sind, ist in Würdigung der gesamten Umstände zu beurteilen (Urteile des Eidg. Versicherungsgerichts und H 211/04 vom 17. März 2005 E. 6.1 und H 263/02 vom 6. Februar 2003 E. 4.3; Urteil 9C_647/2009 vom 15. April 2010 E. 4).
Ob die Beschwerdeführer als verantwortliche Organe ihres in Konkurs gefallenen Arbeitgebers ihren Sorgfaltspflichten in Bezug auf die Bezahlung der Sozialversicherungsbeiträge hinreichend nachgekommen sind, ist in Würdigung der gesamten Umstände zu beurteilen (Urteile des Eidg. Versicherungsgerichts und H 211/04 vom 17. März 2005 E. 6.1 und H 263/02 vom 6. Februar 2003 E. 4.3; Urteil 9C_647/2009 vom 15. April 2010 E. 4).
7.3 7.3.1 Die Vorinstanz hat ein widerrechtliches und schuldhaftes Verhalten der Firma für die im Zeitraum vom 1. Januar 2001 bis ... August 2002 (Konkurseröffnung) unbezahlt gebliebenen Sozialversicherungsbeiträge (ohne Beiträge nach thurgauischer Familienzulagengesetzgebung) bejaht. Die Konkursitin habe erst am 27. September 2001 die Löhne der neu ab 1. April 2001 zusammen erfassten Filialen in den verschiedenen Kantonen gemeldet und damit gegen ihre Abrechnungs- und Auskunftspflicht nach <ref-law> und Art. 35 Abs. 1 und 2 AHVV verstossen. Erst in diesem Zeitpunkt sei die Beschwerdegegnerin in der Lage gewesen, provisorische Akonto-Beiträge festzusetzen. Ebenfalls habe die Firma die Angaben für die definitive Abrechnung der Beiträge 2001 erst nach Aufforderung und mit Verspätung Ende Februar 2002 eingereicht. Sodann seien wegen Zahlungsrückständen im Mai 2001 Tilgungspläne für ausstehende Beiträge für 2000 sowie Februar bis April 2001 erstellt worden. Die Beitragspauschalen seien 2001 mit bis zu fünf Monaten Verspätung bezahlt worden, diejenige für November sei offen und der Saldo gemäss Jahresrechnung 2001 vom 7. April 2002 abgesehen von einer verspäteten Teilzahlung vom 11. Juni 2002 unbeglichen geblieben. Von den für 2002 geschuldeten Beiträgen sei lediglich ein geringer Teil getilgt worden. Obschon die finanziellen Mittel weitgehend gefehlt hätten, um die Beitragsschulden zu tilgen bzw. deren weiteres Anwachsen zu verhindern, seien weiterhin Löhne ausbezahlt worden, ohne dass die Entrichtung der Beiträge gesichert gewesen wäre. Trotz Mahnungen und Betreibungsandrohungen sei 2002 ein Grossteil der Beitragsrechnungen nicht mehr beglichen worden. Das im Januar 2002 in die Firma geflossene Aktionärsdarlehen von 1.5 Mio. Franken habe zwar auch zur Tilgung der damals bekannten Beitragsausstände gedient, sei jedoch nicht zur Bezahlung der Beiträge für die laufenden Löhne verwendet worden. Angesichts dieser Umstände sei von einem widerrechtlichen und grobfahrlässigen Verhalten der Firma auszugehen.
7.3.2 Zum Verhalten der Beschwerdeführer hat die Vorinstanz erwogen, bei der konkursiten Firma sei von einer mittelgrossen Unternehmung mit relativ komplexen internen Abläufen und kurzfristig sich verändernden Gegebenheiten auszugehen. Es habe daher - nach der Rechtsprechung (Urteil des Eidg. Versicherungsgerichts H 404/99 vom 13. Februar 2001 E. 3b) - nicht zu ihrem Aufgabenbereich gehört, sich näher mit dem Zahlungsverkehr und insbesondere mit der ordnungsgemässen Bezahlung der geschuldeten Sozialversicherungsbeiträge zu befassen. Dagegen seien sie verpflichtet gewesen, die Geschäftsführung zu überwachen und bei Verdacht auf eine falsche oder unsorgfältige Ausübung der Geschäftsführungs- und Vertretungsbefugnisse sogleich die erforderlichen Abklärungen zu treffen (nötigenfalls durch Beizug von Sachverständigen) und eine genaue und strenge Kontrolle hinsichtlich der Beobachtung gesetzlicher Vorschriften auszuüben (vgl. Urteil 9C_289/2011 vom 8. Juli 2011 E. 4.2 mit Hinweisen). Die Beschwerdeführer hätten zwar weder eine operative noch eine geschäftsleitende Funktion ausgeübt, Beschwerdeführer 2 jedenfalls bis ca. April 2002 nicht. Jedoch hätten sie sich regelmässig über den Geschäftsstand informieren und nötigenfalls nähere Abklärungen und geeignete Massnahmen zur Sicherstellung einer ordnungsgemässen Geschäftsführung, insbesondere der Einhaltung der Verbindlichkeiten gegenüber der Ausgleichskasse treffen müssen.
Im Unterschied zur Firma hat die Vorinstanz den Beschwerdeführern nicht im Sinne einer Feststellung zum Vorwurf gemacht, dass die Lohnsummenmeldung für die Zeit ab 1. April 2001 erst am 27. September 2001 erfolgte und die Angaben für die definitive Abrechnung der Beiträge 2001 erst nach Aufforderung und mit Verspätung Ende Februar 2002 eingereicht wurden. Ebenfalls hat sie ihnen kein pflichtwidriges Verhalten zur Last gelegt im Zusammenhang mit der Feststellung, sowohl die beiden Buchhaltungsfirmen als auch der Verwaltungsrat hätten bei der Finanzplanung im Herbst 2001 unerklärlicherweise vernachlässigte offene Beiträge von 1.2 Mio. Franken nicht erkannt. Hingegen hätten die Beschwerdeführer bei korrekter Ausübung ihrer Pflichten als Verwaltungsrat und Wahrnehmung ihrer Überwachungs- und Kontrollpflichten spätestens bei Vorliegen des Revisionsberichts 2001 vom 16. Februar 2002, ausweisend einen Jahresverlust von rund 4 Mio. Franken, Verbindlichkeiten gegenüber der AHV von rund 1.2 Mio. Franken sowie eine buchmässige Überschuldung, Massnahmen zur Beitragssicherung und gegen das weitere Anwachsen der Beitragsschuld treffen müssen. Sie hätten jedoch trotz der desolaten finanziellen Situation der Gesellschaft die weitere Auszahlung von Löhnen zugelassen, ohne gleichzeitig die Beiträge abzuliefern oder (durch Rückstellungen) zu sichern. Die ergriffenen Sanierungsmassnahmen hätten in Anbetracht der Grössenordnung des Finanzbedarfs zum vornherein keine oder nur eine völlig unzureichende Wirkung haben können. Es fehlten somit Rechtfertigungs- und Exkulpationsgründe, weshalb die Haftungsvoraussetzungen der Widerrechtlichkeit und des (grobfahrlässigen) Verschuldens zu bejahen seien.
7.3.3 Aufgrund dieser vorinstanzlichen Erwägungen mussten die Beschwerdeführer nicht schon vor dem Revisionsbericht vom 16. Februar 2002 Kenntnis von Beitragsausständen in der Höhe von 1.2 Mio. Franken haben. Es ist daher lediglich für die Zeit danach zu prüfen, ob ihnen ein haftungsrelevantes widerrechtliches und schuldhaftes Verhalten im Sinne von <ref-law> bzw. a<ref-law> vorzuwerfen ist. Dabei erstreckt sich grundsätzlich die Haftung betragsmässig auch auf die in diesem Zeitpunkt offenen Beiträge (vgl. <ref-ruling> E. 4b S. 407 f.). Die Beschwerdegegnerin weist zwar insoweit richtig darauf hin, dass nach unwidersprochen gebliebener Feststellung der Vorinstanz bereits 2001 ein Liquiditätsengpass bestanden hatte, bedingt u.a. durch eine Geschäftsausweitung (Eröffnung von drei weiteren Filialen). Im Bericht der Revisionsstelle über die Erfolgsrechnung 1. Januar - 30. September 2001, den Liquiditätsstatus per 30. September 2001 und die Planerfolgsrechnung Liquiditätsplan Oktober 2001 - Dezember 2002 wurde indessen festgehalten, aufgrund der Planungsrechnungen sei ersichtlich, dass der Engpass 2002 wieder beseitigt werden könne vorausgesetzt, die neuen Niederlassungen operierten erfolgreich. Jedoch sei für eine gewisse Periode der Zufluss von zusätzlichen Mitteln notwendig. In der Folge gelang es denn auch, Liquidität zu beschaffen. Im Januar 2002 flossen 1.5 Mio. Franken in Form eines Aktionärsdarlehens in die Firma; zudem erklärten Gläubiger für Guthaben von beinahe 2.5 Mio. Franken Rangrücktritt (Revisionsbericht 2001 vom 16. Februar 2002). Es kommt dazu, dass die Beschwerdegegnerin (auch) im Schreiben vom 27. Dezember 2001, worin sie die Übertragung sämtlicher Belastungen, Gutschriften und Zahlungen des Jahres 2001 von den einzelnen Filialen auf das Konto des (operativen) Hauptsitzes St. Gallen mitteilte, mit keinem Wort auf ausstehende Beiträge hingewiesen hatte. Kenntnis von zusätzlichen grösseren Beitragsausständen spätestens in diesem Zeitpunkt wäre indessen von grosser Bedeutung gewesen für die aufgrund des Berichts über die Erfolgsrechnung 1. Januar - 30. September 2001, den Liquiditätsstatus per 30. September 2001 und die Planerfolgsrechnung Liquiditätsplan Oktober 2001 - Dezember 2002 in die Wege geleiteten Sanierungsmassnahmen.
7.3.3.1 Wie die Vorinstanz nicht offensichtlich unrichtig und somit für das Bundesgericht verbindlich festgestellt hat, war die finanzielle Lage der Firma im Februar 2002 desolat. Der Revisionsbericht 2001 vom 16. Februar 2002 wies einen Jahresverlust von rund 4 Mio. Franken aus. Die Fortführung des Unternehmens wurde wegen der ungenügenden Ertragslage sowie der bestehenden Liquiditätsschwierigkeiten als ernsthaft gefährdet bezeichnet. Es wurde festgehalten, dass die Gesellschaft buchmässig überschuldet sei. Von der Benachrichtigung des Richters nach <ref-law> sah der Verwaltungsrat indessen ab u.a. mit Blick auf ein im Januar gewährtes Darlehen des Hauptaktionärs L._ in der Höhe von 2.5 Mio. Franken. Tatsächlich flossen jedoch nur Fr. 1.5 Mio. in die Firma. Unter diesen Umständen fiel eine Tilgung der bis dahin aufgelaufenen Ausstände, insbesondere die Begleichung der Nachtragsabrechnung 2001 vom 7. April 2002 bis auf Weiteres grundsätzlich ausser Betracht, was den Beschwerdeführern jedoch nicht angelastet werden kann und wofür sie somit nicht einzustehen haben (<ref-ruling> E. 4b S. 408). Die Frage eines von der Vorinstanz im Zusammenhang mit der Schadenersatzpflicht für 2001 im Umfang von 20 % bejahten Mitverschuldens der Beschwerdegegnerin ist somit gegenstandslos und auf die dagegen vorgebrachten Einwendungen braucht daher nicht eingegangen zu werden.
7.3.3.2 Hingegen gereicht ihnen zum unentschuldbaren Vorwurf, dass und soweit zwar weiterhin Löhne ausbezahlt nicht aber Beiträge abgeliefert oder (durch Rückstellungen) gesichert wurden. Dieses Verhalten der Firma haben sich die Beschwerdeführer anrechnen zu lassen, hatte doch aufgrund des prekären finanziellen Zustandes des Unternehmens und der ebenfalls bekannten hohen Beitragsausstände die Entrichtung wenigstens der laufenden Beiträge erste Priorität. Die Beschwerdeführer vermögen sich mit ihren Vorbringen nicht zu entlasten. Namentlich durften sie nicht ohne weiteres von der unbedingten Bereitschaft des Hauptaktionärs ausgehen, schon nach kurzer Zeit wieder Mittel einzuschiessen. Dieser traf gemäss ihren Ausführungen den Grundsatzentscheid, insgesamt 9 Mio. Franken zur Verfügung zu stellen, denn auch erst am 16. Juli 2002, nachdem sie eine eigene Unternehmensanalyse hatten erstellen lassen, und nur unter der Bedingung einer teilweise neuen Führungsmannschaft. Zudem sollten die Mittel nicht ausschliesslich in diese Firma fliessen, und es war von einer Dauer der Sanierung von zehn Jahren die Rede. Unter diesen Umständen ist auch der unerwartete Hinschied von L._ am ... 2002 bedeutungslos und eine Befragung der Witwe von L._ zur Ernsthaftigkeit der damals zur Diskussion gestandenen Investition könnte keine entscheidenden neuen Erkenntnisse bringen, weshalb darauf zu verzichten ist.
7.4 Zusammenfassend besteht keine Schadenersatzpflicht für die Zeit vom 1. Januar 2001 bis Ende Februar 2002. Hingegen ist die Haftung für die Zeit vom 1. März 2002 bis zur Konkurseröffnung am 9. August 2002 mit der Vorinstanz grundsätzlich zu bejahen. Die Höhe des Schadens hat die Beschwerdegegnerin nach rechtskonformer Gewährung von Akteneinsicht, u.a. auch im Hinblick auf die Frage, ob bei der Arbeitgeberkontrolle nur tatsächlich ausbezahlte Löhne und nicht auch Insolvenzentschädigungen berücksichtigt wurden (vorne E. 6.3), neu festzusetzen.
8. Dem Ausgang des Verfahrens entsprechend haben die Beschwerdegegnerin drei Fünftel und die Beschwerdeführer zwei Fünftel der Gerichtskosten zu tragen (<ref-law>). Diese haben Anspruch auf eine Parteientschädigung nach Massgabe ihres Obsiegens (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Verfahren 9C_369/2012 und 9C_370/2012 werden vereinigt.
2. Die Beschwerden werden teilweise gutgeheissen. Die Entscheide des Versicherungsgerichts des Kantons St. Gallen vom 1. März 2012 und die Einspracheentscheide der Beschwerdegegnerin vom 23. November 2009 werden aufgehoben. Es wird festgestellt, dass keine Schadenersatzpflicht für die Zeit vom 1. Januar 2001 bis Ende Februar 2002 besteht; mit Bezug auf die Zeit ab 1. März 2002 wird die Sache an die Beschwerdegegnerin zurückgewiesen, damit sie im Sinne von E. 7.4 verfahre und den Schaden neu festsetze. Im Übrigen werden die Beschwerden abgewiesen, soweit darauf eingetreten wird.
3. Von den Gerichtskosten von Fr. 20'000.- werden den Beschwerdeführern Fr. 8'000.- und der Beschwerdegegnerin Fr. 12'000.- auferlegt.
4. Die Beschwerdegegnerin hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit je Fr. 2'000.- zu entschädigen.
5. Das Versicherungsgericht des Kantons St. Gallen hat die Parteientschädigung des vorangegangenen Verfahrens neu festzusetzen.
6. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 2. November 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler