Sachverhalt:
A. Mit Verfügung vom 20. Dezember 2002 sprach die IV-Stelle des Kantons St. Gallen dem 1962 geborenen A._ ab 1. November 2001 eine halbe Rente der Invalidenversicherung zu. Unter Hinweis auf einen aktuellen Bericht seines Hausarztes Dr. med. M._ ersuchte A._ am 23. März 2004 um Überprüfung der Rente. Nach Abklärungen hob die IV-Stelle mit Verfügung vom 24. Januar 2006 die Rente revisionsweise auf Ende Februar 2006 auf mit der Begründung, der Gesundheitszustand des Versicherten habe sich verbessert und die Erzielung eines rentenausschliessenden Einkommens sei möglich. Mit Einspracheentscheid vom 16. August 2006 bestätigte die Verwaltung die Rentenaufhebung.
B. Die Beschwerde des A._ wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 2. November 2007 ab.
C. A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 2. November 2007 sei aufzuheben und die Angelegenheit sei zu weiteren medizinischen Abklärungen an die IV-Stelle zurückzuweisen. Ferner lässt er um unentgeltliche Rechtspflege ersuchen.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>). Eine unvollständige Sachverhaltsfeststellung stellt eine vom Bundesgericht ebenfalls zu korrigierende Rechtsverletzung im Sinne von <ref-law> dar (Seiler/von Werdt/Güngerich, Kommentar zum Bundesgerichtsgesetz, Bern 2007, N. 24 zu <ref-law>).
1.2 Die am 1. Januar 2008 in Kraft getretenen materiellen Änderungen des IVG und der IVV im Rahmen der 5. IV-Revision (Bundesgesetz vom 6. Oktober 2006 und Verordnung vom 28. September 2007) sind nach den allgemeinen übergangsrechtlichen Grundsätzen vorliegend nicht anwendbar (vgl. <ref-ruling>, 129 V 1 E. 1.2 S. 4; Urteil U 604/06 vom 16. Januar 2008 E. 1.2).
2. Die IV-Stelle hob mit Verfügung vom 24. Januar 2006 die halbe Rente des Beschwerdeführers in Anwendung von <ref-law> auf Ende Februar 2006 auf. Unter Berücksichtigung des Berichts des behandelnden Psychiaters Dr. med. B._ vom 14. Juni 2006 bestätigte sie die Rentenaufhebung mit Einspracheentscheid vom 16. August 2006. In der dagegen erhobenen Beschwerde wurde geltend gemacht, der Versicherte sei ab 11. Juli 2006 bis 2. November 2006 in der Psychiatrischen Klinik X._ hospitalisiert gewesen. Aufgrund der mindestens seit Klinikeintritt bestehenden höheren Arbeitsunfähigkeit sei das Revisionsverfahren nochmals durchzuführen.
3. Nach Auffassung der Vorinstanz gehört der Klinikaufenthalt nicht zum Streitgegenstand, sondern ist im Rahmen eines Neuanmeldeverfahrens (Art. 87 Abs. 3 und 4 IVV) zu beurteilen. Zur Begründung führt sie an, gemäss <ref-law> bestimme sich der Wirkungszeitpunkt der Herabsetzung oder Aufhebung der Invalidenrente nicht nach der Sachverhaltsänderung, sondern nach der das Revisionsverfahren abschliessenden Verfügung. Die Anpassung erfolge auf den Beginn des zweiten auf den Erlass der Revisionsverfügung folgenden Monats. Nur ausnahmsweise, insbesondere bei Meldepflichtverletzungen, setze die Wirkung mit der relevanten Sachverhaltsänderung ein (<ref-law>). Mit dem Inkrafttreten des ATSG und der damit verbundenen Einführung des Einspracheverfahrens am 1. Januar 2003 habe <ref-law> keine Änderung erfahren. Insbesondere sei der Wirkungszeitpunkt nicht an einen allfälligen Einspracheentscheid geknüpft worden. Nach dem klaren Wortlaut sei der Beginn des zweiten auf die Verfügung folgenden Monats massgebend geblieben. Da eine Einsprache ohne Einfluss auf den Wirkungszeitpunkt bleibe, könne eine während des Einspracheverfahrens eintretende Sachverhaltsänderung nichts daran ändern, dass nur die Verhältnisse bis zum Erlass der Revisionsverfügung relevant seien. Sonst wäre im Rahmen des Einspracheverfahrens eine zweite Revision durchzuführen, und gegebenenfalls wären im Einspracheentscheid zwei Anordnungen über einen Rentenanspruch mit verschiedenen Wirkungszeitpunkten zu treffen. Trete eine revisionsrechtlich relevante Änderung der Tatsachen erst nach Einspracheerhebung ein, bildeten ausnahmsweise nur die tatsächlichen Verhältnisse bis zum Erlass der angefochtenen Verfügung den Streitgegenstand. Im vorliegenden Fall sei demnach nur zu prüfen, ob die Sachverhaltsentwicklung bis zum 24. Januar 2006 die Aufhebung der halben Invalidenrente des Beschwerdeführers rechtfertige.
Der Beschwerdeführer rügt die vorinstanzliche Argumentation als bundesrechtswidrig. Der Eintritt in die Psychiatrische Klinik X._ am 11. Juli 2006 und der bis zum 2. November 2006 dauernde Aufenthalt hätten zwingend berücksichtigt werden müssen.
4. 4.1 Ändert sich der Invaliditätsgrad einer Rentenbezügerin oder eines Rentenbezügers erheblich, so wird die Rente von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben (<ref-law>). Anlass zur Rentenrevision gibt somit jede wesentliche Änderung in den tatsächlichen Verhältnissen, die geeignet ist, den Invaliditätsgrad und damit den Rentenanspruch zu beeinflussen (<ref-ruling> E. 3.5 S. 349; Urteil U 35/07 vom 28. Januar 2008 E. 3).
Bei einer Verbesserung der Erwerbsfähigkeit ist die anspruchsbeeinflussende Änderung für die Herabsetzung oder Aufhebung der Leistung in jedem Fall zu berücksichtigen, nachdem sie ohne wesentliche Unterbrechung drei Monate angedauert hat und voraussichtlich weiterhin andauern wird (<ref-law>). Die Herabsetzung oder Aufhebung der Renten erfolgt, von hier nicht interessierenden Ausnahmen abgesehen, frühestens vom ersten Tag des zweiten der Zustellung der Verfügung folgenden Monats an (<ref-law>).
Bei einer Verschlechterung der Erwerbsfähigkeit ist die anspruchsbeeinflussende Änderung zu berücksichtigen, sobald sie ohne wesentliche Unterbrechung drei Monate angedauert hat. Artikel 29bis IVV ist sinngemäss anwendbar (<ref-law>). Wurde die Rente nach Verminderung des Invaliditätsgrades aufgehoben, erreicht dieser jedoch in den folgenden drei Jahren wegen einer auf dasselbe Leiden zurückzuführenden Arbeitsunfähigkeit erneut ein rentenbegründendes Ausmass, so werden bei der Berechnung der Wartezeit nach Artikel 29 Absatz 1 IVG früher zurückgelegte Zeiten angerechnet (<ref-law>, in der bis am 31. Dezember 2007 in Kraft gestandenen Fassung).
4.2 Massgeblicher Zeitpunkt zur Beurteilung der Frage, ob sich die tatsächlichen Verhältnisse seit der ursprünglichen Rentenverfügung geändert haben, bildet der Einspracheentscheid der IV-Stelle (Urteil I 502/04 vom 16. März 2005 E. 1.1). Dieser schliesst auch formell das Verwaltungsverfahren ab. Im Beschwerdefall erstreckt sich der gerichtliche Prüfungszeitraum bis zum Erlass des strittigen Einspracheentscheids (<ref-ruling> E. 2.1.2.1 S. 412, 116 V 246 E. 1a S. 248).
4.3 Die vorinstanzliche Auffassung, wonach der Klinikaufenthalt nicht zum Streitgegenstand gehöre, sondern im Rahmen eines Neuanmeldeverfahrens zu beurteilen sei, steht im Widerspruch zu dieser Rechtsprechung. Zu einer Praxisänderung (vgl. zu den Voraussetzungen <ref-ruling> E. 2.4 S. 262) besteht indessen vorliegend kein Anlass.
4.3.1 Mit dem Inkrafttreten des ATSG am 1. Januar 2003 wurde auch im Bereich der Invalidenversicherung das Einspracheverfahren eingeführt. Seit 1. Juli 2006 gilt allerdings wieder die frühere Regelung mit dem Vorbescheidverfahren (<ref-law>; AS 2006 S. 2003). Nach zutreffender Feststellung der Vorinstanz wurde <ref-law> nicht geändert, insbesondere wurde der Begriff "Verfügung" nicht durch "Einspracheentscheid" oder "Verfügung oder Einspracheentscheid" ersetzt. Dies bedeutet indessen nicht, dass der Verordnungsgeber damit zum Ausdruck bringen wollte, Gegenstand des Einspracheverfahrens und des nachgelagerten gerichtlichen Beschwerdeverfahrens sei lediglich die Rente (Anspruchsberechtigung und -umfang sowie Beginn, Dauer und Höhe der Leistung) auf der tatsächlichen Grundlage bis zur Revisionsverfügung. In den Gesetzesmaterialien finden sich denn auch keine diesbezüglichen Anhaltspunkte. Abgesehen davon entfaltet die Rentenanpassung über die von <ref-law> gesetzte zeitliche Grenze hinaus insofern Wirkung, als ein Rentenanspruch für die Zukunft entweder im herabgesetzten Umfang bejaht oder gänzlich verneint wird. Ein das Verwaltungsverfahren abschliessender Einspracheentscheid kann somit ohne weiteres als (materiellrechtliche) Verfügung im Sinne von <ref-law> aufgefasst werden.
4.3.2 Entgegen der Auffassung der Vorinstanz wird damit nicht missbräuchlichem Verhalten Vorschub geleistet, weil der Wirkungszeitpunkt durch unbegründete Einsprachen hinausgeschoben werden könnte. Die Anwendung von <ref-law> bezogen auf den Einspracheentscheid setzt eine anspruchserhebliche Tatsachenänderung während des Einspracheverfahrens voraus. Im Übrigen bestimmt sich der Rentenanspruch in zeitlicher Hinsicht nach <ref-law> (<ref-ruling> E. 2d S. 417). Fällt der Invaliditätsgrad unter anspruchsbegründende 40 % (vgl. <ref-law>), ist <ref-law> direkt anwendbar, soweit die tatbestandlichen Voraussetzungen erfüllt sind.
4.4 Nach dem Gesagten hat die Vorinstanz zu Unrecht nur auf den Sachverhalt bis zur Revisionsverfügung vom 24. Januar 2006 abgestellt und die Tatsache, dass der Beschwerdeführer vor dem Einspracheentscheid vom 16. August 2006 am 11. Juli 2006 in die Psychiatrische Klinik X._ eintrat und sich dort bis am 2. November 2006 aufhielt, unberücksichtigt gelassen.
5. 5.1 Die Vorinstanz stellte fest, aus rein orthopädischer Sicht sei eine erhebliche Verbesserung des Gesundheitszustandes und damit eine Erhöhung der Arbeitsfähigkeit von 50 % auf 100 % nachgewiesen, und aus psychiatrischer Sicht sei der Beschwerdeführer im September 2005 zu maximal 20 % arbeitsunfähig gewesen. Am 24. Januar 2006 sei er mit überwiegender Wahrscheinlichkeit in einer dem körperlichen Leiden angepassten Erwerbstätigkeit zu 20 % arbeitsunfähig gewesen. Auf dieser unbestrittenen und nicht offensichtlich unrichtigen Grundlage ermittelte die Vorinstanz einen Invaliditätsgrad von 32 %, was vom Beschwerdeführer nicht beanstandet wird. Es besteht kein Anlass für eine nähere Prüfung von Amtes wegen (<ref-ruling> E. 1b und 2c S. 415 ff; BGE 110 V E. 4a S. 53)
5.2 Aufgrund der Tatsache des Klinikeintritts und -aufenthalts und der damit verbundenen Arbeitsunfähigkeit von 100 % ist nicht auszuschliessen, dass vor Erlass des Einspracheentscheids wieder ein Rentenanspruch entstanden ist. Notwendige Voraussetzungen sind eine Verschlechterung des Gesundheitszustandes, und dass es sich dabei um dasselbe Leiden handelt, welches der ursprünglichen Rentenzusprache zugrunde lag (<ref-law>). Trifft dies nicht zu, kann ein Rentenanspruch vor Erlass des Einspracheentscheids mangels erfüllter Wartefrist (<ref-law>, seit 1. Januar 2008 <ref-law>) nicht entstanden sein. In diesem Fall hat es mit der Aufhebung der Rente auf Ende Februar 2006 sein Bewenden.
Die IV-Stelle wird die offenen Fragen abzuklären und danach über den Rentenanspruch bis zum Einspracheentscheid vom 16. August 2006 zu verfügen haben. In diesem Sinne ist die Beschwerde begründet.
6. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>). Dessen Gesuch um unentgeltliche Rechtspflege ist demzufolge gegenstandslos.

Demnach erkennt das Bundesgericht:
1. In Gutheissung der Beschwerde werden der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 2. November 2007 und der Einspracheentscheid der IV-Stelle des Kantons St. Gallen vom 16. August 2006 aufgehoben. Die Sache wird an die IV-Stelle zurückgewiesen, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Anspruch des Beschwerdeführers auf eine Rente der Invalidenversicherung neu verfüge.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1500.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Versicherungsgericht des Kantons St. Gallen zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 21. Mai 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Die Gerichtsschreiberin:
Lustenberger Dormann