Sachverhalt:
A. Der 1975 geborene M._ war als Maschinenzeichner bei der Firma S._ AG mit einem Pensum von 60 % tätig. Am 1. Januar 2007 nahm er zusätzlich eine Tätigkeit bei der Firma X._ im Umfang von 40 % auf. Die Firma S._ AG kündigte das Arbeitsverhältnis auf den 30. Juni 2008, worauf sich M._ mit Anspruchserhebung ab 1. Juli 2008 bei der Arbeitslosenversicherung zum Leistungsbezug anmeldete. Er gab an, dem Arbeitsmarkt im Umfang von 60 % zur Verfügung zu stehen und er sei teilzeitlich (mit einem 40%igen Arbeitspensum) weiterhin bei der Firma X._ tätig. Ab Mai 2009 ergab sich hinsichtlich der Tätigkeit bei der Firma X._ eine Pensenerhöhung um 5 % und M._ arbeitete zusätzlich ab Januar 2009 als Kursleiter bei der Sprachheilschule Y._, welche Einkommen als Zwischenverdienst erfasst wurden. Die Arbeitslosenkasse des Kantons St. Gallen legte den versicherten Verdienst auf der Grundlage des bei der Firma S._ AG erzielten Einkommens fest.
Mit Verfügung vom 29. Juni 2009 forderte die Arbeitslosenkasse zu viel bezogene Taggeldleistungen für die Zeit von Juli 2008 bis Februar 2009 in der Höhe von Fr. 5'842.40 mit der Begründung zurück, der versicherte Verdienst sei unter Einbezug des Arbeitsverhältnisses bei der Firma X._ zu berechnen, wobei somit ein "Vermittlungsgrad" von 100 % anzunehmen und sämtliche Tätigkeiten, so auch das 40%-Pensum bei der Firma X._, als Zwischenverdienst abzurechnen seien. Daran hielt sie auf Einsprache hin fest (Einsprachentscheid vom 12. August 2009).
B. Die dagegen erhobene Beschwerde des M._ mit dem Rechtsbegehren um Minderung des Rückforderungsbetrags, hiess das Versicherungsgericht des Kantons St. Gallen teilweise gut, indem es den Einspracheentscheid vom 12. August 2009 aufhob und die Sache zur Neuberechnung des Taggeldes für die Monate Juli 2008 bis Februar 2009 im Sinne der Erwägungen an die Arbeitslosenkasse zurückwies (Entscheid vom 12. August 2010).
C. Die Kantonale Arbeitslosenkasse führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid des kantonalen Gerichts sei in Bestätigung der Rückforderungsverfügung aufzuheben.
M._ schliesst auf Abweisung der Beschwerde. Das Staatssekretariat für Wirtschaft und das Versicherungsgericht des Kantons St. Gallen haben auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Der angefochtene Gerichtsentscheid erging als Rückweisungsentscheid. Ein Rückweisungsentscheid ist in der Regel als Vor- oder Zwischenentscheid im Sinne von Art. 93 BGG zu qualifizieren, gegen welchen eine Beschwerde nur zulässig ist, wenn - alternativ - der Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (Art. 93 Abs. 1 lit. a BGG) oder die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (Art. 93 Abs. 1 lit. b BGG; BGE 133 V 477 E. 4.2 S. 481 f. mit Hinweisen). Vorliegend ist der angefochtene Rückweisungsentscheid - ausnahmsweise (vgl. dazu Urteil 9C_684/2007 vom 27. Dezember 2007 E. 1.1 mit Hinweisen, in: SVR 2008 IV Nr. 39 S. 131) - als Endentscheid im Sinne von Art. 90 BGG zu behandeln, da die Rückweisung einzig der rechnerischen Umsetzung des oberinstanzlich Angeordneten dient, in dem die Vorinstanz erwog, die Arbeitslosenkasse habe die Taggeldhöhe für die Monate Juli 2008 bis Februar 2009 auf der Grundlage des ursprünglich angenommenen versicherten Verdienstes in der Höhe von Fr. 3'523.- - ohne Anrechnung des Einkommens aus dem festen Pensums von 40 % bei der Firma X._ - neu zu berechnen. Demgemäss bleibt der Verwaltung keine Entscheidungsfreiheit (FELIX UHLMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 9 zu Art. 90 BGG), weshalb auf die Beschwerde einzutreten ist (Art. 90 BGG).
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
3. Das kantonale Gericht hat zutreffend festgehalten, dass als ganz arbeitslos gilt, wer in keinem Arbeitsverhältnis steht und eine Vollzeitstelle sucht (Art. 10 Abs. 1 AVIG) und als teilweise arbeitslos, wer in keinem Arbeitsverhältnis steht und lediglich eine Teilzeitbeschäftigung sucht (Art. 10 Abs. 2 lit. a AVIG) oder eine Teilzeitbeschäftigung hat und eine Vollzeit- oder eine weitere Teilzeitbeschäftigung sucht (Art. 10 Abs. 2 lit. b AVIG). Richtig wiedergegeben hat es sodann die Bestimmung über den Zwischenverdienst (Art. 24 AVIG) sowie die Rechtsprechung, wonach auch die von Teilarbeitslosen im Sinne von Art. 10 Abs. 2 lit. b AVIG weiterhin ausgeübte teilzeitliche Tätigkeit als Zwischenverdienst zu qualifizieren ist (BGE 127 V 479 E. 2 S. 480, 122 V 433, 120 V 233 u. 502). Gleiches gilt für die Bestimmungen und Grundsätze über die Rückforderung zu Unrecht ausgerichteter Leistungen der Arbeitslosenversicherung (Art. 95 Abs. 1 AVIG in Verbindung mit Art. 25 Abs. 1 und 2 ATSG) und die dazu notwendigen Voraussetzungen für ein wiedererwägungsweises Zurückkommen auf die formell rechtskräftig verfügte oder formlos erfolgte Leistungszusprechung (Art. 53 Abs. 2 ATSG; vgl. BGE 126 V 23 E. 4b, 42 E. 2b S. 46, 399 E. 2b S. 400; 122 V 367 E. 3 S. 268 mit Hinweisen). Darauf wird verwiesen.
4.1 4.1.1 Die Vorinstanz hat sich der gegen diese Anwendung der Zwischenverdienstregelung auf Teilarbeitslose im Sinne von Art. 10 Abs. 2 lit. b AVIG in der Literatur erhobenen Kritik (THOMAS NUSSBAUMER, Arbeitslosenversicherung, in: Soziale Sicherheit, SBVR Bd. XIV, 2. Aufl. 2007, S. 2301 Rz. 418f. und Gerhards, Arbeitslosenversicherung, SZS 1994, S. 335ff.) angeschlossen und gemäss der auf aArt. 24 und 25 AVIG (in den bis Ende 1991 gültig gewesenen Fassungen) beruhenden Rechtsprechung (BGE 112 V 229 und 237) entschieden. Danach wurde die bisherige Beschäftigung einer Person, deren Arbeitszeit gegen ihren Willen reduziert worden ist oder die eine von mehreren Teilzeitbeschäftigungen verloren hat, nicht als Zwischenverdienst betrachtet. Das Gericht erwog, die Taggeldentschädigung des teilweise Arbeitslosen sei dementsprechend einzig auf der Grundlage des versicherten Verdienstes zu bemessen, der sich auf den Arbeitsausfall beziehe. Der Beschwerdegegner sei hinsichtlich seiner Tätigkeit bei der Firma X._ im Umfang von 40 % nicht als arbeitslos im Sinne von Art. 10 AVIG zu betrachten und einzig die über das feste Pensum von 40 % hinaus geleisteten und separat entschädigten Arbeitseinsätze seien als Zwischenverdienst abzurechnen. Richtigerweise habe die Beschwerdeführerin denn auch bei der Bemessung des versicherten Verdienstes anlässlich der Anmeldung zum Leistungsbezug ausschliesslich auf das im Zeitraum von Januar bis Juni 2008 bei der Firma S._ AG erzielte Einkommen abgestellt, wonach sich ein versicherter Verdienst in der Höhe von Fr. 3'523.- ergäbe. Das über das Pensum 40 % bei der Firma X._ erzielte Einkommen, das auf einem Stunden- bzw. Tageslohn basiere, habe die Arbeitslosenkasse dementsprechend ab Januar 2009 ebenso korrekt als Zwischenverdienst angerechnet, wie den Verdienst aus der Anstellung bei der Sprachheilschule Y._.
4.1.2 Die Vorinstanz schloss, die spätere Erhöhung des versicherten Verdienstes unter Anrechnung auch des fixen Arbeitspensums bei der Firma X._ als Zwischenverdienst gemäss der bundesgerichtlichen Rechtsprechung (BGE 127 V 479; 122 V 433; 120 V 233 u. 502) - was zur hier streitigen Rückforderung eines Betrages von Fr. 5'842.40 geführt habe - sei daher abzulehnen. Angesichts dieser Sach- und Rechtslage und der fundierten Kritik der Lehre an dieser Praxis könne jedenfalls nicht von zweifelloser Unrichtigkeit der ursprünglichen Leistungszusprechung die Rede sein, weshalb die Voraussetzungen der Wiedererwägung nicht erfüllt seien.
4.1.2 Die Vorinstanz schloss, die spätere Erhöhung des versicherten Verdienstes unter Anrechnung auch des fixen Arbeitspensums bei der Firma X._ als Zwischenverdienst gemäss der bundesgerichtlichen Rechtsprechung (BGE 127 V 479; 122 V 433; 120 V 233 u. 502) - was zur hier streitigen Rückforderung eines Betrages von Fr. 5'842.40 geführt habe - sei daher abzulehnen. Angesichts dieser Sach- und Rechtslage und der fundierten Kritik der Lehre an dieser Praxis könne jedenfalls nicht von zweifelloser Unrichtigkeit der ursprünglichen Leistungszusprechung die Rede sein, weshalb die Voraussetzungen der Wiedererwägung nicht erfüllt seien.
4.2 4.2.1 Vom Bundesgericht wurde bei der Beurteilung und Bejahung der Frage, ob der von Teilzeitarbeitslosen weiterhin durch die teilzeitlich ausgeübte Tätigkeit erzielte Lohn als Zwischenverdienst anzurechnen ist, zwar auf die durch die Revision von Art. 24 AVIG geschaffene Inkonsistenz der gesetzlichen Regelung hingewiesen. Die Kritik an der geltenden Rechtsprechung, wonach mit der Erfassung des verbleibenden, nicht vom Arbeitsausfall betroffenen Teil der Erwerbstätigkeit als Zwischenverdienst aus gesetzessystematischer Sicht auch der Teilarbeitslose zum Ganzarbeitslosen gemacht werde und aus dogmatischer Sicht damit ein Konflikt mit dem Kriterium der Zumutbarkeit bestehe, da unzutreffenderweise auch zumutbare Arbeit von der Zwischenverdienstregelung nach Art. 24 AVIG erfasst werde, ist denn auch nicht völlig unbegründet. Angesichts der eindeutigen Gesetzesmaterialien konnte es solchen gesetzessystematischen Bedenken gegenüber der Behandlung eines Verdienstes aus einer fortlaufenden Teilzeitarbeit als Zwischenverdienst aber nicht Rechnung tragen. Das Bundesgericht hat in BGE 120 V 233 E. 5 b S. 248f. mit Verweis auf die Ausführungen des Bundesrates in der Botschaft vom 23. August 1989 zu einer Teilrevision des Arbeitslosenversicherungsgesetzes erkannt, dass die in der Folge von den vorberatenden Kommissionen geteilte und in beiden Räten diskussionslos angenommene (Sten. Bull. S 1990 S. 74; Sten. Bull. N 1990 II S. 1437) Regelungsabsicht des Gesetzgebers fest steht: Die während einer oder mehrerer Kontrollperioden erzielten Verdienste sollen nach dem Prinzip des Verdienstausfalls, und nicht nach jenem des Arbeitsausfalls entschädigt werden, von welchem das Gesetz sonst primär ausgeht (Art. 11 AVIG; Gerhards, Kommentar zum Arbeitslosenversicherungsgesetz, Band III, S. 1214 N 15 und S. 1215 N 22), und zwar in einheitlicher Weise über den Weg von Art. 24 AVIG.
4.2.2 Es besteht kein Anlass, von dieser Praxis abzuweichen, zumal die gesetzliche Regelung seither unverändert geblieben ist und sich eine Änderung der Rechtsprechung grundsätzlich mit der Rechtssicherheit nur vereinbaren lässt, wenn die neue Lösung besserer Erkenntnis der Ratio legis, veränderten äusseren Verhältnissen oder gewandelten Rechtsanschauungen entspricht (BGE 134 V 72 E. 3.3 S. 76 mit Hinweisen).
5. Auch wenn die nachträgliche Korrektur der Taggeldberechnung einer Anpassung an die geltende Rechtsprechung entsprach, und die Wiedererwägungsvoraussetzung der zweifellosen Unrichtigkeit in der Regel bei unrichtiger Rechtsanwendung gegeben ist, war, wie die Vorinstanz bereits ausführte (E. 4.1.2), angesichts der soeben dargelegten Sach- und Rechtslage die Bemessung des versicherten Verdienstes ohne die Berücksichtigung der Teilzeittätigkeit bei der Firma X._ jedenfalls nicht zweifellos unrichtig im Sinne von Art. 53 Abs. 2 ATSG (zur Überprüfungsbefugnis des Bundesgerichts: ULRICH MEYER, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 35f zu Art. 105 BGG). Daher sind die Voraussetzungen für ein wiedererwägungsweises Zurückkommen auf die Taggeldzahlungen nicht erfüllt. Die Vorinstanz hat demgemäss den die Rückforderungsverfügung bestätigenden Einspracheentscheid der Arbeitslosenkasse vom 12. August 2009 zu Recht aufgehoben und die Sache zur Neuberechnung des Taggeldes für die Monate Juli 2008 bis Februar 2009 an die Beschwerdeführerin zurückgewiesen.
6. Bei diesem Ausgang des Verfahrens hat die Beschwerde führende Arbeitslosenkasse die Gerichtskosten zu tragen (Art. 66 Abs. 1 und Abs. 4 BGG; BGE 133 V 637 E. 4.6 S. 639).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, dem Amt für Arbeit des Kantons St. Gallen und dem Staatssekretariat für Wirtschaft schriftlich mitgeteilt.
Luzern, 22. November 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Polla